Impara ad esportare nel formato TFLite Edge TPU dal modello YOLO26

Distribuire modelli di computer vision su dispositivi con potenza computazionale limitata, come sistemi mobili o embedded, può essere complicato. Utilizzare un formato di modello ottimizzato per prestazioni più rapide semplifica il processo. Il formato di modello TensorFlow Lite Edge TPU o TFLite Edge TPU è progettato per utilizzare una potenza minima fornendo al contempo prestazioni veloci per le reti neurali.

La funzione di esportazione nel formato TFLite Edge TPU ti permette di ottimizzare i tuoi modelli Ultralytics YOLO26 per inferenze ad alta velocità e basso consumo energetico. In questa guida, ti mostreremo come convertire i tuoi modelli nel formato TFLite Edge TPU, rendendo più semplice per i tuoi modelli ottenere ottime prestazioni su vari dispositivi mobili ed embedded.

Perché dovresti esportare in TFLite Edge TPU?

Esportare modelli in TensorFlow Edge TPU rende le attività di machine learning veloci ed efficienti. Questa tecnologia è adatta ad applicazioni con potenza, risorse di calcolo e connettività limitate. L'Edge TPU è un acceleratore hardware prodotto da Google. Velocizza i modelli TensorFlow Lite sui dispositivi edge. L'immagine sottostante mostra un esempio del processo coinvolto.

L'Edge TPU funziona con modelli quantizzati. La quantizzazione rende i modelli più piccoli e veloci senza perdere molta accuratezza. È ideale per le risorse limitate dell'edge computing, consentendo alle applicazioni di rispondere rapidamente riducendo la latenza e permettendo una rapida elaborazione dei dati in locale, senza dipendenza dal cloud. L'elaborazione locale mantiene inoltre i dati dell'utente privati e sicuri poiché non vengono inviati a un server remoto.

Caratteristiche principali di TFLite Edge TPU

Ecco le caratteristiche principali che rendono TFLite Edge TPU un'ottima scelta di formato di modello per gli sviluppatori:

• Prestazioni Ottimizzate sui Dispositivi Edge: Il TFLite Edge TPU raggiunge prestazioni elevate nelle reti neurali grazie alla quantizzazione, all'ottimizzazione del modello, all'accelerazione hardware e all'ottimizzazione del compilatore. La sua architettura minimalista contribuisce alle sue dimensioni ridotte e alla convenienza economica.

• Elevato Throughput Computazionale: TFLite Edge TPU combina l'accelerazione hardware specializzata e un'esecuzione runtime efficiente per ottenere un elevato throughput computazionale. È particolarmente adatto per distribuire modelli di machine learning con stringenti requisiti di prestazioni su dispositivi edge.

• Calcoli Matrice Efficienti: Il TensorFlow Edge TPU è ottimizzato per le operazioni matriciali, fondamentali per i calcoli delle reti neurali. Questa efficienza è essenziale nei modelli di machine learning, specialmente in quelli che richiedono numerose e complesse moltiplicazioni e trasformazioni di matrici.

Opzioni di Distribuzione con TFLite Edge TPU

Prima di addentrarci su come esportare i modelli YOLO26 nel formato TFLite Edge TPU, capiamo dove vengono solitamente utilizzati i modelli TFLite Edge TPU.

TFLite Edge TPU offre varie opzioni di distribuzione per i modelli di machine learning, tra cui:

• Distribuzione On-Device: I modelli TensorFlow Edge TPU possono essere distribuiti direttamente su dispositivi mobili ed embedded. La distribuzione on-device permette ai modelli di essere eseguiti direttamente sull'hardware, eliminando la necessità di connettività cloud, sia incorporando il modello nel pacchetto dell'applicazione sia scaricandolo su richiesta.

• Edge Computing con TensorFlow TPU Cloud: Negli scenari in cui i dispositivi edge hanno capacità di elaborazione limitate, i TensorFlow Edge TPU possono scaricare le attività di inferenza su server cloud dotati di TPU.

• Distribuzione Ibrida: Un approccio ibrido combina la distribuzione on-device e cloud, offrendo una soluzione versatile e scalabile per distribuire modelli di machine learning. I vantaggi includono l'elaborazione on-device per risposte rapide e il cloud computing per calcoli più complessi.

Esportazione dei Modelli YOLO26 in TFLite Edge TPU

Puoi espandere la compatibilità del modello e la flessibilità di distribuzione convertendo i modelli YOLO26 in TensorFlow Edge TPU.

Installazione

Per installare il pacchetto richiesto, esegui:

# Install the required package for YOLO26
pip install ultralytics

Per istruzioni dettagliate e best practice relative al processo di installazione, controlla la nostra guida all'installazione di Ultralytics. Se durante l'installazione dei pacchetti richiesti per YOLO26 riscontri difficoltà, consulta la nostra guida ai problemi comuni per soluzioni e suggerimenti.

Utilizzo

Tutti i modelli Ultralytics YOLO26 sono progettati per supportare l'esportazione nativamente, rendendo semplice integrarli nel tuo flusso di lavoro di distribuzione preferito. Puoi visualizzare l'elenco completo dei formati di esportazione supportati e delle opzioni di configurazione per scegliere la configurazione migliore per la tua applicazione.

from ultralytics import YOLO

# Load the YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

Argomenti di esportazione

Per ulteriori dettagli sul processo di esportazione, visita la pagina della documentazione di Ultralytics sull'esportazione.

Distribuzione dei Modelli YOLO26 TFLite Edge TPU Esportati

Dopo aver esportato con successo i tuoi modelli Ultralytics YOLO26 nel formato TFLite Edge TPU, puoi ora distribuirli. Il primo passaggio, fondamentale e consigliato, per eseguire un modello TFLite Edge TPU è utilizzare il metodo YOLO("model_edgetpu.tflite"), come descritto nel frammento di codice di utilizzo precedente.

Tuttavia, per istruzioni approfondite sulla distribuzione dei tuoi modelli TFLite Edge TPU, dai un'occhiata alle seguenti risorse:

• Coral Edge TPU su Raspberry Pi con Ultralytics YOLO26: Scopri come integrare le Coral Edge TPU con Raspberry Pi per funzionalità avanzate di machine learning.

• Esempi di Codice: Accedi a esempi pratici di distribuzione TensorFlow Edge TPU per avviare i tuoi progetti.

• Esegui l'Inferenza su Edge TPU con Python: Esplora come utilizzare l'API Python di TensorFlow Lite per le applicazioni Edge TPU, incluse linee guida su configurazione e utilizzo.

Riepilogo

In questa guida abbiamo imparato come esportare i modelli Ultralytics YOLO26 nel formato TFLite Edge TPU. Seguendo i passaggi sopra menzionati, puoi aumentare la velocità e la potenza delle tue applicazioni di computer vision.

Per ulteriori dettagli sull'utilizzo, visita il sito ufficiale di Edge TPU.

Inoltre, per maggiori informazioni su altre integrazioni di Ultralytics YOLO26, visita la nostra pagina delle guide all'integrazione. Lì troverai risorse e approfondimenti preziosi.

FAQ

Come posso esportare un modello YOLO26 nel formato TFLite Edge TPU?

Per esportare un modello YOLO26 nel formato TFLite Edge TPU, puoi seguire questi passaggi:

from ultralytics import YOLO

# Load the YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

Per dettagli completi sull'esportazione di modelli in altri formati, consulta la nostra guida all'esportazione.

Quali sono i vantaggi dell'esportazione di modelli YOLO26 in TFLite Edge TPU?

L'esportazione di modelli YOLO26 in TFLite Edge TPU offre diversi vantaggi:

• Prestazioni Ottimizzate: Ottieni prestazioni elevate della rete neurale con un consumo energetico minimo.
• Latenza Ridotta: Elaborazione rapida dei dati in locale senza necessità di dipendenza dal cloud.
• Privacy Migliorata: L'elaborazione locale mantiene i dati utente privati e sicuri.

Questo lo rende ideale per applicazioni nell'edge computing, dove i dispositivi hanno potenza e risorse computazionali limitate. Scopri di più sul perché dovresti esportare.

Posso distribuire modelli TFLite Edge TPU su dispositivi mobili ed embedded?

Sì, i modelli TensorFlow Lite Edge TPU possono essere distribuiti direttamente su dispositivi mobili ed embedded. Questo approccio di distribuzione consente ai modelli di essere eseguiti direttamente sull'hardware, offrendo inferenze più rapide ed efficienti. Per esempi di integrazione, dai un'occhiata alla nostra guida sulla distribuzione di Coral Edge TPU su Raspberry Pi.

Quali sono alcuni casi d'uso comuni per i modelli TFLite Edge TPU?

I casi d'uso comuni per i modelli TFLite Edge TPU includono:

• Smart Camera: Miglioramento dell'analisi di immagini e video in tempo reale.
• Dispositivi IoT: Abilitazione della domotica e dell'automazione industriale.
• Sanità: Accelerazione dell'imaging medico e della diagnostica.
• Vendita al dettaglio: Miglioramento della gestione dell'inventario e dell'analisi del comportamento dei clienti.

Queste applicazioni beneficiano delle elevate prestazioni e del basso consumo energetico dei modelli TFLite Edge TPU. Scopri di più sugli scenari di utilizzo.

Come posso risolvere i problemi durante l'esportazione o la distribuzione dei modelli TFLite Edge TPU?

Se riscontri problemi durante l'esportazione o la distribuzione dei modelli TFLite Edge TPU, consulta la nostra guida ai problemi comuni per suggerimenti sulla risoluzione dei problemi. Questa guida copre i problemi comuni e le soluzioni per aiutarti a garantire un funzionamento senza intoppi. Per ulteriore supporto, visita il nostro Centro Assistenza.