Meet YOLO26: next-gen vision AI.

Link to this sectionImpara a esportare nel formato TFLite Edge TPU dal modello YOLO26#

Distribuire modelli di computer vision su dispositivi con potenza di calcolo limitata, come sistemi mobili o embedded, può essere complicato. Utilizzare un formato di modello ottimizzato per prestazioni più rapide semplifica il processo. Il formato di modello TensorFlow Lite Edge TPU, o TFLite Edge TPU, è progettato per consumare pochissima energia offrendo al contempo prestazioni veloci per le reti neurali.

La funzione di esportazione nel formato TFLite Edge TPU ti consente di ottimizzare i tuoi modelli Ultralytics YOLO26 per inferenze ad alta velocità e basso consumo energetico. In questa guida, ti mostreremo come convertire i tuoi modelli nel formato TFLite Edge TPU, rendendo più semplice per i tuoi modelli funzionare al meglio su vari dispositivi mobili e embedded.

Link to this sectionPerché dovresti esportare in TFLite Edge TPU?#

Esportare i modelli in TensorFlow Edge TPU rende le attività di machine learning veloci ed efficienti. Questa tecnologia è adatta ad applicazioni con energia, risorse di calcolo e connettività limitate. L'Edge TPU è un acceleratore hardware di Google. Accelera i modelli TensorFlow Lite su dispositivi edge. L'immagine qui sotto mostra un esempio del processo coinvolto.

TensorFlow Lite Edge TPU compilation workflow

L'Edge TPU funziona con modelli quantizzati. La quantizzazione rende i modelli più piccoli e veloci senza perdere molta precisione. È ideale per le risorse limitate dell'edge computing, consentendo alle applicazioni di rispondere rapidamente riducendo la latenza e permettendo un'elaborazione veloce dei dati in locale, senza dipendenza dal cloud. L'elaborazione locale mantiene anche i dati utente privati e sicuri poiché non vengono inviati a un server remoto.

Link to this sectionCaratteristiche principali di TFLite Edge TPU#

Ecco le caratteristiche principali che rendono TFLite Edge TPU un'ottima scelta di formato di modello per gli sviluppatori:

  • Prestazioni ottimizzate su dispositivi edge: TFLite Edge TPU ottiene prestazioni di rete neurale ad alta velocità tramite quantizzazione, ottimizzazione del modello, accelerazione hardware e ottimizzazione del compilatore. La sua architettura minimalista contribuisce a dimensioni ridotte e all'efficienza dei costi.

  • Elevato throughput computazionale: TFLite Edge TPU combina l'accelerazione hardware specializzata e l'esecuzione efficiente in runtime per ottenere un throughput computazionale elevato. È ben adatto per distribuire modelli di machine learning con requisiti di prestazioni rigorosi su dispositivi edge.

  • Calcoli matriciali efficienti: TensorFlow Edge TPU è ottimizzato per le operazioni matriciali, che sono cruciali per i calcoli delle reti neurali. Questa efficienza è fondamentale nei modelli di machine learning, in particolare quelli che richiedono numerose e complesse moltiplicazioni e trasformazioni matriciali.

Link to this sectionOpzioni di distribuzione con TFLite Edge TPU#

Prima di passare a come esportare i modelli YOLO26 nel formato TFLite Edge TPU, comprendiamo dove vengono solitamente utilizzati i modelli TFLite Edge TPU.

TFLite Edge TPU offre varie opzioni di distribuzione per i modelli di machine learning, tra cui:

  • Distribuzione on-device: I modelli TensorFlow Edge TPU possono essere distribuiti direttamente su dispositivi mobili e embedded. La distribuzione on-device consente ai modelli di essere eseguiti direttamente sull'hardware, eliminando la necessità di connettività cloud, sia incorporando il modello nel bundle dell'applicazione sia scaricandolo su richiesta.

  • Edge Computing con Cloud TensorFlow TPU: In scenari in cui i dispositivi edge hanno capacità di elaborazione limitate, le TensorFlow Edge TPU possono delegare le attività di inferenza a server cloud dotati di TPU.

  • Distribuzione ibrida: Un approccio ibrido combina la distribuzione on-device e cloud e offre una soluzione versatile e scalabile per la distribuzione di modelli di machine learning. I vantaggi includono l'elaborazione on-device per risposte rapide e il cloud computing per calcoli più complessi.

Link to this sectionEsportazione di modelli YOLO26 in TFLite Edge TPU#

Puoi espandere la compatibilità del modello e la flessibilità di distribuzione convertendo i modelli YOLO26 in TensorFlow Edge TPU.

Link to this sectionInstallazione#

Per installare il pacchetto richiesto, esegui:

Installazione
# Install the required package for YOLO26
pip install ultralytics

Per istruzioni dettagliate e best practice relative al processo di installazione, consulta la nostra guida all'installazione di Ultralytics. Se durante l'installazione dei pacchetti richiesti per YOLO26 riscontri difficoltà, consulta la nostra guida ai problemi comuni per soluzioni e suggerimenti.

Link to this sectionUtilizzo#

Tutti i modelli Ultralytics YOLO26 sono progettati per supportare l'esportazione fin da subito, rendendo semplice integrarli nel tuo workflow di distribuzione preferito. Puoi visualizzare l'elenco completo dei formati di esportazione e delle opzioni di configurazione supportati per scegliere la configurazione migliore per la tua applicazione.

Il formato TFLite Edge TPU supporta le modalità Export, Predict e Validate. L'inferenza e la convalida vengono eseguite sull'hardware Coral Edge TPU. Esporta il tuo modello, quindi carica il modello esportato per eseguire l'inferenza o convalidarne la precisione.

Export
from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'
Predict
from ultralytics import YOLO

# Load the exported TFLite Edge TPU model
model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")
Validate
from ultralytics import YOLO

# Load the exported TFLite Edge TPU model
model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this sectionArgomenti di esportazione#

ArgomentoTipoPredefinitoDescrizione
formatstr'edgetpu'Formato di destinazione per il modello esportato, che definisce la compatibilità con vari ambienti di deployment.
imgszint o tuple640Desired image size for the model input. Can be an integer for square images or a tuple (height, width) for specific dimensions.
int8boolTrueAttiva la quantizzazione INT8, comprimendo ulteriormente il modello e velocizzando l'inferenza con una perdita minima di accuracy, principalmente per i dispositivi edge.
datastr'coco8.yaml'Percorso al file di configurazione del dataset (predefinito: coco8.yaml), essenziale per la quantizzazione.
fractionfloat1.0Specifica la frazione del dataset da utilizzare per la calibrazione della quantizzazione INT8. Consente di calibrare su un sottoinsieme del dataset completo, utile per esperimenti o quando le risorse sono limitate. Se non specificato con INT8 abilitato, verrà utilizzato l'intero dataset.
devicestrNoneSpecifica il dispositivo per l'esportazione: CPU (device=cpu).
Suggerimento

Assicurati di utilizzare una macchina Linux x86 durante l'esportazione verso EdgeTPU.

Per ulteriori dettagli sul processo di esportazione, visita la pagina della documentazione di Ultralytics sull'esportazione.

Link to this sectionDistribuzione di modelli YOLO26 TFLite Edge TPU esportati#

Dopo aver esportato con successo i tuoi modelli Ultralytics YOLO26 nel formato TFLite Edge TPU, ora puoi distribuirli. Il primo passo principale e consigliato per eseguire un modello TFLite Edge TPU è utilizzare il metodo YOLO("model_edgetpu.tflite"), come descritto nel frammento di codice di utilizzo precedente.

Tuttavia, per istruzioni approfondite sulla distribuzione dei tuoi modelli TFLite Edge TPU, dai un'occhiata alle seguenti risorse:

In questa guida, abbiamo imparato come esportare i modelli Ultralytics YOLO26 nel formato TFLite Edge TPU. Seguendo i passaggi menzionati sopra, puoi aumentare la velocità e la potenza delle tue applicazioni di computer vision.

Per ulteriori dettagli sull'utilizzo, visita il sito web ufficiale di Edge TPU.

Inoltre, per maggiori informazioni su altre integrazioni di Ultralytics YOLO26, visita la nostra pagina delle guide di integrazione. Lì, scoprirai risorse e approfondimenti preziosi.

Link to this sectionFAQ#

Link to this sectionCome esporto un modello YOLO26 nel formato TFLite Edge TPU?#

Per esportare un modello YOLO26 nel formato TFLite Edge TPU, puoi seguire questi passaggi:

Utilizzo
from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

Per dettagli completi sull'esportazione di modelli in altri formati, consulta la nostra guida all'esportazione.

Link to this sectionQuali sono i vantaggi dell'esportazione di modelli YOLO26 in TFLite Edge TPU?#

Esportare i modelli YOLO26 in TFLite Edge TPU offre diversi vantaggi:

  • Prestazioni ottimizzate: Ottieni prestazioni di rete neurale ad alta velocità con un consumo energetico minimo.
  • Latenza ridotta: Elaborazione rapida dei dati locali senza necessità di dipendenza dal cloud.
  • Privacy migliorata: L'elaborazione locale mantiene i dati utente privati e sicuri.

Ciò lo rende ideale per le applicazioni nell'edge computing, dove i dispositivi hanno energia e risorse computazionali limitate. Scopri di più sul perché dovresti esportare.

Link to this sectionPosso distribuire modelli TFLite Edge TPU su dispositivi mobili e embedded?#

Sì, i modelli TensorFlow Lite Edge TPU possono essere distribuiti direttamente su dispositivi mobili e embedded. Questo approccio di distribuzione consente ai modelli di essere eseguiti direttamente sull'hardware, offrendo un'inferenza più veloce ed efficiente. Per esempi di integrazione, controlla la nostra guida sulla distribuzione di Coral Edge TPU su Raspberry Pi.

Link to this sectionQuali sono alcuni casi d'uso comuni per i modelli TFLite Edge TPU?#

I casi d'uso comuni per i modelli TFLite Edge TPU includono:

  • Smart Camera: Miglioramento dell'analisi di immagini e video in tempo reale.
  • Dispositivi IoT: Abilitazione della domotica intelligente e dell'automazione industriale.
  • Sanità: Accelerazione dell'imaging medico e della diagnostica.
  • Vendita al dettaglio: Miglioramento della gestione dell'inventario e dell'analisi del comportamento dei clienti.

Queste applicazioni beneficiano delle prestazioni elevate e del basso consumo energetico dei modelli TFLite Edge TPU. Scopri di più sugli scenari di utilizzo.

Link to this sectionCome posso risolvere i problemi durante l'esportazione o la distribuzione di modelli TFLite Edge TPU?#

Se riscontri problemi durante l'esportazione o la distribuzione di modelli TFLite Edge TPU, consulta la nostra guida ai problemi comuni per suggerimenti sulla risoluzione dei problemi. Questa guida copre i problemi comuni e le soluzioni per aiutarti a garantire un funzionamento senza intoppi. Per ulteriore supporto, visita il nostro Centro Assistenza.

Commenti