Meet YOLO26: next-gen vision AI.

Link to this sectionCome eseguire Ultralytics YOLO26 su un Raspberry Pi con un Coral Edge TPU#

Raspberry Pi with Edge TPU accelerator

Un Raspberry Pi è una piattaforma efficiente dal punto di vista energetico ed economica per eseguire computer vision all'edge, ma l'inferenza sul dispositivo è lenta anche con formati ottimizzati come ONNX o OpenVINO. Abbinare il Pi a un coprocessore Coral Edge TPU scarica l'inferenza su hardware dedicato, accelerandola drasticamente. Questa guida ti mostra come installare il runtime, esportare un modello Ultralytics YOLO26 nel formato Edge TPU ed eseguire l'inferenza accelerata.



Watch: How to Run Inference on Raspberry Pi using Google Coral Edge TPU

Link to this sectionPerché usare un Coral Edge TPU?#

Il Coral Edge TPU è un dispositivo compatto che aggiunge un coprocessore Edge TPU al tuo sistema, abilitando un'inferenza ML a basso consumo e ad alte prestazioni per i modelli TensorFlow Lite. È un'ottima soluzione per implementazioni embedded e mobile dove la sola CPU non riesce a stare al passo:

  • Inferenza più veloce — l'Edge TPU accelera i modelli quantizzati ben oltre ciò che la CPU del Raspberry Pi ottiene autonomamente.
  • Basso consumo energetico — offre un throughput elevato per watt, ideale per implementazioni alimentate a batteria o energia solare.
  • Plug-and-play — il USB Accelerator si collega tramite USB 3.0, quindi non è necessaria alcuna integrazione hardware aggiuntiva.
Runtime aggiornato per l'attuale TensorFlow Lite

La guida ufficiale Coral è obsoleta: le build del runtime Coral originale non funzionano più con le versioni attuali del runtime TensorFlow Lite e il progetto non ha visto aggiornamenti tra il 2021 e il 2025. Questa guida utilizza un runtime Edge TPU mantenuto attivamente e l'ultimo tflite-runtime, affinché l'acceleratore funzioni su un'installazione attuale di Raspberry Pi OS.

Link to this sectionPrerequisiti#

Questa guida presuppone che tu abbia già un'installazione funzionante di Raspberry Pi OS con ultralytics e le relative dipendenze installate. In caso contrario, segui prima la guida rapida.

Con i prerequisiti pronti, il flusso di lavoro prevede tre passaggi: installare il runtime Edge TPU sul Pi, esportare il tuo modello su una macchina non ARM e eseguire l'inferenza di nuovo sul Pi.

Link to this sectionInstalla il Runtime Edge TPU#

Il runtime è distribuito in diverse build, quindi scegli quella che corrisponde al tuo sistema operativo. La build ad alta frequenza esegue l'Edge TPU a una velocità di clock superiore per prestazioni migliori, ma può causare thermal throttling: usa una qualche forma di raffreddamento se la scegli.

Raspberry Pi OSModalità ad alta frequenzaVersione da scaricare
Bullseye 32bitNolibedgetpu1-std_ ... .bullseye_armhf.deb
Bullseye 64bitNolibedgetpu1-std_ ... .bullseye_arm64.deb
Bullseye 32bitlibedgetpu1-max_ ... .bullseye_armhf.deb
Bullseye 64bitlibedgetpu1-max_ ... .bullseye_arm64.deb
Bookworm 32bitNolibedgetpu1-std_ ... .bookworm_armhf.deb
Bookworm 64bitNolibedgetpu1-std_ ... .bookworm_arm64.deb
Bookworm 32bitlibedgetpu1-max_ ... .bookworm_armhf.deb
Bookworm 64bitlibedgetpu1-max_ ... .bookworm_arm64.deb

Scarica l'ultima versione da qui, quindi installa il pacchetto .deb:

sudo dpkg -i path/to/package.deb

Dopo aver installato il runtime, collega il tuo Coral Edge TPU a una porta USB 3.0 sul Raspberry Pi affinché la nuova regola udev possa avere effetto.

Rimuovi prima qualsiasi runtime esistente

Se hai già installato il runtime Coral Edge TPU, disinstallalo prima di installare una nuova build.

# If you installed the standard version
sudo apt remove libedgetpu1-std

# If you installed the high-frequency version
sudo apt remove libedgetpu1-max

Link to this sectionEsporta il tuo modello nel formato Edge TPU#

Per utilizzare l'Edge TPU, converti il tuo modello in un formato compatibile. Esegui l'esportazione su una piattaforma non ARM — Google Colab, una macchina Linux x86_64, il container Docker ufficiale di Ultralytics o Ultralytics Platform — poiché il compilatore Edge TPU non è disponibile su ARM. Consulta la modalità Export per gli argomenti disponibili.

Esportazione del modello
from ultralytics import YOLO

# Load a model
model = YOLO("path/to/model.pt")  # Load an official model or custom model

# Export the model
model.export(format="edgetpu")

Il modello esportato viene salvato nella cartella <model_name>_saved_model/ come <model_name>_full_integer_quant_edgetpu.tflite.

Mantieni il suffisso `_edgetpu.tflite`

Il nome del file deve terminare con _edgetpu.tflite. Se lo rinomini in qualsiasi altro modo, Ultralytics lo caricherà come un normale modello TensorFlow Lite invece di rilevare l'Edge TPU e l'acceleratore non verrà utilizzato.

Link to this sectionEsegui l'inferenza sull'Edge TPU#

Prima di eseguire il modello, installa le librerie corrette sul Raspberry Pi. Se TensorFlow è già installato, disinstallalo prima:

pip uninstall tensorflow tensorflow-aarch64

Quindi installa o aggiorna tflite-runtime:

pip install -U tflite-runtime

Ora puoi eseguire l'inferenza:

Esecuzione del modello
from ultralytics import YOLO

# Load a model
model = YOLO("path/to/<model_name>_full_integer_quant_edgetpu.tflite")  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")

Trova i dettagli completi sulla modalità di predizione nella pagina Predict.

Inferenza con più Edge TPU

Se hai più Edge TPU, puoi selezionarne uno specifico con l'argomento device.

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/<model_name>_full_integer_quant_edgetpu.tflite")  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")  # Inference defaults to the first TPU

model.predict("path/to/source.png", device="tpu:0")  # Select the first TPU

model.predict("path/to/source.png", device="tpu:1")  # Select the second TPU

Link to this sectionBenchmark#

Le cifre sottostanti sono state misurate con Raspberry Pi OS Bookworm 64-bit e un Coral Edge TPU USB. Mostrano solo il tempo di inferenza (pre-/post-elaborazione esclusa) e fungono da riferimento relativo per l'accelerazione che l'Edge TPU fornisce tra modelli Pi e modalità.

Informazioni su questi numeri

Questi benchmark sono stati registrati con modelli YOLOv8. I tempi di inferenza assoluti variano in base alla versione del modello e alla dimensione dell'immagine, ma le accelerazioni relative tra i modelli Pi e le modalità di clock rimangono valide.

Dimensione immagineModelloTempo di inferenza standard (ms)Tempo di inferenza ad alta frequenza (ms)
320YOLOv8n32.226.7
320YOLOv8s47.139.8
512YOLOv8n73.560.7
512YOLOv8s149.6125.3

In media:

  • Il Raspberry Pi 5 è il 22% più veloce con la modalità standard rispetto al Raspberry Pi 4B.
  • Il Raspberry Pi 5 è il 30.2% più veloce con la modalità ad alta frequenza rispetto al Raspberry Pi 4B.
  • La modalità ad alta frequenza è il 28.4% più veloce rispetto alla modalità standard.

Link to this sectionConclusione#

Un Coral Edge TPU trasforma un Raspberry Pi in un dispositivo di inferenza capace e a basso consumo per Ultralytics YOLO26. Esporta il tuo modello su una macchina non ARM, mantieni il suffisso _edgetpu.tflite ed eseguilo con tflite-runtime sul Pi per ottenere un'inferenza edge accelerata. Per ulteriori opzioni di implementazione, vedi la guida Raspberry Pi.

Link to this sectionFAQ#

Link to this sectionCos'è un Coral Edge TPU e come migliora le prestazioni del Raspberry Pi con Ultralytics YOLO26?#

Il Coral Edge TPU è un dispositivo compatto che aggiunge un coprocessore Edge TPU al tuo sistema. Questo coprocessore abilita un'inferenza ML a basso consumo e ad alte prestazioni, particolarmente ottimizzata per i modelli TensorFlow Lite. Su un Raspberry Pi, accelera l'inferenza ben oltre ciò che la CPU ottiene autonomamente, il che aumenta significativamente le prestazioni per i modelli Ultralytics YOLO26.

Link to this sectionCome installo il runtime Coral Edge TPU su un Raspberry Pi?#

Scarica il pacchetto .deb appropriato per la tua versione di Raspberry Pi OS da questo link, quindi installalo:

sudo dpkg -i path/to/package.deb

Assicurati di disinstallare le versioni precedenti del runtime Coral Edge TPU seguendo i passaggi nella sezione Installa il Runtime Edge TPU.

Link to this sectionPosso esportare il mio modello Ultralytics YOLO26 per renderlo compatibile con Coral Edge TPU?#

Sì. Esegui l'esportazione su Google Colab, una macchina Linux x86_64 o il container Docker di Ultralytics; puoi anche utilizzare Ultralytics Platform. Ecco come esportare con Python e CLI:

Esportazione del modello
from ultralytics import YOLO

# Load a model
model = YOLO("path/to/model.pt")  # Load an official model or custom model

# Export the model
model.export(format="edgetpu")

Per maggiori informazioni, consulta la documentazione della modalità Export.

Link to this sectionCosa devo fare se TensorFlow è già installato sul mio Raspberry Pi, ma voglio usare tflite-runtime?#

Se hai TensorFlow installato e devi passare a tflite-runtime, disinstalla prima TensorFlow:

pip uninstall tensorflow tensorflow-aarch64

Quindi installa o aggiorna tflite-runtime:

pip install -U tflite-runtime

Per istruzioni dettagliate, consulta la sezione Esegui l'inferenza sull'Edge TPU.

Link to this sectionCome eseguo l'inferenza con un modello YOLO26 esportato su un Raspberry Pi utilizzando il Coral Edge TPU?#

Dopo aver esportato il tuo modello YOLO26 in un formato compatibile con Edge TPU, esegui l'inferenza con i seguenti frammenti di codice. Il file del modello deve mantenere il suffisso _edgetpu.tflite affinché Ultralytics lo carichi sull'Edge TPU:

Esecuzione del modello
from ultralytics import YOLO

# Load a model
model = YOLO("path/to/<model_name>_full_integer_quant_edgetpu.tflite")  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")

Dettagli completi sulla modalità di predizione sono nella pagina Predict.

Commenti