Coral Edge TPU sur un Raspberry Pi avec Ultralytics YOLO26 🚀

Qu'est-ce qu'une Coral Edge TPU ?

La Coral Edge TPU est un appareil compact qui ajoute un coprocesseur Edge TPU à ton système. Il permet une inférence ML haute performance et basse consommation pour les modèles TensorFlow Lite. Apprends-en plus sur la page d'accueil de Coral Edge TPU.

Booste les performances de ton Raspberry Pi avec la Coral Edge TPU

Beaucoup souhaitent exécuter leurs modèles sur un appareil embarqué ou mobile tel qu'un Raspberry Pi, car ils sont très économes en énergie et utilisables dans de nombreuses applications variées. Cependant, les performances d'inférence sur ces appareils sont généralement médiocres, même avec des formats comme ONNX ou OpenVINO. La Coral Edge TPU est une excellente solution à ce problème, car elle peut être utilisée avec un Raspberry Pi pour accélérer considérablement les performances d'inférence.

Edge TPU sur Raspberry Pi avec TensorFlow Lite (Nouveau)⭐

Le guide existant de Coral sur l'utilisation de l'Edge TPU avec un Raspberry Pi est obsolète, et les versions actuelles du runtime Coral Edge TPU ne fonctionnent plus avec les versions actuelles du runtime TensorFlow Lite. De plus, Google semble avoir complètement abandonné le projet Coral, sans aucune mise à jour entre 2021 et 2025. Ce guide te montrera comment faire fonctionner l'Edge TPU avec les dernières versions du runtime TensorFlow Lite et un runtime Coral Edge TPU mis à jour sur un ordinateur monocarte (SBC) Raspberry Pi.

Prérequis

• Raspberry Pi 4B (2 Go ou plus recommandés) ou Raspberry Pi 5 (Recommandé)
• Raspberry Pi OS Bullseye/Bookworm (64-bit) avec bureau (Recommandé)
• Coral USB Accelerator
• Une plateforme non basée sur ARM pour exporter un modèle Ultralytics PyTorch

Guide d'installation

Ce guide suppose que tu as déjà une installation fonctionnelle de Raspberry Pi OS et que tu as installé ultralytics ainsi que toutes les dépendances. Pour installer ultralytics, consulte le guide de démarrage rapide pour te configurer avant de continuer ici.

Installation du runtime Edge TPU

Tout d'abord, nous devons installer le runtime Edge TPU. De nombreuses versions sont disponibles, tu dois donc choisir celle qui convient à ton système d'exploitation. La version haute fréquence fait fonctionner l'Edge TPU à une vitesse d'horloge plus élevée, ce qui améliore les performances. Cependant, cela peut entraîner un étranglement thermique de l'Edge TPU ; il est donc recommandé de prévoir un mécanisme de refroidissement.

Télécharge la dernière version ici.

Après avoir téléchargé le fichier, tu peux l'installer avec la commande suivante :

sudo dpkg -i path/to/package.deb

Après avoir installé le runtime, branche ta Coral Edge TPU sur un port USB 3.0 du Raspberry Pi pour que la nouvelle règle udev puisse prendre effet.

# If you installed the standard version
sudo apt remove libedgetpu1-std

# If you installed the high-frequency version
sudo apt remove libedgetpu1-max

Exportation vers Edge TPU

Pour utiliser l'Edge TPU, tu dois convertir ton modèle dans un format compatible. Il est recommandé d'effectuer l'exportation sur Google Colab, une machine Linux x86_64, en utilisant le conteneur Docker Ultralytics, ou en utilisant la plateforme Ultralytics, car le compilateur Edge TPU n'est pas disponible sur ARM. Consulte le mode d'exportation pour les arguments disponibles.

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/model.pt")  # Load an official model or custom model

# Export the model
model.export(format="edgetpu")

Le modèle exporté sera enregistré dans le dossier <model_name>_saved_model/ sous le nom <model_name>_full_integer_quant_edgetpu.tflite. Assure-toi que le nom du fichier se termine par le suffixe _edgetpu.tflite ; sinon, Ultralytics ne détectera pas que tu utilises un modèle Edge TPU.

Exécution du modèle

Avant de pouvoir réellement exécuter le modèle, tu devras installer les bibliothèques correctes.

Si TensorFlow est déjà installé, désinstalle-le avec la commande suivante :

pip uninstall tensorflow tensorflow-aarch64

Ensuite, installe ou mets à jour tflite-runtime :

pip install -U tflite-runtime

Maintenant, tu peux exécuter l'inférence en utilisant le code suivant :

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/<model_name>_full_integer_quant_edgetpu.tflite")  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")

Trouve des informations complètes sur la page Prédire pour tous les détails du mode de prédiction.

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/<model_name>_full_integer_quant_edgetpu.tflite")  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")  # Inference defaults to the first TPU

model.predict("path/to/source.png", device="tpu:0")  # Select the first TPU

model.predict("path/to/source.png", device="tpu:1")  # Select the second TPU

Benchmarks

FAQ

Qu'est-ce qu'une Coral Edge TPU et comment améliore-t-elle les performances du Raspberry Pi avec Ultralytics YOLO26 ?

La Coral Edge TPU est un appareil compact conçu pour ajouter un coprocesseur Edge TPU à ton système. Ce coprocesseur permet une inférence d'apprentissage automatique basse consommation et haute performance, particulièrement optimisée pour les modèles TensorFlow Lite. Lorsqu'il est utilisé avec un Raspberry Pi, l'Edge TPU accélère l'inférence du modèle ML, boostant significativement les performances, surtout pour les modèles Ultralytics YOLO26. Tu peux en lire plus sur la Coral Edge TPU sur leur page d'accueil.

Comment installer le runtime Coral Edge TPU sur un Raspberry Pi ?

Pour installer le runtime Coral Edge TPU sur ton Raspberry Pi, télécharge le package .deb approprié pour ta version de Raspberry Pi OS depuis ce lien. Une fois téléchargé, utilise la commande suivante pour l'installer :

sudo dpkg -i path/to/package.deb

Assure-toi de désinstaller toute version précédente du runtime Coral Edge TPU en suivant les étapes décrites dans la section Guide d'installation.

Puis-je exporter mon modèle Ultralytics YOLO26 pour qu'il soit compatible avec la Coral Edge TPU ?

Oui, tu peux exporter ton modèle Ultralytics YOLO26 pour qu'il soit compatible avec la Coral Edge TPU. Il est recommandé d'effectuer l'exportation sur Google Colab, une machine Linux x86_64, ou en utilisant le conteneur Docker Ultralytics. Tu peux également utiliser la plateforme Ultralytics pour exporter. Voici comment exporter ton modèle en utilisant Python et CLI :

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/model.pt")  # Load an official model or custom model

# Export the model
model.export(format="edgetpu")

Pour plus d'informations, réfère-toi à la documentation du mode d'exportation.

Que faire si TensorFlow est déjà installé sur mon Raspberry Pi, mais que je veux utiliser tflite-runtime à la place ?

Si tu as TensorFlow installé sur ton Raspberry Pi et que tu dois passer à tflite-runtime, tu devras d'abord désinstaller TensorFlow en utilisant :

pip uninstall tensorflow tensorflow-aarch64

Ensuite, installe ou mets à jour tflite-runtime avec la commande suivante :

pip install -U tflite-runtime

Pour des instructions détaillées, réfère-toi à la section Exécution du modèle.

Comment exécuter une inférence avec un modèle YOLO26 exporté sur un Raspberry Pi en utilisant la Coral Edge TPU ?

Après avoir exporté ton modèle YOLO26 vers un format compatible Edge TPU, tu peux exécuter l'inférence en utilisant les extraits de code suivants :

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/edgetpu_model.tflite")  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")

Des détails complets sur les fonctionnalités du mode de prédiction complet sont disponibles sur la page Prédire.