Apprends à exporter vers le format TFLite Edge TPU depuis un modèle YOLO26

Déployer des modèles de vision par ordinateur sur des appareils à puissance de calcul limitée, comme les systèmes mobiles ou embarqués, peut être complexe. Utiliser un format de modèle optimisé pour une performance plus rapide simplifie le processus. Le format de modèle TensorFlow Lite Edge TPU ou TFLite Edge TPU est conçu pour utiliser un minimum d'énergie tout en offrant une performance rapide pour les réseaux neuronaux.

La fonctionnalité d'exportation vers le format TFLite Edge TPU te permet d'optimiser tes modèles Ultralytics YOLO26 pour une inférence à haute vitesse et basse consommation. Dans ce guide, nous te montrerons comment convertir tes modèles vers le format TFLite Edge TPU, rendant ainsi plus facile pour tes modèles de fonctionner efficacement sur divers appareils mobiles et embarqués.

Pourquoi devrais-tu exporter vers TFLite Edge TPU ?

Exporter des modèles vers TensorFlow Edge TPU rend les tâches de machine learning rapides et efficaces. Cette technologie convient aux applications ayant une puissance, des ressources de calcul et une connectivité limitées. L'Edge TPU est un accélérateur matériel de Google. Il accélère les modèles TensorFlow Lite sur les appareils en périphérie. L'image ci-dessous montre un exemple du processus impliqué.

TensorFlow Lite Edge TPU compilation workflow

L'Edge TPU fonctionne avec des modèles quantifiés. La quantification rend les modèles plus petits et plus rapides sans perdre beaucoup en accuracy. C'est idéal pour les ressources limitées de l'edge computing, permettant aux applications de répondre rapidement en réduisant la latence et en permettant un traitement rapide des données localement, sans dépendance au cloud. Le traitement local garde également les données utilisateur privées et sécurisées puisqu'elles ne sont pas envoyées vers un serveur distant.

Caractéristiques clés de TFLite Edge TPU

Voici les caractéristiques clés qui font de TFLite Edge TPU un excellent choix de format de modèle pour les développeurs :

  • Performance optimisée sur les appareils Edge : Le TFLite Edge TPU atteint une performance de réseau neuronal à haute vitesse grâce à la quantification, l'optimisation du modèle, l'accélération matérielle et l'optimisation par compilateur. Son architecture minimaliste contribue à sa taille réduite et à son efficacité en termes de coûts.

  • Débit computationnel élevé : Le TFLite Edge TPU combine une accélération matérielle spécialisée et une exécution efficace au moment de l'exécution pour atteindre un débit computationnel élevé. Il est bien adapté au déploiement de modèles de machine learning avec des exigences de performance strictes sur les appareils edge.

  • Calculs matriciels efficaces : Le TensorFlow Edge TPU est optimisé pour les opérations matricielles, qui sont cruciales pour les calculs de neural network. Cette efficacité est clé dans les modèles de machine learning, particulièrement ceux nécessitant de nombreuses et complexes multiplications et transformations de matrices.

Options de déploiement avec TFLite Edge TPU

Avant de passer à la manière d'exporter des modèles YOLO26 vers le format TFLite Edge TPU, comprenons où les modèles TFLite Edge TPU sont habituellement utilisés.

TFLite Edge TPU offre diverses options de déploiement pour les modèles de machine learning, incluant :

  • Déploiement sur appareil (On-Device) : Les modèles TensorFlow Edge TPU peuvent être directement déployés sur des appareils mobiles et embarqués. Le déploiement sur appareil permet aux modèles de s'exécuter directement sur le matériel, éliminant le besoin de connectivité cloud, soit en intégrant le modèle dans le bundle de l'application, soit en le téléchargeant à la demande.

  • Edge Computing avec Cloud TensorFlow TPUs : Dans les scénarios où les appareils edge ont des capacités de traitement limitées, les TensorFlow Edge TPUs peuvent décharger des tâches d'inférence vers des serveurs cloud équipés de TPUs.

  • Déploiement hybride : Une approche hybride combine le déploiement sur appareil et dans le cloud, offrant une solution polyvalente et évolutive pour déployer des modèles de machine learning. Les avantages incluent le traitement sur appareil pour des réponses rapides et le cloud computing pour des calculs plus complexes.

Exporter des modèles YOLO26 vers TFLite Edge TPU

Tu peux étendre la compatibilité des modèles et la flexibilité de déploiement en convertissant les modèles YOLO26 vers TensorFlow Edge TPU.

Installation

Pour installer le package requis, exécute :

Installation
# Install the required package for YOLO26
pip install ultralytics

Pour des instructions détaillées et les meilleures pratiques liées au processus d'installation, consulte notre guide d'installation d'Ultralytics. Pendant l'installation des paquets requis pour YOLO26, si tu rencontres des difficultés, consulte notre guide des problèmes courants pour des solutions et astuces.

Utilisation

Tous les modèles Ultralytics YOLO26 sont conçus pour prendre en charge l'exportation dès la sortie de la boîte, ce qui facilite leur intégration dans ton flux de déploiement préféré. Tu peux consulter la liste complète des formats d'exportation pris en charge et des options de configuration pour choisir la meilleure configuration pour ton application.

Utilisation
from ultralytics import YOLO

# Load the YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

Arguments d'exportation

ArgumentTypeDéfautDescription
formatstr'edgetpu'Format cible pour le modèle exporté, définissant la compatibilité avec divers environnements de déploiement.
imgszint ou tuple640Taille d'image souhaitée pour l'entrée du modèle. Peut être un entier pour des images carrées ou un tuple (height, width) pour des dimensions spécifiques.
int8boolTrueActive la quantification INT8, compressant davantage le modèle et accélérant l'inférence avec une perte de accuracy minimale, principalement pour les appareils en périphérie.
datastr'coco8.yaml'Chemin vers le fichier de configuration du dataset (par défaut : coco8.yaml), essentiel pour la quantification.
fractionfloat1.0Spécifie la fraction du jeu de données à utiliser pour la calibration de la quantification INT8. Permet d'effectuer la calibration sur un sous-ensemble du jeu de données complet, ce qui est utile pour les expérimentations ou lorsque les ressources sont limitées. S'il n'est pas spécifié avec INT8 activé, le jeu de données complet sera utilisé.
devicestrNoneSpécifie l'appareil pour l'exportation : CPU (device=cpu).
Astuce

Assure-toi d'utiliser une machine Linux x86 lors de l'exportation vers EdgeTPU.

Pour plus de détails sur le processus d'exportation, visite la page de documentation Ultralytics sur l'exportation.

Déployer des modèles YOLO26 TFLite Edge TPU exportés

Après avoir exporté avec succès tes modèles Ultralytics YOLO26 vers le format TFLite Edge TPU, tu peux maintenant les déployer. La première étape principale et recommandée pour exécuter un modèle TFLite Edge TPU est d'utiliser la méthode YOLO("model_edgetpu.tflite"), comme indiqué dans l'extrait de code d'utilisation précédent.

Cependant, pour des instructions approfondies sur le déploiement de tes modèles TFLite Edge TPU, jette un œil aux ressources suivantes :

Résumé

Dans ce guide, nous avons appris comment exporter des modèles Ultralytics YOLO26 vers le format TFLite Edge TPU. En suivant les étapes mentionnées ci-dessus, tu peux augmenter la vitesse et la puissance de tes applications de computer vision.

Pour plus de détails sur l'utilisation, visite le site officiel d'Edge TPU.

Aussi, pour plus d'informations sur d'autres intégrations Ultralytics YOLO26, visite notre page de guide d'intégration. Tu y découvriras des ressources et des perspectives précieuses.

FAQ

Comment exporter un modèle YOLO26 vers le format TFLite Edge TPU ?

Pour exporter un modèle YOLO26 vers le format TFLite Edge TPU, tu peux suivre ces étapes :

Utilisation
from ultralytics import YOLO

# Load the YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

Pour des détails complets sur l'exportation de modèles vers d'autres formats, réfère-toi à notre guide d'exportation.

Quels sont les avantages de l'exportation des modèles YOLO26 vers TFLite Edge TPU ?

Exporter des modèles YOLO26 vers TFLite Edge TPU offre plusieurs avantages :

  • Performance optimisée : Atteins une performance de réseau neuronal à haute vitesse avec une consommation d'énergie minimale.
  • Latence réduite : Traitement rapide des données locales sans dépendance au cloud.
  • Confidentialité améliorée : Le traitement local garde les données utilisateur privées et sécurisées.

Cela le rend idéal pour les applications en edge computing, où les appareils ont une puissance et des ressources computationnelles limitées. Apprends-en davantage sur pourquoi tu devrais exporter.

Puis-je déployer des modèles TFLite Edge TPU sur des appareils mobiles et embarqués ?

Oui, les modèles TensorFlow Lite Edge TPU peuvent être déployés directement sur des appareils mobiles et embarqués. Cette approche de déploiement permet aux modèles de s'exécuter directement sur le matériel, offrant une inférence plus rapide et plus efficace. Pour des exemples d'intégration, consulte notre guide sur le déploiement de Coral Edge TPU sur Raspberry Pi.

Quels sont les cas d'utilisation courants pour les modèles TFLite Edge TPU ?

Les cas d'utilisation courants pour les modèles TFLite Edge TPU incluent :

  • Caméras intelligentes : Amélioration de l'analyse d'images et de vidéos en temps réel.
  • Appareils IoT : Activation de la domotique et de l'automatisation industrielle.
  • Santé : Accélération de l'imagerie médicale et du diagnostic.
  • Commerce de détail : Amélioration de la gestion des stocks et de l'analyse du comportement des clients.

Ces applications bénéficient de la haute performance et de la faible consommation d'énergie des modèles TFLite Edge TPU. Découvre-en plus sur les scénarios d'utilisation.

Comment puis-je dépanner les problèmes lors de l'exportation ou du déploiement de modèles TFLite Edge TPU ?

Si tu rencontres des problèmes lors de l'exportation ou du déploiement de modèles TFLite Edge TPU, réfère-toi à notre guide des problèmes courants pour des astuces de dépannage. Ce guide couvre les problèmes fréquents et les solutions pour t'aider à assurer un fonctionnement fluide. Pour un support supplémentaire, visite notre Centre d'aide.

Commentaires