Passer au contenu

Apprenez à exporter au format TFLite Edge TPU à partir du modèle YOLO11

Le déploiement de modèles de vision par ordinateur sur des appareils avec une puissance de calcul limitée, tels que les systèmes mobiles ou embarqués, peut être délicat. L'utilisation d'un format de modèle optimisé pour des performances plus rapides simplifie le processus. Le format de modèle TensorFlow Lite Edge TPU ou TFLite Edge TPU est conçu pour utiliser une puissance minimale tout en offrant des performances rapides pour les réseaux neuronaux.

La fonctionnalité d'exportation au format TFLite Edge TPU vous permet d'optimiser vos modèles Ultralytics YOLO11 pour une inférence à haute vitesse et à faible consommation d'énergie. Dans ce guide, nous vous expliquerons comment convertir vos modèles au format TFLite Edge TPU, ce qui facilitera les performances de vos modèles sur divers appareils mobiles et embarqués.

Pourquoi exporter vers TFLite Edge TPU ?

L'exportation de modèles vers TensorFlow Edge TPU rend les tâches d'apprentissage automatique rapides et efficaces. Cette technologie convient aux applications avec une puissance, des ressources informatiques et une connectivité limitées. L'Edge TPU est un accélérateur matériel de Google. Il accélère les modèles TensorFlow Lite sur les appareils périphériques. L'image ci-dessous montre un exemple du processus impliqué.

TFLite Edge TPU

L'Edge TPU fonctionne avec des modèles quantifiés. La quantification rend les modèles plus petits et plus rapides sans perdre beaucoup de précision. Elle est idéale pour les ressources limitées de l'informatique de pointe, permettant aux applications de répondre rapidement en réduisant la latence et en permettant un traitement rapide des données localement, sans dépendance au cloud. Le traitement local préserve également la confidentialité et la sécurité des données des utilisateurs, car elles ne sont pas envoyées à un serveur distant.

Principales caractéristiques de TFLite Edge TPU

Voici les principales caractéristiques qui font de TFLite Edge TPU un excellent choix de format de modèle pour les développeurs :

  • Performances optimisées sur les appareils Edge : Le TFLite Edge TPU atteint des performances de réseau neuronal à haute vitesse grâce à la quantification, à l'optimisation du modèle, à l'accélération matérielle et à l'optimisation du compilateur. Son architecture minimaliste contribue à sa plus petite taille et à sa rentabilité.

  • Haut Débit de Calcul : TFLite Edge TPU combine une accélération matérielle spécialisée et une exécution runtime efficace pour atteindre un haut débit de calcul. Il est bien adapté au déploiement de modèles d'apprentissage automatique avec des exigences de performance strictes sur les appareils edge.

  • Calculs matriciels efficaces : Le TensorFlow Edge TPU est optimisé pour les opérations matricielles, qui sont cruciales pour les calculs de réseaux neuronaux. Cette efficacité est essentielle dans les modèles d'apprentissage automatique, en particulier ceux qui nécessitent de nombreuses multiplications et transformations matricielles complexes.

Options de déploiement avec TFLite Edge TPU

Avant de voir comment exporter les modèles YOLO11 au format TFLite Edge TPU, comprenons où les modèles TFLite Edge TPU sont généralement utilisés.

TFLite Edge TPU offre diverses options de déploiement pour les modèles d'apprentissage automatique, notamment :

  • Déploiement sur l'appareil: Les modèles TensorFlow Edge TPU peuvent être déployés directement sur des appareils mobiles et embarqués. Le déploiement sur l'appareil permet aux modèles de s'exécuter directement sur le matériel, éliminant ainsi le besoin de connectivité au cloud.

  • Edge Computing avec les TPU TensorFlow Cloud : Dans les scénarios où les appareils périphériques ont des capacités de traitement limitées, les TPU TensorFlow Edge peuvent décharger les tâches d'inférence vers des serveurs cloud équipés de TPU.

  • Déploiement Hybride : Une approche hybride combine le déploiement sur l'appareil et dans le cloud et offre une solution polyvalente et évolutive pour le déploiement de modèles d'apprentissage automatique. Les avantages incluent le traitement sur l'appareil pour des réponses rapides et l'informatique en nuage pour des calculs plus complexes.

Exportation des modèles YOLO11 vers TFLite Edge TPU

Vous pouvez étendre la compatibilité des modèles et la flexibilité du déploiement en convertissant les modèles YOLO11 vers TensorFlow Edge TPU.

Installation

Pour installer le paquet requis, exécutez :

Installation

# Install the required package for YOLO11
pip install ultralytics

Pour des instructions détaillées et les meilleures pratiques relatives au processus d'installation, consultez notre guide d'installation Ultralytics. Si vous rencontrez des difficultés lors de l'installation des packages requis pour YOLO11, consultez notre guide des problèmes courants pour obtenir des solutions et des conseils.

Utilisation

Tous les modèles Ultralytics YOLO11 sont conçus pour prendre en charge l’exportation prête à l’emploi, ce qui facilite leur intégration à votre flux de travail de déploiement préféré. Vous pouvez consulter la liste complète des formats d’exportation et des options de configuration pris en charge pour choisir la meilleure configuration pour votre application.

Utilisation

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Arguments d'exportation

Argument Type Par défaut Description
format str 'edgetpu' Format cible pour le modèle exporté, définissant la compatibilité avec divers environnements de déploiement.
imgsz int ou tuple 640 Taille d'image souhaitée pour l'entrée du modèle. Peut être un entier pour les images carrées ou un tuple (height, width) pour des dimensions spécifiques.
device str None Spécifie le dispositif pour l'exportation : CPU (device=cpu).

Astuce

Veuillez vous assurer d’utiliser une machine x86 Linux lors de l’exportation vers EdgeTPU.

Pour plus de détails sur le processus d'exportation, consultez la page de la documentation Ultralytics sur l'exportation.

Déploiement de modèles YOLO11 TFLite Edge TPU exportés

Après avoir exporté avec succès vos modèles Ultralytics YOLO11 au format TFLite Edge TPU, vous pouvez maintenant les déployer. La première étape principale et recommandée pour exécuter un modèle TFLite Edge TPU est d'utiliser la méthode YOLO("model_edgetpu.tflite"), comme indiqué dans l'extrait de code d'utilisation précédent.

Cependant, pour des instructions détaillées sur le déploiement de vos modèles TFLite Edge TPU, consultez les ressources suivantes :

Résumé

Dans ce guide, nous avons appris à exporter les modèles Ultralytics YOLO11 au format TFLite Edge TPU. En suivant les étapes mentionnées ci-dessus, vous pouvez augmenter la vitesse et la puissance de vos applications de vision par ordinateur.

Pour plus de détails sur l'utilisation, consultez le site web officiel d'Edge TPU.

De plus, pour plus d'informations sur les autres intégrations Ultralytics YOLO11, veuillez consulter notre page de guide d'intégration. Vous y découvrirez de précieuses ressources et informations.

FAQ

Comment exporter un modèle YOLO11 au format TFLite Edge TPU ?

Pour exporter un modèle YOLO11 au format TFLite Edge TPU, vous pouvez suivre les étapes suivantes :

Utilisation

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Pour des informations complètes sur l'exportation de modèles vers d'autres formats, consultez notre guide d'exportation.

Quels sont les avantages de l'exportation de modèles YOLO11 vers TFLite Edge TPU ?

L'exportation des modèles YOLO11 vers TFLite Edge TPU offre plusieurs avantages :

  • Performances optimisées : Obtenez des performances de réseau neuronal à haute vitesse avec une consommation d'énergie minimale.
  • Latence réduite : Traitement rapide des données locales sans dépendre du cloud.
  • Confidentialité améliorée : Le traitement local maintient les données des utilisateurs privées et sécurisées.

Cela le rend idéal pour les applications en edge computing, où les appareils ont une puissance et des ressources de calcul limitées. Apprenez-en davantage sur pourquoi vous devriez exporter.

Puis-je déployer des modèles TFLite Edge TPU sur des appareils mobiles et embarqués ?

Oui, les modèles TensorFlow Lite Edge TPU peuvent être déployés directement sur des appareils mobiles et embarqués. Cette approche de déploiement permet aux modèles de s'exécuter directement sur le matériel, offrant une inférence plus rapide et plus efficace. Pour des exemples d'intégration, consultez notre guide sur le déploiement de Coral Edge TPU sur Raspberry Pi.

Quels sont quelques cas d'utilisation courants pour les modèles TFLite Edge TPU ?

Les cas d'utilisation courants pour les modèles TFLite Edge TPU incluent :

  • Caméras intelligentes : Amélioration de l’analyse d’images et de vidéos en temps réel.
  • Appareils IoT : Activation de la domotique et de l'automatisation industrielle.
  • Santé : Accélère l'imagerie médicale et les diagnostics.
  • Vente au détail : Amélioration de la gestion des stocks et de l'analyse du comportement des clients.

Ces applications bénéficient des hautes performances et de la faible consommation d'énergie des modèles TFLite Edge TPU. Découvrez-en davantage sur les scénarios d'utilisation.

Comment puis-je dépanner les problèmes lors de l'exportation ou du déploiement de modèles TFLite Edge TPU ?

Si vous rencontrez des problèmes lors de l'exportation ou du déploiement de modèles TFLite Edge TPU, consultez notre guide des problèmes courants pour obtenir des conseils de dépannage. Ce guide couvre les problèmes courants et les solutions pour vous aider à assurer un fonctionnement fluide. Pour une assistance supplémentaire, visitez notre centre d'aide.



📅 Créé il y a 1 an ✏️ Mis à jour il y a 4 mois

Commentaires