Apprenez à exporter au format TFLite Edge TPU à partir du modèle YOLO11 .
Le déploiement de modèles de vision par ordinateur sur des appareils dotés d'une puissance de calcul limitée, tels que les systèmes mobiles ou embarqués, peut s'avérer délicat. L'utilisation d'un format de modèle optimisé pour des performances plus rapides simplifie le processus. Le format de modèle TensorFlow Lite Edge TPU ou TFLite Edge TPU est conçu pour consommer un minimum d'énergie tout en offrant des performances rapides pour les réseaux neuronaux.
La fonction d'exportation vers le format TFLite Edge TPU vous permet d'optimiser vos modèles pour des conférences à haute vitesse et à faible consommation d'énergie. Ultralytics YOLO11 pour l'inférence à haute vitesse et à faible consommation d'énergie. Dans ce guide, nous vous aiderons à convertir vos modèles au format TFLite Edge TPU , ce qui facilitera l'utilisation de vos modèles sur divers appareils mobiles et embarqués.
Pourquoi exporter vers TFLite Edge TPU?
L'exportation de modèles vers TensorFlow Edge TPU rend les tâches d'apprentissage automatique rapides et efficaces. Cette technologie convient aux applications dont la puissance, les ressources informatiques et la connectivité sont limitées. Le Edge TPU est un accélérateur matériel de Google. Il accélère les modèles TensorFlow Lite sur les appareils périphériques. L'image ci-dessous montre un exemple du processus impliqué.
The Edge TPU fonctionne avec des modèles quantifiés. La quantification rend les modèles plus petits et plus rapides sans perdre beaucoup de précision. Elle est idéale pour les ressources limitées de l'informatique en périphérie, car elle permet aux applications de réagir rapidement en réduisant la latence et en permettant un traitement rapide des données au niveau local, sans dépendance à l'égard de l'informatique en nuage. Le traitement local permet également de préserver la confidentialité et la sécurité des données des utilisateurs puisqu'elles ne sont pas envoyées à un serveur distant.
Caractéristiques principales de TFLite Edge TPU
Voici les principales caractéristiques qui font de TFLite Edge TPU un excellent choix de format de modèle pour les développeurs :
-
Performances optimisées sur les appareils Edge: Le TFLite Edge TPU permet d'obtenir des performances de réseau neuronal à grande vitesse grâce à la quantification, à l'optimisation du modèle, à l'accélération matérielle et à l'optimisation du compilateur. Son architecture minimaliste contribue à sa taille réduite et à sa rentabilité.
-
Haut débit de calcul: TFLite Edge TPU combine une accélération matérielle spécialisée et une exécution efficace pour atteindre un débit de calcul élevé. Il est bien adapté au déploiement de modèles d'apprentissage automatique avec des exigences strictes en matière de performances sur les appareils périphériques.
-
Calculs matriciels efficaces: Le TensorFlow Edge TPU est optimisé pour les opérations matricielles, qui sont cruciales pour les calculs des réseaux neuronaux. Cette efficacité est essentielle dans les modèles d'apprentissage automatique, en particulier ceux qui nécessitent des multiplications et des transformations matricielles nombreuses et complexes.
Options de déploiement avec TFLite Edge TPU
Avant de voir comment exporter les modèles YOLO11 vers le format TFLite Edge TPU , il convient de comprendre où les modèles TFLite Edge TPU sont généralement utilisés.
TFLite Edge TPU offre diverses options de déploiement pour les modèles d'apprentissage automatique, notamment
-
Déploiement sur appareil: TensorFlow Les modèles Edge TPU peuvent être directement déployés sur des appareils mobiles et embarqués. Le déploiement sur l'appareil permet aux modèles de s'exécuter directement sur le matériel, ce qui élimine la nécessité d'une connectivité en nuage.
-
Informatique de périphérie avec des TPU en nuage TensorFlow : Dans les scénarios où les appareils périphériques ont des capacités de traitement limitées, les TPU TensorFlow Edge peuvent décharger les tâches d'inférence sur des serveurs en nuage équipés de TPU.
-
Déploiement hybride: Une approche hybride combine le déploiement sur l'appareil et dans le nuage et offre une solution polyvalente et évolutive pour le déploiement de modèles d'apprentissage automatique. Les avantages comprennent le traitement sur appareil pour des réponses rapides et l'informatique en nuage pour des calculs plus complexes.
Exportation des modèles YOLO11 vers TFLite Edge TPU
Vous pouvez étendre la compatibilité des modèles et la flexibilité du déploiement en convertissant les modèles YOLO11 en TensorFlow Edge TPU.
Installation
Pour installer le paquetage requis, exécutez :
Pour des instructions détaillées et les meilleures pratiques liées au processus d'installation, consultez notre guide d'installationUltralytics . Lors de l'installation des paquets requis pour YOLO11, si vous rencontrez des difficultés, consultez notre guide des problèmes courants pour obtenir des solutions et des conseils.
Utilisation
Avant de plonger dans les instructions d'utilisation, il est important de noter que si tous les modèlesUltralytics YOLO11 sont disponibles pour l'exportation, vous pouvez vous assurer que le modèle que vous sélectionnez prend en charge la fonctionnalité d'exportation ici.
Utilisation
from ultralytics import YOLO
# Load the YOLO11 model
model = YOLO("yolo11n.pt")
# Export the model to TFLite Edge TPU format
model.export(format="edgetpu") # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")
# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'
Pour plus de détails sur les options d'exportation prises en charge, consultez la page de documentationUltralytics sur les options de déploiement.
Déploiement des modèles exportés YOLO11 TFLite Edge TPU
Après avoir exporté avec succès vos modèles Ultralytics YOLO11 au format TFLite Edge TPU , vous pouvez maintenant les déployer. La première étape recommandée pour exécuter un modèle TFLite Edge TPU est d'utiliser la méthode YOLO("model_edgetpu.tflite"), comme indiqué dans l'extrait de code précédent.
Toutefois, pour obtenir des instructions détaillées sur le déploiement de vos modèles TFLite Edge TPU , consultez les ressources suivantes :
-
Coral Edge TPU sur un Raspberry Pi avec Ultralytics YOLO11: Découvrez comment intégrer les TPU Coral Edge au Raspberry Pi pour améliorer les capacités d'apprentissage automatique.
-
Exemples de codes: Accédez à des exemples pratiques de déploiement de TensorFlow Edge TPU pour démarrer vos projets.
-
Exécuter Inference on the Edge TPU avec Python: Découvrez comment utiliser l'API TensorFlow Lite Python pour les applications Edge TPU , y compris les directives de configuration et d'utilisation.
Résumé
Dans ce guide, nous avons appris comment exporter des modèles Ultralytics YOLO11 au format TFLite Edge TPU . En suivant les étapes mentionnées ci-dessus, vous pouvez augmenter la vitesse et la puissance de vos applications de vision par ordinateur.
Pour plus de détails sur l'utilisation, visitez le site officiel de Edge TPU .
Par ailleurs, pour plus d'informations sur d'autres intégrations de Ultralytics YOLO11 , veuillez consulter notre page de guide d'intégration. Vous y découvrirez des ressources et des informations précieuses.
FAQ
Comment exporter un modèle YOLO11 au format TFLite Edge TPU ?
Pour exporter un modèle YOLO11 au format TFLite Edge TPU , vous pouvez suivre les étapes suivantes :
Utilisation
from ultralytics import YOLO
# Load the YOLO11 model
model = YOLO("yolo11n.pt")
# Export the model to TFLite Edge TPU format
model.export(format="edgetpu") # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")
# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'
Pour plus de détails sur l'exportation de modèles vers d'autres formats, consultez notre guide d'exportation.
Quels sont les avantages d'exporter les modèles YOLO11 vers TFLite Edge TPU?
L'exportation des modèles YOLO11 vers TFLite Edge TPU offre plusieurs avantages :
- Performances optimisées: Obtenez des performances de réseau neuronal à grande vitesse avec une consommation d'énergie minimale.
- Temps de latence réduit: Traitement local rapide des données sans dépendance à l'égard de l'informatique en nuage.
- Meilleure protection de la vie privée: Le traitement local permet de préserver la confidentialité et la sécurité des données de l'utilisateur.
Il est donc idéal pour les applications d'informatique périphérique, où les appareils ont une puissance et des ressources de calcul limitées. En savoir plus sur les raisons d'exporter.
Puis-je déployer les modèles TFLite Edge TPU sur des appareils mobiles et embarqués ?
Oui, les modèles TensorFlow Lite Edge TPU peuvent être déployés directement sur des appareils mobiles et embarqués. Cette approche de déploiement permet aux modèles de s'exécuter directement sur le matériel, offrant une inférence plus rapide et plus efficace. Pour des exemples d'intégration, consultez notre guide sur le déploiement de Coral Edge TPU sur Raspberry Pi.
Quels sont les cas d'utilisation courants des modèles TFLite Edge TPU ?
Les cas d'utilisation courants des modèles TFLite Edge TPU sont les suivants :
- Caméras intelligentes: Améliorer l'analyse d'images et de vidéos en temps réel.
- Dispositifs IoT: Permettre l'automatisation industrielle et domestique intelligente.
- Santé: Accélérer l'imagerie médicale et les diagnostics.
- Commerce de détail: Améliorer la gestion des stocks et l'analyse du comportement des clients.
Ces applications bénéficient des performances élevées et de la faible consommation d'énergie des modèles TFLite Edge TPU . En savoir plus sur les scénarios d'utilisation.
Comment puis-je résoudre les problèmes lors de l'exportation ou du déploiement des modèles TFLite Edge TPU ?
Si vous rencontrez des problèmes lors de l'exportation ou du déploiement des modèles TFLite Edge TPU , consultez notre guide des problèmes courants pour obtenir des conseils de dépannage. Ce guide couvre les problèmes courants et les solutions pour vous aider à assurer un fonctionnement sans heurts. Pour obtenir une assistance supplémentaire, visitez notre Centre d'aide.
