Export de modèles TFLite pour le déploiement (obsolète)#

Le déploiement de modèles de vision par ordinateur sur des appareils en périphérie ou embarqués nécessite un format qui garantit des performances optimales.

L’ancien format d’export TensorFlow Lite ou TFLite optimisait les modèles Ultralytics YOLO26 pour des tâches comme la détection d’objets et la classification d’images dans des applications en périphérie. Ce guide conserve le contexte de déploiement TFLite historique ; utilise LiteRT pour les nouveaux exports.

Pourquoi TFLite était-il utilisé pour l’export ?#

Lancé par Google en mai 2017 dans le cadre de son framework TensorFlow, TensorFlow Lite, ou TFLite en abrégé, était un framework open source d’apprentissage profond conçu pour l’inférence sur appareil, également appelée informatique en périphérie. Il fournissait aux développeurs des outils pour exécuter des modèles entraînés sur des appareils mobiles, embarqués et IoT, ainsi que sur des ordinateurs classiques.

TensorFlow Lite prenait en charge un large éventail de plateformes, notamment Linux embarqué, Android, iOS et les microcontrôleurs (MCU). Les exports TFLite permettaient aux applications d’exécuter les modèles localement et hors ligne.

Principales fonctionnalités des modèles TFLite#

Les modèles TFLite offrent de nombreuses fonctionnalités clés qui permettent l’apprentissage automatique sur appareil et aident les développeurs à exécuter leurs modèles sur des appareils mobiles, embarqués et en périphérie :

• Optimisation sur appareil : TFLite optimise l’apprentissage automatique sur appareil, réduit la latence en traitant les données localement, renforce la confidentialité en évitant la transmission de données personnelles et réduit la taille des modèles pour économiser de l’espace.

• Prise en charge de plusieurs plateformes : TFLite offre une large compatibilité avec les plateformes, notamment Android, iOS, Linux embarqué et les microcontrôleurs.

• Prise en charge de différents langages : TFLite est compatible avec divers langages de programmation, notamment Java, Swift, Objective-C, C++ et Python.

• Hautes performances : offre des performances supérieures grâce à l’accélération matérielle et à l’optimisation des modèles.

Performances mesurées (historiques)#

Les deux formats ont été exécutés dans le même balayage GPU consécutif, aux tailles d’entrée indiquées. Chaque cellule indique le temps total (prétraitement + inférence + post-traitement), avec le détail par étape en dessous ; les journaux natifs ont confirmé que les deux formats déléguaient l’intégralité du graphe à LiteRT OpenCL (LITERT_CL) sur le GPU Adreno.

La même série de tests de migration a également comparé les formats de quantification pour la détection avec YOLO26n. L’inférence est la mesure comparable qui dépend du format :

Lors de cette série de tests, w8a16 est repassé sur le CPU, avec un temps total d’environ 660 ms, contre environ 17 ms pour les formats GPU. Ces résultats ont motivé la livraison de w8a32, mais la compatibilité des délégués et les performances dépendent de l’appareil et de la version du runtime. Teste les performances sur l’appareil cible et vérifie dans les journaux du runtime quel accélérateur est utilisé.

Options de déploiement avec TFLite#

Avant de voir l’exemple d’export avec le remplacement LiteRT, voyons comment les modèles TFLite sont généralement utilisés.

TFLite offre plusieurs options de déploiement sur appareil pour les modèles d’apprentissage automatique, notamment :

• Déploiement avec Android et iOS : les applications Android et iOS utilisant TFLite peuvent analyser les flux des caméras et des capteurs en périphérie pour détecter et identifier des objets. TFLite propose également des bibliothèques iOS natives écrites en Swift et en Objective-C. Le schéma d’architecture ci-dessous présente le processus de déploiement d’un modèle entraîné sur les plateformes Android et iOS avec TensorFlow Lite.

• Mise en œuvre avec Linux embarqué : si l’exécution d’inférences sur un Raspberry Pi à l’aide du guide Ultralytics ne répond pas aux exigences de vitesse de ton cas d’utilisation, tu peux utiliser un modèle TFLite exporté pour accélérer l’inférence. Tu peux également améliorer davantage les performances en utilisant un appareil Coral Edge TPU.

• Déploiement sur des microcontrôleurs : les modèles TFLite peuvent aussi être déployés sur des microcontrôleurs et d’autres appareils disposant de seulement quelques kilo-octets de mémoire. Le runtime principal tient dans 16 Ko sur un Arm Cortex M3 et peut exécuter de nombreux modèles de base. Il ne nécessite pas de système d’exploitation, de bibliothèques C ou C++ standard, ni d’allocation dynamique de mémoire.

Remplacer l’export TFLite par LiteRT#

Pour les nouveaux exports, convertis ton modèle au format LiteRT. Le modèle obtenu conserve l’extension de fichier .tflite.

Installation#

Pour installer les paquets requis, exécute :

# Install the required package for YOLO26
pip install ultralytics

Pour obtenir des instructions détaillées et connaître les bonnes pratiques liées à l’installation, consulte notre guide d’installation Ultralytics. Si tu rencontres des difficultés lors de l’installation des packages requis pour YOLO26, consulte notre guide des problèmes courants, qui propose des solutions et des conseils.

Utilisation#

Tous les modèles Ultralytics YOLO26 sont conçus pour prendre en charge l’exportation dès leur installation, ce qui facilite leur intégration à ton flux de déploiement préféré. Tu peux consulter la liste complète des formats d’exportation pris en charge et des options de configuration pour choisir la configuration la mieux adaptée à ton application.

Le format LiteRT de remplacement prend en charge les modes Export, Predict et Validate. Exporte ton modèle, puis charge le modèle .tflite exporté pour effectuer une inférence ou valider sa précision.

from ultralytics import YOLO

# Charger un modèle YOLO26
model = YOLO("yolo26n.pt")

# Exporter le modèle au format LiteRT
model.export(format="litert", imgsz=640)  # utiliser imgsz=224 pour la classification

from ultralytics import YOLO

# Charger le modèle TFLite exporté
model = YOLO("yolo26n.tflite")

# Exécuter l’inférence
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Charger le modèle TFLite exporté
model = YOLO("yolo26n.tflite")

# Valider la précision sur le jeu de données COCO8
metrics = model.val(data="coco8.yaml")

Arguments d’exportation#

Pour en savoir plus sur le processus d’export, consulte la page de la documentation Ultralytics consacrée à l’export.

Déployer les modèles YOLO26 TFLite exportés#

Après avoir exporté ton modèle Ultralytics YOLO26 au format LiteRT, tu peux déployer le modèle .tflite obtenu. La première étape recommandée pour exécuter un modèle TFLite consiste à utiliser la méthode YOLO("model.tflite"), comme indiqué dans l’extrait de code précédent. Toutefois, pour obtenir des instructions détaillées sur le déploiement de tes modèles TFLite dans d’autres environnements, consulte les ressources suivantes :

• Android : un guide de démarrage rapide pour intégrer TensorFlow Lite dans des applications Android, avec des étapes faciles à suivre pour configurer et exécuter des modèles d’apprentissage automatique.

• iOS : consulte ce guide détaillé destiné aux développeurs sur l’intégration et le déploiement de modèles TensorFlow Lite dans des applications iOS, avec des instructions et des ressources étape par étape.

• Exemples de bout en bout : cette page présente divers exemples TensorFlow Lite, notamment des applications pratiques et des tutoriels conçus pour aider les développeurs à intégrer TensorFlow Lite à leurs projets d’apprentissage automatique sur des appareils mobiles et en périphérie.

Résumé#

Ce guide conserve le flux de travail de déploiement TFLite historique. Pour les nouveaux exports, utilise LiteRT afin de créer des modèles .tflite destinés aux environnements d’informatique en périphérie.

Pour plus de détails sur l’utilisation, consulte la documentation officielle de TFLite.

Si tu souhaites également découvrir d’autres intégrations Ultralytics YOLO26, consulte notre page de guides d’intégration. Tu y trouveras de nombreuses informations et ressources utiles.

FAQ#