Exportation de modèles TFLite pour le déploiement (obsolète)#

Le déploiement de modèles de vision par ordinateur sur des appareils edge ou des appareils embarqués nécessite un format capable de garantir des performances fluides.

L’ancien format d’export TensorFlow Lite ou TFLite optimisait les modèles Ultralytics YOLO26 pour des tâches comme la détection d’objets et la classification d’images dans les applications edge. Ce guide conserve le contexte de déploiement TFLite historique ; utilise LiteRT pour les nouveaux exports.

Pourquoi TFLite était-il utilisé pour l’export ?#

Introduit par Google en mai 2017 dans le cadre de leur framework TensorFlow, TensorFlow Lite, ou TFLite en abrégé, était un framework open source de deep learning conçu pour l’inférence sur appareil, également appelée informatique edge. Il fournissait aux développeurs des outils pour exécuter des modèles entraînés sur des appareils mobiles, embarqués et IoT, ainsi que sur des ordinateurs traditionnels.

TensorFlow Lite prenait en charge un large éventail de plateformes, notamment Linux embarqué, Android, iOS et les microcontrôleurs (MCU). Les exports TFLite permettaient aux applications d’exécuter les modèles localement et hors ligne.

Fonctionnalités clés des modèles TFLite#

Les modèles TFLite offrent un large éventail de fonctionnalités clés qui permettent l’apprentissage automatique sur appareil en aidant les développeurs à exécuter leurs modèles sur des appareils mobiles, embarqués et edge :

• Optimisation sur appareil : TFLite est optimisé pour le ML sur appareil, ce qui réduit la latence en traitant les données localement, renforce la confidentialité en évitant de transmettre les données personnelles et minimise la taille des modèles pour économiser de l’espace.

• Prise en charge de plusieurs plateformes : TFLite offre une vaste compatibilité avec les plateformes, notamment Android, iOS, Linux embarqué et les microcontrôleurs.

• Prise en charge de divers langages : TFLite est compatible avec plusieurs langages de programmation, notamment Java, Swift, Objective-C, C++ et Python.

• Hautes performances : offre des performances supérieures grâce à l’accélération matérielle et à l’optimisation des modèles.

Performances mesurées (historiques)#

Les deux formats ont été exécutés dans le même balayage GPU consécutif, aux tailles d’entrée indiquées. Chaque cellule correspond au temps total (prétraitement + inférence + post-traitement), avec le détail par étape en dessous ; les journaux natifs ont confirmé que les deux formats déléguaient l’intégralité du graphe à LiteRT OpenCL (LITERT_CL) sur le GPU Adreno.

La même exécution de migration a également comparé les formats de quantification de détection de YOLO26n. L’inférence est la métrique comparable et dépendante du format :

Lors de cette exécution, w8a16 est repassé sur le CPU, avec environ 660 ms au total contre environ 17 ms pour les formats GPU. Ces résultats ont motivé la livraison de w8a32, mais la compatibilité des délégués et les performances dépendent de l’appareil et de la version du runtime. Évalue les performances sur l’appareil cible et confirme l’utilisation de l’accélérateur dans les journaux de son runtime.

Options de déploiement avec TFLite#

Avant d’examiner l’exemple d’export de remplacement LiteRT, voyons comment les modèles TFLite sont normalement utilisés.

TFLite propose différentes options de déploiement sur appareil pour les modèles de machine learning, notamment :

• Déploiement avec Android et iOS : les applications Android et iOS utilisant TFLite peuvent analyser les flux de caméras et les capteurs edge pour détecter et identifier des objets. TFLite propose également des bibliothèques iOS natives écrites en Swift et en Objective-C. Le schéma d’architecture ci-dessous illustre le processus de déploiement d’un modèle entraîné sur les plateformes Android et iOS avec TensorFlow Lite.

• Implémentation avec Linux embarqué : si l’exécution d’inférences sur un Raspberry Pi à l’aide du guide Ultralytics ne répond pas aux exigences de vitesse de ton cas d’utilisation, tu peux utiliser un modèle TFLite exporté pour accélérer les temps d’inférence. Tu peux également améliorer davantage les performances en utilisant un appareil Coral Edge TPU.

• Déploiement avec des microcontrôleurs : les modèles TFLite peuvent également être déployés sur des microcontrôleurs et d’autres appareils ne disposant que de quelques kilo-octets de mémoire. Le runtime principal tient dans 16 Ko sur un Arm Cortex M3 et peut exécuter de nombreux modèles de base. Il ne nécessite ni système d’exploitation, ni bibliothèques C ou C++ standard, ni allocation dynamique de mémoire.

Remplacer l’export TFLite par LiteRT#

Pour les nouveaux exports, convertis ton modèle au format LiteRT. Le modèle obtenu conserve l’extension de fichier .tflite.

Installation#

Pour installer les packages requis, exécute :

# Install the required package for YOLO26
pip install ultralytics

Pour obtenir des instructions détaillées et les bonnes pratiques relatives au processus d'installation, consulte notre guide d'installation Ultralytics. Si tu rencontres des difficultés lors de l'installation des packages requis pour YOLO26, consulte notre guide des problèmes courants pour trouver des solutions et des conseils.

Utilisation#

Tous les modèles Ultralytics YOLO26 sont conçus pour prendre en charge l’exportation directement, ce qui facilite leur intégration à ton workflow de déploiement préféré. Tu peux consulter la liste complète des formats d’exportation et des options de configuration pris en charge pour choisir la meilleure configuration pour ton application.

Le format de remplacement LiteRT prend en charge les modes Export, Predict et Validate. Exporte ton modèle, puis charge le modèle .tflite exporté pour exécuter l’inférence ou valider sa précision.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to LiteRT format
model.export(format="litert", imgsz=640)  # use imgsz=224 for classification

from ultralytics import YOLO

# Load the exported TFLite model
model = YOLO("yolo26n.tflite")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported TFLite model
model = YOLO("yolo26n.tflite")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Arguments d'exportation#

Pour plus de détails sur le processus d’exportation, consulte la page de la documentation Ultralytics consacrée à l’exportation.

Déployer des modèles YOLO26 TFLite exportés#

Après avoir exporté ton modèle Ultralytics YOLO26 au format LiteRT, tu peux déployer le modèle .tflite obtenu. La première étape principale et recommandée pour exécuter un modèle TFLite consiste à utiliser la méthode YOLO("model.tflite"), comme indiqué dans l’extrait de code d’utilisation précédent. Toutefois, pour obtenir des instructions détaillées sur le déploiement de tes modèles TFLite dans divers autres contextes, consulte les ressources suivantes :

• Android : guide de démarrage rapide pour intégrer TensorFlow Lite dans les applications Android, avec des étapes faciles à suivre pour configurer et exécuter des modèles de machine learning.

• iOS : consulte ce guide détaillé destiné aux développeurs sur l’intégration et le déploiement de modèles TensorFlow Lite dans les applications iOS, avec des instructions et des ressources étape par étape.

• Exemples de bout en bout : cette page présente divers exemples TensorFlow Lite, avec des applications pratiques et des tutoriels conçus pour aider les développeurs à implémenter TensorFlow Lite dans leurs projets de machine learning sur appareils mobiles et edge.

Résumé#

Ce guide conserve le workflow de déploiement TFLite historique. Pour les nouveaux exports, utilise LiteRT afin de créer des modèles .tflite pour les environnements d’informatique edge.

Pour plus de détails sur l’utilisation, consulte la documentation officielle de TFLite.

Si tu souhaites également découvrir d’autres intégrations Ultralytics YOLO26, consulte notre page du guide des intégrations. Tu y trouveras de nombreuses informations et analyses utiles.

FAQ#