Exportation de modèle avec Ultralytics YOLO

Introduction

L'objectif ultime de l'entraînement d'un modèle est de le déployer pour des applications concrètes. Le mode d'exportation dans Ultralytics YOLO26 offre une gamme polyvalente d'options pour exporter ton modèle entraîné vers différents formats, ce qui le rend déployable sur diverses plateformes et divers appareils. Ce guide complet a pour but de t'accompagner à travers les nuances de l'exportation de modèles, en démontrant comment atteindre une compatibilité et des performances maximales.

Pourquoi choisir le mode d'exportation de YOLO26 ?

• Polyvalence : Exporte vers de multiples formats, y compris ONNX, TensorRT, CoreML, et plus encore.
• Performances : Gagne jusqu'à 5x en vitesse GPU avec TensorRT et 3x en vitesse CPU avec ONNX ou OpenVINO.
• Compatibilité : Rends ton modèle universellement déployable sur de nombreux environnements matériels et logiciels.
• Facilité d'utilisation : API Python et CLI simples pour une exportation rapide et directe des modèles.

Fonctionnalités clés du mode d'exportation

Voici quelques-unes des fonctionnalités remarquables :

• Exportation en un clic : Commandes simples pour l'exportation vers différents formats.
• Exportation par lots : Exporte des modèles capables d'inférence par lots.
• Inférence optimisée : Les modèles exportés sont optimisés pour des temps d'inférence plus rapides.
• Tutoriels vidéo : Guides et tutoriels approfondis pour une expérience d'exportation fluide.

Exemples d'utilisation

Exporte un modèle YOLO26n vers un format différent comme ONNX ou TensorRT. Consulte la section Arguments ci-dessous pour une liste complète des arguments d'exportation.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom-trained model

# Export the model
model.export(format="onnx")

Arguments

Ce tableau détaille les configurations et options disponibles pour l'exportation des modèles YOLO vers différents formats. Ces paramètres sont cruciaux pour optimiser les performances, la taille et la compatibilité du modèle exporté sur diverses plateformes et divers environnements. Une configuration correcte garantit que le modèle est prêt pour le déploiement dans l'application visée avec une efficacité optimale.

L'ajustement de ces paramètres permet de personnaliser le processus d'exportation pour répondre à des besoins spécifiques, tels que l'environnement de déploiement, les contraintes matérielles et les objectifs de performance. Sélectionner le format et les paramètres appropriés est essentiel pour atteindre le meilleur équilibre entre la taille du modèle, sa vitesse et sa précision.

Formats d'exportation

Les formats d'exportation YOLO26 disponibles figurent dans le tableau ci-dessous. Tu peux exporter vers n'importe quel format en utilisant l'argument format, par exemple, format='onnx' ou format='engine'. Tu peux effectuer des prédictions ou des validations directement sur les modèles exportés, par exemple, yolo predict model=yolo26n.onnx. Des exemples d'utilisation sont affichés pour ton modèle une fois l'exportation terminée. Les modèles peuvent également être exportés directement depuis le navigateur sur Ultralytics Platform sans aucune configuration locale.

FAQ

Comment exporter un modèle YOLO26 au format ONNX ?

Exporter un modèle YOLO26 au format ONNX est simple avec Ultralytics. Il fournit à la fois des méthodes Python et CLI pour l'exportation des modèles.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom-trained model

# Export the model
model.export(format="onnx")

Pour plus de détails sur le processus, y compris les options avancées comme la gestion de différentes tailles d'entrée, reporte-toi au guide d'intégration ONNX.

Quels sont les avantages d'utiliser TensorRT pour l'exportation de modèles ?

Utiliser TensorRT pour l'exportation de modèles offre des améliorations de performance significatives. Les modèles YOLO26 exportés vers TensorRT peuvent atteindre un gain de vitesse GPU jusqu'à 5x, ce qui les rend idéaux pour les applications d'inférence en temps réel.

• Polyvalence : Optimise les modèles pour une configuration matérielle spécifique.
• Vitesse : Atteins une inférence plus rapide grâce à des optimisations avancées.
• Compatibilité : Intègre-toi harmonieusement au matériel NVIDIA.

Pour en savoir plus sur l'intégration de TensorRT, consulte le guide d'intégration TensorRT.

Comment activer la quantification INT8 lors de l'exportation de mon modèle YOLO26 ?

La quantification INT8 est un excellent moyen de compresser le modèle et d'accélérer l'inférence, en particulier sur les appareils de périphérie. Voici comment tu peux activer la quantification INT8 :

from ultralytics import YOLO

model = YOLO("yolo26n.pt")  # Load a model
model.export(format="engine", int8=True)

La quantification INT8 peut être appliquée à divers formats, tels que TensorRT, OpenVINO et CoreML. Pour des résultats de quantification optimaux, fournis un jeu de données représentatif en utilisant le paramètre data.

Pourquoi une taille d'entrée dynamique est-elle importante lors de l'exportation de modèles ?

La taille d'entrée dynamique permet au modèle exporté de gérer des dimensions d'image variables, offrant de la flexibilité et optimisant l'efficacité du traitement pour différents cas d'utilisation. Lors de l'exportation vers des formats comme ONNX ou TensorRT, l'activation de la taille d'entrée dynamique garantit que le modèle peut s'adapter aux différentes formes d'entrée de manière transparente.

Pour activer cette fonctionnalité, utilise l'argument dynamic=True lors de l'exportation :

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.export(format="onnx", dynamic=True)

Le dimensionnement dynamique de l'entrée est particulièrement utile pour les applications où les dimensions d'entrée peuvent varier, telles que le traitement vidéo ou lors de la gestion d'images provenant de différentes sources.

Quels sont les arguments d'exportation clés à prendre en compte pour optimiser les performances du modèle ?

Comprendre et configurer les arguments d'exportation est crucial pour optimiser les performances du modèle :

• format: The target format for the exported model (e.g., onnx, torchscript, tensorflow).
• imgsz: Desired image size for the model input (e.g., 640 or (height, width)).
• half: Enables FP16 quantization, reducing model size and potentially speeding up inference.
• optimize: Applies specific optimizations for mobile or constrained environments.
• int8: Enables INT8 quantization, highly beneficial for edge AI deployments.

Pour un déploiement sur des plateformes matérielles spécifiques, envisage d'utiliser des formats d'exportation spécialisés comme TensorRT pour les GPU NVIDIA, CoreML pour les appareils Apple, ou Edge TPU pour les appareils Google Coral.

Que représentent les tenseurs de sortie dans les modèles YOLO exportés ?

Lorsque tu exportes un modèle YOLO vers des formats comme ONNX ou TensorRT, la structure du tenseur de sortie dépend de la tâche du modèle. Comprendre ces sorties est important pour les implémentations d'inférence personnalisées.

Pour les modèles de détection (par exemple, yolo26n.pt), la sortie est généralement un tenseur unique de forme (batch_size, 4 + num_classes, num_predictions) où les canaux représentent les coordonnées de la boîte plus les scores par classe, et num_predictions dépend de la résolution d'entrée d'exportation (et peut être dynamique).

Pour les modèles de segmentation (par exemple, yolo26n-seg.pt), tu obtiendras généralement deux sorties : le premier tenseur de forme (batch_size, 4 + num_classes + mask_dim, num_predictions) (boîtes, scores de classe et coefficients de masque), et le deuxième tenseur de forme (batch_size, mask_dim, proto_h, proto_w) contenant des prototypes de masque utilisés avec les coefficients pour générer des masques d'instance. Les tailles dépendent de la résolution d'entrée d'exportation (et peuvent être dynamiques).

Pour les modèles de pose (par exemple, yolo26n-pose.pt), le tenseur de sortie est généralement de forme (batch_size, 4 + num_classes + keypoint_dims, num_predictions), où keypoint_dims dépend de la spécification de la pose (par exemple, le nombre de points clés et si la confiance est incluse), et num_predictions dépend de la résolution d'entrée d'exportation (et peut être dynamique).

Les exemples dans les exemples d'inférence ONNX démontrent comment traiter ces sorties pour chaque type de modèle.

Pourquoi output0 est-il en FP32 lors d'une exportation avec half=True et end2end=True ?

Lors d'une exportation avec half=True (ou int8=True), la plupart des tenseurs sont convertis en une précision inférieure pour réduire la taille du modèle et améliorer les performances. Cependant, lorsque end2end=True est activé, le post-traitement (y compris les indices de classe) est intégré directement dans le graphe exporté.

Le tenseur output0 contient des indices de classe, qui sont représentés en interne sous forme de valeurs à virgule flottante. Le format FP16 ne peut pas représenter de manière fiable des valeurs entières supérieures à 2048 en raison de sa précision de mantisse limitée. Pour éviter toute perte de précision potentielle ou des ID de classe incorrects, output0 est intentionnellement conservé en FP32.

Ce comportement est attendu et s'applique également aux exportations de précision inférieure ou quantifiées où la fidélité de l'indice de classe doit être préservée.

Si des sorties FP16 complètes sont requises, effectue l'exportation avec end2end=False et réalise le post-traitement en externe.