ONNX Exportation pour les modèles YOLOv8

Souvent, lorsque tu déploies des modèles de vision par ordinateur, tu as besoin d'un format de modèle qui soit à la fois flexible et compatible avec plusieurs plateformes.

L'exportation Ultralytics YOLOv8 vers le format ONNX simplifie le déploiement et garantit des performances optimales dans divers environnements. Ce guide te montrera comment convertir facilement tes modèles YOLOv8 au format ONNX et améliorer leur évolutivité et leur efficacité dans des applications réelles.

ONNX et ONNX Runtime

ONNXOpen Neural Network Exchange est un projet communautaire initialement développé par Facebook et Microsoft. Le développement continu de ONNX est un effort de collaboration soutenu par diverses organisations comme IBM, Amazon (par le biais d'AWS) et Google. Le projet vise à créer un format de fichier ouvert conçu pour représenter les modèles d'apprentissage automatique d'une manière qui leur permette d'être utilisés dans différents cadres et matériels d'IA.

ONNX Les modèles peuvent être utilisés pour faire la transition entre différents frameworks de manière transparente. Par exemple, un modèle d'apprentissage profond formé dans PyTorch peut être exporté au format ONNX , puis importé facilement dans TensorFlow.

Les modèles ONNX peuvent également être utilisés avec ONNX Runtime. ONNX Runtime est un accélérateur multiplateforme polyvalent pour les modèles d'apprentissage automatique qui est compatible avec des cadres tels que PyTorch, TensorFlow, TFLite, scikit-learn, etc.

ONNX Runtime optimise l'exécution des modèles ONNX en exploitant les capacités spécifiques du matériel. Cette optimisation permet aux modèles de s'exécuter efficacement et avec des performances élevées sur diverses plates-formes matérielles, y compris les CPU, les GPU et les accélérateurs spécialisés.

Qu'il soit utilisé indépendamment ou en tandem avec ONNX Runtime, ONNX offre une solution flexible pour le déploiement et la compatibilité des modèles d'apprentissage automatique.

Caractéristiques principales des modèles ONNX

La capacité de ONNX à gérer différents formats peut être attribuée aux caractéristiques clés suivantes :

• Représentation commune du modèle: ONNX définit un ensemble commun d'opérateurs (comme les convolutions, les couches, etc.) et un format de données standard. Lorsqu'un modèle est converti au format ONNX , son architecture et ses poids sont traduits dans cette représentation commune. Cette uniformité garantit que le modèle peut être compris par n'importe quel cadre de travail qui prend en charge ONNX.

• Version et rétrocompatibilité: ONNX maintient un système de version pour ses opérateurs. Cela permet de garantir que même si la norme évolue, les modèles créés dans des versions plus anciennes restent utilisables. La rétrocompatibilité est une caractéristique cruciale qui empêche les modèles de devenir rapidement obsolètes.

• Représentation graphique des modèles: ONNX représente les modèles sous forme de graphes informatiques. Cette structure basée sur les graphes est une façon universelle de représenter les modèles d'apprentissage automatique, où les nœuds représentent les opérations ou les calculs, et les arêtes représentent les tenseurs qui circulent entre eux. Ce format est facilement adaptable à divers cadres qui représentent également les modèles sous forme de graphes.

• Outils et écosystème: Il existe un riche écosystème d'outils autour de ONNX qui aident à la conversion, à la visualisation et à l'optimisation des modèles. Ces outils permettent aux développeurs de travailler plus facilement avec les modèles ONNX et de convertir les modèles entre différents cadres de manière transparente.

Utilisation courante de ONNX

Avant de voir comment exporter les modèles YOLOv8 au format ONNX , voyons où les modèles ONNX sont généralement utilisés.

Déploiement de l'unité centrale

ONNX sont souvent déployés sur des unités centrales en raison de leur compatibilité avec ONNX Runtime. Ce moteur d'exécution est optimisé pour l'exécution sur l'unité centrale. Il améliore considérablement la vitesse d'inférence et rend possible les déploiements en temps réel sur l'unité centrale.

Options de déploiement prises en charge

Bien que les modèles ONNX soient couramment utilisés sur les unités centrales, ils peuvent également être déployés sur les plateformes suivantes :

• Accélération du GPU: ONNX prend entièrement en charge l'accélération du GPU, en particulier NVIDIA CUDA. Cela permet une exécution efficace sur les GPU NVIDIA pour les tâches qui exigent une grande puissance de calcul.

• Appareils périphériques et mobiles: ONNX s'étend aux appareils périphériques et mobiles, ce qui est parfait pour les scénarios d'inférence en temps réel et sur l'appareil. Il est léger et compatible avec le matériel périphérique.

• Navigateurs Web: ONNX peut fonctionner directement dans les navigateurs Web, ce qui permet d'alimenter des applications d'IA interactives et dynamiques basées sur le Web.

Exporter les modèles YOLOv8 vers ONNX

Tu peux étendre la compatibilité des modèles et la flexibilité du déploiement en convertissant les modèles YOLOv8 au format ONNX .

Installation

Pour installer le paquetage requis, exécute :

# Install the required package for YOLOv8
pip install ultralytics

Pour des instructions détaillées et les meilleures pratiques liées au processus d'installation, consulte notre guide d'installationYOLOv8 . Pendant l'installation des paquets requis pour YOLOv8, si tu rencontres des difficultés, consulte notre guide des problèmes courants pour trouver des solutions et des conseils.

Utilisation

Avant de te plonger dans les instructions d'utilisation, n'oublie pas de consulter la gamme de modèlesYOLOv8 proposée par Ultralytics. Cela t'aidera à choisir le modèle le plus approprié aux exigences de ton projet.

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO('yolov8n.pt')

# Export the model to ONNX format
model.export(format='onnx')  # creates 'yolov8n.onnx'

# Load the exported ONNX model
onnx_model = YOLO('yolov8n.onnx')

# Run inference
results = onnx_model('https://ultralytics.com/images/bus.jpg')

# Export a YOLOv8n PyTorch model to ONNX format
yolo export model=yolov8n.pt format=onnx  # creates 'yolov8n.onnx'

# Run inference with the exported model
yolo predict model=yolov8n.onnx source='https://ultralytics.com/images/bus.jpg'

Pour plus de détails sur le processus d'exportation, visite la page de documentationUltralytics sur l'exportation.

Déploiement des modèles exportés YOLOv8 ONNX

Une fois que tu as réussi à exporter tes modèles Ultralytics YOLOv8 au format ONNX , l'étape suivante consiste à déployer ces modèles dans divers environnements. Pour obtenir des instructions détaillées sur le déploiement de tes modèles ONNX , jette un coup d'œil aux ressources suivantes :

• ONNX Runtime Python Documentation de l'API: Ce guide fournit des informations essentielles pour le chargement et l'exécution des modèles ONNX à l'aide de ONNX Runtime.

• Déploiement sur les appareils Edge: Consulte cette page de documentation pour voir différents exemples de déploiement des modèles ONNX sur les périphériques.

• ONNX Tutoriels sur GitHub: Une collection de tutoriels complets qui couvrent divers aspects de l'utilisation et de la mise en œuvre des modèles ONNX dans différents scénarios.

Résumé

Dans ce guide, tu as appris à exporter les modèles Ultralytics YOLOv8 au format ONNX afin d'accroître leur interopérabilité et leurs performances sur diverses plates-formes. Tu as également découvert les options de déploiement ONNX Runtime et ONNX .

Pour plus de détails sur l'utilisation, consulte la documentation officielle deONNX .

De plus, si tu veux en savoir plus sur d'autres intégrations de Ultralytics YOLOv8 , visite notre page de guide d'intégration. Tu y trouveras de nombreuses ressources et informations utiles.

Commentaires