ONNX Exportar para YOLOv8 Modelos

A menudo, al desplegar modelos de visión por ordenador, necesitarás un formato de modelo que sea flexible y compatible con múltiples plataformas.

Exportar modelos Ultralytics YOLOv8 modelos al formato ONNX agiliza el despliegue y garantiza un rendimiento óptimo en diversos entornos. Esta guía te mostrará cómo convertir fácilmente tus modelos YOLOv8 a ONNX y mejorar su escalabilidad y eficacia en aplicaciones del mundo real.

ONNX y ONNX Tiempo de ejecución

ONNX, que significa Intercambio Abierto de Redes Neuronales, es un proyecto comunitario que Facebook y Microsoft desarrollaron inicialmente. El desarrollo actual de ONNX es un esfuerzo de colaboración apoyado por varias organizaciones como IBM, Amazon (a través de AWS) y Google. El objetivo del proyecto es crear un formato de archivo abierto diseñado para representar modelos de aprendizaje automático de forma que puedan utilizarse en distintos marcos y hardware de IA.

ONNX pueden utilizarse para pasar de un marco a otro sin problemas. Por ejemplo, un modelo de aprendizaje profundo entrenado en PyTorch puede exportarse al formato ONNX e importarse fácilmente a TensorFlow.

Alternativamente, los modelos ONNX pueden utilizarse con ONNX Runtime. ONNX Runtime es un versátil acelerador multiplataforma para modelos de aprendizaje automático compatible con marcos como PyTorch, TensorFlow, TFLite, scikit-learn, etc.

ONNX Runtime optimiza la ejecución de los modelos ONNX aprovechando las capacidades específicas del hardware. Esta optimización permite que los modelos se ejecuten con eficacia y alto rendimiento en diversas plataformas de hardware, incluidas CPU, GPU y aceleradores especializados.

Tanto si se utiliza de forma independiente como en tándem con ONNX Runtime, ONNX proporciona una solución flexible para la implantación y compatibilidad de modelos de aprendizaje automático.

Características principales de los modelos ONNX

La capacidad de ONNX para manejar diversos formatos puede atribuirse a las siguientes características clave:

• Representación común del modelo: ONNX define un conjunto común de operadores (como convoluciones, capas, etc.) y un formato de datos estándar. Cuando un modelo se convierte al formato ONNX , su arquitectura y pesos se traducen a esta representación común. Esta uniformidad garantiza que el modelo pueda ser comprendido por cualquier marco que admita ONNX.

• Versionado y compatibilidad con versiones anteriores: ONNX mantiene un sistema de versionado para sus operadores. Esto garantiza que, aunque la norma evolucione, los modelos creados en versiones anteriores sigan siendo utilizables. La compatibilidad con versiones anteriores es una característica crucial que evita que los modelos se queden obsoletos rápidamente.

• Representación de modelos basada en grafos: ONNX representa los modelos como grafos computacionales. Esta estructura basada en grafos es una forma universal de representar modelos de aprendizaje automático, donde los nodos representan operaciones o cálculos, y las aristas representan los tensores que fluyen entre ellos. Este formato es fácilmente adaptable a diversos marcos que también representan modelos como grafos.

• Herramientas y ecosistema: Existe un rico ecosistema de herramientas en torno a ONNX que ayudan en la conversión, visualización y optimización de modelos. Estas herramientas facilitan a los desarrolladores el trabajo con los modelos de ONNX y la conversión de modelos entre distintos marcos sin problemas.

Uso común de ONNX

Antes de pasar a cómo exportar modelos YOLOv8 al formato ONNX , veamos dónde se suelen utilizar los modelos ONNX .

Despliegue de la CPU

ONNX suelen implantarse en CPUs debido a su compatibilidad con ONNX Runtime. Este tiempo de ejecución está optimizado para la ejecución en CPU. Mejora significativamente la velocidad de inferencia y hace factibles las implantaciones en CPU en tiempo real.

Opciones de implantación admitidas

Aunque los modelos ONNX se utilizan habitualmente en CPUs, también pueden implantarse en las siguientes plataformas:

• Aceleración de la GPU: ONNX es totalmente compatible con la aceleración de la GPU, en particular con NVIDIA CUDA. Esto permite una ejecución eficiente en las GPU NVIDIA para tareas que exigen una gran potencia de cálculo.

• Dispositivos periféricos y móviles: ONNX se extiende a dispositivos periféricos y móviles, perfecto para escenarios de inferencia en el dispositivo y en tiempo real. Es ligero y compatible con el hardware Edge.

• Navegadores web: ONNX puede ejecutarse directamente en navegadores web, potenciando aplicaciones de IA interactivas y dinámicas basadas en la web.

Exportar modelos de YOLOv8 a ONNX

Puedes ampliar la compatibilidad de modelos y la flexibilidad de despliegue convirtiendo los modelos de YOLOv8 al formato ONNX .

Instalación

Para instalar el paquete necesario, ejecuta

# Install the required package for YOLOv8
pip install ultralytics

Para obtener instrucciones detalladas y buenas prácticas relacionadas con el proceso de instalación, consulta nuestra guía de instalaciónYOLOv8 . Mientras instalas los paquetes necesarios para YOLOv8, si encuentras alguna dificultad, consulta nuestra guía de Problemas comunes para encontrar soluciones y consejos.

Utilización

Antes de sumergirte en las instrucciones de uso, asegúrate de consultar la gama de modelosYOLOv8 que ofrece Ultralytics. Esto te ayudará a elegir el modelo más apropiado para los requisitos de tu proyecto.

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO('yolov8n.pt')

# Export the model to ONNX format
model.export(format='onnx')  # creates 'yolov8n.onnx'

# Load the exported ONNX model
onnx_model = YOLO('yolov8n.onnx')

# Run inference
results = onnx_model('https://ultralytics.com/images/bus.jpg')

# Export a YOLOv8n PyTorch model to ONNX format
yolo export model=yolov8n.pt format=onnx  # creates 'yolov8n.onnx'

# Run inference with the exported model
yolo predict model=yolov8n.onnx source='https://ultralytics.com/images/bus.jpg'

Para más detalles sobre el proceso de exportación, visita la página de documentaciónUltralytics sobre exportación.

Despliegue de modelos exportados de YOLOv8 ONNX

Una vez que hayas exportado con éxito tus modelos Ultralytics YOLOv8 al formato ONNX , el siguiente paso es desplegar estos modelos en varios entornos. Para obtener instrucciones detalladas sobre el despliegue de tus modelos ONNX , echa un vistazo a los siguientes recursos:

• ONNX Runtime Python Documentación de la API: Esta guía proporciona información esencial para cargar y ejecutar modelos ONNX utilizando ONNX Runtime.

• Despliegue en dispositivos Edge: Consulta esta página de documentación para ver distintos ejemplos de despliegue de los modelos ONNX en dispositivos Edge.

• ONNX Tutoriales en GitHub: Una colección de completos tutoriales que cubren diversos aspectos del uso y la aplicación de los modelos ONNX en diferentes escenarios.

Resumen

En esta guía, has aprendido a exportar modelos Ultralytics YOLOv8 al formato ONNX para aumentar su interoperabilidad y rendimiento en diversas plataformas. También se te han presentado las opciones de despliegue ONNX Runtime y ONNX .

Para más detalles sobre su uso, visita la documentación oficial deONNX .

Además, si quieres saber más sobre otras integraciones de Ultralytics YOLOv8 , visita nuestra página de guía de integraciones. Allí encontrarás un montón de recursos e ideas útiles.

Comentarios