ONNX Exportar para YOLOv8 Modelos

A menudo, al implementar modelos de visión artificial, necesitará un formato de modelo que sea flexible y compatible con varias plataformas.

Exportar modelos Ultralytics YOLOv8 modelos al formato ONNX agiliza el despliegue y garantiza un rendimiento óptimo en diversos entornos. Esta guía te mostrará cómo convertir fácilmente tus modelos YOLOv8 a ONNX y mejorar su escalabilidad y eficacia en aplicaciones del mundo real.

ONNX y ONNX Tiempo de ejecución

ONNXque significa Intercambio Abierto de Redes Neuronales, es un proyecto comunitario que Facebook y Microsoft desarrollaron inicialmente. El desarrollo actual de ONNX es un esfuerzo de colaboración apoyado por varias organizaciones como IBM, Amazon (a través de AWS) y Google. El objetivo del proyecto es crear un formato de archivo abierto diseñado para representar modelos de aprendizaje automático de forma que puedan utilizarse en distintos marcos y hardware de IA.

ONNX pueden utilizarse para pasar de un marco a otro sin problemas. Por ejemplo, un modelo de aprendizaje profundo entrenado en PyTorch puede exportarse al formato ONNX e importarse fácilmente a TensorFlow.

Alternativamente, los modelos ONNX pueden utilizarse con ONNX Runtime. ONNX Runtime es un versátil acelerador multiplataforma para modelos de aprendizaje automático compatible con marcos como PyTorch, TensorFlow, TFLite, scikit-learn, etc.

ONNX Runtime optimiza la ejecución de los modelos ONNX aprovechando las capacidades específicas del hardware. Esta optimización permite que los modelos se ejecuten con eficacia y alto rendimiento en diversas plataformas de hardware, incluidas CPU, GPU y aceleradores especializados.

Tanto si se utiliza de forma independiente como en tándem con ONNX Runtime, ONNX proporciona una solución flexible para la implantación y compatibilidad de modelos de aprendizaje automático.

Características principales de los modelos ONNX

La capacidad de ONNX para manejar diversos formatos puede atribuirse a las siguientes características clave:

• Representación común del modelo: ONNX define un conjunto común de operadores (como convoluciones, capas, etc.) y un formato de datos estándar. Cuando un modelo se convierte al formato ONNX , su arquitectura y pesos se traducen a esta representación común. Esta uniformidad garantiza que el modelo pueda ser comprendido por cualquier marco que admita ONNX.

• Versionado y compatibilidad con versiones anteriores: ONNX mantiene un sistema de versionado para sus operadores. Esto garantiza que, aunque la norma evolucione, los modelos creados en versiones anteriores sigan siendo utilizables. La compatibilidad con versiones anteriores es una característica crucial que evita que los modelos se queden obsoletos rápidamente.

• Representación de modelos basada en grafos: ONNX representa los modelos como grafos computacionales. Esta estructura basada en grafos es una forma universal de representar modelos de aprendizaje automático, donde los nodos representan operaciones o cálculos, y las aristas representan los tensores que fluyen entre ellos. Este formato es fácilmente adaptable a diversos marcos que también representan modelos como grafos.

• Herramientas y ecosistema: Existe un rico ecosistema de herramientas en torno a ONNX que ayudan en la conversión, visualización y optimización de modelos. Estas herramientas facilitan a los desarrolladores el trabajo con los modelos de ONNX y la conversión de modelos entre distintos marcos sin problemas.

Uso común de ONNX

Antes de pasar a cómo exportar YOLOv8 modelos a la ONNX formato, echemos un vistazo a dónde ONNX Por lo general, se utilizan modelos.

CPU Despliegue

ONNX suelen implantarse en CPU debido a su compatibilidad con ONNX Runtime. Este tiempo de ejecución está optimizado para la ejecución de CPU . Mejora significativamente la velocidad de inferencia y hace factibles las implantaciones de CPU en tiempo real.

Opciones de implantación admitidas

Aunque los modelos ONNX se utilizan habitualmente en CPUs, también pueden implantarse en las siguientes plataformas:

• GPU Aceleración: ONNX es totalmente compatible con la aceleración GPU , en particular NVIDIA CUDA . Esto permite una ejecución eficiente en las GPU de NVIDIA para tareas que exigen una gran potencia de cálculo.

• Dispositivos periféricos y móviles: ONNX se extiende a dispositivos periféricos y móviles, perfecto para escenarios de inferencia en el dispositivo y en tiempo real. Es ligero y compatible con el hardware Edge.

• Navegadores web: ONNX puede ejecutarse directamente en navegadores web, potenciando aplicaciones de IA interactivas y dinámicas basadas en la web.

Exportar modelos de YOLOv8 a ONNX

Puedes ampliar la compatibilidad de modelos y la flexibilidad de despliegue convirtiendo los modelos de YOLOv8 al formato ONNX .

Instalación

Para instalar el paquete necesario, ejecuta

# Install the required package for YOLOv8
pip install ultralytics

Para obtener instrucciones detalladas y buenas prácticas relacionadas con el proceso de instalación, consulta nuestra guía de instalaciónYOLOv8 . Mientras instalas los paquetes necesarios para YOLOv8, si encuentras alguna dificultad, consulta nuestra guía de Problemas comunes para encontrar soluciones y consejos.

Utilización

Antes de sumergirte en las instrucciones de uso, asegúrate de consultar la gama de modelosYOLOv8 que ofrece Ultralytics. Esto te ayudará a elegir el modelo más apropiado para los requisitos de tu proyecto.

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO("yolov8n.pt")

# Export the model to ONNX format
model.export(format="onnx")  # creates 'yolov8n.onnx'

# Load the exported ONNX model
onnx_model = YOLO("yolov8n.onnx")

# Run inference
results = onnx_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLOv8n PyTorch model to ONNX format
yolo export model=yolov8n.pt format=onnx  # creates 'yolov8n.onnx'

# Run inference with the exported model
yolo predict model=yolov8n.onnx source='https://ultralytics.com/images/bus.jpg'

Para más detalles sobre el proceso de exportación, visita la página de documentaciónUltralytics sobre exportación.

Despliegue de modelos exportados de YOLOv8 ONNX

Una vez que hayas exportado con éxito tus modelos Ultralytics YOLOv8 al formato ONNX , el siguiente paso es desplegar estos modelos en varios entornos. Para obtener instrucciones detalladas sobre el despliegue de tus modelos ONNX , echa un vistazo a los siguientes recursos:

• ONNX Runtime Python Documentación de la API: Esta guía proporciona información esencial para cargar y ejecutar modelos ONNX utilizando ONNX Runtime.

• Despliegue en dispositivos Edge: Consulta esta página de documentación para ver distintos ejemplos de despliegue de los modelos ONNX en dispositivos Edge.

• ONNX Tutoriales en GitHub: Una colección de completos tutoriales que cubren diversos aspectos del uso y la aplicación de los modelos ONNX en diferentes escenarios.

Resumen

En esta guía, has aprendido a exportar modelos Ultralytics YOLOv8 al formato ONNX para aumentar su interoperabilidad y rendimiento en diversas plataformas. También se te han presentado las opciones de despliegue ONNX Runtime y ONNX .

Para más detalles sobre su uso, visita la documentación oficial deONNX .

Además, si quieres saber más sobre otros Ultralytics YOLOv8 integraciones, visite nuestra página de guía de integración. Allí encontrará muchos recursos e información útiles.

PREGUNTAS FRECUENTES

¿Cómo puedo exportar modelos de YOLOv8 al formato ONNX utilizando Ultralytics?

Para exportar tus modelos de YOLOv8 al formato ONNX utilizando Ultralytics, sigue estos pasos:

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO("yolov8n.pt")

# Export the model to ONNX format
model.export(format="onnx")  # creates 'yolov8n.onnx'

# Load the exported ONNX model
onnx_model = YOLO("yolov8n.onnx")

# Run inference
results = onnx_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLOv8n PyTorch model to ONNX format
yolo export model=yolov8n.pt format=onnx  # creates 'yolov8n.onnx'

# Run inference with the exported model
yolo predict model=yolov8n.onnx source='https://ultralytics.com/images/bus.jpg'

Para más detalles, visita la documentación de exportación.

¿Cuáles son las ventajas de utilizar ONNX Runtime para desplegar modelos YOLOv8 ?

Utilizar ONNX Runtime para desplegar los modelos YOLOv8 ofrece varias ventajas:

• Compatibilidad entre plataformas: ONNX El tiempo de ejecución es compatible con varias plataformas, como Windows, macOS y Linux, lo que garantiza que tus modelos funcionen sin problemas en distintos entornos.
• Aceleración de hardware: ONNX El tiempo de ejecución puede aprovechar las optimizaciones específicas de hardware para CPU, GPU y aceleradores dedicados, proporcionando una inferencia de alto rendimiento.
• Interoperabilidad de marcos: Los modelos entrenados en marcos populares como PyTorch o TensorFlow pueden convertirse fácilmente al formato ONNX y ejecutarse con ONNX Runtime.

Para más información, consulta la documentación deONNX Runtime.

¿Qué opciones de despliegue están disponibles para los modelos de YOLOv8 exportados a ONNX?

YOLOv8 Los modelos exportados a ONNX pueden desplegarse en varias plataformas, incluidas:

• CPUs: Utilizando ONNX Runtime para la inferencia optimizada de CPU .
• GPUs: Aprovechando NVIDIA CUDA para la aceleración de alto rendimiento GPU .
• Dispositivos Edge: Ejecutar modelos ligeros en dispositivos periféricos y móviles para realizar inferencias en tiempo real y en el dispositivo.
• Navegadores web: Ejecución de modelos directamente en navegadores web para aplicaciones interactivas basadas en web.

Para más información, explora nuestra guía sobre opciones de despliegue de modelos.

¿Por qué debo utilizar el formato ONNX para los modelos Ultralytics YOLOv8 ?

Utilizar el formato ONNX para los modelos Ultralytics YOLOv8 proporciona numerosas ventajas:

• Interoperabilidad: ONNX permite transferir modelos entre distintos marcos de aprendizaje automático sin problemas.
• Optimización del rendimiento: ONNX El tiempo de ejecución puede mejorar el rendimiento del modelo utilizando optimizaciones específicas del hardware.
• Flexibilidad: ONNX admite varios entornos de implantación, lo que te permite utilizar el mismo modelo en distintas plataformas sin necesidad de modificarlo.

Consulta la guía completa para exportar modelos de YOLOv8 a ONNX.

¿Cómo puedo solucionar problemas al exportar modelos de YOLOv8 a ONNX?

Al exportar modelos de YOLOv8 a ONNX, puedes encontrarte con problemas comunes, como dependencias no coincidentes u operaciones no admitidas. Para solucionar estos problemas

1. Comprueba que tienes instalada la versión correcta de las dependencias necesarias.
2. Consulta la documentación oficial deONNX para conocer los operadores y funciones compatibles.
3. Revisa los mensajes de error en busca de pistas y consulta la guíaUltralytics Problemas comunes.

Si los problemas persisten, ponte en contacto con el servicio de asistencia Ultralytics para obtener más ayuda.

Comentarios