Exportación de modelos con Ultralytics YOLO#

Exportar un modelo YOLO26 a formato ONNX es directo con Ultralytics. Proporciona métodos tanto de Python como de CLI para exportar modelos.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom-trained model

# Export the model
model.export(format="onnx")

Para obtener más detalles sobre el proceso, incluidas opciones avanzadas como el manejo de diferentes tamaños de entrada, consulta la guía de integración de ONNX.

Usar TensorRT para la exportación de modelos ofrece mejoras de rendimiento significativas. Los modelos YOLO26 exportados a TensorRT pueden lograr hasta una aceleración de 5 veces en GPU, lo que lo hace ideal para aplicaciones de inferencia en tiempo real.

• Versatilidad: Optimiza modelos para una configuración de hardware específica.
• Velocidad: Logra una inferencia más rápida a través de optimizaciones avanzadas.
• Compatibilidad: Integra sin problemas con hardware NVIDIA.

Para obtener más información sobre la integración de TensorRT, consulta la guía de integración de TensorRT.

La cuantización INT8 es una excelente manera de comprimir el modelo y acelerar la inferencia, especialmente en dispositivos de borde. Aquí tienes cómo puedes habilitar la cuantización INT8:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")  # Load a model
model.export(format="onnx", quantize=8, data="coco8.yaml")

La cuantización INT8 se puede aplicar a formatos como ONNX, TensorRT, OpenVINO, CoreML y Rockchip RKNN. Para obtener resultados óptimos de cuantización, proporciona un conjunto de datos representativo utilizando el parámetro data. Consulta Opciones de cuantización para ver los valores aceptados de quantize y los formatos compatibles.

El tamaño de entrada dinámico permite que el modelo exportado gestione dimensiones de imagen variables, lo que proporciona flexibilidad y optimiza la eficiencia de procesamiento para diferentes casos de uso. Al exportar a formatos como ONNX o TensorRT, habilitar el tamaño de entrada dinámico garantiza que el modelo pueda adaptarse a diferentes formas de entrada sin problemas.

Para habilitar esta característica, usa el flag dynamic=True durante la exportación:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.export(format="onnx", dynamic=True)

El dimensionamiento de entrada dinámico es particularmente útil para aplicaciones donde las dimensiones de entrada pueden variar, como en el procesamiento de vídeo o cuando se manejan imágenes de diferentes fuentes.

Entender y configurar los argumentos de exportación es crucial para optimizar el rendimiento del modelo:

• format: El formato de destino para el modelo exportado (por ejemplo, onnx, torchscript, tensorflow).
• imgsz: Tamaño de imagen deseado para la entrada del modelo (por ejemplo, 640 o (height, width)).
• quantize: Precisión de cuantización, como 8/"int8", 16/"fp16", 32/"fp32", o los esquemas mixtos de peso/activación "w8a16" y "w8a32" (LiteRT INT8 dinámico) en formatos compatibles. Consulta Opciones de cuantización.
• optimize: Habilita una mayor optimización del compilador para las exportaciones DEEPX.

Para el despliegue en plataformas de hardware específicas, considera el uso de formatos de exportación especializados como TensorRT para GPUs NVIDIA, CoreML para dispositivos Apple, o Edge TPU para dispositivos Google Coral.

Cuando exportas un modelo YOLO a formatos como ONNX o TensorRT, la estructura del tensor de salida depende de la tarea del modelo. Entender estas salidas es importante para implementaciones de inferencia personalizadas.

Para modelos de detección YOLO26 (por ejemplo, yolo26n.pt), la exportación de extremo a extremo está habilitada por defecto en los formatos que la admiten, por lo que la salida tiene una forma similar a (batch_size, max_detections, 6) con valores [x1, y1, x2, y2, confidence, class_id]. Con el valor predeterminado max_det=300, esto suele ser (batch_size, 300, 6). Algunos formatos restringidos vuelven automáticamente al diseño de salida tradicional cuando los operadores de extremo a extremo no son compatibles.

Para los modelos de detección que no son de extremo a extremo, o para los modelos YOLO26 exportados con end2end=False, la salida suele ser un único tensor con una forma similar a (batch_size, 4 + num_classes, num_predictions) en el que los canales representan las coordenadas de las cajas más las puntuaciones por clase, y num_predictions depende de la resolución de entrada de la exportación (y puede ser dinámico).

Para los modelos de segmentación (por ejemplo, yolo26n-seg.pt), normalmente obtendrás dos salidas: el primer tensor con una forma similar a (batch_size, 4 + num_classes + mask_dim, num_predictions) (cajas, puntuaciones de clase y coeficientes de máscara) y el segundo tensor con una forma similar a (batch_size, mask_dim, proto_h, proto_w) que contiene prototipos de máscara utilizados con los coeficientes para generar máscaras de instancia. Los tamaños dependen de la resolución de entrada de la exportación (y pueden ser dinámicos).

Para los modelos de pose (por ejemplo, yolo26n-pose.pt), el tensor de salida suele tener una forma similar a (batch_size, 4 + num_classes + keypoint_dims, num_predictions), donde keypoint_dims depende de la especificación de pose (por ejemplo, el número de puntos clave y si se incluye la confianza), y num_predictions depende de la resolución de entrada de la exportación (y puede ser dinámico).

Los ejemplos de los ejemplos de inferencia de ONNX demuestran cómo procesar estas salidas para cada tipo de modelo.

Ultralytics no proporciona actualmente una API de inferencia en C++ dedicada para los modelos YOLO. Para despliegues en C++, exporta el modelo a un formato de tiempo de ejecución como ONNX, TensorRT, TorchScript o MNN, y luego carga el artefacto exportado con la API nativa de C++ de ese tiempo de ejecución.

Por ejemplo, exporta un modelo de detección con yolo export model=yolo26n.pt format=onnx y ejecuta el archivo .onnx con ONNX Runtime C++, o exporta con format=engine y ejecuta el motor de TensorRT desde una aplicación de TensorRT en C++. Cuando utilices un postprocesamiento en C++ personalizado, haz que coincida con el diseño del tensor de salida para tu tarea y tus ajustes de exportación; las exportaciones de detección de extremo a extremo de YOLO26 suelen devolver (batch, max_det, 6), mientras que las exportaciones que no son de extremo a extremo devuelven tensores de predicción brutos que requieren un postprocesamiento externo.

Al exportar con quantize=16 (FP16) o quantize=8 (INT8), la mayoría de los tensores se convierten a una precisión menor para reducir el tamaño del modelo y mejorar el rendimiento. Sin embargo, cuando end2end=True está habilitado, el postprocesamiento (incluidos los índices de clase) se incrusta directamente en el grafo exportado.

El tensor output0 contiene índices de clase, que se representan internamente como valores de coma flotante. FP16 no puede representar de forma fiable valores enteros superiores a 2048 debido a su limitada precisión de mantisa. Para evitar una posible pérdida de precisión o ID de clase incorrectos, output0 se mantiene intencionadamente en FP32.

Este comportamiento es esperado y también se aplica a exportaciones de menor precisión o cuantizadas donde la fidelidad del índice de clase debe preservarse.

Si se requieren salidas completas en FP16, exporta con end2end=False y realiza el postprocesamiento externamente.