Exportación de modelos con Ultralytics YOLO#

Exportar un modelo YOLO26 al formato ONNX es muy sencillo con Ultralytics. Proporciona métodos tanto en Python como de CLI para exportar modelos.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom-trained model

# Export the model
model.export(format="onnx")

Para obtener más detalles sobre el proceso, incluidas opciones avanzadas como el manejo de diferentes tamaños de entrada, consulta la guía de integración de ONNX.

Usar TensorRT para la exportación de modelos ofrece mejoras de rendimiento significativas. Los modelos YOLO26 exportados a TensorRT pueden lograr hasta 5 veces más velocidad de GPU, lo que lo hace ideal para aplicaciones de inferencia en tiempo real.

• Versatilidad: Optimiza los modelos para una configuración de hardware específica.
• Velocidad: Consigue una inferencia más rápida mediante optimizaciones avanzadas.
• Compatibilidad: Intégrate sin problemas con el hardware de NVIDIA.

Para obtener más información sobre cómo integrar TensorRT, consulta la guía de integración de TensorRT.

La cuantización INT8 es una excelente manera de comprimir el modelo y acelerar la inferencia, especialmente en dispositivos perimetrales. Así es como puedes habilitar la cuantización INT8:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")  # Load a model
model.export(format="onnx", quantize=8, data="coco8.yaml")

La cuantización INT8 se puede aplicar a formatos como ONNX, TensorRT, OpenVINO, CoreML y Rockchip RKNN. Para obtener resultados óptimos de cuantización, proporciona un conjunto de datos representativo utilizando el parámetro data. Consulta las opciones de cuantización para ver los valores de quantize aceptados y los formatos compatibles.

El tamaño de entrada dinámico permite que el modelo exportado maneje dimensiones de imagen variables, proporcionando flexibilidad y optimizando la eficiencia de procesamiento para diferentes casos de uso. Al exportar a formatos como ONNX o TensorRT, habilitar el tamaño de entrada dinámico garantiza que el modelo pueda adaptarse a diferentes formas de entrada sin problemas.

Para habilitar esta característica, usa el indicador dynamic=True durante la exportación:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.export(format="onnx", dynamic=True)

El dimensionamiento de entrada dinámico es particularmente útil para aplicaciones donde las dimensiones de entrada pueden variar, como el procesamiento de video o al manejar imágenes de diferentes fuentes.

Comprender y configurar los argumentos de exportación es crucial para optimizar el rendimiento del modelo:

• format: El formato de destino para el modelo exportado (por ejemplo, onnx, torchscript, saved_model).
• imgsz: Tamaño de imagen deseado para la entrada del modelo (por ejemplo, 640 o (height, width)).
• quantize: Precisión de cuantización, como 8/"int8", 16/"fp16", 32/"fp32", o los esquemas mixtos de pesos y activaciones "w8a16" y "w8a32" (INT8 dinámico de LiteRT) en formatos compatibles. Consulta las opciones de cuantización.
• optimize: Habilita una mayor optimización del compilador para exportaciones de DEEPX.

Para el despliegue en plataformas de hardware específicas, considera usar formatos de exportación especializados como TensorRT para GPUs NVIDIA, CoreML para dispositivos Apple o Edge TPU para dispositivos Google Coral.

Cuando exportas un modelo YOLO a formatos como ONNX o TensorRT, la estructura del tensor de salida depende de la tarea del modelo. Comprender estas salidas es importante para implementaciones de inferencia personalizadas.

Para los modelos de detección YOLO26 (por ejemplo, yolo26n.pt) exportados con nms=False, los formatos compatibles producen una salida sin NMS con la forma (batch_size, max_detections, 6) con valores de [x1, y1, x2, y2, confidence, class_id]. Con el valor predeterminado max_det=300, esto suele ser (batch_size, 300, 6). Algunos formatos con restricciones vuelven automáticamente al diseño de salida tradicional cuando los operadores de extremo a extremo no son compatibles.

De forma predeterminada (nms=None), los modelos de detección, incluido YOLO26, exportan predicciones brutas de uno a muchos: la salida suele ser un único tensor con la forma (batch_size, 4 + num_classes, num_predictions) donde los canales representan las coordenadas de las cajas más las puntuaciones por clase, y num_predictions depende de la resolución de entrada de exportación (y puede ser dinámica). La Guía de Detección de Extremo a Extremo abarca qué formatos conservan la salida de extremo a extremo.

Para los modelos de segmentación (por ejemplo, yolo26n-seg.pt), normalmente obtendrás dos salidas: el primer tensor con una forma similar a (batch_size, 4 + num_classes + mask_dim, num_predictions) (cajas, puntuaciones de clase y coeficientes de máscara) y el segundo tensor con una forma similar a (batch_size, mask_dim, proto_h, proto_w) que contiene prototipos de máscara utilizados con los coeficientes para generar máscaras de instancia. Los tamaños dependen de la resolución de entrada de exportación (y pueden ser dinámicos).

Para los modelos de pose (por ejemplo, yolo26n-pose.pt), el tensor de salida suele tener una forma similar a (batch_size, 4 + num_classes + keypoint_dims, num_predictions), donde keypoint_dims depende de la especificación de la pose (por ejemplo, el número de puntos clave y si se incluye la confianza) y num_predictions depende de la resolución de entrada de exportación (y puede ser dinámica).

Los ejemplos en los ejemplos de inferencia de ONNX demuestran cómo procesar estas salidas para cada tipo de modelo.

Ultralytics no proporciona actualmente una API de inferencia de C++ dedicada para modelos YOLO. Para despliegues en C++, exporta el modelo a un formato de tiempo de ejecución como ONNX, TensorRT, TorchScript o MNN, y luego carga el artefacto exportado con la API de C++ nativa de ese tiempo de ejecución.

Por ejemplo, exporta un modelo de detección con yolo export model=yolo26n.pt format=onnx y ejecuta el archivo .onnx con ONNX Runtime C++, o exporta con format=engine y ejecuta el motor de TensorRT desde una aplicación de TensorRT en C++. Cuando utilices un postprocesamiento personalizado en C++, haz coincidir el diseño del tensor de salida para tu tarea y los ajustes de exportación; las exportaciones de detección YOLO26 predeterminadas devuelven tensores de predicción en bruto que requieren NMS externo. Exporta con nms=False para detecciones sin NMS con la forma (batch, max_det, 6), o nms=True para integrar NMS en los formatos compatibles.

Al exportar con quantize=16 (FP16) o quantize=8 (INT8), la mayoría de los tensores se convierten a una precisión menor para reducir el tamaño del modelo y mejorar el rendimiento. Sin embargo, cuando nms=False está habilitado, el posprocesamiento (incluidos los índices de clase) se incrusta directamente en el gráfico exportado.

El tensor output0 contiene índices de clase, que se representan internamente como valores de punto flotante. FP16 no puede representar de manera fiable valores enteros superiores a 2048 debido a su limitada precisión de mantisa. Para evitar una posible pérdida de precisión o ID de clase incorrectos, output0 se mantiene intencionalmente en FP32.

Este comportamiento es el esperado y también se aplica a exportaciones de menor precisión o cuantizadas donde se debe preservar la fidelidad de los índices de clase.

Si necesitas salidas FP16 completas, exporta con nms=None y realiza el postprocesamiento externamente.