Ultralytics YOLO27:

Exportación a Intel OpenVINO#

OpenVINO Intel AI inference toolkit

En esta guía, explicamos cómo exportar modelos YOLO26 al formato OpenVINO, que puede proporcionar una aceleración de hasta 3x en CPU, además de acelerar la inferencia de YOLO en hardware Intel con GPU y NPU.

OpenVINO, abreviatura de kit de herramientas de optimización de inferencia visual abierta y redes neuronales, es un kit de herramientas integral para optimizar y desplegar modelos de inferencia de IA. Aunque el nombre contiene «Visual», OpenVINO también admite varias tareas adicionales, como lenguaje, audio, series temporales, etc.



Watch: How to Export Ultralytics YOLO26 to Intel OpenVINO Format for Faster Inference 🚀

Tareas compatibles#

La exportación a OpenVINO admite las siete tareas de Ultralytics. La segmentación semántica y la estimación de profundidad solo están disponibles con YOLO26, la única familia que incluye esas cabezas.

TareaYOLOv8YOLO11YOLO26
Detección✅✅✅
Segmentación✅✅✅
Semántica❌❌✅
Profundidad❌❌✅
Clasificación✅✅✅
Pose✅✅✅
OBB✅✅✅

Instalación#

Instala las dependencias de exportación de OpenVINO con:

pip install "ultralytics[export-openvino]"

Estas dependencias también se incluyen en ultralytics[export] y se instalan automáticamente cuando una exportación las requiere.

Ejemplos de uso#

El formato OpenVINO admite los modos Exportar, Predecir y Validar. Exporta tu modelo y, a continuación, carga el modelo exportado para ejecutar inferencias o validar su precisión en una CPU Intel, una GPU integrada o discreta, o una NPU.

Exportar
from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to OpenVINO format
model.export(format="openvino")  # creates 'yolo26n_openvino_model/'
Predecir
from ultralytics import YOLO

# Load the exported OpenVINO model
model = YOLO("yolo26n_openvino_model/")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

# Run inference on a specific device, available devices: ["intel:gpu", "intel:npu", "intel:cpu"]
results = model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")
Validar
from ultralytics import YOLO

# Load the exported OpenVINO model
model = YOLO("yolo26n_openvino_model/")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Argumentos de exportación#

ArgumentoTipoPredeterminadoDescripción
formatstr'openvino'Formato de destino del modelo exportado, que define la compatibilidad con diversos entornos de despliegue.
imgszint o tuple640Tamaño de imagen deseado para la entrada del modelo. Puede ser un entero para imágenes cuadradas o una tupla (height, width) para dimensiones específicas.
quantizeint o strNonePrecisión de cuantización: 16 (FP16) o 8 (INT8/PTQ; necesita calibración data/fraction); 32/sin definir es FP32. Sustituye a las opciones obsoletas half/int8.
dynamicboolFalsePermite tamaños de entrada dinámicos, lo que aporta mayor flexibilidad al gestionar dimensiones de imagen variables.
nmsbool, opcionalNoneSelecciona la salida en bruto (None, predeterminada), la NMS integrada (True) o la cabeza sin NMS (False).
batchint1Especifica el tamaño del lote de inferencia del modelo exportado o el número máximo de imágenes que el modelo exportado procesará simultáneamente en el modo predict.
datastrNoneRuta al archivo YAML del conjunto de datos, esencial para la cuantización; en clasificación, en su lugar, se acepta un directorio de conjunto de datos o el nombre de un conjunto de datos integrado. Si se omite con quantize=8, Ultralytics selecciona el conjunto de datos de calibración predeterminado para la tarea del modelo.
fractionfloat, int o list1.0Subconjunto de calibración como proporción, número de imágenes o proporciones/números de [train, val, test]. Las listas de dos elementos dejan test completo, mientras que 0 lo omite.

Para obtener más información sobre el proceso de exportación, visita la página de la documentación de Ultralytics sobre exportación.

Advertencia

OpenVINO™ es compatible con la mayoría de los procesadores Intel®, pero para garantizar un rendimiento óptimo:

  1. Verifica la compatibilidad con OpenVINO™ Comprueba si tu chip Intel® es compatible oficialmente con OpenVINO™ mediante la lista de compatibilidad de Intel.

  2. Identifica tu acelerador Determina si tu procesador incluye una NPU (unidad de procesamiento neuronal) o una GPU integrada consultando la guía de hardware de Intel.

  3. Instala los controladores más recientes Si tu chip admite una NPU o GPU, pero OpenVINO™ no la detecta, es posible que tengas que instalar o actualizar los controladores correspondientes. Sigue las instrucciones de instalación de controladores para habilitar la aceleración completa.

Siguiendo estos tres pasos, puedes asegurarte de que OpenVINO™ funcione de forma óptima en tu hardware Intel®.

Ventajas de OpenVINO#

  1. Rendimiento: OpenVINO ofrece inferencia de alto rendimiento al aprovechar la potencia de las CPU Intel, las GPU integradas y discretas, y las FPGA.
  2. Compatibilidad con la ejecución heterogénea: OpenVINO proporciona una API para escribir una vez y desplegar en cualquier hardware Intel compatible (CPU, GPU, FPGA, VPU, etc.).
  3. Optimizador de modelos: OpenVINO proporciona un optimizador de modelos que importa, convierte y optimiza modelos de frameworks populares de aprendizaje profundo, como PyTorch, TensorFlow, TensorFlow Lite, Keras, ONNX, PaddlePaddle y Caffe.
  4. Facilidad de uso: el kit de herramientas incluye una amplia colección de cuadernos de tutoriales, incluidos los de optimización de YOLO26, que enseñan distintos aspectos del kit.

Estructura de la exportación a OpenVINO#

Al exportar un modelo al formato OpenVINO, se genera un directorio que contiene lo siguiente:

  1. Archivo XML: describe la topología de la red.
  2. Archivo BIN: contiene los datos binarios de los pesos y sesgos.
  3. Archivo de correspondencias: contiene la correspondencia entre los tensores de salida del modelo original y los nombres de los tensores de OpenVINO.

Puedes utilizar estos archivos para ejecutar inferencias con el motor de inferencia de OpenVINO.

Uso de la exportación a OpenVINO en el despliegue#

Una vez que hayas exportado correctamente tu modelo al formato OpenVINO, tienes dos opciones principales para ejecutar inferencias:

  1. Utiliza el paquete ultralytics, que proporciona una API de alto nivel y encapsula OpenVINO Runtime.

  2. Utiliza el paquete nativo openvino para obtener un control más avanzado o personalizado sobre el comportamiento de la inferencia.

Inferencia con Ultralytics#

El paquete ultralytics te permite ejecutar fácilmente inferencias mediante el modelo OpenVINO exportado a través del método predict. También puedes especificar el dispositivo de destino (por ejemplo, intel:gpu, intel:npu, intel:cpu) mediante el argumento device.

from ultralytics import YOLO

# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/")  # the path of your exported OpenVINO model
# Run inference with the exported model
ov_model.predict(device="intel:gpu")  # specify the device you want to run inference on

Este enfoque es ideal para la creación rápida de prototipos o el despliegue cuando no necesitas tener un control total sobre la canalización de inferencia.

Inferencia con OpenVINO Runtime#

OpenVINO Runtime proporciona una API unificada para la inferencia en todo el hardware Intel compatible. También ofrece funciones avanzadas, como el equilibrio de carga entre dispositivos Intel y la ejecución asíncrona. Para obtener más información sobre cómo ejecutar inferencias, consulta los cuadernos de YOLO26.

Recuerda que necesitarás los archivos XML y BIN, así como cualquier configuración específica de la aplicación, como el tamaño de entrada, el factor de escala para la normalización, etc., para configurar y utilizar correctamente el modelo con Runtime.

En tu aplicación de despliegue, normalmente seguirías estos pasos:

  1. Inicializa OpenVINO creando core = Core().
  2. Carga el modelo mediante el método core.read_model().
  3. Compila el modelo mediante la función core.compile_model().
  4. Prepara la entrada (imagen, texto, audio, etc.).
  5. Ejecuta la inferencia mediante compiled_model(input_data).

Para consultar pasos más detallados y fragmentos de código, consulta la documentación de OpenVINO o el tutorial de la API.

Pruebas de rendimiento de YOLO26 con OpenVINO#

El equipo de Ultralytics realizó pruebas de rendimiento de YOLO26 en varios formatos de modelo y niveles de precisión, evaluando la velocidad y la precisión en distintos dispositivos Intel compatibles con OpenVINO.

Nota

  • Los resultados de las pruebas de rendimiento que aparecen a continuación son orientativos y pueden variar en función de la configuración exacta de hardware y software de un sistema, así como de la carga de trabajo del sistema en el momento de realizar las pruebas.

  • Todas las pruebas de rendimiento se realizaron con la versión 2026.2.1 del paquete Python openvino.

  • Los modelos YOLO26 en NPU solo son compatibles con sistemas Intel® Core™ Ultra™ de las series 2xxV y 3xx, y posteriores.

Intel® Core™ Ultra#

La serie Intel® Core™ Ultra™ representa un nuevo referente en computación de alto rendimiento, diseñada para satisfacer las necesidades cambiantes de los usuarios modernos, desde jugadores y creadores hasta profesionales que utilizan la IA. Esta gama de nueva generación es más que una serie de CPU tradicional: combina potentes núcleos de CPU, capacidades de GPU integrada de alto rendimiento y una unidad de procesamiento neuronal (NPU) dedicada en un único chip, ofreciendo una solución unificada para cargas de trabajo informáticas diversas e intensivas.

En el núcleo de la arquitectura Intel® Core Ultra™ se encuentra un diseño híbrido que permite un rendimiento excepcional en tareas de procesamiento tradicionales, cargas de trabajo aceleradas por GPU y operaciones impulsadas por IA. La inclusión de la NPU mejora la inferencia de IA en el dispositivo, lo que permite un aprendizaje automático y un procesamiento de datos más rápidos y eficientes en una amplia variedad de aplicaciones.

La familia Core Ultra™ incluye varios modelos adaptados a distintas necesidades de rendimiento, con opciones que van desde diseños energéticamente eficientes hasta variantes de alta potencia marcadas con la designación «H», ideales para portátiles y formatos compactos que requieren una gran capacidad informática. En toda la gama, los usuarios se benefician de la sinergia de la integración de CPU, GPU y NPU, que ofrece una eficiencia, capacidad de respuesta y capacidades multitarea extraordinarias.

Como parte de la innovación continua de Intel, la serie Core Ultra™ establece un nuevo estándar para la informática preparada para el futuro. Con varios modelos disponibles y más en camino, esta serie subraya el compromiso de Intel de ofrecer soluciones de vanguardia para la próxima generación de dispositivos inteligentes mejorados con IA.

Las pruebas de rendimiento que aparecen a continuación se ejecutaron en Intel® Core™ Ultra™ X7 358H, Intel® Core™ Ultra™ 7 258V e Intel® Core™ Ultra™ 7 155H con precisión FP32, FP16 e INT8.

Intel® Core™ Ultra™ X7 358H#

Evaluaciones comparativas
Intel Core Ultra GPU benchmarks
Resultados detallados de las pruebas de rendimiento
ModeloFormatoPrecisiónEstadoTamaño (MB)metrics/mAP50-95(B)Tiempo de inferencia (ms/im)
YOLO26nPyTorch (CPU)FP32✅5.30.476529.28
YOLO26nOpenVINOFP32✅9.70.47624.09
YOLO26nOpenVINOFP16✅5.10.47624.03
YOLO26nOpenVINOINT8✅3.20.46344.24
YOLO26sPyTorch (CPU)FP32✅19.50.570359.32
YOLO26sOpenVINOFP32✅36.70.56165.08
YOLO26sOpenVINOFP16✅18.70.56165.14
YOLO26sOpenVINOINT8✅10.00.54624.47
YOLO26mPyTorch (CPU)FP32✅42.20.6196143.21
YOLO26mOpenVINOFP32✅78.40.61667.1
YOLO26mOpenVINOFP16✅39.50.61667.06
YOLO26mOpenVINOINT8✅20.60.60555.61
YOLO26lPyTorch (CPU)FP32✅50.70.6215181.16
YOLO26lOpenVINOFP32✅95.30.62058.45
YOLO26lOpenVINOFP16✅48.10.62058.49
YOLO26lOpenVINOINT8✅25.20.59386.25
YOLO26xPyTorch (CPU)FP32✅113.20.6512379.75
YOLO26xOpenVINOFP32✅213.30.656813.03
YOLO26xOpenVINOFP16✅107.10.656812.98
YOLO26xOpenVINOINT8✅54.80.63858.74

Intel® Core™ Ultra™ 7 258V#

Evaluaciones comparativas
Intel Core Ultra GPU benchmarks
Resultados detallados de las pruebas de rendimiento
ModeloFormatoPrecisiónEstadoTamaño (MB)metrics/mAP50-95(B)Tiempo de inferencia (ms/im)
YOLO26nPyTorch (CPU)FP32✅5.30.476527.33
YOLO26nOpenVINOFP32✅9.60.47643.33
YOLO26nOpenVINOFP16✅5.10.47643.34
YOLO26nOpenVINOINT8✅3.20.46343.46
YOLO26sPyTorch (CPU)FP32✅19.50.570360.2
YOLO26sOpenVINOFP32✅36.70.56164.66
YOLO26sOpenVINOFP16✅18.60.56164.65
YOLO26sOpenVINOINT8✅10.00.54623.99
YOLO26mPyTorch (CPU)FP32✅42.20.6196152.87
YOLO26mOpenVINOFP32✅78.40.61689.03
YOLO26mOpenVINOFP16✅39.50.61688.98
YOLO26mOpenVINOINT8✅20.60.60555.7
YOLO26lPyTorch (CPU)FP32✅50.70.6215201.57
YOLO26lOpenVINOFP32✅95.30.620311.32
YOLO26lOpenVINOFP16✅48.10.620311.36
YOLO26lOpenVINOINT8✅25.20.59387.45
YOLO26xPyTorch (CPU)FP32✅113.20.6512431.04
YOLO26xOpenVINOFP32✅213.20.656819.08
YOLO26xOpenVINOFP16✅107.10.656819.63
YOLO26xOpenVINOINT8✅54.80.638513.69

Intel® Core™ Ultra™ 7 155H#

Evaluaciones comparativas
Intel Core Ultra GPU benchmarks
Resultados detallados de las pruebas de rendimiento
ModeloFormatoPrecisiónEstadoTamaño (MB)metrics/mAP50-95(B)Tiempo de inferencia (ms/im)
YOLO26nPyTorch (CPU)FP32✅5.30.476533.19
YOLO26nOpenVINOFP32✅9.60.47589.13
YOLO26nOpenVINOFP16✅5.10.47589.07
YOLO26nOpenVINOINT8✅3.20.45735.79
YOLO26sPyTorch (CPU)FP32✅19.50.570370.92
YOLO26sOpenVINOFP32✅36.70.561616.37
YOLO26sOpenVINOFP16✅18.60.561616.65
YOLO26sOpenVINOINT8✅10.00.5459.27
YOLO26mPyTorch (CPU)FP32✅42.20.6196192.45
YOLO26mOpenVINOFP32✅78.40.616734.47
YOLO26mOpenVINOFP16✅39.50.616735.71
YOLO26mOpenVINOINT8✅20.60.603915.46
YOLO26lPyTorch (CPU)FP32✅50.70.6215239.19
YOLO26lOpenVINOFP32✅95.30.62143.24
YOLO26lOpenVINOFP16✅48.10.62143.4
YOLO26lOpenVINOINT8✅25.20.599919.72
YOLO26xPyTorch (CPU)FP32✅113.20.6512511.89
YOLO26xOpenVINOFP32✅213.20.655279.49
YOLO26xOpenVINOFP16✅107.10.655279.45
YOLO26xOpenVINOINT8✅54.80.64234.66

Reproduce nuestros resultados#

Para reproducir las pruebas de rendimiento de Ultralytics anteriores en todos los formatos de exportación, ejecuta este código:

Ejemplo
from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml")

Ten en cuenta que los resultados de las pruebas de rendimiento pueden variar en función de la configuración exacta de hardware y software de un sistema, así como de la carga de trabajo del sistema en el momento de realizar las pruebas. Para obtener resultados más fiables, utiliza un conjunto de datos con un gran número de imágenes, es decir, data='coco.yaml' (5000 imágenes de validación).

Conclusión#

Los resultados de las pruebas de rendimiento demuestran claramente las ventajas de exportar el modelo YOLO26 al formato OpenVINO. En distintos modelos y plataformas de hardware, el formato OpenVINO supera sistemáticamente a otros formatos en velocidad de inferencia, al tiempo que mantiene una precisión comparable.

Las pruebas de rendimiento ponen de manifiesto la eficacia de OpenVINO como herramienta para desplegar modelos de aprendizaje profundo. Al convertir los modelos al formato OpenVINO, los desarrolladores pueden lograr mejoras de rendimiento significativas, lo que facilita el despliegue de estos modelos en aplicaciones del mundo real.

Para obtener información e instrucciones más detalladas sobre el uso de OpenVINO, consulta la documentación oficial de OpenVINO.

Preguntas frecuentes#

  • Exportar modelos YOLO26 al formato OpenVINO puede mejorar significativamente la velocidad de la CPU y habilitar la aceleración mediante GPU y NPU en hardware Intel. Para exportarlos, puedes utilizar Python o la CLI, como se muestra a continuación:

    Ejemplo
    from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model
model.export(format="openvino")  # creates 'yolo26n_openvino_model/'

    Para obtener más información, consulta la documentación sobre formatos de exportación.

  • El uso del kit de herramientas OpenVINO de Intel con modelos YOLO26 ofrece varias ventajas:

    1. Rendimiento: consigue una aceleración de hasta 3x en la inferencia en CPU y aprovecha las GPU y NPU Intel para acelerarla.
    2. Optimizador de modelos: convierte, optimiza y ejecuta modelos de frameworks populares como PyTorch, TensorFlow y ONNX.
    3. Facilidad de uso: hay disponible una amplia colección de cuadernos de tutoriales para ayudarte a empezar, incluidos algunos para YOLO26.
    4. Ejecución heterogénea: despliega modelos en distintos dispositivos Intel mediante una API unificada.

    Para consultar comparaciones detalladas de rendimiento, visita nuestra sección de pruebas de rendimiento.

  • Después de exportar un modelo YOLO26n al formato OpenVINO, puedes ejecutar inferencias mediante Python o la CLI:

    Ejemplo
    from ultralytics import YOLO

# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/")

# Run inference
results = ov_model("https://ultralytics.com/images/bus.jpg")

    Consulta nuestra documentación del modo de predicción para obtener más información.

  • Ultralytics YOLO26 está optimizado para la detección de objetos en tiempo real, con gran precisión y velocidad. En concreto, al combinarlo con OpenVINO, YOLO26 ofrece:

    • Una aceleración de hasta 3x en las CPU Intel
    • Un despliegue fluido en GPU y NPU Intel
    • Una precisión uniforme y comparable en distintos formatos de exportación

    Para un análisis exhaustivo del rendimiento, consulta nuestras pruebas de rendimiento detalladas de YOLO26 en distintos dispositivos.

  • Sí, puedes realizar pruebas de rendimiento de modelos YOLO26 en varios formatos, incluidos PyTorch, TorchScript, ONNX y OpenVINO. Utiliza el siguiente fragmento de código para ejecutar pruebas en el conjunto de datos que elijas:

    Ejemplo
    from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and [accuracy](https://www.ultralytics.com/glossary/accuracy) on the COCO8 dataset for all export formats
results = model.benchmark(data="coco8.yaml")

    Para consultar resultados detallados de las pruebas de rendimiento, consulta nuestra sección de pruebas de rendimiento y la documentación sobre formatos de exportación.

Colaboradores
GLglenn-jocher28LAlakshanthad11AMambitious-octopus7RIRizwanMunawar4RAraimbekovm3LALaughing-q2FCfcakyon2GOGornoka1ONonuralpszr1EAeasyrider111PDpderrenger1MAMatthewNoyce1ANandrei-kochin1ABabirami-vina1

Comentarios