Link to this sectionExportación a Intel OpenVINO#

En esta guía, tratamos la exportación de modelos YOLO26 al formato OpenVINO, el cual puede proporcionar hasta 3x de aceleración en CPU, además de acelerar la inferencia de YOLO en hardware GPU y NPU de Intel.

OpenVINO, abreviatura de Open Visual Inference & Neural Network Optimization toolkit, es un kit de herramientas integral para optimizar e implementar modelos de inferencia de IA. Aunque el nombre contenga Visual, OpenVINO también admite diversas tareas adicionales, incluyendo lenguaje, audio, series temporales, etc.

Link to this sectionEjemplos de uso#

El formato OpenVINO admite los modos Export, Predict y Validate. Exporta tu modelo y, a continuación, cárgalo para ejecutar la inferencia o validar su precisión en una CPU, GPU integrada/discreta o NPU de Intel.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to OpenVINO format
model.export(format="openvino")  # creates 'yolo26n_openvino_model/'

from ultralytics import YOLO

# Load the exported OpenVINO model
model = YOLO("yolo26n_openvino_model/")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

# Run inference on a specific device, available devices: ["intel:gpu", "intel:npu", "intel:cpu"]
results = model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

from ultralytics import YOLO

# Load the exported OpenVINO model
model = YOLO("yolo26n_openvino_model/")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this sectionArgumentos de exportación#

Para obtener más detalles sobre el proceso de exportación, visita la página de documentación de Ultralytics sobre la exportación.

Link to this sectionVentajas de OpenVINO#

1. Rendimiento: OpenVINO ofrece una inferencia de alto rendimiento utilizando la potencia de las CPU de Intel, las GPU integradas y discretas, y las FPGA.
2. Compatibilidad con ejecución heterogénea: OpenVINO proporciona una API para programar una vez e implementar en cualquier hardware Intel compatible (CPU, GPU, FPGA, VPU, etc.).
3. Optimizador de modelos: OpenVINO proporciona un optimizador de modelos que importa, convierte y optimiza modelos de frameworks populares de deep learning como PyTorch, TensorFlow, TensorFlow Lite, Keras, ONNX, PaddlePaddle y Caffe.
4. Facilidad de uso: El kit de herramientas incluye una amplia colección de tutoriales en formato notebook (incluyendo optimización de YOLO26) que enseñan diferentes aspectos del mismo.

Link to this sectionEstructura de la exportación a OpenVINO#

Cuando exportas un modelo al formato OpenVINO, el resultado es un directorio que contiene lo siguiente:

1. Archivo XML: Describe la topología de la red.
2. Archivo BIN: Contiene los datos binarios de los pesos y sesgos.
3. Archivo de mapeo: Contiene el mapeo de los tensores de salida del modelo original a los nombres de los tensores de OpenVINO.

Puedes usar estos archivos para ejecutar la inferencia con el motor de inferencia de OpenVINO.

Link to this sectionUso de la exportación a OpenVINO en la implementación#

Una vez que tu modelo se haya exportado correctamente al formato OpenVINO, tienes dos opciones principales para ejecutar la inferencia:

1. Usa el paquete ultralytics, que proporciona una API de alto nivel y envuelve el entorno de ejecución (Runtime) de OpenVINO.

2. Usa el paquete nativo openvino para un control más avanzado o personalizado sobre el comportamiento de la inferencia.

Link to this sectionInferencia con Ultralytics#

El paquete ultralytics te permite ejecutar fácilmente la inferencia utilizando el modelo OpenVINO exportado a través del método predict. También puedes especificar el dispositivo de destino (p. ej., intel:gpu, intel:npu, intel:cpu) usando el argumento device.

from ultralytics import YOLO

# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/")  # the path of your exported OpenVINO model
# Run inference with the exported model
ov_model.predict(device="intel:gpu")  # specify the device you want to run inference on

Este enfoque es ideal para la creación rápida de prototipos o la implementación cuando no necesitas un control total sobre el pipeline de inferencia.

Link to this sectionInferencia con OpenVINO Runtime#

El entorno de ejecución OpenVINO Runtime proporciona una API unificada para la inferencia en todo el hardware Intel compatible. También ofrece capacidades avanzadas como el equilibrio de carga entre hardware Intel y la ejecución asíncrona. Para obtener más información sobre cómo ejecutar la inferencia, consulta los notebooks de YOLO26.

Recuerda que necesitarás los archivos XML y BIN, así como cualquier configuración específica de la aplicación, como el tamaño de entrada, el factor de escala para la normalización, etc., para configurar y utilizar correctamente el modelo con el entorno de ejecución.

En tu aplicación de implementación, normalmente seguirías estos pasos:

1. Inicializa OpenVINO creando core = Core().
2. Carga el modelo usando el método core.read_model().
3. Compila el modelo usando la función core.compile_model().
4. Prepara la entrada (imagen, texto, audio, etc.).
5. Ejecuta la inferencia usando compiled_model(input_data).

Para obtener pasos más detallados y fragmentos de código, consulta la documentación de OpenVINO o el tutorial de la API.

Link to this sectionBenchmarks de YOLO26 en OpenVINO#

El equipo de Ultralytics ha evaluado YOLO26 en varios formatos de modelo y precision, evaluando la velocidad y la precisión en diferentes dispositivos Intel compatibles con OpenVINO.

Link to this sectionIntel® Core™ Ultra#

La serie Intel® Core™ Ultra™ representa un nuevo estándar en la informática de alto rendimiento, diseñada para satisfacer las demandas cambiantes de los usuarios modernos, desde jugadores y creadores hasta profesionales que aprovechan la IA. Esta línea de nueva generación es más que una serie de CPU tradicional; combina potentes núcleos de CPU, capacidades de GPU integrada de alto rendimiento y una NPU (Neural Processing Unit) dedicada en un solo chip, ofreciendo una solución unificada para cargas de trabajo informáticas diversas e intensivas.

En el corazón de la arquitectura Intel® Core Ultra™ se encuentra un diseño híbrido que permite un rendimiento excepcional en tareas de procesamiento tradicionales, cargas de trabajo aceleradas por GPU y operaciones impulsadas por IA. La inclusión de la NPU mejora la inferencia de IA en el dispositivo, permitiendo un aprendizaje automático y un procesamiento de datos más rápidos y eficientes en una amplia gama de aplicaciones.

La familia Core Ultra™ incluye varios modelos adaptados a diferentes necesidades de rendimiento, con opciones que van desde diseños energéticamente eficientes hasta variantes de alta potencia marcadas con la designación "H", ideales para portátiles y formatos compactos que requieren una potencia de cálculo seria. En toda la gama, los usuarios se benefician de la sinergia de la integración de CPU, GPU y NPU, lo que proporciona una eficiencia, capacidad de respuesta y capacidades multitarea notables.

Como parte de la innovación continua de Intel, la serie Core Ultra™ establece un nuevo estándar para la informática preparada para el futuro. Con múltiples modelos disponibles y más en el horizonte, esta serie subraya el compromiso de Intel de ofrecer soluciones de vanguardia para la próxima generación de dispositivos inteligentes mejorados con IA.

Los benchmarks que se muestran a continuación se ejecutan en Intel® Core™ Ultra™ X7 358H, Intel® Core™ Ultra™ 7 258V e Intel® Core™ Ultra™ 7 155H a una precisión de FP32, FP16 e INT8.

Link to this sectionIntel® Core™ Ultra™ X7 358H#

Benchmarks

GPU integrada Intel® Arc™Intel® Panther Lake CPUNPU integrada Intel® AI Boost

Resultados detallados de los benchmarks

Modelo	Formato	Precisión	Estado	Tamaño (MB)	métricas/mAP50-95(B)	Tiempo de inferencia (ms/im)
YOLO26n	PyTorch (CPU)	FP32	✅	5.3	0.4765	25.18
YOLO26n	OpenVINO	FP32	✅	9.6	0.4763	2.67
YOLO26n	OpenVINO	FP16	✅	5.1	0.4763	2.64
YOLO26n	OpenVINO	INT8	✅	3.2	0.4625	2.73
YOLO26s	PyTorch (CPU)	FP32	✅	19.5	0.5703	50.09
YOLO26s	OpenVINO	FP32	✅	36.7	0.5615	3.57
YOLO26s	OpenVINO	FP16	✅	18.6	0.5615	3.55
YOLO26s	OpenVINO	INT8	✅	10.0	0.547	3.09
YOLO26m	PyTorch (CPU)	FP32	✅	42.2	0.6196	135.1
YOLO26m	OpenVINO	FP32	✅	78.3	0.6168	5.64
YOLO26m	OpenVINO	FP16	✅	39.5	0.6168	5.85
YOLO26m	OpenVINO	INT8	✅	20.5	0.5994	4.14
YOLO26l	PyTorch (CPU)	FP32	✅	50.7	0.6215	169.75
YOLO26l	OpenVINO	FP32	✅	95.3	0.6206	8.14
YOLO26l	OpenVINO	FP16	✅	48.1	0.6206	8.18
YOLO26l	OpenVINO	INT8	✅	25.2	0.5999	4.67
YOLO26x	PyTorch (CPU)	FP32	✅	113.2	0.6512	407.56
YOLO26x	OpenVINO	FP32	✅	213.2	0.6569	13.11
YOLO26x	OpenVINO	FP16	✅	107.1	0.6569	13.15
YOLO26x	OpenVINO	INT8	✅	54.8	0.6374	9.24

Link to this sectionIntel® Core™ Ultra™ 7 258V#

Benchmarks

GPU integrada Intel® Arc™CPU Intel® Lunar LakeNPU integrada Intel® AI Boost

Resultados detallados de los benchmarks

Modelo	Formato	Precisión	Estado	Tamaño (MB)	métricas/mAP50-95(B)	Tiempo de inferencia (ms/im)
YOLO26n	PyTorch (CPU)	FP32	✅	5.3	0.4765	31.43
YOLO26n	OpenVINO	FP32	✅	9.6	0.4762	3.57
YOLO26n	OpenVINO	FP16	✅	5.1	0.4762	3.53
YOLO26n	OpenVINO	INT8	✅	3.2	0.4625	3.65
YOLO26s	PyTorch (CPU)	FP32	✅	19.5	0.5703	60.4
YOLO26s	OpenVINO	FP32	✅	36.7	0.5616	5.02
YOLO26s	OpenVINO	FP16	✅	18.6	0.5616	5.01
YOLO26s	OpenVINO	INT8	✅	10.0	0.547	4.31
YOLO26m	PyTorch (CPU)	FP32	✅	42.2	0.6196	173.31
YOLO26m	OpenVINO	FP32	✅	78.3	0.6191	9.48
YOLO26m	OpenVINO	FP16	✅	39.5	0.6168	9.6
YOLO26m	OpenVINO	INT8	✅	20.5	0.5994	6.03
YOLO26l	PyTorch (CPU)	FP32	✅	50.7	0.6173	224.52
YOLO26l	OpenVINO	FP32	✅	95.3	0.3725	11.88
YOLO26l	OpenVINO	FP16	✅	48.1	0.6201	12.0
YOLO26l	OpenVINO	INT8	✅	25.2	0.5999	8.47
YOLO26x	PyTorch (CPU)	FP32	✅	113.2	0.6512	595.72
YOLO26x	OpenVINO	FP32	✅	213.2	0.6567	20.26
YOLO26x	OpenVINO	FP16	✅	107.1	0.6454	20.25
YOLO26x	OpenVINO	INT8	✅	54.8	0.6374	14.77

Link to this sectionIntel® Core™ Ultra™ 7 155H#

Benchmarks

GPU integrada Intel® Arc™CPU Intel® Meteor Lake

Resultados detallados de los benchmarks

Modelo	Formato	Precisión	Estado	Tamaño (MB)	métricas/mAP50-95(B)	Tiempo de inferencia (ms/im)
YOLO26n	PyTorch (CPU)	FP32	✅	5.3	0.4765	38,77
YOLO26n	OpenVINO	FP32	✅	9.6	0,4774	9.87
YOLO26n	OpenVINO	FP16	✅	5.1	0,4774	9,84
YOLO26n	OpenVINO	INT8	✅	3.2	0,4705	5.86
YOLO26s	PyTorch (CPU)	FP32	✅	19.5	0.5703	69,54
YOLO26s	OpenVINO	FP32	✅	36.7	0.5616	17,29
YOLO26s	OpenVINO	FP16	✅	18.6	0.5616	17,06
YOLO26s	OpenVINO	INT8	✅	10.0	0,5452	10,33
YOLO26m	PyTorch (CPU)	FP32	✅	42.2	0.6196	192,22
YOLO26m	OpenVINO	FP32	✅	78.3	0,6187	34,64
YOLO26m	OpenVINO	FP16	✅	39.5	0,6187	34,75
YOLO26m	OpenVINO	INT8	✅	20.5	0,6073	15,99
YOLO26l	PyTorch (CPU)	FP32	✅	50.7	0.6215	245,62
YOLO26l	OpenVINO	FP32	✅	95.3	0,6202	43.7
YOLO26l	OpenVINO	FP16	✅	48.1	0,6202	44,65
YOLO26l	OpenVINO	INT8	✅	25.2	0,6048	20,31
YOLO26x	PyTorch (CPU)	FP32	✅	113.2	0.6512	513,06
YOLO26x	OpenVINO	FP32	✅	213.2	0,6544	80,19
YOLO26x	OpenVINO	FP16	✅	107.1	0,6544	79,83
YOLO26x	OpenVINO	INT8	✅	54.8	0,6393	35,16

Link to this sectionReproduce nuestros resultados#

Para reproducir los benchmarks de Ultralytics anteriores en todos los formatos de exportación, ejecuta este código:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml")

Link to this sectionConclusión#

Los resultados de los benchmarks demuestran claramente las ventajas de exportar el modelo YOLO26 al formato OpenVINO. En diferentes modelos y plataformas de hardware, el formato OpenVINO supera constantemente a otros formatos en términos de velocidad de inferencia mientras mantiene una precisión comparable.

Los benchmarks subrayan la eficacia de OpenVINO como herramienta para implementar modelos de aprendizaje profundo. Al convertir los modelos al formato OpenVINO, los desarrolladores pueden conseguir mejoras de rendimiento significativas, lo que facilita la implementación de estos modelos en aplicaciones del mundo real.

Para obtener información más detallada e instrucciones sobre el uso de OpenVINO, consulta la documentación oficial de OpenVINO.

Link to this sectionFAQ#

Link to this section¿Cómo puedo exportar modelos YOLO26 al formato OpenVINO?#

Exportar modelos YOLO26 al formato OpenVINO puede mejorar significativamente la velocidad de la CPU y permitir aceleraciones de GPU y NPU en hardware Intel. Para exportar, puedes usar Python o la CLI como se muestra a continuación:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model
model.export(format="openvino")  # creates 'yolo26n_openvino_model/'

Para obtener más información, consulta la documentación de formatos de exportación.

Link to this section¿Cuáles son las ventajas de usar OpenVINO con modelos YOLO26?#

Usar el kit de herramientas OpenVINO de Intel con modelos YOLO26 ofrece varias ventajas:

1. Rendimiento: logra una aceleración de hasta 3x en la inferencia de la CPU y aprovecha las GPU y NPU de Intel para la aceleración.
2. Optimizador de modelos: convierte, optimiza y ejecuta modelos de frameworks populares como PyTorch, TensorFlow y ONNX.
3. Facilidad de uso: hay disponible una gran colección de cuadernos de tutoriales para ayudar a los usuarios a empezar, incluidos algunos para YOLO26.
4. Ejecución heterogénea: implementa modelos en varios hardwares de Intel con una API unificada.

Para ver comparaciones de rendimiento detalladas, visita nuestra sección de benchmarks.

Link to this section¿Cómo puedo ejecutar la inferencia usando un modelo YOLO26 exportado a OpenVINO?#

Después de exportar un modelo YOLO26n al formato OpenVINO, puedes ejecutar la inferencia usando Python o la CLI:

from ultralytics import YOLO

# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/")

# Run inference
results = ov_model("https://ultralytics.com/images/bus.jpg")

Consulta nuestra documentación del modo de predicción para obtener más detalles.

Link to this section¿Por qué debería elegir Ultralytics YOLO26 sobre otros modelos para la exportación a OpenVINO?#

Ultralytics YOLO26 está optimizado para la detección de objetos en tiempo real con alta precisión y velocidad. Específicamente, cuando se combina con OpenVINO, YOLO26 proporciona:

• Hasta 3x de aceleración en CPUs Intel
• Implementación fluida en GPUs y NPUs Intel
• Precisión consistente y comparable en varios formatos de exportación

Para un análisis de rendimiento en profundidad, consulta nuestros benchmarks de YOLO26 detallados en diferentes hardwares.

Link to this section¿Puedo hacer benchmarks de modelos YOLO26 en diferentes formatos como PyTorch, ONNX y OpenVINO?#

Sí, puedes hacer benchmarks de modelos YOLO26 en varios formatos, incluyendo PyTorch, TorchScript, ONNX y OpenVINO. Utiliza el siguiente fragmento de código para ejecutar benchmarks en el dataset que elijas:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and [accuracy](https://www.ultralytics.com/glossary/accuracy) on the COCO8 dataset for all export formats
results = model.benchmark(data="coco8.yaml")

Para obtener resultados detallados de los benchmarks, consulta nuestra sección de benchmarks y la documentación de formatos de exportación.