Exportación de Ultralytics YOLO a NCNN#

Implementar modelos de visión artificial en dispositivos con poca capacidad de cálculo, como móviles o sistemas integrados, requiere elegir cuidadosamente el formato. Usar un formato optimizado garantiza que incluso los dispositivos con recursos limitados puedan realizar tareas avanzadas de visión artificial de forma eficiente.

La exportación al formato NCNN permite optimizar los modelos Ultralytics YOLO26 para aplicaciones ligeras en dispositivos. Esta guía explica cómo convertir tus modelos al formato NCNN para mejorar el rendimiento en dispositivos móviles e integrados.

¿Por qué exportar a NCNN?#

El framework NCNN, desarrollado por Tencent, es un framework de cálculo de inferencia de redes neuronales de alto rendimiento, optimizado específicamente para plataformas móviles, como teléfonos móviles, dispositivos integrados y dispositivos IoT. NCNN es compatible con una amplia variedad de plataformas, como Linux, Android, iOS y macOS.

NCNN es conocido por su alta velocidad de procesamiento en las CPU móviles y permite implementar rápidamente modelos de aprendizaje profundo en plataformas móviles, por lo que es una opción excelente para crear aplicaciones basadas en IA.

Características principales de los modelos NCNN#

Los modelos NCNN ofrecen varias características clave que permiten el aprendizaje automático en el dispositivo y ayudan a los desarrolladores a implementar modelos en dispositivos móviles, integrados y de borde:

• Eficiencia y alto rendimiento: Los modelos NCNN son ligeros y están optimizados para dispositivos móviles e integrados con recursos limitados, como Raspberry Pi, y mantienen una alta precisión en tareas de visión artificial.

• Cuantización: NCNN admite la cuantización, una técnica que reduce la precisión de los pesos y las activaciones del modelo para mejorar el rendimiento y reducir el uso de memoria.

• Compatibilidad: los modelos NCNN son compatibles con marcos populares de aprendizaje profundo, como TensorFlow, Caffe y ONNX, lo que permite a los desarrolladores aprovechar los modelos y flujos de trabajo existentes.

• Facilidad de uso: NCNN proporciona herramientas fáciles de usar para convertir modelos entre formatos y garantizar una interoperabilidad fluida en distintos entornos de desarrollo.

• Aceleración de GPU con Vulkan: NCNN admite Vulkan para ejecutar inferencias aceleradas por GPU en tarjetas de distintos fabricantes, como AMD, Intel y otros distintos de NVIDIA, lo que permite implementar modelos de alto rendimiento en una gama más amplia de hardware.

Opciones de implementación con NCNN#

Los modelos NCNN son compatibles con diversas plataformas de implementación:

• Implementación en móviles: optimizados para Android e iOS, permiten una integración fluida en aplicaciones móviles para ejecutar inferencias de forma eficiente en el propio dispositivo.

• Sistemas integrados y dispositivos IoT: ideales para dispositivos con recursos limitados, como Raspberry Pi y NVIDIA Jetson. Si la inferencia estándar en una Raspberry Pi con la guía de Ultralytics no es suficiente, NCNN puede ofrecer mejoras de rendimiento considerables.

• Implementación en equipos de escritorio y servidores: admite la implementación en Linux, Windows y macOS para flujos de trabajo de desarrollo, entrenamiento y evaluación.

Aceleración de GPU con Vulkan#

NCNN admite la aceleración de GPU mediante Vulkan, lo que permite ejecutar inferencias de alto rendimiento en una amplia gama de GPU, incluidas las de AMD, Intel y otros fabricantes distintos de NVIDIA. Esto resulta especialmente útil para:

• Compatibilidad con GPU de distintos fabricantes: a diferencia de CUDA, que está limitado a las GPU de NVIDIA, Vulkan funciona con GPU de varios fabricantes.
• Sistemas con varias GPU: selecciona un dispositivo Vulkan específico en sistemas con varias GPU mediante device="vulkan:0", device="vulkan:1", etc.
• Implementaciones en el borde y en equipos de escritorio: aprovecha la aceleración de GPU en dispositivos donde CUDA no está disponible.

Para usar la aceleración de Vulkan, especifica el dispositivo Vulkan al ejecutar la inferencia:

from ultralytics import YOLO

# Carga el modelo exportado a NCNN
ncnn_model = YOLO("./yolo26n_ncnn_model")

# Ejecutar inferencias con aceleración de GPU mediante Vulkan (primer dispositivo Vulkan)
results = ncnn_model("https://ultralytics.com/images/bus.jpg", device="vulkan:0")

# Usar el segundo dispositivo Vulkan en sistemas con varias GPU
results = ncnn_model("https://ultralytics.com/images/bus.jpg", device="vulkan:1")

Tareas compatibles#

La exportación a NCNN admite las siete tareas de Ultralytics. La segmentación semántica y la estimación de profundidad solo están disponibles con YOLO26, la única familia que incluye esos cabezales.

Exportar a NCNN: convierte tu modelo YOLO26#

Puedes ampliar la compatibilidad y flexibilidad de implementación de los modelos convirtiendo los modelos YOLO26 al formato NCNN.

Instalación#

Para instalar los paquetes necesarios, ejecuta:

# Install the required package for YOLO26
pip install ultralytics

Para ver instrucciones detalladas y prácticas recomendadas, consulta la guía de instalación de Ultralytics. Si tienes algún problema, consulta nuestra guía de problemas habituales para encontrar soluciones.

Uso#

Todos los modelos Ultralytics YOLO26 están diseñados para admitir la exportación desde el primer momento, lo que facilita su integración en el flujo de trabajo de implementación que prefieras. Puedes consultar la lista completa de formatos de exportación y opciones de configuración compatibles para elegir la configuración más adecuada para tu aplicación.

El formato NCNN admite los modos Export, Predict y Validate. Exporta tu modelo y, después, carga el modelo exportado para ejecutar inferencias o validar su precisión.

from ultralytics import YOLO

# Carga un modelo YOLO26
model = YOLO("yolo26n.pt")

# Exporta el modelo al formato NCNN
model.export(format="ncnn")  # creates 'yolo26n_ncnn_model'

from ultralytics import YOLO

# Carga el modelo exportado a NCNN
model = YOLO("./yolo26n_ncnn_model")

# Ejecutar inferencia
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Carga el modelo exportado a NCNN
model = YOLO("./yolo26n_ncnn_model")

# Valida la precisión con el conjunto de datos COCO8
metrics = model.val(data="coco8.yaml")

Argumentos de exportación#

Para obtener más información sobre el proceso de exportación, visita la página de documentación de Ultralytics sobre exportación.

Implementar modelos YOLO26 exportados a NCNN#

Después de exportar tus modelos Ultralytics YOLO26 al formato NCNN, puedes implementarlos mediante el método YOLO("yolo26n_ncnn_model/"), como se muestra en el ejemplo de uso anterior. Para consultar instrucciones de implementación específicas de cada plataforma, visita los siguientes recursos:

• Android: crea e integra modelos NCNN para la detección de objetos en aplicaciones Android.

• macOS: implementa modelos NCNN en sistemas macOS.

• Linux: implementa modelos NCNN en dispositivos Linux, como Raspberry Pi y otros sistemas integrados similares.

• Windows x64: implementa modelos NCNN en Windows x64 con Visual Studio.

Resumen#

En esta guía hemos explicado cómo exportar modelos Ultralytics YOLO26 al formato NCNN para mejorar la eficiencia y la velocidad en dispositivos con recursos limitados.

Para obtener más información, consulta la documentación oficial de NCNN. Para ver otras opciones de exportación, visita nuestra página de guías de integración.

Preguntas frecuentes#