Análisis comparativo de las opciones de implementación de YOLO11

Introducción

Ha recorrido un largo camino en su viaje con YOLO11. Ha recopilado datos diligentemente, los ha anotado meticulosamente y ha dedicado horas a entrenar y evaluar rigurosamente su modelo YOLO11 personalizado. Ahora, es el momento de poner su modelo a trabajar para su aplicación, caso de uso o proyecto específico. Pero hay una decisión crítica que se presenta ante usted: cómo exportar e implementar su modelo de forma eficaz.

Ver: Cómo elegir el mejor formato de implementación de Ultralytics YOLO11 para su proyecto | TensorRT | OpenVINO 🚀

Esta guía le guía a través de las opciones de implementación de YOLO11 y los factores esenciales a considerar para elegir la opción correcta para su proyecto.

Cómo seleccionar la opción de implementación adecuada para su modelo YOLO11

Cuando llegue el momento de implementar su modelo YOLO11, seleccionar un formato de exportación adecuado es muy importante. Como se describe en la documentación de los modos de Ultralytics YOLO11, la función model.export() permite convertir su modelo entrenado en una variedad de formatos adaptados a diversos entornos y requisitos de rendimiento.

El formato ideal depende del contexto operativo previsto para tu modelo, equilibrando la velocidad, las limitaciones de hardware y la facilidad de integración. En la siguiente sección, analizaremos más de cerca cada opción de exportación, comprendiendo cuándo elegir cada una.

Opciones de implementación de YOLO11

Repasemos las diferentes opciones de implementación de YOLO11. Para obtener una descripción detallada del proceso de exportación, visite la página de documentación de Ultralytics sobre la exportación.

PyTorch

PyTorch es una biblioteca de código abierto de aprendizaje automático ampliamente utilizada para aplicaciones en aprendizaje profundo e inteligencia artificial. Proporciona un alto nivel de flexibilidad y velocidad, lo que la ha convertido en una de las favoritas entre investigadores y desarrolladores.

• Pruebas de Rendimiento: PyTorch es conocido por su facilidad de uso y flexibilidad, lo que puede resultar en una ligera desventaja en el rendimiento bruto en comparación con otros frameworks que están más especializados y optimizados.
• Compatibilidad e integración: Ofrece una excelente compatibilidad con varias bibliotecas de ciencia de datos y aprendizaje automático en python.
• Comunidad, Soporte y Ecosistema: Una de las comunidades más vibrantes, con amplios recursos para el aprendizaje y la resolución de problemas.
• Casos de Estudio: Comúnmente utilizado en prototipos de investigación, muchos artículos académicos hacen referencia a modelos implementados en PyTorch.
• Mantenimiento y actualizaciones: Actualizaciones periódicas con desarrollo activo y soporte para nuevas funciones.
• Consideraciones de seguridad: Se aplican parches de seguridad de forma regular, pero la seguridad depende en gran medida del entorno general en el que se implementa.
• Aceleración de hardware: Admite CUDA para la aceleración de la GPU, esencial para acelerar el entrenamiento y la inferencia del modelo.

TorchScript

TorchScript extiende las capacidades de PyTorch al permitir la exportación de modelos para ser ejecutados en un entorno de tiempo de ejecución de C++. Esto lo hace adecuado para entornos de producción donde python no está disponible.

• Pruebas de Rendimiento: Puede ofrecer un rendimiento mejorado con respecto a PyTorch nativo, especialmente en entornos de producción.
• Compatibilidad e integración: Diseñado para una transición perfecta de PyTorch a entornos de producción C++, aunque es posible que algunas funciones avanzadas no se traduzcan a la perfección.
• Comunidad, Soporte y Ecosistema: Se beneficia de la gran comunidad de PyTorch, pero tiene un alcance más limitado de desarrolladores especializados.
• Casos de estudio: Ampliamente utilizado en entornos industriales donde la sobrecarga de rendimiento de python es un cuello de botella.
• Mantenimiento y actualizaciones: Se mantiene junto con PyTorch con actualizaciones constantes.
• Consideraciones de seguridad: Ofrece seguridad mejorada al permitir la ejecución de modelos en entornos sin instalaciones completas de python.
• Aceleración de hardware: Hereda la compatibilidad con CUDA de PyTorch, lo que garantiza una utilización eficiente de la GPU.

ONNX

El Open Neural Network Exchange (ONNX) es un formato que permite la interoperabilidad del modelo en diferentes marcos, lo que puede ser fundamental al implementar en varias plataformas.

• Pruebas de Rendimiento: Los modelos ONNX pueden experimentar un rendimiento variable dependiendo del runtime específico en el que se implementen.
• Compatibilidad e integración: Alta interoperabilidad en múltiples plataformas y hardware debido a su naturaleza agnóstica del framework.
• Soporte de la comunidad y ecosistema: Respaldado por muchas organizaciones, lo que lleva a un ecosistema amplio y una variedad de herramientas para la optimización.
• Casos de Estudio: Se utiliza con frecuencia para mover modelos entre diferentes frameworks de aprendizaje automático, lo que demuestra su flexibilidad.
• Mantenimiento y actualizaciones: Como estándar abierto, ONNX se actualiza periódicamente para admitir nuevas operaciones y modelos.
• Consideraciones de seguridad: Como con cualquier herramienta multiplataforma, es esencial garantizar prácticas seguras en el proceso de conversión e implementación.
• Aceleración por hardware: Con ONNX Runtime, los modelos pueden aprovechar diversas optimizaciones de hardware.

OpenVINO

OpenVINO es un conjunto de herramientas de Intel diseñado para facilitar la implementación de modelos de aprendizaje profundo en hardware de Intel, mejorando el rendimiento y la velocidad.

• Pruebas de Rendimiento: Específicamente optimizado para CPUs, GPUs y VPUs de Intel, ofreciendo importantes mejoras de rendimiento en hardware compatible.
• Compatibilidad e integración: Funciona mejor dentro del ecosistema de Intel, pero también es compatible con una variedad de otras plataformas.
• Comunidad, Soporte y Ecosistema: Con el respaldo de Intel, con una base de usuarios sólida, especialmente en el dominio de la visión artificial.
• Casos de Estudio: A menudo se utiliza en escenarios de IoT y computación perimetral donde el hardware de Intel es frecuente.
• Mantenimiento y actualizaciones: Intel actualiza regularmente OpenVINO para admitir los últimos modelos de aprendizaje profundo y hardware de Intel.
• Consideraciones de seguridad: Proporciona funciones de seguridad sólidas adecuadas para la implementación en aplicaciones confidenciales.
• Aceleración de hardware: Adaptado para la aceleración en hardware Intel, aprovechando conjuntos de instrucciones dedicados y características de hardware.

Para obtener más detalles sobre la implementación utilizando OpenVINO, consulta la documentación de integración de Ultralytics: Exportación Intel OpenVINO.

TensorRT

TensorRT es un optimizador y entorno de ejecución de inferencia de aprendizaje profundo de alto rendimiento de NVIDIA, ideal para aplicaciones que necesitan velocidad y eficiencia.

• Pruebas de Rendimiento: Ofrece un rendimiento de primer nivel en GPUs NVIDIA con soporte para inferencia de alta velocidad.
• Compatibilidad e integración: El más adecuado para hardware NVIDIA, con soporte limitado fuera de este entorno.
• Comunidad, Soporte y Ecosistema: Sólida red de soporte a través de los foros de desarrolladores y la documentación de NVIDIA.
• Casos de estudio: Ampliamente adoptado en industrias que requieren inferencia en tiempo real sobre datos de video e imagen.
• Mantenimiento y actualizaciones: NVIDIA mantiene TensorRT con actualizaciones frecuentes para mejorar el rendimiento y dar soporte a nuevas arquitecturas de GPU.
• Consideraciones de seguridad: Al igual que muchos productos de NVIDIA, tiene un fuerte énfasis en la seguridad, pero los detalles dependen del entorno de implementación.
• Aceleración de hardware: Diseñado exclusivamente para GPU NVIDIA, proporcionando una optimización y aceleración profundas.

Para obtener más información sobre la implementación de TensorRT, consulte la guía de integración de TensorRT.

CoreML

CoreML es el marco de aprendizaje automático de Apple, optimizado para el rendimiento en el dispositivo dentro del ecosistema de Apple, incluyendo iOS, macOS, watchOS y tvOS.

• Pruebas de Rendimiento: Optimizado para el rendimiento en el dispositivo en hardware de Apple con un consumo mínimo de batería.
• Compatibilidad e integración: Exclusivamente para el ecosistema de Apple, proporcionando un flujo de trabajo optimizado para aplicaciones de iOS y macOS.
• Soporte de la comunidad y ecosistema: Gran soporte de Apple y una comunidad de desarrolladores dedicada, con amplia documentación y herramientas.
• Casos de Estudio: Comúnmente utilizado en aplicaciones que requieren capacidades de aprendizaje automático en el dispositivo en productos de Apple.
• Mantenimiento y actualizaciones: Apple lo actualiza regularmente para dar soporte a los últimos avances en aprendizaje automático y hardware de Apple.
• Consideraciones de seguridad: Se beneficia del enfoque de Apple en la privacidad del usuario y la seguridad de los datos.
• Aceleración de hardware: Aprovecha al máximo el motor neuronal y la GPU de Apple para acelerar las tareas de aprendizaje automático.

TF SavedModel

TF SavedModel es el formato de TensorFlow para guardar y servir modelos de aprendizaje automático, particularmente adecuado para entornos de servidor escalables.

• Pruebas de Rendimiento: Ofrece un rendimiento escalable en entornos de servidor, especialmente cuando se utiliza con TensorFlow Serving.
• Compatibilidad e integración: Amplia compatibilidad en todo el ecosistema de TensorFlow, incluidas las implementaciones en la nube y en servidores empresariales.
• Comunidad, Soporte y Ecosistema: Gran soporte de la comunidad debido a la popularidad de TensorFlow, con una amplia gama de herramientas para la implementación y la optimización.
• Casos de Estudio: Ampliamente utilizado en entornos de producción para servir modelos de aprendizaje profundo a escala.
• Mantenimiento y actualizaciones: Con el soporte de Google y la comunidad de TensorFlow, lo que garantiza actualizaciones periódicas y nuevas funciones.
• Consideraciones de seguridad: La implementación mediante TensorFlow Serving incluye funciones de seguridad sólidas para aplicaciones de nivel empresarial.
• Aceleración de hardware: Admite varias aceleraciones de hardware a través de los backends de TensorFlow.

TF GraphDef

TF GraphDef es un formato de TensorFlow que representa el modelo como un grafo, lo cual es beneficioso para entornos donde se requiere un grafo de computación estático.

• Pruebas de Rendimiento: Proporciona un rendimiento estable para gráficos de computación estáticos, con un enfoque en la consistencia y la fiabilidad.
• Compatibilidad e integración: Se integra fácilmente dentro de la infraestructura de TensorFlow, pero es menos flexible en comparación con SavedModel.
• Comunidad, Soporte y Ecosistema: Buen soporte del ecosistema de TensorFlow, con muchos recursos disponibles para optimizar gráficos estáticos.
• Casos de Estudio: Útil en escenarios donde se necesita un gráfico estático, como en ciertos sistemas integrados.
• Mantenimiento y actualizaciones: Actualizaciones periódicas junto con las actualizaciones principales de TensorFlow.
• Consideraciones de seguridad: Garantiza una implementación segura con las prácticas de seguridad establecidas de TensorFlow.
• Aceleración de hardware: Puede utilizar las opciones de aceleración de hardware de TensorFlow, aunque no es tan flexible como SavedModel.

Obtenga más información sobre TF GraphDef en nuestra guía de integración de TF GraphDef.

TF Lite

TF Lite es la solución de TensorFlow para el aprendizaje automático en dispositivos móviles e integrados, proporcionando una biblioteca ligera para la inferencia en el dispositivo.

• Pruebas de Rendimiento: Diseñado para la velocidad y la eficiencia en dispositivos móviles e integrados.
• Compatibilidad e integración: Se puede utilizar en una amplia gama de dispositivos debido a su naturaleza ligera.
• Comunidad, Soporte y Ecosistema: Con el respaldo de Google, cuenta con una comunidad sólida y un número creciente de recursos para desarrolladores.
• Casos de Estudio: Popular en aplicaciones móviles que requieren inferencia en el dispositivo con una huella mínima.
• Mantenimiento y actualizaciones: Se actualiza regularmente para incluir las últimas características y optimizaciones para dispositivos móviles.
• Consideraciones de seguridad: Proporciona un entorno seguro para ejecutar modelos en dispositivos de usuario final.
• Aceleración de hardware: Admite una variedad de opciones de aceleración de hardware, incluyendo GPU y DSP.

TF Edge TPU

TF Edge TPU está diseñado para una computación eficiente y de alta velocidad en el hardware Edge TPU de Google, perfecto para dispositivos IoT que requieren procesamiento en tiempo real.

• Pruebas de Rendimiento: Específicamente optimizado para la computación eficiente y de alta velocidad en el hardware Edge TPU de Google.
• Compatibilidad e integración: Funciona exclusivamente con modelos de TensorFlow Lite en dispositivos Edge TPU.
• Comunidad, Soporte y Ecosistema: Creciente soporte con recursos proporcionados por Google y desarrolladores externos.
• Casos de Estudio: Se utiliza en dispositivos IoT y aplicaciones que requieren procesamiento en tiempo real con baja latencia.
• Mantenimiento y actualizaciones: Se mejora continuamente para aprovechar las capacidades de las nuevas versiones de hardware Edge TPU.
• Consideraciones de seguridad: Se integra con la sólida seguridad de Google para dispositivos IoT y periféricos.
• Aceleración de hardware: Diseñado a medida para aprovechar al máximo los dispositivos Google Coral.

TF.js

TensorFlow.js (TF.js) es una biblioteca que lleva las capacidades de aprendizaje automático directamente al navegador, ofreciendo un nuevo reino de posibilidades tanto para desarrolladores web como para usuarios. Permite la integración de modelos de aprendizaje automático en aplicaciones web sin necesidad de infraestructura de back-end.

• Pruebas de Rendimiento: Permite el aprendizaje automático directamente en el navegador con un rendimiento razonable, dependiendo del dispositivo del cliente.
• Compatibilidad e integración: Alta compatibilidad con tecnologías web, lo que permite una fácil integración en aplicaciones web.
• Soporte de la comunidad y ecosistema: Soporte de una comunidad de desarrolladores web y Node.js, con una variedad de herramientas para implementar modelos de ML en navegadores.
• Casos de Estudio: Ideal para aplicaciones web interactivas que se benefician del aprendizaje automático del lado del cliente sin necesidad de procesamiento del lado del servidor.
• Mantenimiento y actualizaciones: Mantenido por el equipo de TensorFlow con contribuciones de la comunidad de código abierto.
• Consideraciones de seguridad: Se ejecuta dentro del contexto seguro del navegador, utilizando el modelo de seguridad de la plataforma web.
• Aceleración de hardware: El rendimiento se puede mejorar con las API basadas en web que acceden a la aceleración de hardware como WebGL.

PaddlePaddle

PaddlePaddle es un framework de código abierto de deep learning desarrollado por Baidu. Está diseñado para ser eficiente para los investigadores y fácil de usar para los desarrolladores. Es particularmente popular en China y ofrece soporte especializado para el procesamiento del lenguaje chino.

• Pruebas de Rendimiento: Ofrece un rendimiento competitivo con un enfoque en la facilidad de uso y la escalabilidad.
• Compatibilidad e integración: Bien integrado dentro del ecosistema de Baidu y admite una amplia gama de aplicaciones.
• Soporte de la comunidad y ecosistema: Si bien la comunidad es más pequeña a nivel mundial, está creciendo rápidamente, especialmente en China.
• Casos de Estudio: Comúnmente utilizado en los mercados chinos y por desarrolladores que buscan alternativas a otros frameworks importantes.
• Mantenimiento y actualizaciones: Se actualiza regularmente con un enfoque en el servicio de aplicaciones y servicios de IA en idioma chino.
• Consideraciones de seguridad: Enfatiza la privacidad de los datos y la seguridad, atendiendo a los estándares chinos de gobernanza de datos.
• Aceleración de hardware: Admite varias aceleraciones de hardware, incluyendo los propios chips Kunlun de Baidu.

MNN

MNN es un framework de aprendizaje profundo altamente eficiente y ligero. Soporta la inferencia y el entrenamiento de modelos de aprendizaje profundo y tiene un rendimiento líder en la industria para la inferencia y el entrenamiento en el dispositivo. Además, MNN también se utiliza en dispositivos integrados, como el IoT.

• Parámetros de rendimiento: Alto rendimiento para dispositivos móviles con una excelente optimización para sistemas ARM.
• Compatibilidad e integración: Funciona bien con sistemas móviles y embebidos ARM y arquitecturas de CPU X86-64.
• Soporte comunitario y ecosistema: Compatible con la comunidad de aprendizaje automático móvil e integrado.
• Casos de estudio: Ideal para aplicaciones que requieren un rendimiento eficiente en sistemas móviles.
• Mantenimiento y Actualizaciones: Se mantiene regularmente para garantizar un alto rendimiento en dispositivos móviles.
• Consideraciones de seguridad: Proporciona ventajas de seguridad en el dispositivo al mantener los datos locales.
• Aceleración por hardware: Optimizado para CPU y GPU ARM para una máxima eficiencia.

NCNN

NCNN es un framework de inferencia de redes neuronales de alto rendimiento optimizado para la plataforma móvil. Destaca por su naturaleza ligera y eficiencia, lo que lo hace particularmente adecuado para dispositivos móviles e integrados donde los recursos son limitados.

• Pruebas de Rendimiento: Altamente optimizado para plataformas móviles, ofreciendo una inferencia eficiente en dispositivos basados en ARM.
• Compatibilidad e integración: Adecuado para aplicaciones en teléfonos móviles y sistemas integrados con arquitectura ARM.
• Soporte de la comunidad y ecosistema: Apoyado por una comunidad nicho pero activa centrada en aplicaciones de ML móviles e integradas.
• Casos de Estudio: Favorecido para aplicaciones móviles donde la eficiencia y la velocidad son críticas en Android y otros sistemas basados en ARM.
• Mantenimiento y actualizaciones: Se mejora continuamente para mantener un alto rendimiento en una variedad de dispositivos ARM.
• Consideraciones de seguridad: Se centra en la ejecución local en el dispositivo, aprovechando la seguridad inherente del procesamiento en el dispositivo.
• Aceleración de hardware: Adaptado para CPU y GPU ARM, con optimizaciones específicas para estas arquitecturas.

Análisis comparativo de las opciones de implementación de YOLO11

La siguiente tabla proporciona una instantánea de las diversas opciones de implementación disponibles para los modelos YOLO11, lo que le ayudará a evaluar cuál se adapta mejor a las necesidades de su proyecto en función de varios criterios críticos. Para un análisis en profundidad del formato de cada opción de implementación, consulte la página de documentación de Ultralytics sobre formatos de exportación.

Este análisis comparativo te ofrece una visión general de alto nivel. Para la implementación, es esencial considerar los requisitos y limitaciones específicos de tu proyecto, y consultar la documentación detallada y los recursos disponibles para cada opción.

Comunidad y soporte

Cuando está empezando con YOLO11, contar con una comunidad y un soporte útiles puede tener un impacto significativo. Aquí le mostramos cómo conectar con otras personas que comparten sus intereses y obtener la ayuda que necesita.

Interactúe con la comunidad en general

• Discusiones en GitHub: El repositorio de YOLO11 en GitHub tiene una sección de "Discusiones" donde puede hacer preguntas, informar problemas y sugerir mejoras.
• Servidor de Discord de Ultralytics: Ultralytics tiene un servidor de Discord donde puedes interactuar con otros usuarios y desarrolladores.

Documentación y recursos oficiales

• Documentación de Ultralytics YOLO11: La documentación oficial proporciona una visión general completa de YOLO11, junto con guías sobre instalación, uso y resolución de problemas.

Estos recursos le ayudarán a afrontar los retos y a mantenerse al día de las últimas tendencias y mejores prácticas en la comunidad YOLO11.

Conclusión

En esta guía, hemos explorado las diferentes opciones de implementación para YOLO11. También hemos analizado los factores importantes a tener en cuenta al tomar su decisión. Estas opciones le permiten personalizar su modelo para diversos entornos y requisitos de rendimiento, haciéndolo adecuado para aplicaciones del mundo real.

No olvide que YOLO11 y la comunidad de Ultralytics son una valiosa fuente de ayuda. Conecte con otros desarrolladores y expertos para aprender consejos y soluciones únicas que quizás no encuentre en la documentación habitual. Siga buscando conocimiento, explorando nuevas ideas y compartiendo sus experiencias.

¡Feliz despliegue!

Preguntas frecuentes

¿Cuáles son las opciones de implementación disponibles para YOLO11 en diferentes plataformas de hardware?

Ultralytics YOLO11 admite varios formatos de implementación, cada uno diseñado para entornos y plataformas de hardware específicos. Los formatos clave incluyen:

• PyTorch para investigación y prototipos, con una excelente integración de python.
• TorchScript para entornos de producción donde python no está disponible.
• ONNX para la compatibilidad multiplataforma y la aceleración de hardware.
• OpenVINO para un rendimiento optimizado en hardware Intel.
• TensorRT para la inferencia de alta velocidad en las GPU NVIDIA.

Cada formato tiene ventajas únicas. Para obtener una guía detallada, consulte nuestra documentación del proceso de exportación.

¿Cómo mejoro la velocidad de inferencia de mi modelo YOLO11 en una CPU Intel?

Para mejorar la velocidad de inferencia en CPUs Intel, puede implementar su modelo YOLO11 utilizando el kit de herramientas OpenVINO de Intel. OpenVINO ofrece mejoras de rendimiento significativas al optimizar los modelos para aprovechar eficientemente el hardware de Intel.

1. Convierte tu modelo YOLO11 al formato OpenVINO utilizando el model.export() función.
2. Sigue la guía de configuración detallada en la documentación de exportación de Intel OpenVINO.

Para obtener más información, consulta nuestra entrada de blog.

¿Puedo implementar modelos YOLO11 en dispositivos móviles?

Sí, los modelos YOLO11 se pueden implementar en dispositivos móviles utilizando TensorFlow Lite (TF Lite) para las plataformas Android e iOS. TF Lite está diseñado para dispositivos móviles e integrados, proporcionando una inferencia eficiente en el dispositivo.

# Export command for TFLite format
model.export(format="tflite")

# CLI command for TFLite export
yolo export --format tflite

Para obtener más detalles sobre la implementación de modelos en dispositivos móviles, consulta nuestra guía de integración de TF Lite.

¿Qué factores debo considerar al elegir un formato de implementación para mi modelo YOLO11?

Al elegir un formato de implementación para YOLO11, tenga en cuenta los siguientes factores:

• Rendimiento: Algunos formatos como TensorRT proporcionan velocidades excepcionales en las GPU de NVIDIA, mientras que OpenVINO está optimizado para el hardware de Intel.
• Compatibilidad: ONNX ofrece una amplia compatibilidad entre diferentes plataformas.
• Facilidad de integración: Los formatos como CoreML o TF Lite están diseñados para ecosistemas específicos como iOS y Android, respectivamente.
• Soporte de la comunidad: Formatos como PyTorch y TensorFlow tienen amplios recursos y soporte de la comunidad.

Para un análisis comparativo, consulta nuestra documentación de formatos de exportación.

¿Cómo puedo implementar modelos YOLO11 en una aplicación web?

Para implementar modelos YOLO11 en una aplicación web, puede utilizar TensorFlow.js (TF.js), que permite ejecutar modelos de aprendizaje automático directamente en el navegador. Este enfoque elimina la necesidad de infraestructura de backend y proporciona un rendimiento en tiempo real.

1. Exporte el modelo YOLO11 al formato TF.js.
2. Integre el modelo exportado en su aplicación web.

Para obtener instrucciones paso a paso, consulte nuestra guía sobre la integración de TensorFlow.js.

📅 Creado hace 1 año ✏️ Actualizado hace 3 meses

Comentarios