Guía de exportación de modelos YOLOv8 a TFLite para su despliegue

Desplegar modelos de visión por ordenador en dispositivos periféricos o integrados requiere un formato que garantice un rendimiento sin fisuras.

El formato de exportación TensorFlow Lite o TFLite te permite optimizar tus Ultralytics YOLOv8 modelos para tareas como la detección de objetos y la clasificación de imágenes en aplicaciones basadas en dispositivos de borde. En esta guía, recorreremos los pasos para convertir tus modelos al formato TFLite, facilitando que tus modelos funcionen bien en diversos dispositivos de borde.

¿Por qué deberías exportar a TFLite?

Presentado por Google en mayo de 2017 como parte de su marco TensorFlow , TensorFlow Lite, o TFLite para abreviar, es un marco de aprendizaje profundo de código abierto diseñado para la inferencia en dispositivos, también conocida como computación de borde. Proporciona a los desarrolladores las herramientas necesarias para ejecutar sus modelos entrenados en dispositivos móviles, integrados e IoT, así como en ordenadores tradicionales.

TensorFlow Lite es compatible con una amplia gama de plataformas, como Linux embebido, Android, iOS y MCU. Exportar tu modelo a TFLite hace que tus aplicaciones sean más rápidas, fiables y capaces de funcionar sin conexión.

Características principales de los modelos TFLite

Los modelos TFLite ofrecen una amplia gama de funciones clave que permiten el aprendizaje automático en el dispositivo, ayudando a los desarrolladores a ejecutar sus modelos en dispositivos móviles, integrados y periféricos:

• Optimización en el dispositivo: TFLite optimiza para ML en el dispositivo, reduciendo la latencia al procesar los datos localmente, mejorando la privacidad al no transmitir datos personales y minimizando el tamaño del modelo para ahorrar espacio.

• Compatibilidad con múltiples plataformas: TFLite ofrece una amplia compatibilidad de plataformas, compatible con Android, iOS, Linux embebido y microcontroladores.

• Compatibilidad con diversos lenguajes: TFLite es compatible con diversos lenguajes de programación, como Java, Swift, Objective-C, C++ y Python.

• Alto rendimiento: Consigue un rendimiento superior mediante la aceleración del hardware y la optimización del modelo.

Opciones de despliegue en TFLite

Antes de ver el código para exportar los modelos YOLOv8 al formato TFLite, vamos a entender cómo se utilizan normalmente los modelos TFLite.

TFLite ofrece varias opciones de despliegue en el dispositivo para los modelos de aprendizaje automático, entre las que se incluyen:

• Despliegue con Android e iOS: Tanto las aplicaciones para Android como para iOS con TFLite pueden analizar la alimentación de cámaras y sensores basados en bordes para detectar e identificar objetos. TFLite también ofrece bibliotecas nativas para iOS escritas en Swift y Objective-C. El siguiente diagrama de arquitectura muestra el proceso de despliegue de un modelo entrenado en plataformas Android e iOS utilizando TensorFlow Lite.

• Implementación con Linux embebido: Si ejecutar inferencias en una Raspberry Pi utilizando la GuíaUltralytics no cumple los requisitos de velocidad para tu caso de uso, puedes utilizar un modelo TFLite exportado para acelerar los tiempos de inferencia. Además, es posible mejorar aún más el rendimiento utilizando un dispositivo Coral Edge TPU .

• Despliegue con microcontroladores: Los modelos TFLite también pueden desplegarse en microcontroladores y otros dispositivos con sólo unos pocos kilobytes de memoria. El núcleo de ejecución sólo cabe en 16 KB en un Arm Cortex M3 y puede ejecutar muchos modelos básicos. No requiere soporte del sistema operativo, ni bibliotecas C o C++ estándar, ni asignación dinámica de memoria.

Exportar a TFLite: Conversión de tu modelo YOLOv8

Puedes mejorar la eficacia de la ejecución de los modelos en el dispositivo y optimizar el rendimiento convirtiéndolos al formato TFLite.

Instalación

Para instalar los paquetes necesarios, ejecuta

# Install the required package for YOLOv8
pip install ultralytics

Para obtener instrucciones detalladas y buenas prácticas relacionadas con el proceso de instalación, consulta nuestra guía de instalaciónUltralytics . Mientras instalas los paquetes necesarios para YOLOv8, si encuentras alguna dificultad, consulta nuestra guía de Problemas comunes para encontrar soluciones y consejos.

Utilización

Antes de sumergirte en las instrucciones de uso, es importante tener en cuenta que, aunque todos los modelos deUltralytics YOLOv8 están disponibles para exportar, aquí puedes asegurarte de que el modelo que seleccionas admite la función de exportación.

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO('yolov8n.pt')

# Export the model to TFLite format
model.export(format='tflite') # creates 'yolov8n_float32.tflite'

# Load the exported TFLite model
tflite_model = YOLO('yolov8n_float32.tflite')

# Run inference
results = tflite_model('https://ultralytics.com/images/bus.jpg')

# Export a YOLOv8n PyTorch model to TFLite format
yolo export model=yolov8n.pt format=tflite  # creates 'yolov8n_float32.tflite'

# Run inference with the exported model
yolo predict model='yolov8n_float32.tflite' source='https://ultralytics.com/images/bus.jpg'

Para más detalles sobre el proceso de exportación, visita la página de documentaciónUltralytics sobre exportación.

Despliegue de modelos TFLite exportados de YOLOv8

Después de exportar con éxito tus modelos Ultralytics YOLOv8 al formato TFLite, ya puedes desplegarlos. El primer paso principal y recomendado para desplegar un modelo TFLite es utilizar el método YOLO("model.tflite"), como se indica en el fragmento de código de uso anterior. Sin embargo, para obtener instrucciones detalladas sobre cómo desplegar tus modelos TFLite en otras configuraciones distintas, echa un vistazo a los siguientes recursos:

• Android: Una guía de inicio rápido para integrar TensorFlow Lite en aplicaciones Android, que proporciona pasos fáciles de seguir para configurar y ejecutar modelos de aprendizaje automático.

• iOS: Consulta esta guía detallada para desarrolladores sobre la integración y despliegue de modelos TensorFlow Lite en aplicaciones iOS, que ofrece instrucciones paso a paso y recursos.

• Ejemplos de extremo a extremo: Esta página proporciona una visión general de varios ejemplos de TensorFlow Lite, mostrando aplicaciones prácticas y tutoriales diseñados para ayudar a los desarrolladores a implementar TensorFlow Lite en sus proyectos de aprendizaje automático en dispositivos móviles y edge.

Resumen

En esta guía, nos centramos en cómo exportar al formato TFLite. Al convertir tus modelos Ultralytics YOLOv8 al formato de modelo TFLite, puedes mejorar la eficacia y velocidad de los modelos YOLOv8 , haciéndolos más eficaces y adecuados para entornos de computación de borde.

Para más detalles sobre su uso, visita la documentación oficial de TFLite.

Además, si tienes curiosidad por otras integraciones de Ultralytics YOLOv8 , no dejes de consultar nuestra página de guía de integraciones. Allí encontrarás un montón de información útil.

Comentarios