Aprende a exportar a formato TFLite Edge TPU desde el modelo YOLOv8

Desplegar modelos de visión por ordenador en dispositivos con una potencia de cálculo limitada, como los sistemas móviles o integrados, puede ser complicado. Utilizar un formato de modelo optimizado para un rendimiento más rápido simplifica el proceso. El formato de modelo TensorFlow Lite Edge TPU o TFLite Edge TPU está diseñado para consumir la mínima energía y, al mismo tiempo, ofrecer un rendimiento rápido a las redes neuronales.

La función de exportación al formato TFLite Edge TPU te permite optimizar tus Ultralytics YOLOv8 modelos para inferencias de alta velocidad y bajo consumo. En esta guía, te guiaremos a través de la conversión de tus modelos al formato TFLite Edge TPU , facilitando que tus modelos funcionen bien en diversos dispositivos móviles e integrados.

¿Por qué deberías exportar a TFLite Edge TPU?

Exportar modelos a TensorFlow Edge TPU hace que las tareas de aprendizaje automático sean rápidas y eficientes. Esta tecnología se adapta a aplicaciones con potencia, recursos informáticos y conectividad limitados. Edge TPU es un acelerador de hardware de Google. Acelera los modelos de TensorFlow Lite en dispositivos edge. La siguiente imagen muestra un ejemplo del proceso.

El Borde TPU funciona con modelos cuantizados. La cuantización hace que los modelos sean más pequeños y rápidos sin perder mucha precisión. Es ideal para los recursos limitados de la informática de borde, ya que permite que las aplicaciones respondan con rapidez al reducir la latencia y permitir un procesamiento rápido de los datos a nivel local, sin depender de la nube. El procesamiento local también mantiene los datos del usuario privados y seguros, ya que no se envían a un servidor remoto.

Características principales de TFLite Edge TPU

Éstas son las características clave que hacen de TFLite Edge TPU una gran elección de formato de modelo para los desarrolladores:

• Rendimiento optimizado en dispositivos Edge: El TFLite Edge TPU consigue un rendimiento de red neuronal de alta velocidad mediante la cuantización, la optimización del modelo, la aceleración del hardware y la optimización del compilador. Su arquitectura minimalista contribuye a su menor tamaño y rentabilidad.

• Alto rendimiento computacional: TFLite Edge TPU combina la aceleración de hardware especializado y la ejecución eficiente en tiempo de ejecución para lograr un alto rendimiento computacional. Es muy adecuado para desplegar modelos de aprendizaje automático con estrictos requisitos de rendimiento en dispositivos periféricos.

• Cálculos matriciales eficientes: El TensorFlow Edge TPU está optimizado para las operaciones matriciales, que son cruciales para los cálculos de redes neuronales. Esta eficiencia es clave en los modelos de aprendizaje automático, sobre todo en los que requieren numerosas y complejas multiplicaciones y transformaciones matriciales.

Opciones de despliegue con TFLite Edge TPU

Antes de pasar a cómo exportar YOLOv8 modelos a la TFLite Edge TPU formato, entendamos dónde TFLite Edge TPU Por lo general, se utilizan modelos.

TFLite Edge TPU ofrece varias opciones de despliegue para los modelos de aprendizaje automático, entre ellas:

• Despliegue en dispositivos: TensorFlow Los modelos Edge TPU pueden desplegarse directamente en dispositivos móviles e integrados. El despliegue en el dispositivo permite que los modelos se ejecuten directamente en el hardware, eliminando la necesidad de conectividad en la nube.

• Edge Computing con TPUs en la Nube TensorFlow : En escenarios en los que los dispositivos de borde tienen capacidades de procesamiento limitadas, las TPU de borde TensorFlow pueden descargar las tareas de inferencia a servidores en la nube equipados con TPU.

• Despliegue híbrido: Un enfoque híbrido combina el despliegue en el dispositivo y en la nube, y ofrece una solución versátil y escalable para desplegar modelos de aprendizaje automático. Las ventajas incluyen el procesamiento en el dispositivo para respuestas rápidas y la computación en la nube para cálculos más complejos.

Exportar modelos YOLOv8 a TFLite Edge TPU

Puedes ampliar la compatibilidad de modelos y la flexibilidad de despliegue convirtiendo los modelos YOLOv8 a TensorFlow Edge TPU.

Instalación

Para instalar el paquete necesario, ejecuta

# Install the required package for YOLOv8
pip install ultralytics

Para obtener instrucciones detalladas y buenas prácticas relacionadas con el proceso de instalación, consulta nuestra guía de instalaciónUltralytics . Mientras instalas los paquetes necesarios para YOLOv8, si encuentras alguna dificultad, consulta nuestra guía de Problemas comunes para encontrar soluciones y consejos.

Utilización

Antes de sumergirte en las instrucciones de uso, es importante tener en cuenta que, aunque todos los modelos deUltralytics YOLOv8 están disponibles para exportar, aquí puedes asegurarte de que el modelo que seleccionas admite la función de exportación.

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO("yolov8n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolov8n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolov8n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLOv8n PyTorch model to TFLite Edge TPU format
yolo export model=yolov8n.pt format=edgetpu  # creates 'yolov8n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolov8n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Para más detalles sobre las opciones de exportación admitidas, visita la página de documentaciónUltralytics sobre opciones de despliegue.

Despliegue de modelos exportados YOLOv8 TFLite Edge TPU

Después de exportar con éxito tus modelos Ultralytics YOLOv8 al formato TPU de TFLite Edge, ya puedes desplegarlos. El primer paso principal y recomendado para ejecutar un modelo TPU de TFLite Edge es utilizar el método YOLO("model_edgetpu.tflite"), como se indica en el fragmento de código de uso anterior.

Sin embargo, para obtener instrucciones detalladas sobre el despliegue de tus modelos TFLite Edge TPU , echa un vistazo a los siguientes recursos:

• Coral Edge TPU en una Raspberry Pi con Ultralytics YOLOv8: Descubre cómo integrar las TPU Coral Edge con la Raspberry Pi para mejorar las capacidades de aprendizaje automático.

• Ejemplos de códigos: Accede a ejemplos prácticos de implantación de TensorFlow Edge TPU para poner en marcha tus proyectos.

• Ejecuta Inferencia en el borde TPU con Python: Explora cómo utilizar la API TensorFlow Lite Python para aplicaciones Edge TPU , incluidas las directrices de configuración y uso.

Resumen

En esta guía, hemos aprendido a exportar Ultralytics YOLOv8 modelos a TFLite Edge TPU formato. Siguiendo los pasos mencionados anteriormente, puede aumentar la velocidad y la potencia de sus aplicaciones de visión artificial.

Para más detalles sobre el uso, visita el sitio web oficial de Edge TPU .

Además, para obtener más información sobre otras integraciones de Ultralytics YOLOv8 , visita nuestra página de guía de integración. Allí descubrirás valiosos recursos y conocimientos.

PREGUNTAS FRECUENTES

¿Cómo exporto un modelo YOLOv8 al formato TFLite Edge TPU ?

Para exportar un modelo YOLOv8 al formato TFLite Edge TPU , puedes seguir estos pasos:

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO("yolov8n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolov8n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolov8n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLOv8n PyTorch model to TFLite Edge TPU format
yolo export model=yolov8n.pt format=edgetpu  # creates 'yolov8n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolov8n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Para conocer todos los detalles sobre la exportación de modelos a otros formatos, consulta nuestra guía de exportación.

¿Cuáles son las ventajas de exportar modelos de YOLOv8 a TFLite Edge TPU?

Exportar modelos de YOLOv8 a TFLite Edge TPU ofrece varias ventajas:

• Rendimiento optimizado: Consigue un rendimiento de red neuronal de alta velocidad con un consumo de energía mínimo.
• Latencia reducida: Rápido procesamiento local de los datos sin necesidad de depender de la nube.
• Privacidad mejorada: El procesamiento local mantiene los datos del usuario privados y seguros.

Esto lo hace ideal para aplicaciones en informática de borde, donde los dispositivos tienen potencia y recursos computacionales limitados. Más información sobre por qué debes exportar.

¿Puedo implantar los modelos TFLite Edge TPU en dispositivos móviles e integrados?

Sí, los modelos TensorFlow Lite Edge TPU pueden desplegarse directamente en dispositivos móviles e integrados. Este enfoque de despliegue permite que los modelos se ejecuten directamente en el hardware, ofreciendo una inferencia más rápida y eficiente. Para ver ejemplos de integración, consulta nuestra guía de despliegue de Coral Edge TPU en Raspberry Pi.

¿Cuáles son algunos de los casos de uso habituales de los modelos TFLite Edge TPU ?

Entre los casos de uso habituales de los modelos TFLite Edge TPU se incluyen:

• Cámaras inteligentes: Mejorando el análisis de imagen y vídeo en tiempo real.
• Dispositivos IoT: Habilitación de la automatización doméstica e industrial inteligente.
• Sanidad: Aceleración de la imagen médica y el diagnóstico.
• Comercio minorista: Mejora de la gestión de inventarios y análisis del comportamiento del cliente.

Estas aplicaciones se benefician del alto rendimiento y el bajo consumo de los modelos TFLite Edge TPU . Descubre más sobre los escenarios de uso.

¿Cómo puedo solucionar problemas al exportar o desplegar modelos TFLite Edge TPU ?

Si tienes problemas al exportar o desplegar los modelos TFLite Edge TPU , consulta nuestra guía de Problemas comunes para obtener consejos sobre la solución de problemas. Esta guía cubre problemas y soluciones comunes para ayudarte a garantizar un funcionamiento sin problemas. Para obtener ayuda adicional, visita nuestro Centro de Ayuda.

Comentarios