Learn to Export to TFLite Edge TPU Format From YOLO11 Model

Desplegar modelos de visión por ordenador en dispositivos con una potencia de cálculo limitada, como los sistemas móviles o integrados, puede ser complicado. Utilizar un formato de modelo optimizado para un rendimiento más rápido simplifica el proceso. El formato de modelo TensorFlow Lite Edge TPU o TFLite Edge TPU está diseñado para consumir la mínima energía y, al mismo tiempo, ofrecer un rendimiento rápido a las redes neuronales.

The export to TFLite Edge TPU format feature allows you to optimize your Ultralytics YOLO11 models for high-speed and low-power inferencing. In this guide, we'll walk you through converting your models to the TFLite Edge TPU format, making it easier for your models to perform well on various mobile and embedded devices.

¿Por qué deberías exportar a TFLite Edge TPU?

Exporting models to TensorFlow Edge TPU makes machine learning tasks fast and efficient. This technology suits applications with limited power, computing resources, and connectivity. The Edge TPU is a hardware accelerator by Google. It speeds up TensorFlow Lite models on edge devices. The image below shows an example of the process involved.

The Edge TPU works with quantized models. Quantization makes models smaller and faster without losing much accuracy. It is ideal for the limited resources of edge computing, allowing applications to respond quickly by reducing latency and allowing for quick data processing locally, without cloud dependency. Local processing also keeps user data private and secure since it's not sent to a remote server.

Características principales de TFLite Edge TPU

Éstas son las características clave que hacen de TFLite Edge TPU una gran elección de formato de modelo para los desarrolladores:

• Rendimiento optimizado en dispositivos Edge: El TFLite Edge TPU consigue un rendimiento de red neuronal de alta velocidad mediante la cuantización, la optimización del modelo, la aceleración del hardware y la optimización del compilador. Su arquitectura minimalista contribuye a su menor tamaño y rentabilidad.

• Alto rendimiento computacional: TFLite Edge TPU combina la aceleración de hardware especializado y la ejecución eficiente en tiempo de ejecución para lograr un alto rendimiento computacional. Es muy adecuado para desplegar modelos de aprendizaje automático con estrictos requisitos de rendimiento en dispositivos periféricos.

• Efficient Matrix Computations: The TensorFlow Edge TPU is optimized for matrix operations, which are crucial for neural network computations. This efficiency is key in machine learning models, particularly those requiring numerous and complex matrix multiplications and transformations.

Opciones de despliegue con TFLite Edge TPU

Before we jump into how to export YOLO11 models to the TFLite Edge TPU format, let's understand where TFLite Edge TPU models are usually used.

TFLite Edge TPU ofrece varias opciones de despliegue para los modelos de aprendizaje automático, entre ellas:

• Despliegue en dispositivos: TensorFlow Los modelos Edge TPU pueden desplegarse directamente en dispositivos móviles e integrados. El despliegue en el dispositivo permite que los modelos se ejecuten directamente en el hardware, eliminando la necesidad de conectividad en la nube.

• Edge Computing con TPUs en la Nube TensorFlow : En escenarios en los que los dispositivos de borde tienen capacidades de procesamiento limitadas, las TPU de borde TensorFlow pueden descargar las tareas de inferencia a servidores en la nube equipados con TPU.

• Hybrid Deployment: A hybrid approach combines on-device and cloud deployment and offers a versatile and scalable solution for deploying machine learning models. Advantages include on-device processing for quick responses and cloud computing for more complex computations.

Exporting YOLO11 Models to TFLite Edge TPU

You can expand model compatibility and deployment flexibility by converting YOLO11 models to TensorFlow Edge TPU.

Instalación

Para instalar el paquete necesario, ejecuta

# Install the required package for YOLO11
pip install ultralytics

For detailed instructions and best practices related to the installation process, check our Ultralytics Installation guide. While installing the required packages for YOLO11, if you encounter any difficulties, consult our Common Issues guide for solutions and tips.

Utilización

Before diving into the usage instructions, it's important to note that while all Ultralytics YOLO11 models are available for exporting, you can ensure that the model you select supports export functionality here.

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Para más detalles sobre las opciones de exportación admitidas, visita la página de documentaciónUltralytics sobre opciones de despliegue.

Deploying Exported YOLO11 TFLite Edge TPU Models

After successfully exporting your Ultralytics YOLO11 models to TFLite Edge TPU format, you can now deploy them. The primary and recommended first step for running a TFLite Edge TPU model is to use the YOLO("model_edgetpu.tflite") method, as outlined in the previous usage code snippet.

Sin embargo, para obtener instrucciones detalladas sobre el despliegue de tus modelos TFLite Edge TPU , echa un vistazo a los siguientes recursos:

• Coral Edge TPU on a Raspberry Pi with Ultralytics YOLO11: Discover how to integrate Coral Edge TPUs with Raspberry Pi for enhanced machine learning capabilities.

• Ejemplos de códigos: Accede a ejemplos prácticos de implantación de TensorFlow Edge TPU para poner en marcha tus proyectos.

• Ejecuta Inferencia en el borde TPU con Python: Explora cómo utilizar la API TensorFlow Lite Python para aplicaciones Edge TPU , incluidas las directrices de configuración y uso.

Resumen

In this guide, we've learned how to export Ultralytics YOLO11 models to TFLite Edge TPU format. By following the steps mentioned above, you can increase the speed and power of your computer vision applications.

Para más detalles sobre el uso, visita el sitio web oficial de Edge TPU .

Also, for more information on other Ultralytics YOLO11 integrations, please visit our integration guide page. There, you'll discover valuable resources and insights.

PREGUNTAS FRECUENTES

How do I export a YOLO11 model to TFLite Edge TPU format?

To export a YOLO11 model to TFLite Edge TPU format, you can follow these steps:

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Para conocer todos los detalles sobre la exportación de modelos a otros formatos, consulta nuestra guía de exportación.

What are the benefits of exporting YOLO11 models to TFLite Edge TPU?

Exporting YOLO11 models to TFLite Edge TPU offers several benefits:

• Rendimiento optimizado: Consigue un rendimiento de red neuronal de alta velocidad con un consumo de energía mínimo.
• Latencia reducida: Rápido procesamiento local de los datos sin necesidad de depender de la nube.
• Privacidad mejorada: El procesamiento local mantiene los datos del usuario privados y seguros.

This makes it ideal for applications in edge computing, where devices have limited power and computational resources. Learn more about why you should export.

¿Puedo implantar los modelos TFLite Edge TPU en dispositivos móviles e integrados?

Sí, los modelos TensorFlow Lite Edge TPU pueden desplegarse directamente en dispositivos móviles e integrados. Este enfoque de despliegue permite que los modelos se ejecuten directamente en el hardware, ofreciendo una inferencia más rápida y eficiente. Para ver ejemplos de integración, consulta nuestra guía de despliegue de Coral Edge TPU en Raspberry Pi.

¿Cuáles son algunos de los casos de uso habituales de los modelos TFLite Edge TPU ?

Entre los casos de uso habituales de los modelos TFLite Edge TPU se incluyen:

• Cámaras inteligentes: Mejorando el análisis de imagen y vídeo en tiempo real.
• Dispositivos IoT: Habilitación de la automatización doméstica e industrial inteligente.
• Sanidad: Aceleración de la imagen médica y el diagnóstico.
• Comercio minorista: Mejora de la gestión de inventarios y análisis del comportamiento del cliente.

Estas aplicaciones se benefician del alto rendimiento y el bajo consumo de los modelos TFLite Edge TPU . Descubre más sobre los escenarios de uso.

¿Cómo puedo solucionar problemas al exportar o desplegar modelos TFLite Edge TPU ?

Si tienes problemas al exportar o desplegar los modelos TFLite Edge TPU , consulta nuestra guía de Problemas comunes para obtener consejos sobre la solución de problemas. Esta guía cubre problemas y soluciones comunes para ayudarte a garantizar un funcionamiento sin problemas. Para obtener ayuda adicional, visita nuestro Centro de Ayuda.

📅C reado hace 7 meses ✏️ Actualizado hace 8 días

Comentarios