Aprenda a exportar a formato TFLite Edge TPU desde el modelo YOLO11

La implementación de modelos de visión por ordenador en dispositivos con una potencia de cálculo limitada, como los sistemas móviles o integrados, puede resultar complicada. El uso de un formato de modelo optimizado para un rendimiento más rápido simplifica el proceso. El formato de modelo TensorFlow Lite Edge TPU o TFLite Edge TPU está diseñado para consumir la mínima energía posible y ofrecer un rendimiento rápido a las redes neuronales.

La función de exportación al formato TFLite Edge TPU le permite optimizar sus Ultralytics YOLO11 modelos para inferencias de alta velocidad y bajo consumo. En esta guía, le guiaremos a través de la conversión de sus modelos al formato TFLite Edge TPU , facilitando que sus modelos funcionen bien en varios dispositivos móviles e integrados.

¿Por qué exportar a TFLite Edge TPU?

La exportación de modelos a TensorFlow Edge TPU hace que las tareas de aprendizaje automático sean rápidas y eficientes. Esta tecnología se adapta a aplicaciones con potencia, recursos informáticos y conectividad limitados. Edge TPU es un acelerador de hardware de Google. Acelera los modelos de TensorFlow Lite en dispositivos edge. La siguiente imagen muestra un ejemplo del proceso.

Edge TPU funciona con modelos cuantizados. La cuantización hace que los modelos sean más pequeños y rápidos sin perder mucha precisión. Es ideal para los recursos limitados de la informática de borde, ya que permite que las aplicaciones respondan con rapidez al reducir la latencia y permitir un procesamiento rápido de los datos a nivel local, sin depender de la nube. El procesamiento local también mantiene la privacidad y seguridad de los datos del usuario, ya que no se envían a un servidor remoto.

Características principales de TFLite Edge TPU

Estas son las características clave que hacen de TFLite Edge TPU una gran elección de formato de modelo para los desarrolladores:

• Rendimiento optimizado en dispositivos Edge: TFLite Edge TPU consigue un rendimiento de red neuronal de alta velocidad gracias a la cuantización, la optimización de modelos, la aceleración de hardware y la optimización del compilador. Su arquitectura minimalista contribuye a su menor tamaño y rentabilidad.

• Alto rendimiento computacional: TFLite Edge TPU combina la aceleración de hardware especializado y la ejecución eficiente en tiempo de ejecución para lograr un alto rendimiento computacional. Es idóneo para implantar modelos de aprendizaje automático con requisitos de rendimiento estrictos en dispositivos periféricos.

• Cálculos matriciales eficientes: TensorFlow Edge TPU está optimizado para las operaciones matriciales, que son cruciales para los cálculos de redes neuronales. Esta eficiencia es clave en los modelos de aprendizaje automático, especialmente en aquellos que requieren numerosas y complejas multiplicaciones y transformaciones de matrices.

Opciones de despliegue con TFLite Edge TPU

Antes de entrar en cómo exportar modelos YOLO11 al formato TFLite Edge TPU , vamos a entender dónde se utilizan normalmente los modelos TFLite Edge TPU .

TFLite Edge TPU ofrece varias opciones de despliegue para modelos de aprendizaje automático, entre las que se incluyen:

• Implantación en dispositivos: TensorFlow Los modelos Edge TPU pueden desplegarse directamente en dispositivos móviles e integrados. El despliegue en el dispositivo permite que los modelos se ejecuten directamente en el hardware, eliminando la necesidad de conectividad en la nube.

• Edge Computing con TPU en la nube TensorFlow : En escenarios en los que los dispositivos de borde tienen capacidades de procesamiento limitadas, las TPU de borde TensorFlow pueden descargar las tareas de inferencia a servidores en la nube equipados con TPU.

• Despliegue híbrido: Un enfoque híbrido combina el despliegue en el dispositivo y en la nube y ofrece una solución versátil y escalable para desplegar modelos de aprendizaje automático. Las ventajas incluyen el procesamiento en el dispositivo para respuestas rápidas y la computación en la nube para cálculos más complejos.

Exportación de modelos YOLO11 a TFLite Edge TPU

Puede ampliar la compatibilidad de modelos y la flexibilidad de despliegue convirtiendo los modelos YOLO11 a TensorFlow Edge TPU.

Instalación

Para instalar el paquete necesario, ejecute

# Install the required package for YOLO11
pip install ultralytics

Para obtener instrucciones detalladas y buenas prácticas relacionadas con el proceso de instalación, consulta nuestra guía de instalaciónUltralytics . Mientras instala los paquetes necesarios para YOLO11, si encuentra alguna dificultad, consulte nuestra guía de problemas comunes para obtener soluciones y consejos.

Utilización

Antes de entrar en las instrucciones de uso, es importante tener en cuenta que, aunque todos los modelos deUltralytics YOLO11 están disponibles para la exportación, aquí puede asegurarse de que el modelo que seleccione admite la función de exportación.

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Argumentos de exportación

Para más detalles sobre el proceso de exportación, visite la página de documentaciónUltralytics sobre exportación.

Despliegue de modelos exportados YOLO11 TFLite Edge TPU

Después de exportar con éxito sus modelos Ultralytics YOLO11 al formato TFLite Edge TPU , ahora puede desplegarlos. El primer paso principal y recomendado para ejecutar un modelo TFLite Edge TPU es utilizar el método YOLO("model_edgetpu.tflite"), como se indica en el fragmento de código de uso anterior.

No obstante, para obtener instrucciones detalladas sobre la instalación de los modelos TFLite Edge TPU , consulte los siguientes recursos:

• Coral Edge TPU en una Raspberry Pi con Ultralytics YOLO11: Descubre cómo integrar las TPU Coral Edge con Raspberry Pi para mejorar las capacidades de aprendizaje automático.

• Ejemplos de códigos: Acceda a ejemplos prácticos de implementación de TensorFlow Edge TPU para poner en marcha sus proyectos.

• Ejecutar la inferencia en el borde TPU con Python: Explore cómo utilizar la API TensorFlow Lite Python para aplicaciones Edge TPU , incluidas las directrices de configuración y uso.

Resumen

En esta guía, hemos aprendido a exportar modelos Ultralytics YOLO11 al formato TFLite Edge TPU . Si sigues los pasos mencionados, podrás aumentar la velocidad y la potencia de tus aplicaciones de visión por ordenador.

Para más detalles sobre su uso, visite el sitio web oficial de Edge TPU .

Además, para obtener más información sobre otras integraciones de Ultralytics YOLO11 , visite nuestra página de guía de integración. Allí descubrirás valiosos recursos e información.

PREGUNTAS FRECUENTES

¿Cómo se exporta un modelo YOLO11 al formato TFLite Edge TPU ?

Para exportar un modelo YOLO11 al formato TFLite Edge TPU , puede seguir estos pasos:

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Para más información sobre la exportación de modelos a otros formatos, consulte nuestra guía de exportación.

¿Cuáles son las ventajas de exportar modelos de YOLO11 a TFLite Edge TPU?

La exportación de modelos YOLO11 a TFLite Edge TPU ofrece varias ventajas:

• Rendimiento optimizado: Consiga un rendimiento de red neuronal de alta velocidad con un consumo de energía mínimo.
• Latencia reducida: Rápido procesamiento local de datos sin necesidad de depender de la nube.
• Mayor privacidad: El procesamiento local mantiene los datos del usuario privados y seguros.

Esto lo hace ideal para aplicaciones de computación periférica, donde los dispositivos tienen potencia y recursos computacionales limitados. Más información sobre por qué debe exportar.

¿Puedo implantar los modelos TFLite Edge TPU en dispositivos móviles e integrados?

Sí, los modelos TensorFlow Lite Edge TPU pueden desplegarse directamente en dispositivos móviles e integrados. Este enfoque de despliegue permite que los modelos se ejecuten directamente en el hardware, ofreciendo una inferencia más rápida y eficiente. Para ver ejemplos de integración, consulte nuestra guía sobre el despliegue de Coral Edge TPU en Raspberry Pi.

¿Cuáles son los casos de uso más habituales de los modelos TFLite Edge TPU ?

Entre los casos de uso habituales de los modelos TFLite Edge TPU se incluyen:

• Cámaras inteligentes: Mejora del análisis de imagen y vídeo en tiempo real.
• Dispositivos IoT: La automatización inteligente del hogar y la industria.
• Sanidad: Aceleración del diagnóstico médico por imagen.
• Comercio minorista: Mejora de la gestión de inventarios y análisis del comportamiento de los clientes.

Estas aplicaciones se benefician del alto rendimiento y el bajo consumo de los modelos TFLite Edge TPU . Descubra más sobre los escenarios de uso.

¿Cómo puedo solucionar problemas al exportar o desplegar modelos de TFLite Edge TPU ?

Si se encuentra con problemas al exportar o desplegar modelos TFLite Edge TPU , consulte nuestra guía de problemas comunes para obtener consejos de solución de problemas. Esta guía cubre problemas y soluciones comunes para ayudarle a garantizar un funcionamiento sin problemas. Para obtener más ayuda, visite nuestro Centro de asistencia.

Creado hace 1 año ✏️ Actualizado hace 12 días

Comentarios