Exportación de modelos TFLite para despliegue (obsoleto)#

Desplegar modelos de computer vision en dispositivos de borde o integrados requiere un formato que pueda garantizar un rendimiento fluido.

El antiguo formato de exportación TensorFlow Lite o TFLite optimizaba los modelos Ultralytics YOLO26 para tareas como la detección de objetos y la clasificación de imágenes en aplicaciones de borde. Esta guía conserva el contexto de despliegue heredado de TFLite; utiliza LiteRT para nuevas exportaciones.

¿Por qué se utilizaba TFLite para la exportación?#

Introducido por Google en mayo de 2017 como parte de su framework TensorFlow, TensorFlow Lite, o TFLite para abreviar, fue un framework de aprendizaje profundo de código abierto diseñado para la inferencia en el dispositivo, también conocido como edge computing. Proporcionaba a los desarrolladores herramientas para ejecutar modelos entrenados en dispositivos móviles, integrados e IoT, así como en equipos informáticos tradicionales.

TensorFlow Lite admitía una amplia gama de plataformas, incluyendo Linux embebido, Android, iOS y microcontroladores (MCUs). Las exportaciones TFLite permitían a las aplicaciones ejecutar modelos de forma local y sin conexión.

Características clave de los modelos TFLite#

Los modelos TFLite ofrecen una amplia gama de características clave que permiten el aprendizaje automático en el dispositivo, ayudando a los desarrolladores a ejecutar sus modelos en dispositivos móviles, integrados y de borde:

• Optimización en el dispositivo: TFLite se optimiza para ML en el dispositivo, reduciendo la latencia al procesar datos localmente, mejorando la privacidad al no transmitir datos personales y minimizando el tamaño del modelo para ahorrar espacio.

• Soporte para múltiples plataformas: TFLite ofrece una amplia compatibilidad de plataformas, soportando Android, iOS, Linux integrado y microcontroladores.

• Soporte para diversos lenguajes: TFLite es compatible con varios lenguajes de programación, incluyendo Java, Swift, Objective-C, C++ y Python.

• Alto rendimiento: Logra un rendimiento superior mediante la aceleración de hardware y la optimización del modelo.

Rendimiento medido (histórico)#

Ambos formatos se ejecutaron en el mismo barrido de GPU consecutivo con los tamaños de entrada mostrados. Cada celda es el tiempo total (preprocesamiento + inferencia + postprocesamiento), con la división por etapa debajo; los registros nativos confirmaron que ambos formatos delegaron el grafo completo en LiteRT OpenCL (LITERT_CL) en la GPU Adreno.

La misma ejecución de migración también comparó los formatos de cuantización de detección de YOLO26n. La inferencia es la métrica comparable y dependiente del formato:

En esta ejecución, w8a16 recurrió a la CPU en aproximadamente 660 ms en total frente a unos 17 ms para los formatos de GPU. Estos resultados motivaron el lanzamiento de w8a32, pero la compatibilidad del delegador y el rendimiento dependen del dispositivo y de la versión del tiempo de ejecución. Realiza pruebas comparativas en el dispositivo de destino y confirma la ubicación del acelerador en sus registros de tiempo de ejecución.

Opciones de despliegue en TFLite#

Antes de ver el ejemplo de exportación de reemplazo con LiteRT, comprendamos cómo se utilizan normalmente los modelos TFLite.

TFLite ofrece varias opciones de despliegue en el dispositivo para modelos de aprendizaje automático, incluyendo:

• Despliegue con Android e iOS: Tanto las aplicaciones de Android como las de iOS con TFLite pueden analizar transmisiones de cámaras y sensores de borde para detectar e identificar objetos. TFLite también ofrece bibliotecas nativas para iOS escritas en Swift y Objective-C. El diagrama de arquitectura a continuación muestra el proceso de desplegar un modelo entrenado en plataformas Android e iOS usando TensorFlow Lite.

• Implementación con Linux integrado: Si la ejecución de inferencias en una Raspberry Pi usando la Guía de Ultralytics no cumple con los requisitos de velocidad para tu caso de uso, puedes usar un modelo TFLite exportado para acelerar los tiempos de inferencia. Además, es posible mejorar aún más el rendimiento utilizando un dispositivo Coral Edge TPU.

• Despliegue con microcontroladores: Los modelos TFLite también pueden desplegarse en microcontroladores y otros dispositivos con solo unos pocos kilobytes de memoria. El núcleo de ejecución cabe en solo 16 KB en un Arm Cortex M3 y puede ejecutar muchos modelos básicos. No requiere soporte de sistema operativo, ninguna biblioteca estándar de C o C++ ni asignación de memoria dinámica.

Reemplaza la exportación TFLite con LiteRT#

Para nuevas exportaciones, convierte tu modelo a LiteRT. El modelo resultante mantiene la extensión de archivo .tflite.

Instalación#

Para instalar los paquetes necesarios, ejecuta:

# Install the required package for YOLO26
pip install ultralytics

Para instrucciones detalladas y mejores prácticas relacionadas con el proceso de instalación, consulta nuestra Guía de instalación de Ultralytics. Mientras instalas los paquetes requeridos para YOLO26, si encuentras alguna dificultad, consulta nuestra Guía de problemas comunes para obtener soluciones y consejos.

Uso#

Todos los modelos de Ultralytics YOLO26 están diseñados para admitir la exportación desde el primer momento, facilitando su integración en tu flujo de trabajo de despliegue preferido. Puedes ver la lista completa de formatos de exportación admitidos y las opciones de configuración para elegir la mejor configuración para tu aplicación.

El formato de reemplazo LiteRT admite los modos Export, Predict y Validate. Exporta tu modelo y luego carga el modelo .tflite exportado para ejecutar la inferencia o validar su precisión.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to LiteRT format
model.export(format="litert", imgsz=640)  # use imgsz=224 for classification

from ultralytics import YOLO

# Load the exported TFLite model
model = YOLO("yolo26n.tflite")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported TFLite model
model = YOLO("yolo26n.tflite")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Argumentos de exportación#

Para obtener más detalles sobre el proceso de exportación, visita la página de documentación de Ultralytics sobre la exportación.

Desplegando modelos YOLO26 TFLite exportados#

Después de exportar tu modelo Ultralytics YOLO26 al formato LiteRT, puedes desplegar el modelo .tflite resultante. El primer paso principal y recomendado para ejecutar un modelo TFLite es utilizar el método YOLO("model.tflite"), tal como se describe en el fragmento de código de uso anterior. Sin embargo, para obtener instrucciones detalladas sobre cómo desplegar tus modelos TFLite en otros entornos, echa un vistazo a los siguientes recursos:

• Android: Una guía de inicio rápido para integrar TensorFlow Lite en aplicaciones Android, que proporciona pasos fáciles de seguir para configurar y ejecutar modelos de machine learning.

• iOS: Consulta esta guía detallada para desarrolladores sobre cómo integrar y desplegar modelos TensorFlow Lite en aplicaciones iOS, ofreciendo instrucciones paso a paso y recursos.

• Ejemplos integrales: Esta página ofrece una visión general de varios ejemplos de TensorFlow Lite, mostrando aplicaciones prácticas y tutoriales diseñados para ayudar a los desarrolladores a implementar TensorFlow Lite en sus proyectos de aprendizaje automático en dispositivos móviles y de borde.

Resumen#

Esta guía conserva el flujo de trabajo de despliegue heredado de TFLite. Para nuevas exportaciones, utiliza LiteRT para crear modelos .tflite para entornos de edge computing.

Para más detalles sobre su uso, visita la documentación oficial de TFLite.

Además, si tienes curiosidad sobre otras integraciones de Ultralytics YOLO26, echa un vistazo a nuestra página de guía de integración. Encontrarás mucha información útil y perspectivas allí.

FAQ#

¿Cómo reemplazo una exportación TFLite con LiteRT?#

Para una nueva exportación, utiliza el formato LiteRT. Primero, instala el paquete necesario usando:

pip install ultralytics

Luego, usa el siguiente fragmento de código para exportar tu modelo:

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to LiteRT format
model.export(format="litert", imgsz=640)  # use imgsz=224 for classification

Para usuarios de CLI, puedes lograr esto con:

yolo export model=yolo26n.pt format=litert imgsz=640 # use imgsz=224 for classification

Para más detalles, visita la guía de exportación de Ultralytics.

¿Cuáles son los beneficios de usar TensorFlow Lite para el despliegue de modelos YOLO26?#

TensorFlow Lite (TFLite) es un marco de deep learning de código abierto diseñado para la inferencia en el dispositivo, lo que lo hace ideal para desplegar modelos YOLO26 en dispositivos móviles, integrados e IoT. Los beneficios clave incluyen:

• Optimización en el dispositivo: Minimiza la latencia y mejora la privacidad procesando los datos localmente.
• Compatibilidad de plataforma: Soporta Android, iOS, Linux integrado y MCU.
• Rendimiento: Utiliza aceleración de hardware para optimizar la velocidad y eficiencia del modelo.

Para aprender más, consulta la guía de TFLite.

¿Es posible ejecutar modelos YOLO26 TFLite en Raspberry Pi?#

Sí, puedes ejecutar modelos TFLite de YOLO26 en Raspberry Pi para mejorar la velocidad de inferencia. Primero, exporta tu modelo al formato LiteRT como se explicó anteriormente. Luego, utiliza una herramienta como TensorFlow Lite Interpreter para ejecutar el modelo en tu Raspberry Pi.

Para optimizaciones adicionales, podrías considerar usar Coral Edge TPU. Para pasos detallados, consulta nuestra guía de despliegue en Raspberry Pi y la guía de integración de Edge TPU.

¿Puedo usar modelos TFLite en microcontroladores para predicciones con YOLO26?#

Sí, TFLite soporta el despliegue en microcontroladores con recursos limitados. El núcleo de ejecución de TFLite requiere solo 16 KB de memoria en un Arm Cortex M3 y puede ejecutar modelos YOLO26 básicos. Esto lo hace adecuado para su despliegue en dispositivos con potencia computacional y memoria mínimas.

Para empezar, visita la guía de TFLite Micro para microcontroladores.

¿Qué plataformas son compatibles con los modelos YOLO26 exportados a TFLite?#

TensorFlow Lite proporciona una amplia compatibilidad de plataformas, permitiéndote desplegar modelos YOLO26 en una amplia gama de dispositivos, incluyendo:

• Android e iOS: Soporte nativo a través de las bibliotecas de TFLite para Android e iOS.
• Linux integrado: Ideal para computadoras de placa única como Raspberry Pi.
• Microcontroladores: Adecuado para MCUs con recursos limitados.

Para más información sobre las opciones de despliegue, consulta nuestra guía de despliegue detallada.

¿Cómo soluciono problemas comunes durante la exportación de modelos YOLO26 a LiteRT?#

Si encuentras errores mientras exportas modelos YOLO26 a LiteRT, las soluciones comunes incluyen:

• Comprueba la compatibilidad de paquetes: Asegúrate de estar utilizando versiones compatibles de Ultralytics, litert-torch y ai-edge-litert. Consulta nuestra guía de instalación.
• Soporte de modelos: Verifica que el modelo YOLO26 específico admita la exportación a LiteRT consultando la página de documentación de exportación de Ultralytics.
• Problemas de cuantificación: Cuando uses cuantificación INT8, asegúrate de que la ruta de tu conjunto de datos esté correctamente especificada en el parámetro data.

Para consejos adicionales de solución de problemas, visita nuestra Guía de problemas comunes.