Exportación de modelos TFLite para implementación (obsoleto)#

Implementar modelos de visión artificial en dispositivos edge o dispositivos embebidos requiere un formato que garantice un rendimiento fluido.

El antiguo formato de exportación TensorFlow Lite o TFLite optimizaba los modelos Ultralytics YOLO26 para tareas como la detección de objetos y la clasificación de imágenes en aplicaciones edge. Esta guía conserva el contexto de implementación heredado de TFLite; usa LiteRT para las nuevas exportaciones.

¿Por qué se utilizaba TFLite para la exportación?#

Presentado por Google en mayo de 2017 como parte de su framework TensorFlow, TensorFlow Lite, o TFLite para abreviar, era un framework de aprendizaje profundo de código abierto diseñado para la inferencia en el dispositivo, también conocida como computación edge. Proporcionaba a los desarrolladores herramientas para ejecutar modelos entrenados en dispositivos móviles, embebidos y del IoT, así como en ordenadores tradicionales.

TensorFlow Lite era compatible con una amplia variedad de plataformas, como Linux embebido, Android, iOS y microcontroladores (MCU). Las exportaciones de TFLite permitían que las aplicaciones ejecutaran modelos localmente y sin conexión.

Características principales de los modelos TFLite#

Los modelos TFLite ofrecen una amplia variedad de características clave que permiten el aprendizaje automático en el dispositivo al ayudar a los desarrolladores a ejecutar sus modelos en dispositivos móviles, embebidos y edge:

• Optimización en el dispositivo: TFLite optimiza los modelos para el aprendizaje automático en el dispositivo, reduce la latencia al procesar los datos localmente, mejora la privacidad al no transmitir datos personales y minimiza el tamaño del modelo para ahorrar espacio.

• Compatibilidad con varias plataformas: TFLite ofrece una amplia compatibilidad con plataformas, como Android, iOS, Linux embebido y microcontroladores.

• Compatibilidad con diversos lenguajes: TFLite es compatible con varios lenguajes de programación, como Java, Swift, Objective-C, C++ y Python.

• Alto rendimiento: logra un rendimiento superior mediante la aceleración por hardware y la optimización del modelo.

Rendimiento medido (histórico)#

Ambos formatos se ejecutaron en la misma prueba consecutiva de GPU con los tamaños de entrada mostrados. Cada celda muestra el tiempo total (preprocesamiento + inferencia + posprocesamiento), con el desglose por etapa debajo; los registros nativos confirmaron que ambos formatos delegaron el grafo completo en LiteRT OpenCL (LITERT_CL) en la GPU Adreno.

La misma ejecución de migración también comparó los formatos de cuantización de detección de YOLO26n. La inferencia es la métrica comparable y dependiente del formato:

En esta ejecución, w8a16 recurrió a la CPU, con un total aproximado de 660 ms frente a unos 17 ms de los formatos de GPU. Estos resultados motivaron el envío de w8a32, pero la compatibilidad y el rendimiento del delegado dependen del dispositivo y de la versión del entorno de ejecución. Haz pruebas en el dispositivo de destino y confirma la asignación del acelerador en sus registros del entorno de ejecución.

Opciones de implementación en TFLite#

Antes de ver el ejemplo de exportación de reemplazo de LiteRT, entendamos cómo se suelen utilizar los modelos TFLite.

TFLite ofrece varias opciones de implementación en el dispositivo para modelos de aprendizaje automático, entre ellas:

• Implementación con Android e iOS: Tanto las aplicaciones Android como las iOS con TFLite pueden analizar imágenes de cámaras y sensores basadas en edge para detectar e identificar objetos. TFLite también ofrece bibliotecas nativas para iOS escritas en Swift y Objective-C. El siguiente diagrama de arquitectura muestra el proceso de implementación de un modelo entrenado en plataformas Android e iOS mediante TensorFlow Lite.

• Implementación con Linux embebido: Si ejecutar inferencias en una Raspberry Pi usando la Guía de Ultralytics no cumple los requisitos de velocidad de tu caso de uso, puedes utilizar un modelo TFLite exportado para acelerar los tiempos de inferencia. Además, puedes mejorar aún más el rendimiento utilizando un dispositivo Coral Edge TPU.

• Implementación con microcontroladores: Los modelos TFLite también pueden implementarse en microcontroladores y otros dispositivos con solo unos pocos kilobytes de memoria. El entorno de ejecución principal ocupa solo 16 KB en un Arm Cortex M3 y puede ejecutar muchos modelos básicos. No requiere compatibilidad con sistemas operativos, bibliotecas estándar de C o C++ ni asignación de memoria dinámica.

Reemplazar la exportación de TFLite por LiteRT#

Para las nuevas exportaciones, convierte tu modelo a LiteRT. El modelo resultante conserva la extensión de archivo .tflite.

Instalación#

Para instalar los paquetes necesarios, ejecuta:

# Install the required package for YOLO26
pip install ultralytics

Para consultar instrucciones detalladas y buenas prácticas relacionadas con el proceso de instalación, revisa nuestra guía de instalación de Ultralytics. Si encuentras dificultades al instalar los paquetes necesarios para YOLO26, consulta nuestra guía de problemas comunes para obtener soluciones y consejos.

Uso#

Todos los modelos Ultralytics YOLO26 están diseñados para admitir la exportación de forma nativa, lo que facilita su integración en tu flujo de trabajo de despliegue preferido. Puedes consultar la lista completa de formatos de exportación y opciones de configuración compatibles para elegir la configuración más adecuada para tu aplicación.

El formato de reemplazo LiteRT admite los modos Exportar, Predecir y Validar. Exporta tu modelo y, después, carga el modelo .tflite exportado para ejecutar inferencias o validar su precisión.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to LiteRT format
model.export(format="litert", imgsz=640)  # use imgsz=224 for classification

from ultralytics import YOLO

# Load the exported TFLite model
model = YOLO("yolo26n.tflite")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported TFLite model
model = YOLO("yolo26n.tflite")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Argumentos de exportación#

Para obtener más información sobre el proceso de exportación, visita la página de la documentación de Ultralytics sobre exportación.

Implementación de modelos YOLO26 TFLite exportados#

Después de exportar tu modelo Ultralytics YOLO26 al formato LiteRT, puedes implementar el modelo .tflite resultante. El primer paso principal y recomendado para ejecutar un modelo TFLite es utilizar el método YOLO("model.tflite"), como se indica en el fragmento de código de uso anterior. Sin embargo, para consultar instrucciones detalladas sobre la implementación de tus modelos TFLite en otros entornos, echa un vistazo a los siguientes recursos:

• Android: Guía de inicio rápido para integrar TensorFlow Lite en aplicaciones Android, con pasos sencillos para configurar y ejecutar modelos de aprendizaje automático.

• iOS: Consulta esta guía detallada para desarrolladores sobre la integración y la implementación de modelos TensorFlow Lite en aplicaciones iOS, con instrucciones paso a paso y recursos.

• Ejemplos de principio a fin: Esta página ofrece una visión general de varios ejemplos de TensorFlow Lite, con aplicaciones prácticas y tutoriales diseñados para ayudar a los desarrolladores a implementar TensorFlow Lite en sus proyectos de aprendizaje automático en dispositivos móviles y edge.

Resumen#

Esta guía conserva el flujo de trabajo de implementación heredado de TFLite. Para las nuevas exportaciones, usa LiteRT para crear modelos .tflite destinados a entornos de computación edge.

Para obtener más información sobre el uso, visita la documentación oficial de TFLite.

Además, si quieres conocer otras integraciones de Ultralytics YOLO26, consulta nuestra página de la guía de integraciones. Allí encontrarás mucha información y datos útiles.

Preguntas frecuentes#