Exportación de modelos TFLite para despliegue (obsoleto)#

Desplegar modelos de visión artificial en dispositivos edge o dispositivos embebidos requiere un formato que pueda garantizar un rendimiento fluido.

El antiguo formato de exportación TensorFlow Lite o TFLite optimizaba los modelos de Ultralytics YOLO26 para tareas como la detección de objetos y la clasificación de imágenes en aplicaciones edge. Esta guía conserva el contexto de despliegue clásico de TFLite; usa LiteRT para las nuevas exportaciones.

¿Por qué se utilizaba TFLite para la exportación?#

Introducido por Google en mayo de 2017 como parte de su framework TensorFlow, TensorFlow Lite, o TFLite para abreviar, era un framework de deep learning de código abierto diseñado para la inferencia en el dispositivo, también conocido como edge computing. Proporcionaba a los desarrolladores herramientas para ejecutar modelos entrenados en dispositivos móviles, embebidos e IoT, así como en ordenadores tradicionales.

TensorFlow Lite admitía una amplia gama de plataformas, incluyendo Linux embebido, Android, iOS y microcontroladores (MCUs). Las exportaciones TFLite permitían a las aplicaciones ejecutar modelos de forma local y sin conexión.

Características clave de los modelos TFLite#

Los modelos TFLite ofrecen una amplia gama de características clave que permiten el aprendizaje automático en el dispositivo, ayudando a los desarrolladores a ejecutar sus modelos en dispositivos móviles, integrados y de borde:

• Optimización en el dispositivo: TFLite se optimiza para ML en el dispositivo, reduciendo la latencia al procesar datos localmente, mejorando la privacidad al no transmitir datos personales y minimizando el tamaño del modelo para ahorrar espacio.

• Soporte para múltiples plataformas: TFLite ofrece una amplia compatibilidad de plataformas, soportando Android, iOS, Linux integrado y microcontroladores.

• Soporte para diversos lenguajes: TFLite es compatible con varios lenguajes de programación, incluyendo Java, Swift, Objective-C, C++ y Python.

• Alto rendimiento: Logra un rendimiento superior mediante la aceleración de hardware y la optimización del modelo.

Rendimiento medido (histórico)#

Ambos formatos se ejecutaron en el mismo barrido de GPU consecutivo con los tamaños de entrada mostrados. Cada celda es el tiempo total (preprocesamiento + inferencia + postprocesamiento), con el desglose por etapas debajo; los registros nativos confirmaron que ambos formatos delegaron el grafo completo a LiteRT OpenCL (LITERT_CL) en la GPU Adreno.

La misma ejecución de migración también comparó los formatos de cuantización de detección de YOLO26n. La inferencia es la métrica comparable y dependiente del formato:

En esta ejecución, w8a16 recurrió a la CPU con unos 660 ms en total frente a unos 17 ms para los formatos de GPU. Estos resultados motivaron el lanzamiento de w8a32, pero la compatibilidad con delegados y el rendimiento dependen del dispositivo y de la versión del runtime. Realiza pruebas de rendimiento en el dispositivo de destino y confirma la ubicación del acelerador en sus registros de ejecución.

Opciones de despliegue en TFLite#

Antes de ver el ejemplo de exportación de reemplazo con LiteRT, comprendamos cómo se utilizan normalmente los modelos TFLite.

TFLite ofrece varias opciones de despliegue en el dispositivo para modelos de aprendizaje automático, incluyendo:

• Despliegue con Android e iOS: Tanto las aplicaciones de Android como las de iOS con TFLite pueden analizar fuentes de cámaras y sensores basados en el edge para detectar e identificar objetos. TFLite también ofrece bibliotecas nativas para iOS escritas en Swift y Objective-C. El diagrama de arquitectura a continuación muestra el proceso de despliegue de un modelo entrenado en plataformas Android e iOS utilizando TensorFlow Lite.

• Implementación con Linux embebido: Si la ejecución de inferencias en una Raspberry Pi utilizando la Guía de Ultralytics no cumple con los requisitos de velocidad para tu caso de uso, puedes utilizar un modelo TFLite exportado para acelerar los tiempos de inferencia. Además, es posible mejorar aún más el rendimiento utilizando un dispositivo Coral Edge TPU.

• Despliegue con microcontroladores: Los modelos TFLite también pueden desplegarse en microcontroladores y otros dispositivos con solo unos pocos kilobytes de memoria. El núcleo de ejecución cabe en solo 16 KB en un Arm Cortex M3 y puede ejecutar muchos modelos básicos. No requiere soporte de sistema operativo, ninguna biblioteca estándar de C o C++ ni asignación de memoria dinámica.

Reemplaza la exportación TFLite con LiteRT#

Para las nuevas exportaciones, convierte tu modelo a LiteRT. El modelo resultante conserva la extensión de archivo .tflite.

Instalación#

Para instalar los paquetes necesarios, ejecuta:

# Install the required package for YOLO26
pip install ultralytics

Para obtener instrucciones detalladas y mejores prácticas relacionadas con el proceso de instalación, consulta nuestra guía de instalación de Ultralytics. Si encuentras alguna dificultad al instalar los paquetes necesarios para YOLO26, consulta nuestra guía de problemas comunes para ver soluciones y consejos.

Uso#

Todos los modelos de Ultralytics YOLO26 están diseñados para admitir la exportación de serie, lo que facilita su integración en tu flujo de trabajo de despliegue preferido. Puedes ver la lista completa de formatos de exportación compatibles y opciones de configuración para elegir la mejor configuración para tu aplicación.

El formato LiteRT de reemplazo admite los modos Exportar, Predecir y Validar. Exporta tu modelo y luego carga el modelo .tflite exportado para ejecutar la inferencia o validar su precisión.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to LiteRT format
model.export(format="litert", imgsz=640)  # use imgsz=224 for classification

from ultralytics import YOLO

# Load the exported TFLite model
model = YOLO("yolo26n.tflite")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported TFLite model
model = YOLO("yolo26n.tflite")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Argumentos de exportación#

Para más detalles sobre el proceso de exportación, visita la página de documentación de Ultralytics sobre exportación.

Desplegando modelos YOLO26 TFLite exportados#

Después de exportar tu modelo Ultralytics YOLO26 al formato LiteRT, puedes desplegar el modelo .tflite resultante. El paso inicial principal y recomendado para ejecutar un modelo TFLite es utilizar el método YOLO("model.tflite"), como se describe en el fragmento de código de uso anterior. Sin embargo, para obtener instrucciones detalladas sobre cómo desplegar tus modelos TFLite en varios otros entornos, echa un vistazo a los siguientes recursos:

• Android: Una guía de inicio rápido para integrar TensorFlow Lite en aplicaciones Android, que ofrece pasos fáciles de seguir para configurar y ejecutar modelos de aprendizaje automático.

• iOS: Consulta esta guía detallada para desarrolladores sobre la integración y el despliegue de modelos de TensorFlow Lite en aplicaciones iOS, que ofrece instrucciones paso a paso y recursos.

• Ejemplos de extremo a extremo: Esta página ofrece una visión general de varios ejemplos de TensorFlow Lite, mostrando aplicaciones prácticas y tutoriales diseñados para ayudar a los desarrolladores a implementar TensorFlow Lite en sus proyectos de aprendizaje automático en dispositivos móviles y edge.

Resumen#

Esta guía conserva el flujo de trabajo de despliegue clásico de TFLite. Para las nuevas exportaciones, usa LiteRT para crear modelos .tflite para entornos de edge computing.

Para obtener más detalles sobre el uso, visita la documentación oficial de TFLite.

Asimismo, si tienes curiosidad por otras integraciones de Ultralytics YOLO26, consulta nuestra página de la guía de integración. Allí encontrarás un montón de información útil y perspectivas.

FAQ#