Entender cómo exportar al formato TF SavedModel desde YOLOv8

Desplegar modelos de aprendizaje automático puede ser un reto. Sin embargo, utilizar un formato de modelo eficiente y flexible puede facilitarte el trabajo. TF SavedModel es un marco de aprendizaje automático de código abierto utilizado por TensorFlow para cargar modelos de aprendizaje automático de forma coherente. Es como una maleta para los modelos TensorFlow , que facilita su transporte y uso en distintos dispositivos y sistemas.

Aprender a exportar a TF SavedModel desde Ultralytics YOLOv8 puede ayudarte a desplegar modelos fácilmente en diferentes plataformas y entornos. En esta guía, veremos cómo convertir tus modelos al formato TF SavedModel , simplificando el proceso de ejecutar inferencias con tus modelos en diferentes dispositivos.

¿Por qué debes exportar a TF SavedModel ?

El formato TensorFlow SavedModel forma parte del ecosistema TensorFlow desarrollado por Google, como se muestra a continuación. Está diseñado para guardar y serializar modelos TensorFlow sin problemas. Encapsula todos los detalles de los modelos, como la arquitectura, los pesos e incluso la información de compilación. Esto hace que sea sencillo compartir, desplegar y continuar el entrenamiento en distintos entornos.

El TF SavedModel tiene una ventaja clave: su compatibilidad. Funciona bien con TensorFlow Serving, TensorFlow Lite y TensorFlow.js. Esta compatibilidad facilita compartir y desplegar modelos en varias plataformas, incluidas las aplicaciones web y móviles. El formato TF SavedModel es útil tanto para la investigación como para la producción. Proporciona una forma unificada de gestionar tus modelos, garantizando que estén listos para cualquier aplicación.

Características principales de TF SavedModels

Estas son las características clave que hacen de TF SavedModel una gran opción para los desarrolladores de IA:

• Portabilidad: TF SavedModel proporciona un formato de serialización hermético, recuperable e independiente del lenguaje. Permiten a los sistemas y herramientas de nivel superior producir, consumir y transformar modelos TensorFlow . Los SavedModels pueden compartirse y desplegarse fácilmente en distintas plataformas y entornos.

• Facilidad de despliegue: TF SavedModel agrupa el gráfico computacional, los parámetros entrenados y los metadatos necesarios en un único paquete. Pueden cargarse fácilmente y utilizarse para la inferencia sin necesidad del código original que construyó el modelo. Esto hace que el despliegue de los modelos TensorFlow sea sencillo y eficaz en diversos entornos de producción.

• Gestión de activos: TF SavedModel admite la inclusión de activos externos, como vocabularios, incrustaciones o tablas de consulta. Estos activos se almacenan junto a la definición del gráfico y las variables, garantizando que estén disponibles cuando se cargue el modelo. Esta función simplifica la gestión y distribución de modelos que dependen de recursos externos.

Opciones de despliegue con TF SavedModel

Antes de sumergirnos en el proceso de exportación de los modelos YOLOv8 al formato TF SavedModel , vamos a explorar algunos escenarios típicos de implantación en los que se utiliza este formato.

TF SavedModel ofrece una serie de opciones para desplegar tus modelos de aprendizaje automático:

• TensorFlow Servir: TensorFlow Serving es un sistema de servicio flexible y de alto rendimiento diseñado para entornos de producción. Es compatible de forma nativa con TF SavedModels, lo que facilita el despliegue y el servicio de tus modelos en plataformas en la nube, servidores locales o dispositivos periféricos.

• Plataformas en la nube: Los principales proveedores de la nube, como Google Cloud Platform (GCP), Amazon Web Services (AWS) y Microsoft Azure, ofrecen servicios para desplegar y ejecutar modelos TensorFlow , incluido TF SavedModels. Estos servicios proporcionan una infraestructura escalable y gestionada, que te permite desplegar y escalar tus modelos fácilmente.

• Dispositivos móviles e integrados: TensorFlow Lite, una solución ligera para ejecutar modelos de aprendizaje automático en dispositivos móviles, integrados y del IoT, permite convertir TF SavedModels al formato TensorFlow Lite. Esto te permite desplegar tus modelos en una amplia gama de dispositivos, desde teléfonos inteligentes y tabletas hasta microcontroladores y dispositivos de borde.

• TensorFlow Tiempo de ejecución: TensorFlow Runtime (tfrt) es un tiempo de ejecución de alto rendimiento para ejecutar gráficos TensorFlow . Proporciona API de bajo nivel para cargar y ejecutar TF SavedModels en entornos C++. TensorFlow El tiempo de ejecución ofrece un mejor rendimiento en comparación con el tiempo de ejecución estándar de TensorFlow . Es adecuado para escenarios de despliegue que requieran una inferencia de baja latencia y una estrecha integración con las bases de código C++ existentes.

Exportar modelos de YOLOv8 a TF SavedModel

Al exportar los modelos YOLOv8 al formato TF SavedModel , mejoras su adaptabilidad y facilidad de despliegue en diversas plataformas.

Instalación

Para instalar el paquete necesario, ejecuta

# Install the required package for YOLOv8
pip install ultralytics

Para obtener instrucciones detalladas y buenas prácticas relacionadas con el proceso de instalación, consulta nuestra guía de instalaciónUltralytics . Mientras instalas los paquetes necesarios para YOLOv8, si encuentras alguna dificultad, consulta nuestra guía de Problemas comunes para encontrar soluciones y consejos.

Utilización

Antes de sumergirte en las instrucciones de uso, es importante tener en cuenta que, aunque todos los modelos deUltralytics YOLOv8 están disponibles para exportar, aquí puedes asegurarte de que el modelo que seleccionas admite la función de exportación.

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO('yolov8n.pt')

# Export the model to TF SavedModel format
model.export(format='saved_model')  # creates '/yolov8n_saved_model'

# Load the exported TF SavedModel model
tf_savedmodel_model = YOLO('./yolov8n_saved_model')

# Run inference
results = tf_savedmodel_model('https://ultralytics.com/images/bus.jpg')

# Export a YOLOv8n PyTorch model to TF SavedModel format
yolo export model=yolov8n.pt format=saved_model  # creates '/yolov8n_saved_model'

# Run inference with the exported model
yolo predict model='./yolov8n_saved_model' source='https://ultralytics.com/images/bus.jpg'

Para más detalles sobre las opciones de exportación admitidas, visita la página de documentaciónUltralytics sobre opciones de despliegue.

Despliegue de modelos exportados YOLOv8 TF SavedModel

Ahora que has exportado tu modelo YOLOv8 al formato TF SavedModel , el siguiente paso es desplegarlo. El primer paso principal y recomendado para ejecutar un modelo TF GraphDef es utilizar el método YOLO("./yolov8n_saved_model"), como se ha mostrado anteriormente en el fragmento de código de uso.

Sin embargo, para obtener instrucciones detalladas sobre el despliegue de tus modelos TF SavedModel , echa un vistazo a los siguientes recursos:

• TensorFlow Sirviendo a: Aquí tienes la documentación para desarrolladores sobre cómo desplegar tus modelos TF SavedModel utilizando TensorFlow Serving.

• Ejecuta un TensorFlow SavedModel en Node.js: Una entrada del blog TensorFlow sobre cómo ejecutar un TensorFlow SavedModel en Node.js directamente sin conversión.

• Despliegue en la nube: Una entrada del blog TensorFlow sobre el despliegue de un modelo TensorFlow SavedModel en la Plataforma de IA en la Nube.

Resumen

En esta guía, exploramos cómo exportar modelos Ultralytics YOLOv8 al formato TF SavedModel . Al exportar a TF SavedModel , ganas flexibilidad para optimizar, desplegar y escalar tus modelos YOLOv8 en una amplia gama de plataformas.

Para más detalles sobre su uso, visita la documentación oficial deTF SavedModel .

Para obtener más información sobre la integración de Ultralytics YOLOv8 con otras plataformas y frameworks, no olvides consultar nuestra página de la guía de integración. Está repleta de magníficos recursos que te ayudarán a sacar el máximo partido de YOLOv8 en tus proyectos.

Comentarios