Entender cómo exportar al formato TF SavedModel desde YOLOv8

Desplegar modelos de aprendizaje automático puede ser un reto. Sin embargo, utilizar un formato de modelo eficiente y flexible puede facilitarte el trabajo. TF SavedModel es un marco de aprendizaje automático de código abierto utilizado por TensorFlow para cargar modelos de aprendizaje automático de forma coherente. Es como una maleta para los modelos TensorFlow , que facilita su transporte y uso en distintos dispositivos y sistemas.

Aprender a exportar a TF SavedModel desde Ultralytics YOLOv8 puede ayudarte a desplegar modelos fácilmente en diferentes plataformas y entornos. En esta guía, veremos cómo convertir tus modelos al formato TF SavedModel , simplificando el proceso de ejecutar inferencias con tus modelos en diferentes dispositivos.

¿Por qué debes exportar a TF SavedModel ?

El formato TensorFlow SavedModel forma parte del ecosistema TensorFlow desarrollado por Google , como se muestra a continuación. Está diseñado para guardar y serializar modelos TensorFlow sin problemas. Encapsula todos los detalles de los modelos, como la arquitectura, los pesos e incluso la información de compilación. Esto hace que sea sencillo compartir, desplegar y continuar el entrenamiento en distintos entornos.

El TF SavedModel tiene una ventaja clave: su compatibilidad. Funciona bien con TensorFlow Serving, TensorFlow Lite y TensorFlow.js. Esta compatibilidad facilita compartir y desplegar modelos en varias plataformas, incluidas las aplicaciones web y móviles. El formato TF SavedModel es útil tanto para la investigación como para la producción. Proporciona una forma unificada de gestionar tus modelos, garantizando que estén listos para cualquier aplicación.

Características principales de TF SavedModels

Estas son las características clave que hacen de TF SavedModel una gran opción para los desarrolladores de IA:

• Portabilidad: TF SavedModel proporciona un formato de serialización hermético, recuperable e independiente del lenguaje. Permiten a los sistemas y herramientas de nivel superior producir, consumir y transformar modelos TensorFlow . Los SavedModels pueden compartirse y desplegarse fácilmente en distintas plataformas y entornos.

• Facilidad de despliegue: TF SavedModel agrupa el gráfico computacional, los parámetros entrenados y los metadatos necesarios en un único paquete. Pueden cargarse fácilmente y utilizarse para la inferencia sin necesidad del código original que construyó el modelo. Esto hace que el despliegue de los modelos TensorFlow sea sencillo y eficaz en diversos entornos de producción.

• Gestión de activos: TF SavedModel admite la inclusión de activos externos, como vocabularios, incrustaciones o tablas de consulta. Estos activos se almacenan junto a la definición del gráfico y las variables, garantizando que estén disponibles cuando se cargue el modelo. Esta función simplifica la gestión y distribución de modelos que dependen de recursos externos.

Opciones de despliegue con TF SavedModel

Antes de sumergirnos en el proceso de exportación de los modelos YOLOv8 al formato TF SavedModel , vamos a explorar algunos escenarios típicos de implantación en los que se utiliza este formato.

TF SavedModel ofrece una serie de opciones para desplegar tus modelos de aprendizaje automático:

• TensorFlow Servir: TensorFlow Serving es un sistema de servicio flexible y de alto rendimiento diseñado para entornos de producción. Es compatible de forma nativa con TF SavedModels, lo que facilita el despliegue y el servicio de tus modelos en plataformas en la nube, servidores locales o dispositivos periféricos.

• Plataformas en la nube: Los principales proveedores de la nube, como Google Cloud Platform (GCP), Amazon Web Services (AWS) y Microsoft Azure, ofrecen servicios para desplegar y ejecutar modelos TensorFlow , incluido TF SavedModels. Estos servicios proporcionan una infraestructura escalable y gestionada, que te permite desplegar y escalar tus modelos fácilmente.

• Dispositivos móviles e integrados: TensorFlow Lite, una solución ligera para ejecutar modelos de aprendizaje automático en dispositivos móviles, integrados y del IoT, permite convertir TF SavedModels al formato TensorFlow Lite. Esto te permite desplegar tus modelos en una amplia gama de dispositivos, desde teléfonos inteligentes y tabletas hasta microcontroladores y dispositivos de borde.

• TensorFlow Tiempo de ejecución: TensorFlow Tiempo de ejecución (tfrt) es un tiempo de ejecución de alto rendimiento para ejecutar TensorFlow Gráficos. Proporciona API de nivel inferior para cargar y ejecutar TF SavedModels en entornos de C++. TensorFlow El tiempo de ejecución ofrece un mejor rendimiento en comparación con el estándar TensorFlow Ejecución. Es adecuado para escenarios de implementación que requieren inferencia de baja latencia y una estrecha integración con las bases de código de C++ existentes.

Exportar modelos de YOLOv8 a TF SavedModel

Al exportar los modelos YOLOv8 al formato TF SavedModel , mejoras su adaptabilidad y facilidad de despliegue en diversas plataformas.

Instalación

Para instalar el paquete necesario, ejecuta

# Install the required package for YOLOv8
pip install ultralytics

Para obtener instrucciones detalladas y buenas prácticas relacionadas con el proceso de instalación, consulta nuestra guía de instalaciónUltralytics . Mientras instalas los paquetes necesarios para YOLOv8, si encuentras alguna dificultad, consulta nuestra guía de Problemas comunes para encontrar soluciones y consejos.

Utilización

Antes de sumergirte en las instrucciones de uso, es importante tener en cuenta que, aunque todos los modelos deUltralytics YOLOv8 están disponibles para exportar, aquí puedes asegurarte de que el modelo que seleccionas admite la función de exportación.

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO("yolov8n.pt")

# Export the model to TF SavedModel format
model.export(format="saved_model")  # creates '/yolov8n_saved_model'

# Load the exported TF SavedModel model
tf_savedmodel_model = YOLO("./yolov8n_saved_model")

# Run inference
results = tf_savedmodel_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLOv8n PyTorch model to TF SavedModel format
yolo export model=yolov8n.pt format=saved_model  # creates '/yolov8n_saved_model'

# Run inference with the exported model
yolo predict model='./yolov8n_saved_model' source='https://ultralytics.com/images/bus.jpg'

Para más detalles sobre las opciones de exportación admitidas, visita la página de documentaciónUltralytics sobre opciones de despliegue.

Despliegue de modelos exportados YOLOv8 TF SavedModel

Ahora que has exportado tu modelo YOLOv8 al formato TF SavedModel , el siguiente paso es desplegarlo. El primer paso principal y recomendado para ejecutar un modelo TF GraphDef es utilizar el método YOLO("./yolov8n_saved_model"), como se ha mostrado anteriormente en el fragmento de código de uso.

Sin embargo, para obtener instrucciones detalladas sobre el despliegue de tus modelos TF SavedModel , echa un vistazo a los siguientes recursos:

• TensorFlow Sirviendo a: Aquí tienes la documentación para desarrolladores sobre cómo desplegar tus modelos TF SavedModel utilizando TensorFlow Serving.

• Ejecuta un TensorFlow SavedModel en Node.js: Una entrada del blog TensorFlow sobre cómo ejecutar un TensorFlow SavedModel en Node.js directamente sin conversión.

• Despliegue en la nube: Una entrada del blog TensorFlow sobre el despliegue de un modelo TensorFlow SavedModel en la Plataforma de IA en la Nube.

Resumen

En esta guía, exploramos cómo exportar modelos Ultralytics YOLOv8 al formato TF SavedModel . Al exportar a TF SavedModel , ganas flexibilidad para optimizar, desplegar y escalar tus modelos YOLOv8 en una amplia gama de plataformas.

Para más detalles sobre su uso, visita la documentación oficial deTF SavedModel .

Para obtener más información sobre la integración de Ultralytics YOLOv8 con otras plataformas y frameworks, no olvides consultar nuestra página de la guía de integración. Está repleta de magníficos recursos que te ayudarán a sacar el máximo partido de YOLOv8 en tus proyectos.

PREGUNTAS FRECUENTES

¿Cómo exporto un modelo Ultralytics YOLO al formato TensorFlow SavedModel ?

Exportar un modelo Ultralytics YOLO al formato TensorFlow SavedModel es sencillo. Puedes utilizar Python o CLI para conseguirlo:

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO("yolov8n.pt")

# Export the model to TF SavedModel format
model.export(format="saved_model")  # creates '/yolov8n_saved_model'

# Load the exported TF SavedModel for inference
tf_savedmodel_model = YOLO("./yolov8n_saved_model")
results = tf_savedmodel_model("https://ultralytics.com/images/bus.jpg")

# Export the YOLOv8 model to TF SavedModel format
yolo export model=yolov8n.pt format=saved_model  # creates '/yolov8n_saved_model'

# Run inference with the exported model
yolo predict model='./yolov8n_saved_model' source='https://ultralytics.com/images/bus.jpg'

Consulta la documentación deUltralytics Exportar para más detalles.

¿Por qué debo utilizar el formato TensorFlow SavedModel ?

El formato TensorFlow SavedModel ofrece varias ventajas para la implantación de modelos:

• Portabilidad: Proporciona un formato de lenguaje neutro, lo que facilita compartir y desplegar modelos en distintos entornos.
• Compatibilidad: Se integra perfectamente con herramientas como TensorFlow Serving, TensorFlow Lite y TensorFlow.js, que son esenciales para desplegar modelos en diversas plataformas, incluidas aplicaciones web y móviles.
• Encapsulación completa: Codifica la arquitectura del modelo, los pesos y la información de compilación, lo que permite compartirlo directamente y continuar con el entrenamiento.

Para más ventajas y opciones de despliegue, consulta las opciones de despliegue del modeloUltralytics YOLO .

¿Cuáles son los escenarios típicos de despliegue de TF SavedModel ?

TF SavedModel puede desplegarse en varios entornos, entre ellos:

• TensorFlow Servir: Ideal para entornos de producción que requieren un servicio de modelos escalable y de alto rendimiento.
• Plataformas en la nube: Es compatible con los principales servicios en la nube, como Google Cloud Platform (GCP), Amazon Web Services (AWS) y Microsoft Azure, para desplegar modelos escalables.
• Dispositivos móviles e integrados: El uso de TensorFlow Lite para convertir TF SavedModels permite la implementación en dispositivos móviles, dispositivos IoT y microcontroladores.
• TensorFlow Tiempo de ejecución: Para entornos C++ que necesiten una inferencia de baja latencia con un mejor rendimiento.

Para conocer en detalle las opciones de despliegue, visita las guías oficiales de despliegue de los modelos TensorFlow .

¿Cómo puedo instalar los paquetes necesarios para exportar los modelos de YOLOv8 ?

Para exportar los modelos de YOLOv8 , tienes que instalar el programa ultralytics paquete. Ejecuta el siguiente comando en tu terminal:

pip install ultralytics

Para obtener instrucciones de instalación más detalladas y las mejores prácticas, consulta nuestra guía de instalaciónUltralytics . Si tienes algún problema, consulta nuestra Guía de problemas comunes.

¿Cuáles son las principales características del formato TensorFlow SavedModel ?

TF SavedModel es beneficioso para los desarrolladores de IA debido a las siguientes características:

• Portabilidad: Permite compartir y desplegar en varios entornos sin esfuerzo.
• Facilidad de despliegue: Encapsula el gráfico computacional, los parámetros entrenados y los metadatos en un único paquete, lo que simplifica la carga y la inferencia.
• Gestión de activos: Admite activos externos como vocabularios, garantizando que estén disponibles cuando se cargue el modelo.

Para más detalles, explora la documentación oficial de TensorFlow .

Comentarios