Cómo exportar a TF GraphDef desde YOLOv8 para su despliegue

Cuando despliegas modelos de visión por ordenador de última generación, como YOLOv8, en distintos entornos, puedes encontrarte con problemas de compatibilidad. Los modelos de Google TensorFlow GraphDef , o TF GraphDef , ofrecen una solución al proporcionar una representación serializada e independiente de la plataforma de tu modelo. Utilizando el formato de modelo TF GraphDef , puedes desplegar tu modelo YOLOv8 en entornos en los que el ecosistema completo TensorFlow puede no estar disponible, como dispositivos móviles o hardware especializado.

En esta guía te explicaremos paso a paso cómo exportar tus Ultralytics YOLOv8 modelos al formato de modelo TF GraphDef . Al convertir tu modelo, puedes agilizar la implantación y utilizar las capacidades de visión por ordenador de YOLOv8 en una gama más amplia de aplicaciones y plataformas.

¿Por qué debes exportar a TF GraphDef ?

TF GraphDef es un potente componente del ecosistema TensorFlow desarrollado por Google. Puede utilizarse para optimizar y desplegar modelos como YOLOv8. Exportar a TF GraphDef nos permite trasladar modelos de la investigación a aplicaciones del mundo real. Permite que los modelos se ejecuten en entornos sin el marco completo TensorFlow .

El formato GraphDef representa el modelo como un grafo de cálculo serializado. Esto permite diversas técnicas de optimización, como el plegado de constantes, la cuantización y las transformaciones de grafos. Estas optimizaciones garantizan una ejecución eficaz, un menor uso de memoria y una mayor velocidad de inferencia.

GraphDef pueden utilizar aceleradores de hardware como GPUs, TPUs y chips de IA, desbloqueando importantes ganancias de rendimiento para la tubería de inferencia YOLOv8 . El formato TF GraphDef crea un paquete autocontenido con el modelo y sus dependencias, lo que simplifica el despliegue y la integración en diversos sistemas.

Características principales de los modelos TF GraphDef

TF GraphDef ofrece distintas funciones para agilizar la implantación y optimización de modelos.

Aquí tienes un vistazo a sus principales características:

• Serialización de modelos: TF GraphDef proporciona una forma de serializar y almacenar modelos TensorFlow en un formato independiente de la plataforma. Esta representación serializada te permite cargar y ejecutar tus modelos sin la base de código Python original, lo que facilita el despliegue.

• Optimización de grafos: TF GraphDef permite optimizar los grafos computacionales. Estas optimizaciones pueden aumentar el rendimiento agilizando el flujo de ejecución, reduciendo las redundancias y adaptando las operaciones a un hardware específico.

• Flexibilidad de despliegue: Los modelos exportados al formato GraphDef pueden utilizarse en diversos entornos, como dispositivos con recursos limitados, navegadores web y sistemas con hardware especializado. Esto abre posibilidades para un despliegue más amplio de tus modelos TensorFlow .

• Enfoque de producción: GraphDef está diseñado para la implantación en producción. Admite una ejecución eficiente, funciones de serialización y optimizaciones que se ajustan a los casos de uso del mundo real.

Opciones de despliegue con TF GraphDef

Antes de sumergirnos en el proceso de exportación de modelos de YOLOv8 a TF GraphDef , echemos un vistazo a algunas situaciones típicas de implantación en las que se utiliza este formato.

He aquí cómo puedes desplegar con TF GraphDef de forma eficiente en varias plataformas.

• TensorFlow Servir: Este marco está diseñado para desplegar modelos TensorFlow en entornos de producción. TensorFlow Serving ofrece gestión de modelos, versionado y la infraestructura para un servicio eficiente de modelos a escala. Es una forma sencilla de integrar tus modelos basados en GraphDef en servicios web o API de producción.

• Dispositivos móviles e integrados: Con herramientas como TensorFlow Lite, puedes convertir los modelos de TF GraphDef en formatos optimizados para teléfonos inteligentes, tabletas y diversos dispositivos integrados. Tus modelos pueden utilizarse entonces para la inferencia en el dispositivo, donde la ejecución se realiza localmente, lo que a menudo proporciona ganancias de rendimiento y capacidades offline.

• Navegadores web: TensorFlow.js permite desplegar modelos TF GraphDef directamente en los navegadores web. Prepara el camino para las aplicaciones de detección de objetos en tiempo real que se ejecutan en el lado del cliente, utilizando las capacidades de YOLOv8 a través de JavaScript.

• Hardware especializado: TF La naturaleza agnóstica de la plataformaGraphDef le permite dirigirse a hardware personalizado, como aceleradores y TPU (Tensor Unidades de Procesamiento). Estos dispositivos pueden proporcionar ventajas de rendimiento para modelos de cálculo intensivo.

Exportar modelos de YOLOv8 a TF GraphDef

Puedes convertir tu modelo de detección de objetos YOLOv8 al formato TF GraphDef , que es compatible con varios sistemas, para mejorar su rendimiento en todas las plataformas.

Instalación

Para instalar el paquete necesario, ejecuta

# Install the required package for YOLOv8
pip install ultralytics

Para obtener instrucciones detalladas y buenas prácticas relacionadas con el proceso de instalación, consulta nuestra guía de instalaciónUltralytics . Mientras instalas los paquetes necesarios para YOLOv8, si encuentras alguna dificultad, consulta nuestra guía de Problemas comunes para encontrar soluciones y consejos.

Utilización

Antes de sumergirte en las instrucciones de uso, es importante tener en cuenta que, aunque todos los modelos deUltralytics YOLOv8 están disponibles para exportar, aquí puedes asegurarte de que el modelo que seleccionas admite la función de exportación.

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO('yolov8n.pt')

# Export the model to TF GraphDef format
model.export(format='pb')  # creates 'yolov8n.pb'

# Load the exported TF GraphDef model
tf_graphdef_model = YOLO('yolov8n.pb')

# Run inference
results = tf_graphdef_model('https://ultralytics.com/images/bus.jpg')

# Export a YOLOv8n PyTorch model to TF GraphDef format
yolo export model=yolov8n.pt format=pb  # creates 'yolov8n.pb'

# Run inference with the exported model
yolo predict model='yolov8n.pb' source='https://ultralytics.com/images/bus.jpg'

Para más detalles sobre las opciones de exportación admitidas, visita la página de documentaciónUltralytics sobre opciones de despliegue.

Despliegue de modelos exportados YOLOv8 TF GraphDef

Una vez que hayas exportado tu modelo YOLOv8 al formato TF GraphDef , el siguiente paso es el despliegue. El primer paso principal y recomendado para ejecutar un modelo TF GraphDef es utilizar el método YOLO("model.pb"), como se ha mostrado anteriormente en el fragmento de código de uso.

Sin embargo, para obtener más información sobre el despliegue de tus modelos TF GraphDef , echa un vistazo a los siguientes recursos:

• TensorFlow Sirviendo a: Una guía sobre TensorFlow Serving que enseña cómo desplegar y servir eficientemente modelos de aprendizaje automático en entornos de producción.

• TensorFlow Lite: Esta página describe cómo convertir modelos de aprendizaje automático en un formato optimizado para la inferencia en el dispositivo con TensorFlow Lite.

• TensorFlow.js: Una guía sobre la conversión de modelos que enseña a convertir modelos TensorFlow o Keras al formato TensorFlow.js para utilizarlos en aplicaciones web.

Resumen

En esta guía, exploramos cómo exportar modelos Ultralytics YOLOv8 al formato TF GraphDef . Haciendo esto, puedes desplegar de forma flexible tus modelos YOLOv8 optimizados en diferentes entornos.

Para más detalles sobre su uso, visita la documentación oficial deTF GraphDef .

Para obtener más información sobre la integración de Ultralytics YOLOv8 con otras plataformas y frameworks, no olvides consultar nuestra página de la guía de integración. Contiene excelentes recursos e información que te ayudarán a sacar el máximo partido de YOLOv8 en tus proyectos.

Comentarios