Guía para implementar YOLOv8 en los puntos finales de Amazon SageMaker

La implementación de modelos avanzados de visión informática como Ultralytics' YOLOv8 en los puntos finales de Amazon SageMaker abre un amplio abanico de posibilidades para diversas aplicaciones de aprendizaje automático. La clave para utilizar eficazmente estos modelos reside en comprender sus procesos de instalación, configuración e implementación. YOLOv8 se vuelve aún más potente cuando se integra perfectamente con Amazon SageMaker, un servicio de aprendizaje automático robusto y escalable de AWS.

Esta guía te llevará paso a paso por el proceso de despliegue de los modelos YOLOv8 PyTorch en los puntos finales de Amazon SageMaker. Aprenderás lo esencial para preparar tu entorno de AWS, configurar el modelo adecuadamente y utilizar herramientas como AWS CloudFormation y el Kit de desarrollo en la nube de AWS (CDK) para la implementación.

Amazon SageMaker

Amazon SageMaker es un servicio de aprendizaje automático de Amazon Web Services (AWS) que simplifica el proceso de creación, entrenamiento y despliegue de modelos de aprendizaje automático. Proporciona una amplia gama de herramientas para manejar diversos aspectos de los flujos de trabajo de aprendizaje automático. Esto incluye funciones automatizadas para ajustar modelos, opciones para entrenar modelos a escala y métodos sencillos para desplegar modelos en producción. SageMaker es compatible con los marcos de aprendizaje automático más populares, ofreciendo la flexibilidad necesaria para diversos proyectos. Sus funciones también cubren el etiquetado de datos, la gestión del flujo de trabajo y el análisis del rendimiento.

Implementación de YOLOv8 en los puntos finales de Amazon SageMaker

Implementar YOLOv8 en Amazon SageMaker te permite utilizar su entorno administrado para la inferencia en tiempo real y aprovechar características como el autoescalado. Echa un vistazo a la arquitectura de AWS a continuación.

Paso 1: Configura tu entorno AWS

En primer lugar, asegúrate de que reúnes los siguientes requisitos previos:

• Una cuenta de AWS: Si aún no tienes una, regístrate para obtener una cuenta de AWS.

• Roles de IAM configurados: necesitará un rol de IAM con los permisos necesarios para Amazon SageMaker, AWS CloudFormation y Amazon S3. Este rol debe tener políticas que le permitan acceder a estos servicios.

• AWS CLI: Si aún no está instalada, descarga e instala la interfaz de línea de comandos de AWS (CLI) y configúrala con los datos de tu cuenta. Sigue las instrucciones de AWS CLI para la instalación.

• AWS CDK: Si aún no está instalado, instala el Kit de Desarrollo en la Nube de AWS (CDK), que se utilizará para programar el despliegue. Sigue las instrucciones de instalación del CDK de AWS.

• Cuota de servicio adecuada: Confirma que tienes cuotas suficientes para dos recursos separados en Amazon SageMaker: uno para ml.m5.4xlarge para el uso del punto final y otro para ml.m5.4xlarge para el uso de la instancia de portátil. Cada una de ellas requiere un valor mínimo de cuota. Si tus cuotas actuales están por debajo de este requisito, es importante que solicites un aumento para cada una de ellas. Puedes solicitar un aumento de cuota siguiendo las instrucciones detalladas en la sección Documentación sobre las cuotas de servicio de AWS.

Paso 2: Clonar el repositorio de SageMaker YOLOv8

El siguiente paso es clonar el repositorio específico de AWS que contiene los recursos para implementar YOLOv8 en SageMaker. Este repositorio, alojado en GitHub, incluye los scripts CDK y los archivos de configuración necesarios.

• Clona el repositorio de GitHub: Ejecuta el siguiente comando en tu terminal para clonar el repositorio host-yolov8-on-sagemaker-endpoint:

git clone https://github.com/aws-samples/host-yolov8-on-sagemaker-endpoint.git

• Navega hasta el directorio clonado: Cambia tu directorio al repositorio clonado:

cd host-yolov8-on-sagemaker-endpoint/yolov8-pytorch-cdk

Paso 3: Configurar el entorno CDK

Ahora que ya tienes el código necesario, configura tu entorno para el despliegue con AWS CDK.

• Crea un Entorno Virtual Python : Esto aísla tu entorno Python y sus dependencias. Ejecútalo:

python3 -m venv .venv

• Activa el Entorno Virtual:

source .venv/bin/activate

• Instalar dependencias: Instala las dependencias de Python necesarias para el proyecto:

pip3 install -r requirements.txt

• Actualiza la biblioteca CDK de AWS: Asegúrate de que tienes la última versión de la biblioteca AWS CDK:

pip install --upgrade aws-cdk-lib

Paso 4: Crear la pila de AWS CloudFormation

• Sintetiza la aplicación CDK: Genera la plantilla de AWS CloudFormation a partir de tu código CDK:

cdk synth

• Prepara la aplicación CDK: Prepara tu entorno AWS para el despliegue de CDK:

cdk bootstrap

• Despliega la pila: Esto creará los recursos de AWS necesarios y desplegará tu modelo:

cdk deploy

Paso 5: Despliega el modelo YOLOv8

Antes de sumergirte en las instrucciones de despliegue, asegúrate de consultar la gama de modelos deYOLOv8 que ofrece Ultralytics. Esto te ayudará a elegir el modelo más apropiado para los requisitos de tu proyecto.

Tras crear la pila de AWS CloudFormation, el siguiente paso es desplegar YOLOv8.

• Abre la Instancia de Notebook: Ve a la consola de AWS y navega hasta el servicio Amazon SageMaker. Selecciona "Instancias de bloc de notas" en el panel de control y localiza la instancia de bloc de notas creada por tu script de despliegue del CDK. Abre la instancia de bloc de notas para acceder al entorno Jupyter.

• Accede y modifica inference.py: Tras abrir la instancia del cuaderno SageMaker en Jupyter, localiza el archivo inference.py. Edita la función output_fn en inference.py como se muestra a continuación y guarda los cambios en el script, asegurándote de que no hay errores de sintaxis.

import json


def output_fn(prediction_output):
    """Formats model outputs as JSON string, extracting attributes like boxes, masks, keypoints."""
    print("Executing output_fn from inference.py ...")
    infer = {}
    for result in prediction_output:
        if result.boxes is not None:
            infer["boxes"] = result.boxes.numpy().data.tolist()
        if result.masks is not None:
            infer["masks"] = result.masks.numpy().data.tolist()
        if result.keypoints is not None:
            infer["keypoints"] = result.keypoints.numpy().data.tolist()
        if result.obb is not None:
            infer["obb"] = result.obb.numpy().data.tolist()
        if result.probs is not None:
            infer["probs"] = result.probs.numpy().data.tolist()
    return json.dumps(infer)

• Despliega el Endpoint utilizando 1_DeployEndpoint.ipynb: En el entorno Jupyter, abre el cuaderno 1_DeployEndpoint.ipynb situado en el directorio sm-notebook. Sigue las instrucciones del cuaderno y ejecuta las celdas para descargar el modelo YOLOv8 , empaquetarlo con el código de inferencia actualizado y subirlo a un bucket de Amazon S3. El cuaderno te guiará en la creación y despliegue de un endpoint de SageMaker para el modelo YOLOv8 .

Paso 6: Probar tu implantación

Ahora que tu modelo YOLOv8 está desplegado, es importante probar su rendimiento y funcionalidad.

• Abre el Cuaderno de Pruebas: En el mismo entorno Jupyter, localiza y abre el cuaderno 2_TestEndpoint.ipynb, también en el directorio sm-notebook.

• Ejecute el bloc de notas de prueba: siga las instrucciones del bloc de notas para probar el punto de enlace de SageMaker implementado. Esto incluye el envío de una imagen al punto de conexión y la ejecución de inferencias. A continuación, representará la salida para visualizar el rendimiento y la precisión del modelo, como se muestra a continuación.

• Recursos de limpieza: El cuaderno de pruebas también te guiará en el proceso de limpieza del endpoint y del modelo alojado. Éste es un paso importante para gestionar eficazmente los costes y los recursos, sobre todo si no piensas utilizar inmediatamente el modelo desplegado.

Paso 7: Seguimiento y gestión

Después de las pruebas, son esenciales la supervisión y la gestión continuas de tu modelo desplegado.

• Monitoriza con Amazon CloudWatch: Comprueba regularmente el rendimiento y la salud de tu endpoint de SageMaker utilizando Amazon CloudWatch.

• Gestionar el Endpoint: Utiliza la consola de SageMaker para la gestión continua del endpoint. Esto incluye escalar, actualizar o volver a desplegar el modelo según sea necesario.

Al completar estos pasos, habrás desplegado y probado con éxito un modelo YOLOv8 en los puntos finales de Amazon SageMaker. Este proceso no sólo te dota de experiencia práctica en el uso de los servicios de AWS para el despliegue del aprendizaje automático, sino que también sienta las bases para desplegar otros modelos avanzados en el futuro.

Resumen

Esta guía te lleva paso a paso a través de la implementación de YOLOv8 en los puntos finales de Amazon SageMaker utilizando AWS CloudFormation y el Kit de Desarrollo en la Nube de AWS (CDK). El proceso incluye la clonación del repositorio de GitHub necesario, la configuración del entorno CDK, la implementación del modelo mediante los servicios de AWS y la prueba de su rendimiento en SageMaker.

Para obtener más detalles técnicos, consulta este artículo del blog de aprendizaje automático de AWS. También puedes consultar la Documentación oficial de Amazon SageMaker para obtener más información sobre diversas características y funcionalidades.

¿Te interesa saber más sobre las distintas integraciones de YOLOv8 ? Visita la página de la guía de integracionesUltralytics para descubrir otras herramientas y capacidades que pueden mejorar tus proyectos de aprendizaje automático.

PREGUNTAS FRECUENTES

¿Cómo despliego el modelo Ultralytics YOLOv8 en los puntos finales de Amazon SageMaker?

Para desplegar el modelo Ultralytics YOLOv8 en los puntos finales de Amazon SageMaker, sigue estos pasos:

1. Configura tu entorno de AWS: Asegúrate de que tienes una cuenta de AWS, roles IAM con los permisos necesarios y AWS CLI configurado. Instala AWS CDK si aún no lo has hecho (consulta las instrucciones de AWS CDK).
2. Clona el repositorio de SageMaker de YOLOv8:

   git clone https://github.com/aws-samples/host-yolov8-on-sagemaker-endpoint.git
   cd host-yolov8-on-sagemaker-endpoint/yolov8-pytorch-cdk
   

3. Configurar el entorno CDK: Crea un entorno virtual Python , actívalo, instala las dependencias y actualiza la biblioteca AWS CDK.

   python3 -m venv .venv
   source .venv/bin/activate
   pip3 install -r requirements.txt
   pip install --upgrade aws-cdk-lib
   

4. Implementar con AWS CDK: Sintetiza y despliega la pila de CloudFormation, arranca el entorno.

   cdk synth
   cdk bootstrap
   cdk deploy
   

Para más detalles, consulta la sección de documentación.

¿Cuáles son los requisitos previos para desplegar YOLOv8 en Amazon SageMaker?

Para desplegar YOLOv8 en Amazon SageMaker, asegúrate de que tienes los siguientes requisitos previos:

1. Cuenta AWS: Cuenta AWS activa(regístrate aquí).
2. Roles IAM: Roles IAM configurados con permisos para SageMaker, CloudFormation y Amazon S3.
3. AWS CLI: Instalada y configurada la interfaz de línea de comandos de AWS(guía de instalación de AWS CLI ).
4. AWS CDK: Kit de desarrollo en la nube de AWS instalado(guía de instalación del CDK).
5. Cuotas de servicio: Cuotas suficientes para ml.m5.4xlarge tanto para el uso del punto final como del cuaderno (solicitar un aumento de cuota).

Para una configuración detallada, consulta esta sección.

¿Por qué debería utilizar Ultralytics YOLOv8 en Amazon SageMaker?

Utilizar Ultralytics YOLOv8 en Amazon SageMaker ofrece varias ventajas:

1. Escalabilidad y gestión: SageMaker proporciona un entorno gestionado con funciones como el autoescalado, que ayuda en las necesidades de inferencia en tiempo real.
2. Integración con los servicios de AWS: Se integra perfectamente con otros servicios de AWS, como S3 para almacenamiento de datos, CloudFormation para infraestructura como código y CloudWatch para monitorización.
3. Facilidad de implementación: Configuración simplificada mediante scripts AWS CDK y procesos de despliegue agilizados.
4. Rendimiento: Aprovecha la infraestructura de alto rendimiento de Amazon SageMaker para ejecutar eficientemente tareas de inferencia a gran escala.

Explora más sobre las ventajas de utilizar SageMaker en la sección de introducción.

¿Puedo personalizar la lógica de inferencia para YOLOv8 en Amazon SageMaker?

Sí, puedes personalizar la lógica de inferencia para YOLOv8 en Amazon SageMaker:

1. Modifica inference.py: Localiza y personaliza el output_fn en la función inference.py para adaptar los formatos de salida.

   import json
   
   
   def output_fn(prediction_output):
       """Formats model outputs as JSON string, extracting attributes like boxes, masks, keypoints."""
       infer = {}
       for result in prediction_output:
           if result.boxes is not None:
               infer["boxes"] = result.boxes.numpy().data.tolist()
           # Add more processing logic if necessary
       return json.dumps(infer)
   

2. Despliega el modelo actualizado: Asegúrate de que vuelves a desplegar el modelo utilizando los cuadernos Jupyter proporcionados (1_DeployEndpoint.ipynb) para incluir estos cambios.

Consulta los pasos detallados para desplegar el modelo modificado.

¿Cómo puedo probar el modelo YOLOv8 desplegado en Amazon SageMaker?

Para probar el modelo YOLOv8 desplegado en Amazon SageMaker:

1. Abre el Cuaderno de Pruebas: Localiza el 2_TestEndpoint.ipynb en el entorno Jupyter de SageMaker.
2. Ejecuta el Cuaderno: Sigue las instrucciones del cuaderno para enviar una imagen al endpoint, realizar la inferencia y mostrar los resultados.
3. Visualiza los resultados: Utiliza las funciones de trazado integradas para visualizar las métricas de rendimiento, como los cuadros delimitadores alrededor de los objetos detectados.

Para obtener instrucciones completas sobre las pruebas, visita la sección de pruebas.

Comentarios