Ajuste eficiente de hiperparámetros con Ray Tune y YOLOv8

El ajuste de hiperparámetros es vital para conseguir el máximo rendimiento del modelo, descubriendo el conjunto óptimo de hiperparámetros. Esto implica realizar ensayos con diferentes hiperparámetros y evaluar el rendimiento de cada ensayo.

Acelera la puesta a punto con Ultralytics YOLOv8 y Ray Tune

Ultralytics YOLOv8 incorpora Ray Tune para el ajuste de hiperparámetros, agilizando la optimización de los hiperparámetros del modelo YOLOv8 . Con Ray Tune, puedes utilizar estrategias de búsqueda avanzadas, paralelismo y detención temprana para agilizar el proceso de ajuste.

Ray Tune

Ray Tune es una biblioteca de ajuste de hiperparámetros diseñada para ser eficiente y flexible. Admite varias estrategias de búsqueda, paralelismo y estrategias de parada temprana, y se integra perfectamente con los marcos de aprendizaje automático más populares, incluido Ultralytics YOLOv8 .

Integración con Weights & Biases

YOLOv8 también permite la integración opcional con Weights & Biases para controlar el proceso de ajuste.

Instalación

Para instalar los paquetes necesarios, ejecuta

# Install and update Ultralytics and Ray Tune packages
pip install -U ultralytics "ray[tune]"

# Optionally install W&B for logging
pip install wandb

Utilización

from ultralytics import YOLO

# Load a YOLOv8n model
model = YOLO('yolov8n.pt')

# Start tuning hyperparameters for YOLOv8n training on the COCO8 dataset
result_grid = model.tune(data='coco8.yaml', use_ray=True)

tune() Parámetros del método

En tune() de YOLOv8 proporciona una interfaz fácil de usar para el ajuste de hiperparámetros con Ray Tune. Acepta varios argumentos que te permiten personalizar el proceso de sintonización. A continuación encontrarás una explicación detallada de cada parámetro:

Personalizando estos parámetros, puedes ajustar el proceso de optimización de hiperparámetros para adaptarlo a tus necesidades específicas y a los recursos informáticos disponibles.

Espacio de búsqueda por defecto Descripción

La tabla siguiente enumera los parámetros por defecto del espacio de búsqueda para el ajuste de hiperparámetros en YOLOv8 con Ray Tune. Cada parámetro tiene un rango de valores específico definido por tune.uniform().

Ejemplo de espacio de búsqueda personalizado

En este ejemplo, demostramos cómo utilizar un espacio de búsqueda personalizado para el ajuste de hiperparámetros con Ray Tune y YOLOv8. Al proporcionar un espacio de búsqueda personalizado, puedes centrar el proceso de ajuste en hiperparámetros específicos de interés.

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolov8n.pt")

# Run Ray Tune on the model
result_grid = model.tune(data="coco8.yaml",
                         space={"lr0": tune.uniform(1e-5, 1e-1)},
                         epochs=50,
                         use_ray=True)

En el fragmento de código anterior, creamos un modelo YOLO con los pesos preentrenados "yolov8n.pt". A continuación, llamamos a la función tune() especificando la configuración del conjunto de datos con "coco8.yaml". Proporcionamos un espacio de búsqueda personalizado para la tasa de aprendizaje inicial lr0 utilizando un diccionario con la clave "lr0" y el valor tune.uniform(1e-5, 1e-1). Por último, pasamos argumentos de entrenamiento adicionales, como el número de épocas, directamente al método de ajuste como epochs=50.

Procesamiento de los resultados de la sintonización de rayos

Después de ejecutar un experimento de ajuste de hiperparámetros con Ray Tune, es posible que quieras realizar diversos análisis de los resultados obtenidos. Esta guía te llevará a través de flujos de trabajo comunes para procesar y analizar estos resultados.

Cargar los resultados de un experimento Tune desde un directorio

Después de realizar el experimento de ajuste con tuner.fit()puedes cargar los resultados desde un directorio. Esto es útil, sobre todo si realizas el análisis después de que haya salido el script de entrenamiento inicial.

experiment_path = f"{storage_path}/{exp_name}"
print(f"Loading results from {experiment_path}...")

restored_tuner = tune.Tuner.restore(experiment_path, trainable=train_mnist)
result_grid = restored_tuner.get_results()

Análisis básico a nivel experimental

Obtén una visión general del rendimiento de las pruebas. Puedes comprobar rápidamente si hubo algún error durante las pruebas.

if result_grid.errors:
    print("One or more trials failed!")
else:
    print("No errors!")

Análisis básico a nivel de prueba

Accede a las configuraciones individuales de los hiperparámetros de los ensayos y a las últimas métricas comunicadas.

for i, result in enumerate(result_grid):
    print(f"Trial #{i}: Configuration: {result.config}, Last Reported Metrics: {result.metrics}")

Trazar todo el historial de métricas notificadas de un ensayo

Puedes trazar el historial de las métricas comunicadas de cada ensayo para ver cómo evolucionan las métricas a lo largo del tiempo.

import matplotlib.pyplot as plt

for result in result_grid:
    plt.plot(result.metrics_dataframe["training_iteration"], result.metrics_dataframe["mean_accuracy"], label=f"Trial {i}")

plt.xlabel('Training Iterations')
plt.ylabel('Mean Accuracy')
plt.legend()
plt.show()

Resumen

En esta documentación, cubrimos los flujos de trabajo habituales para analizar los resultados de los experimentos realizados con Ray Tune utilizando Ultralytics. Los pasos clave incluyen la carga de los resultados del experimento desde un directorio, la realización de análisis básicos a nivel de experimento y a nivel de prueba, y el trazado de métricas.

Explora más a fondo la página de documentación Analizar resultados de Ray Tune para sacar el máximo partido a tus experimentos de ajuste de hiperparámetros.

Comentarios