Sintonizzazione efficiente degli iperparametri con Ray Tune e YOLO11

La messa a punto degli iperparametri è fondamentale per ottenere le massime prestazioni del modello, scoprendo l'insieme ottimale di iperparametri. Ciò comporta l'esecuzione di prove con diversi iperparametri e la valutazione delle prestazioni di ciascuna prova.

Accelerare la messa a punto con Ultralytics YOLO11 e Ray Tune

Ultralytics YOLO11 incorpora Ray Tune per la regolazione degli iperparametri, semplificando l'ottimizzazione degli iperparametri del modello YOLO11 . Con Ray Tune è possibile utilizzare strategie di ricerca avanzate, il parallelismo e l'arresto anticipato per accelerare il processo di messa a punto.

Ray Tune

Ray Tune è una libreria per la regolazione degli iperparametri progettata per garantire efficienza e flessibilità. Supporta diverse strategie di ricerca, parallelismo e strategie di arresto anticipato e si integra perfettamente con i più diffusi framework di apprendimento automatico, tra cui Ultralytics YOLO11 .

Integrazione con Weights & Biases

YOLO11 consente anche l'integrazione opzionale con Weights & Biases per il monitoraggio del processo di messa a punto.

Installazione

Per installare i pacchetti richiesti, eseguire:

# Install and update Ultralytics and Ray Tune packages
pip install -U ultralytics "ray[tune]"

# Optionally install W&B for logging
pip install wandb

Utilizzo

from ultralytics import YOLO

# Load a YOLO11n model
model = YOLO("yolo11n.pt")

# Start tuning hyperparameters for YOLO11n training on the COCO8 dataset
result_grid = model.tune(data="coco8.yaml", use_ray=True)

tune() Parametri del metodo

Il tune() di YOLO11 fornisce un'interfaccia facile da usare per la sintonizzazione degli iperparametri con Ray Tune. Accetta diversi argomenti che consentono di personalizzare il processo di sintonizzazione. Di seguito è riportata una spiegazione dettagliata di ciascun parametro:

Personalizzando questi parametri, è possibile regolare con precisione il processo di ottimizzazione degli iperparametri in base alle proprie esigenze specifiche e alle risorse computazionali disponibili.

Spazio di ricerca predefinito Descrizione

La tabella seguente elenca i parametri predefiniti dello spazio di ricerca per la regolazione degli iperparametri in YOLO11 con Ray Tune. Ogni parametro ha un intervallo di valori specifico definito da tune.uniform().

Esempio di spazio di ricerca personalizzato

In questo esempio, dimostriamo come utilizzare uno spazio di ricerca personalizzato per la regolazione degli iperparametri con Ray Tune e YOLO11. Fornendo uno spazio di ricerca personalizzato, è possibile concentrare il processo di regolazione su specifici iperparametri di interesse.

from ray import tune

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo11n.pt")

# Run Ray Tune on the model
result_grid = model.tune(
    data="coco8.yaml",
    space={"lr0": tune.uniform(1e-5, 1e-1)},
    epochs=50,
    use_ray=True,
)

Nel frammento di codice qui sopra, creiamo un modello YOLO con i pesi preaddestrati "yolo11n.pt". Quindi, chiamiamo il metodo tune() specificando la configurazione del dataset con "coco8.yaml". Forniamo uno spazio di ricerca personalizzato per il tasso di apprendimento iniziale lr0 utilizzando un dizionario con la chiave "lr0" e il valore tune.uniform(1e-5, 1e-1). Infine, passiamo ulteriori argomenti di addestramento, come il numero di epoche, direttamente al metodo tune come epochs=50.

Ripresa di una sessione di ottimizzazione degli iperparametri interrotta con Ray Tune

Puoi riprendere una sessione di Ray Tune interrotta passando resume=True. Puoi facoltativamente passare la directory name utilizzato da Ray Tune in runs/{task} per riprendere. Altrimenti, riprenderebbe l'ultima sessione interrotta. Non è necessario fornire il iterations e space di nuovo, ma è necessario fornire nuovamente il resto degli argomenti di addestramento, inclusi data e epochs.

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo11n.pt")

# Resume previous run
results = model.tune(use_ray=True, data="coco8.yaml", epochs=50, resume=True)

# Resume Ray Tune run with name 'tune_exp_2'
results = model.tune(use_ray=True, data="coco8.yaml", epochs=50, name="tune_exp_2", resume=True)

Elaborazione dei risultati della sintonizzazione dei raggi

Dopo aver eseguito un esperimento di regolazione dell'iperparametro con Ray Tune, è possibile che si vogliano eseguire varie analisi sui risultati ottenuti. Questa guida illustra i flussi di lavoro più comuni per l'elaborazione e l'analisi di questi risultati.

Caricamento dei risultati dell'esperimento Tune da una directory

Dopo aver eseguito l'esperimento di sintonizzazione con tuner.fit()è possibile caricare i risultati da una directory. Questo è utile soprattutto se si esegue l'analisi dopo che lo script di addestramento iniziale è uscito.

experiment_path = f"{storage_path}/{exp_name}"
print(f"Loading results from {experiment_path}...")

restored_tuner = tune.Tuner.restore(experiment_path, trainable=train_mnist)
result_grid = restored_tuner.get_results()

Analisi di base a livello di esperimento

Ottenere una panoramica dell'andamento delle prove. È possibile verificare rapidamente se ci sono stati errori durante le prove.

if result_grid.errors:
    print("One or more trials failed!")
else:
    print("No errors!")

Analisi di base a livello di processo

Accedere alle configurazioni degli iperparametri delle singole prove e alle ultime metriche riportate.

for i, result in enumerate(result_grid):
    print(f"Trial #{i}: Configuration: {result.config}, Last Reported Metrics: {result.metrics}")

Tracciare l'intera storia delle metriche segnalate per una sperimentazione

È possibile tracciare la storia delle metriche riportate per ogni studio per vedere come si sono evolute le metriche nel tempo.

import matplotlib.pyplot as plt

for i, result in enumerate(result_grid):
    plt.plot(
        result.metrics_dataframe["training_iteration"],
        result.metrics_dataframe["mean_accuracy"],
        label=f"Trial {i}",
    )

plt.xlabel("Training Iterations")
plt.ylabel("Mean Accuracy")
plt.legend()
plt.show()

Sintesi

In questa documentazione abbiamo illustrato i flussi di lavoro comuni per analizzare i risultati degli esperimenti eseguiti con Ray Tune utilizzando Ultralytics. I passaggi chiave includono il caricamento dei risultati dell'esperimento da una directory, l'esecuzione di analisi di base a livello di esperimento e di prova e il grafico delle metriche.

Per ottenere il massimo dai vostri esperimenti di messa a punto degli iperparametri, consultate la pagina dei documenti di Ray Tune dedicata all'analisi dei risultati.

FAQ

Come si sintonizzano gli iperparametri del modello YOLO11 utilizzando Ray Tune?

Per sintonizzare gli iperparametri del modello Ultralytics YOLO11 utilizzando Ray Tune, procedere come segue:

1. Installare i pacchetti necessari:

   pip install -U ultralytics "ray[tune]"
   pip install wandb # optional for logging
   

2. Caricare il modello YOLO11 e iniziare la messa a punto:

   from ultralytics import YOLO
   
   # Load a YOLO11 model
   model = YOLO("yolo11n.pt")
   
   # Start tuning with the COCO8 dataset
   result_grid = model.tune(data="coco8.yaml", use_ray=True)
   

Utilizza le strategie di ricerca avanzate e il parallelismo di Ray Tune per ottimizzare in modo efficiente gli iperparametri del modello. Per ulteriori informazioni, consultare la documentazione di Ray Tune.

Quali sono gli iperparametri predefiniti per la sintonizzazione di YOLO11 con Ray Tune?

Ultralytics YOLO11 utilizza i seguenti iperparametri predefiniti per la sintonizzazione con Ray Tune:

Questi iperparametri possono essere personalizzati per soddisfare le vostre esigenze specifiche. Per un elenco completo e maggiori dettagli, consultare la guida alla regolazione degli iperparametri.

Come posso integrare Weights & Biases con la messa a punto del modello YOLO11 ?

Per integrare Weights & Biases (W&B) con il processo di messa a punto di Ultralytics YOLO11 :

1. Installare W&B:

   pip install wandb
   

2. Modificare lo script di sintonizzazione:

   import wandb
   
   from ultralytics import YOLO
   
   wandb.init(project="YOLO-Tuning", entity="your-entity")
   
   # Load YOLO model
   model = YOLO("yolo11n.pt")
   
   # Tune hyperparameters
   result_grid = model.tune(data="coco8.yaml", use_ray=True)
   

Questa impostazione consente di monitorare il processo di messa a punto, di tenere traccia delle configurazioni degli iperparametri e di visualizzare i risultati in W&B.

Perché utilizzare Ray Tune per l'ottimizzazione degli iperparametri con YOLO11?

Ray Tune offre numerosi vantaggi per l'ottimizzazione degli iperparametri:

• Strategie di ricerca avanzate: Utilizza algoritmi come l'ottimizzazione bayesiana e HyperOpt per una ricerca efficiente dei parametri.
• Parallelismo: Supporta l'esecuzione parallela di più prove, accelerando in modo significativo il processo di messa a punto.
• Arresto precoce: Utilizza strategie come ASHA per terminare precocemente le prove con prestazioni insufficienti, risparmiando risorse computazionali.

Ray Tune si integra perfettamente con Ultralytics YOLO11, fornendo un'interfaccia facile da usare per la regolazione efficace degli iperparametri. Per iniziare, consulta la guida all'ottimizzazione degli iperparametri.

Come posso definire uno spazio di ricerca personalizzato per la regolazione degli iperparametri di YOLO11 ?

Per definire uno spazio di ricerca personalizzato per la sintonizzazione degli iperparametri di YOLO11 con Ray Tune:

from ray import tune

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
search_space = {"lr0": tune.uniform(1e-5, 1e-1), "momentum": tune.uniform(0.6, 0.98)}
result_grid = model.tune(data="coco8.yaml", space=search_space, use_ray=True)

In questo modo si personalizza la gamma di iperparametri, come il tasso di apprendimento iniziale e la quantità di moto, da esplorare durante il processo di sintonizzazione. Per configurazioni avanzate, consultare la sezione Esempio di spazio di ricerca personalizzato.

📅C reato 1 anno fa ✏️ Aggiornato 1 mese fa

Commenti