Ultralytics YOLO Hyperparameter Tuning-Leitfaden#

Die Hyperparameter-Optimierung in Ultralytics YOLO ist eine automatisierte, iterative Suche, die Einstellungen wie Lernrate, Verlustgewichte und Augmentierungsstärke optimiert, um die Leistungsmetriken eines Machine Learning-Modells wie Genauigkeit, Präzision und Recall zu maximieren. Anstatt diese Werte von Hand zu testen, durchläuft Ultralytics YOLO den Hyperparameter-Raum mit einem genetischen Algorithmus, der Kandidatenkonfigurationen über viele kurze Trainingsläufe hinweg mutiert und bewertet.

Was sind Hyperparameter?#

Hyperparameter sind übergeordnete, strukturelle Einstellungen für den Algorithmus. Sie werden vor der Trainingsphase festgelegt und bleiben währenddessen konstant. Hier sind einige häufig abgestimmte Hyperparameter in Ultralytics YOLO:

• Lernrate lr0: Bestimmt die Schrittgröße bei jeder Iteration, während man sich einem Minimum in der Loss-Funktion nähert.
• Batch-Größe batch: Anzahl der Bilder, die in einem Forward-Pass gleichzeitig verarbeitet werden.
• Anzahl der Epochen epochs: Eine Epoche ist ein vollständiger Forward- und Backward-Pass aller Trainingsbeispiele.
• Architekturspezifika: Wie Kanalanzahlen, Anzahl der Schichten, Arten von Aktivierungsfunktionen usw. Diese befinden sich in der Modell-YAML-Konfiguration statt in den Trainingsargumenten.

Von diesen vieren befindet sich nur die Lernrate im Standard-Suchraum: batch, epochs und die Architektur bleiben fixiert. Der Tuner mutiert außerdem den Zeitplan, die Loss-Gains und die unten aufgeführten Augmentierungen.

Eine vollständige Liste der in YOLO26 verwendeten Augmentierungs-Hyperparameter findest du auf der Konfigurationsseite.

Genetische Evolution und Mutation#

Ultralytics YOLO verwendet genetische Algorithmen, um Hyperparameter zu optimieren. Genetische Algorithmen sind vom Mechanismus der natürlichen Auslese und der Genetik inspiriert.

• Crossover: Jede Iteration kombiniert Gene aus bis zu neun der bisher besten Fitness-Konfigurationen unter Verwendung von BLX-α-Crossover mit fitnessgewichteter Elternauswahl.
• Mutation: Der rekombinierte Kandidat wird dann durch einen log-normalen multiplikativen Faktor gestört, der auf jeden Hyperparameter angewendet wird (mit einer Wahrscheinlichkeit von 0,5 pro Parameter). Die Mutationsstärke Sigma klingt über die ersten 300 Iterationen linear von 0,2 auf 0,1 ab, sodass der Algorithmus früh breit explorieren kann und sich bei der Konvergenz verfeinert. Iteration 1 hat keine Eltern für das Crossover und verwendet die Standard-Trainingshyperparameter als Basis.

Vorbereitung auf das Hyperparameter-Tuning#

Bevor du mit dem Tuning-Prozess beginnst, ist es wichtig:

1. Metriken identifizieren: Der integrierte Tuner (use_ray=False) bewertet Versuche nach dem fitness-Score der Aufgabe, während use_ray=True die Aufgabenmetrik verwendet. Bestimme, welche sekundären Metriken du überprüfen möchtest, wie etwa AP50 oder den F1-Score.
2. Lege das Tuning-Budget fest: Definiere, wie viele Rechenressourcen du bereit bist zuzuweisen. Hyperparameter-Tuning kann rechenintensiv sein.

Wie die Tuning-Schleife funktioniert#

Für jede Iteration wiederholt der integrierte Tuner die folgende Schleife:

1. Hyperparameter initialisieren – beginne mit einer vernünftigen Basis, entweder den von Ultralytics YOLO vorgegebenen Standard-Hyperparametern oder Werten, die auf deinem Fachwissen oder früheren Experimenten basieren.
2. Hyperparameter mutieren — die Tuner-Klasse erstellt automatisch einen neuen Satz von Hyperparametern aus dem bestehenden Satz mit ihrer _mutate-Methode.
3. Das Modell trainieren – trainiere mit den mutierten Hyperparametern und bewerte anschließend die Trainingsleistung anhand deiner gewählten Metriken.
4. Modell evaluieren — der Evaluierungsprozess erzeugt den Fitness-Score der Iteration, welcher mit vorherigen Iterationen verglichen wird, um festzustellen, ob die aktuellen Hyperparameter eine Verbesserung darstellen.
5. Ergebnisse protokollieren – zeichne sowohl die Leistungsmetriken als auch die entsprechenden Hyperparameter für zukünftige Referenzzwecke auf. Ultralytics YOLO speichert diese Ergebnisse automatisch im NDJSON-Format.
6. Wiederholen — fahre fort, bis die festgelegte Anzahl an Iterationen erreicht ist, wobei jede Iteration auf dem Wissen aufbaut, das aus vorherigen Durchläufen gewonnen wurde. Der integrierte Tuner führt alle iterations aus; Ray Tune meldet Metriken nach jeder Fit-Epoche, sodass ASHA schwache Versuche nach seiner Karenzzeit stoppen kann.

Iterationen und Populationsgröße#

Mit dem integrierten Tuner (use_ray=False) steuert iterations die Gesamtzahl der sequenziellen Durchläufe. Jeder Durchlauf trainiert ein Modell mit einer Hyperparameter-Konfiguration – zum Beispiel plant iterations=40 mit epochs=50 40 unabhängige Trainingsläufe mit jeweils 50 Epochen, und keinen einzelnen 50-Epochen-Lauf mit einer separaten Population von 40 Kandidaten.

Der integrierte genetische Algorithmus hat keinen expliziten Populationsgrößen-Parameter. Sobald frühere Versuche existieren, entnimmt er bis zu neun der Konfigurationen mit der höchsten Fitness als Eltern, wendet BLX-α-Crossover und Mutation an und erstellt pro Iteration einen Kandidaten.

Für parallele Durchläufe oder fortgeschrittenere Suchstrategien kannst du use_ray=True so einstellen, dass Ray Tune verwendet wird, welches iterations als num_samples empfängt. Weitere Einzelheiten findest du im Ray Tune-Integrationsleitfaden.

Standard-Suchraum#

Die folgende Tabelle listet die Standard-Suchraumparameter für die Hyperparameter-Optimierung in YOLO26 auf. Jeder Parameter hat einen spezifischen Wertebereich, der durch ein Tupel (min, max) definiert ist.

Beispiel für einen benutzerdefinierten Suchraum#

So definierst du einen Suchraum und verwendest die model.tune()-Methode, um die Tuner-Klasse für die Hyperparameter-Optimierung von YOLO26n auf COCO8 für 30 Epochen mit einem AdamW-Optimierer zu nutzen und dabei Plotten, Checkpoint-Erstellung sowie Validierung mit Ausnahme der letzten Epoche für ein schnelleres Tuning zu überspringen.

from ultralytics import YOLO

# Initialize the YOLO model
model = YOLO("yolo26n.pt")

# Define search space
search_space = {
    "lr0": (1e-5, 1e-2),
    "degrees": (0.0, 45.0),
}

# Tune hyperparameters on COCO8 for 30 epochs
model.tune(
    data="coco8.yaml",
    epochs=30,
    iterations=300,
    optimizer="AdamW",
    space=search_space,
    plots=False,
    save=False,
    val=False,
)

Fortsetzen einer unterbrochenen Hyperparameter-Tuning-Sitzung#

Du kannst eine unterbrochene Hyperparameter-Tuning-Sitzung fortsetzen, indem du resume=True übergibst. Du kannst optional das Verzeichnis name übergeben, das unter runs/{task} verwendet wurde, um fortzufahren. Ohne ein name wird das Verzeichnis fortgesetzt, das buchstäblich tune heißt (welches der Standardname ist und nicht der zuletzt ausgeführte Durchlauf), also übergib name für jeden Durchlauf, den du mit einem benutzerdefinierten gestartet hast. Du musst außerdem alle vorherigen Trainingsargumente einschließlich data, epochs, iterations und space angeben.

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo26n.pt")

# Define search space
search_space = {
    "lr0": (1e-5, 1e-2),
    "degrees": (0.0, 45.0),
}

# Resume previous run
results = model.tune(data="coco8.yaml", epochs=50, iterations=300, space=search_space, resume=True)

# Resume tuning run with name 'tune_exp'
results = model.tune(data="coco8.yaml", epochs=50, iterations=300, space=search_space, name="tune_exp", resume=True)

Ergebnisse#

Nachdem du den Hyperparameter-Tuning-Prozess erfolgreich abgeschlossen hast, erhältst du mehrere Dateien und Verzeichnisse, die die Ergebnisse des Tunings zusammenfassen. Im Folgenden wird jedes beschrieben:

Dateistruktur#

So sieht die Verzeichnisstruktur der Ergebnisse aus. Trainingsverzeichnisse wie train/ und train-2/ enthalten einzelne Tuning-Iterationen, d. h. ein Modell, das mit einem Satz von Hyperparametern trainiert wurde. Das Verzeichnis tune/ enthält Tuning-Ergebnisse aus allen einzelnen Modelltrainings:

runs/
└── detect/
    ├── train/
    ├── train-2/
    ├── ...
    └── tune/
        ├── best_hyperparameters.yaml
        ├── tune_fitness.png
        ├── tune_results.ndjson
        ├── tune_scatter_plots.png
        └── weights/
            ├── last.pt
            └── best.pt

Dateibeschreibungen#

best_hyperparameters.yaml#

Diese YAML-Datei enthält die leistungsstärksten Hyperparameter, die während des Tuning-Prozesses gefunden wurden. Du kannst diese Datei verwenden, um zukünftige Trainings mit diesen optimierten Einstellungen zu initialisieren.

• Format: YAML

• Verwendung: Hyperparameter-Ergebnisse

• Beispiel:

  # 558/900 iterations complete ✅ (45536.81s)
  # Results saved to /usr/src/ultralytics/runs/detect/tune
  # Best fitness=0.64297 observed at iteration 498
  # Best fitness metrics are {'metrics/precision(B)': 0.87247, 'metrics/recall(B)': 0.71387, 'metrics/mAP50(B)': 0.79106, 'metrics/mAP50-95(B)': 0.62651, 'val/box_loss': 2.79884, 'val/cls_loss': 2.72386, 'val/l1_loss': 0.68503, 'fitness': 0.64297}
  # Best fitness model is /usr/src/ultralytics/runs/detect/tune/weights
  # Best fitness hyperparameters are printed below.
  
  lr0: 0.00269
  lrf: 0.00288
  momentum: 0.73375
  weight_decay: 0.00015
  warmup_epochs: 1.22935
  warmup_momentum: 0.1525
  box: 18.27875
  cls: 1.32899
  dfl: 0.56016
  hsv_h: 0.01148
  hsv_s: 0.53554
  hsv_v: 0.13636
  degrees: 0.0
  translate: 0.12431
  scale: 0.07643
  shear: 0.0
  perspective: 0.0
  flipud: 0.0
  fliplr: 0.08631
  mosaic: 0.42551
  mixup: 0.0
  copy_paste: 0.0

tune_fitness.png#

Dies ist ein Diagramm, das die Fitness gegenüber der Anzahl der Iterationen anzeigt. Es hilft dir zu visualisieren, wie der genetische Algorithmus über die Zeit performt hat.

• Format: PNG
• Verwendung: Leistungsvisualisierung

Das Diagramm enthält:

• Einen Marker pro Iteration pro Datensatz, sodass ein Einzel-Datensatz-Lauf einen Punkt pro Iteration und ein Multi-Datensatz-Lauf einen Punkt pro Datensatz pro Iteration zeigt.
• Eine gestrichelte „geglättete Mittelwert“-Linie, berechnet als Gaußsche Glättung (sigma=3) über die obersten Fitnesswerte pro Iteration.

tune_results.ndjson#

Eine NDJSON-Datei mit detaillierten Ergebnissen jeder Tuning-Iteration. Jede Zeile ist ein JSON-Objekt mit der aggregierten Fitness, den abgestimmten Hyperparametern und den Metriken pro Datensatz. Einzel- und Multi-Datensatz-Tuning verwenden das gleiche Dateiformat.

• Format: NDJSON
• Verwendung: Verfolgung der Ergebnisse pro Iteration.
• Beispiel:

Ein hübsch formatierter (pretty-printed) Beispiel folgt zur besseren Lesbarkeit; in der tatsächlichen .ndjson-Datei wird jedes Objekt in einer einzigen Zeile gespeichert.

{
    "iteration": 1,
    "fitness": 0.48628,
    "hyperparameters": {
        "lr0": 0.01,
        "lrf": 0.01,
        "momentum": 0.937,
        "weight_decay": 0.0005
    },
    "datasets": {
        "coco8": {
            "metrics/precision(B)": 0.65666,
            "metrics/recall(B)": 0.85,
            "metrics/mAP50(B)": 0.85086,
            "metrics/mAP50-95(B)": 0.64104,
            "val/box_loss": 1.57958,
            "val/cls_loss": 1.04986,
            "val/l1_loss": 1.32641,
            "fitness": 0.64104
        },
        "coco8-grayscale": {
            "metrics/precision(B)": 0.6582,
            "metrics/recall(B)": 0.51667,
            "metrics/mAP50(B)": 0.59106,
            "metrics/mAP50-95(B)": 0.33152,
            "val/box_loss": 1.95424,
            "val/cls_loss": 1.64059,
            "val/l1_loss": 1.70226,
            "fitness": 0.33152
        }
    },
    "save_dirs": {
        "coco8": "runs/detect/coco8",
        "coco8-grayscale": "runs/detect/coco8-grayscale"
    }
}

Der oberste fitness ist das arithmetische Mittel der fitness-Werte pro Datensatz. Beim Tuning mit einem einzelnen Datensatz hat das datasets-Dictionary einen Eintrag, dessen fitness dem obersten fitness entspricht. Pro abgeschlossener Iteration wird ein JSON-Objekt aufgezeichnet. Die tatsächlichen save_dirs-Pfade sind absolut; sie wurden oben zur besseren Lesbarkeit abgekürzt.

tune_scatter_plots.png#

Diese Datei enthält Streudiagramme (Scatter Plots), die aus tune_results.ndjson generiert wurden und dir helfen, Zusammenhänge zwischen verschiedenen Hyperparametern und Leistungsmetriken zu visualisieren. Hyperparameter, deren Standardwert 0 ist (wie beispielsweise degrees und shear unten), entwickeln sich möglicherweise nur langsam von ihrem anfänglichen Startwert weiter, da der multiplikative Mutationsfaktor von einem nahe bei Null liegenden Wert nur sehr wenig Spielraum hat.

• Format: PNG
• Nutzung: Explorative Datenanalyse

weights/#

Dieses Verzeichnis enthält die gespeicherten PyTorch-Modelle aus der Iteration mit der besten Fitness des Tuning-Durchlaufs. Beide Dateien stammen aus derselben Iteration:

• last.pt: Die last.pt sind die Gewichte aus der letzten Trainingsepoche.
• best.pt: Die best.pt-Gewichte für die Iteration, die den besten Fitness-Score erzielt hat.

Unter Verwendung dieser Ergebnisse kannst du fundiertere Entscheidungen für zukünftige Modelltrainings und Analysen treffen.

Fazit#

Die Hyperparameter-Optimierung in Ultralytics YOLO ist sowohl einfach zu starten als auch leistungsstark unter der Haube und kombiniert BLX-α-Crossover mit log-normaler Mutation in einem genetischen Algorithmus. Wenn du dem in diesem Leitfaden skizzierten Kreislauf folgst, kannst du dein Modell systematisch auf bessere Leistung tunen und dann den resultierenden best_hyperparameters.yaml wiederverwenden, um zukünftige Trainingsläufe zu initialisieren. Um das Tuning über parallele Durchläufe und fortgeschrittenere Suchalgorithmen zu skalieren, fahre mit dem Ray Tune-Integrationsleitfaden fort oder führe verwaltete Jobs mit konfigurierbaren Hyperparametern und Echtzeit-Metrikverfolgung auf der Ultralytics Platform per Cloud-Training aus.

Für Einstellungen, für die kein Argument bereitgestellt wird (wie etwa schichtbezogene Lernraten oder eine benutzerdefinierte Fitness-Metrik), leite stattdessen den Trainer als Unterklasse ab. Für tiefere Einblicke erkunde den Quellcode der Tuner-Klasse. Wenn du Fragen oder Funktionswünsche hast, wende dich auf GitHub oder Discord an uns.

FAQ#