Erste Schritte

YOLO-Experimentverfolgung und -Visualisierung mit Weights & Biases

Modelle zur Objekterkennung wie Ultralytics YOLO26 sind aus vielen Anwendungen der Computervision nicht mehr wegzudenken. Das Training, die Evaluierung und der Einsatz dieser komplexen Modelle bringen jedoch einige Herausforderungen mit sich. Die Verfolgung wichtiger Trainingsmetriken, der Vergleich von Modellvarianten, die Analyse des Modellverhaltens und das Erkennen von Problemen erfordern eine umfangreiche Instrumentierung und ein gutes Experimentmanagement.



Ansehen: So verwendest du Ultralytics YOLO26 mit Weights & Biases

Dieser Leitfaden zeigt die Integration von Ultralytics YOLO26 mit Weights & Biases zur Versuchsverfolgung, für Artefakte der besten Modelle und zur Visualisierung der Modellleistung. Außerdem enthält er Anweisungen zum Einrichten der Integration, zum Trainieren und zum Visualisieren von Ergebnissen mit den interaktiven Funktionen von Weights & Biases.

Hast du bereits YOLO-Checkpoints in W&B protokolliert? Importiere ihre Projekte in die Ultralytics Platform über Settings > Integrations > Weights & Biases.

Weights & Biases#

Weights & Biases ist eine MLOps-Plattform zur Verfolgung, Visualisierung und Verwaltung von Experimenten des maschinellen Lernens. Sie bietet die automatische Protokollierung von Trainingsmetriken für eine vollständige Reproduzierbarkeit von Experimenten, eine interaktive Benutzeroberfläche zur vereinfachten Datenanalyse und effiziente Werkzeuge zur Modellverwaltung für die Bereitstellung in verschiedenen Umgebungen.

YOLO26-Training mit Weights & Biases#

Mit Weights & Biases kannst du deinen YOLO26-Trainingsprozess effizienter und automatisierter gestalten. Die Integration ermöglicht es dir, Experimente zu verfolgen, Modelle zu vergleichen und datengestützte Entscheidungen zu treffen, um deine Computer-Vision-Projekte zu verbessern.

Installation#

Führe zum Installieren der erforderlichen Pakete Folgendes aus:

Installation
# Install the required packages for Ultralytics YOLO and Weights & Biases
pip install -U ultralytics wandb

# Enable W&B logging for Ultralytics
yolo settings wandb=True

Ausführliche Anweisungen und bewährte Vorgehensweisen zur Installation findest du in unserer YOLO26-Installationsanleitung. Falls bei der Installation der für YOLO26 erforderlichen Pakete Probleme auftreten, findest du Lösungen und Tipps in unserer Anleitung zu häufigen Problemen.

Weights & Biases konfigurieren#

Nachdem du die erforderlichen Pakete installiert hast, richtest du als Nächstes deine Weights-&-Biases-Umgebung ein. Dazu musst du ein Weights-&-Biases-Konto erstellen und den erforderlichen API-Schlüssel abrufen, damit deine Entwicklungsumgebung reibungslos mit der W&B-Plattform verbunden werden kann.

Richte zunächst die Weights-&-Biases-Umgebung in deinem Arbeitsbereich ein. Führe dazu den folgenden Befehl aus und folge den angezeigten Anweisungen.

Erste SDK-Einrichtung
import wandb

# Initialisiere deine Weights & Biases-Umgebung (fragt nach dem API-Schlüssel oder liest WANDB_API_KEY)
wandb.login()

Rufe die Autorisierungsseite von Weights & Biases auf, um deinen API-Schlüssel zu erstellen und abzurufen. Verwende diesen Schlüssel, wenn du dazu aufgefordert wirst, um deine Umgebung bei W&B zu authentifizieren.

Verwendung: YOLO26 mit Weights & Biases trainieren#

Verwendung: YOLO26 mit Weights & Biases trainieren
from ultralytics import YOLO

# Ein YOLO-Modell laden
model = YOLO("yolo26n.pt")

# Modell trainieren und feinabstimmen
model.train(data="coco8.yaml", epochs=5, project="ultralytics", name="yolo26n")

Runs, die Ultralytics erstellt, stellen Trainingsmetriken über epoch dar. Wenn du vor dem Training einen Run mit wandb.init() startest, protokolliert Ultralytics Daten in diesem Run, wobei jede Zeile einen Wert für epoch enthält, und lässt ihn geöffnet, damit du weiterhin Daten darin protokollieren und selbst wandb.finish() aufrufen kannst. Die Trainingsargumente werden zur Konfiguration dieses Runs hinzugefügt. Jeder Schlüssel, für den du oder ein W&B-Sweep bereits einen Wert festgelegt hat, behält diesen Wert.

W&B-Argumente#

ArgumentStandardBeschreibung
ProjektNoneLegt den Namen des Projekts fest, der lokal und in W&B protokolliert wird und mehrere Läufe gruppiert. Wenn kein Name angegeben ist, werden W&B-Läufe im Projekt Ultralytics protokolliert.
NameNoneDer Name des Trainingslaufs. Er bestimmt den Namen der erstellten Unterordner sowie den für die W&B-Protokollierung verwendeten Namen.
SpeichernTrueLegt fest, ob der beste Checkpoint als W&B-Modellartefakt hochgeladen wird.
Weights & Biases aktivieren oder deaktivieren

Wenn du die Weights-&-Biases-Protokollierung in Ultralytics aktivieren oder deaktivieren möchtest, kannst du den Befehl yolo settings verwenden. Standardmäßig ist die Weights-&-Biases-Protokollierung deaktiviert.

# Enable Weights & Biases logging
yolo settings wandb=True

# Disable Weights & Biases logging
yolo settings wandb=False
Offline-Modus und Fortsetzen

Setze WANDB_MODE=offline so, dass ohne Netzwerkverbindung protokolliert wird, und lade den Lauf anschließend mit wandb sync <save_dir>/wandb/offline-run-* hoch. Wenn du das Training mit resume=True fortsetzt, wird derselbe W&B-Lauf weitergeführt – online oder offline und auf jedem Betriebssystem –, indem die Lauf-ID aus dem Ordner wandb/ des neuesten Laufs im ursprünglichen Speicherverzeichnis ausgelesen wird. Lass diesen Ordner daher bestehen.

Die Ausgabe verstehen#

Nach dem Ausführen des obigen Code-Snippets kannst du mit den folgenden wichtigen Ausgaben rechnen:

  • Ein neuer Lauf wird mit einer eindeutigen ID eingerichtet, was den Beginn des Trainingsprozesses anzeigt.
  • Eine kompakte Zusammenfassung der Modellstruktur, einschließlich der Anzahl der Schichten und Parameter.
  • Regelmäßige Aktualisierungen wichtiger Kennzahlen, etwa der Trainingsverluste, der Präzision, des Recall und der mAP-Werte in jeder Trainingsepoche.
  • Am Ende des Trainings werden detaillierte Metriken zur Inferenzgeschwindigkeit des Modells sowie allgemeine Metriken zur Genauigkeit angezeigt.
  • Links zum Weights-&-Biases-Dashboard für eine eingehende Analyse und Visualisierung des Trainingsprozesses sowie Informationen zu den Speicherorten der lokalen Protokolldateien.

Das Weights-&-Biases-Dashboard aufrufen#

Nach dem Ausführen des Code-Snippets kannst du über den Link in der Ausgabe auf das Weights-&-Biases-Dashboard (W&B) zugreifen. Dieses Dashboard bietet einen umfassenden Überblick über den Trainingsprozess deines Modells mit YOLO26.

Wichtige Funktionen des Weights-&-Biases-Dashboards#

  • Metriken in Echtzeit verfolgen: Beobachte, wie sich Metriken wie Verlust, Genauigkeit und Validierungswerte während des Trainings entwickeln. So erhältst du sofortige Einblicke zur Anpassung des Modells. Erfahre, wie Experimente mit Weights & Biases verfolgt werden.

  • Hyperparametervergleich: Jeder Lauf protokolliert seine Trainingsargumente, etwa die Lernrate und die Batchgröße, sodass du die Konfigurationen verschiedener Läufe vergleichen kannst. Für eine automatisierte Suche mit W&B-Protokollierung verwende Ray Tune.

  • Vergleichende Analyse: Die Plattform ermöglicht den direkten Vergleich verschiedener Trainingsläufe. Das ist wichtig, um die Auswirkungen unterschiedlicher Modellkonfigurationen zu beurteilen und zu verstehen, welche Änderungen die Leistung verbessern.

  • Trainingsfortschritt visualisieren: Grafische Darstellungen wichtiger Metriken vermitteln anschaulich, wie sich die Leistung des Modells über die Epochen hinweg entwickelt. Erfahre, wie Weights & Biases dich bei der Visualisierung von Validierungsergebnissen unterstützt.

  • Ressourcen überwachen: Behalte die Auslastung von CPU, GPU und Arbeitsspeicher im Blick, um den Trainingsprozess effizienter zu gestalten und mögliche Engpässe in deinem Arbeitsablauf zu erkennen.

  • Verwaltung von Modellartefakten: Greife auf den besten Modellprüfpunkt zu und teile ihn mit anderen. Er wird am Ende des Trainings als W&B-Artefakt hochgeladen und erleichtert so die Bereitstellung sowie die Zusammenarbeit mit Teammitgliedern an komplexen Projekten.

Mit diesen Funktionen kannst du das Training deines YOLO26-Modells für deine Aufgaben zur Objekterkennung verfolgen, analysieren und optimieren.

Zusammenfassung#

In diesem Leitfaden haben wir die Ultralytics-YOLO-Integration mit Weights & Biases behandelt, die Trainingsergebnisse von Modellen verfolgt und visualisiert. Mit W&B kannst du deinen Arbeitsablauf für maschinelles Lernen vereinfachen, datengestützte Entscheidungen treffen und die Leistung deines Modells verbessern.

Weitere Einzelheiten zu dieser Integration findest du in Soumik Rakshits Präsentation von YOLO VISION 2023.

Häufig gestellte Fragen#

  • So integrierst du Weights & Biases mit Ultralytics YOLO26:

    1. Installiere die erforderlichen Pakete:

      pip install -U ultralytics wandb
      yolo settings wandb=True
    2. Melde dich bei deinem Weights-&-Biases-Konto an:

      wandb login
    3. Trainiere dein YOLO26-Modell mit aktivierter W&B-Protokollierung:

      from ultralytics import YOLO
      
      model = YOLO("yolo26n.pt")
      model.train(data="coco8.yaml", epochs=5, project="ultralytics", name="yolo26n")

    Dadurch werden Metriken, Hyperparameter und Modellartefakte automatisch in deinem W&B-Projekt protokolliert.

  • Zu den wichtigsten Funktionen gehören:

    • Metriken während des Trainings in Echtzeit verfolgen
    • Hyperparametervergleich über mehrere Läufe hinweg
    • Verschiedene Trainingsläufe miteinander vergleichen
    • Den Trainingsfortschritt mithilfe von Diagrammen visualisieren
    • Ressourcen überwachen (CPU-, GPU- und Arbeitsspeicherauslastung)
    • Modellartefakte verwalten und teilen

    Diese Funktionen helfen dir dabei, Experimente zu verfolgen, Modelle zu optimieren und effektiver an YOLO26-Projekten zusammenzuarbeiten.

  • Nachdem du dein Trainingsskript mit W&B-Integration ausgeführt hast:

    1. In der Konsolenausgabe wird ein Link zu deinem W&B-Dashboard angezeigt.
    2. Klicke auf den Link oder rufe wandb.ai auf und melde dich bei deinem Konto an.
    3. Rufe dein Projekt auf, um detaillierte Metriken, Visualisierungen und Leistungsdaten des Modells anzuzeigen.

    Das Dashboard bietet Einblicke in den Trainingsprozess deines Modells und ermöglicht dir, deine YOLO26-Modelle effektiv zu analysieren und zu verbessern.

  • Ja, du kannst die W&B-Protokollierung mit dem folgenden Befehl deaktivieren:

    yolo settings wandb=False

    Verwende zum erneuten Aktivieren der Protokollierung folgenden Befehl:

    yolo settings wandb=True

    So kannst du steuern, wann du die W&B-Protokollierung verwenden möchtest, ohne deine Trainingsskripte ändern zu müssen.

  • Weights & Biases hilft dir bei der Optimierung von YOLO26-Modellen durch:

    1. Detaillierte Visualisierungen der Trainingsmetriken
    2. Einfache Vergleiche verschiedener Modellversionen
    3. Protokollierung der Trainingsargumente jedes Laufs zum Vergleich beim Abstimmen der Hyperparameter
    4. Gemeinsame Analyse der Modellleistung
    5. Einfaches Teilen von Modellartefakten und Ergebnissen

    Diese Funktionen helfen Forschenden und Entwicklern, schneller zu iterieren und datengestützte Entscheidungen zur Verbesserung ihrer YOLO26-Modelle zu treffen.

Kommentare25

Stell eine Frage, teile deine Ergebnisse oder hilf jemand anderem.

  1. TJdeWetGitHub

    Hi there,

    I would like to know how (if possible) to log more than just these standard metrics for a yolov8 or v11 model during HP tuning logged with wandb: train/loss, val/loss, metrics/accuracy_top1, metrics_accuracy_top5.

    This is what the code looks like:

    !pip install -U ultralytics wandb !yolo settings wandb=True import wandb from ultralytics import YOLO wandb.login(key="...")

    sweep_config = { 'method': "bayes", 'metric': { 'name': 'val/loss', 'goal': 'minimize', }, 'parameters': { .... } }

    sweep_id = ...

    def train(): run = wandb.init() model = YOLO('yolo11n-cls.pt')

    results = model.train(
        data='...',
        batch=wandb.config.batch,
        lr0=wandb.config.lr0,
        epochs=...,
        optimizer=...,
        momentum=...,
        patience=...,
        save_period=...,
        imgsz=...,
        cache=False,
        save=True
    )

    wandb.agent(sweep_id, train, count=...)

    1. Glenn JocherUltralytics

      @TJdeWet for custom metric logging beyond default training metrics in YOLO11 with W&B, you can access the complete results dictionary during training and log additional metrics manually through W&B's API. The automatically logged metrics vary by task type (detection/classification), but you can extend them using a callback. For implementation details, refer to the Weights & Biases integration documentation.

  2. marcory-hubGitHub
    Integration of Weights & Biases with YOLO11 in Google Colab

    Is it currently possible to integrate Weights & Biases (W&B) with Ultralytics YOLO11 in Google Colab? If yes, where can I find the correct and up-to-date information to set this up properly?

    My Issue

    With YOLOv10, I was able to track all my training metrics in W&B seamlessly. However, when trying to replicate this with YOLO11, only GPU and system-related data are logged to the W&B platform. None of the training metrics or results appear.

    Summary of things I've Tried
    • Following the YouTube tutorial linked at the top of this page.
    • Using the Try on Colab button on W&B's site
    WARNING: Did not find branch or tag 'feat/ultralytics', assuming revision or ref.
      error: subprocess-exited-with-error
      
      × git checkout -q feat/ultralytics did not run successfully.
      │ exit code: 1
      ╰─> See above for output.
      
      note: This error originates from a subprocess, and is likely not a problem with pip.
    error: subprocess-exited-with-error
    
    × git checkout -q feat/ultralytics did not run successfully.
    │ exit code: 1
    ╰─> See above for output.
    
    note: This error originates from a subprocess, and is likely not a problem with pip.
    Note: The Ultralytcs integration will be soon available as a fully supported feature on Weights & Biases once this pull request is merged.

    This is because the branch https://github.com/wandb/wandb@feat/ultralytics does not exist. To resolve this, I tried various fixes, including following older tutorials and experimenting with suggestions from forums and community discussions.

    I’m particularly keen to switch to YOLO11 because it shows significant improvements in wildlife detection when compared to YOLOv10.

    Any guidance, updates, or resources on enabling this integration would be greatly appreciated!

    1. Glenn JocherUltralytics

      @marcory-hub yes, you can integrate Weights & Biases (W&B) with YOLO11 in Google Colab. Please ensure the latest ultralytics and wandb packages are installed using pip install -U ultralytics wandb. If training metrics are not being logged, ensure your W&B environment is authenticated (wandb.login(key="<API_KEY>")) and that project and name parameters are correctly specified in model.train(). Detailed setup instructions are available in our documentation: https://docs.ultralytics.com/integrations/weights-biases/. Let us know if further assistance is needed!

    2. marcory-hubGitHub

      Thanks for the suggestions, @glenn-jocker ! I tried starting from scratch with W&B with YOLO11 but unfortunately, only system information showed up in W&B.

      On top of that, it seems like my Colab runtime might be banned due to a potential issue with a compromised package. Hopefully, they'll restore access soon for everyone affected.

    3. marcory-hubGitHub

      Good news! My initial code now works for YOLO11. All metrics are automatically saved to W&B, and training is significantly faster than last week without maxing out Colab's RAM.

      I'm not sure why it's significantly faster today, but I suspect the previous slowness prevented training from progressing beyond the warmup epochs, resulting in only system information being sent to W&B.

    4. Glenn JocherUltralytics

      @marcory-hub glad to hear it's working well now, and thank you for sharing your experience! The faster training could indeed be related to runtime or hardware optimizations in Colab. Feel free to explore additional tips and resources in the YOLO11 W&B integration guide to further enhance your workflow. Let us know if you run into any other issues!

  3. Pushtogithub23GitHub

    I used this code, but it only logs system logs; no training metrics, media, or validation metrics are being logged as shown in the video. How can I log all the training metrics and media as demonstrated in the video? Can anyone help me with this?

    from ultralytics import YOLO
    from wandb.integration.ultralytics import add_wandb_callback
    
    wandb.login()
    wandb.init(project = 'Hand-Gestures-Detection', name = 'yolov8n_5',  job_type='training')
    
    model = YOLO("yolov8n.pt")
    
    add_wandb_callback(model, enable_model_checkpointing=True)
    model.train(data="HAND-GESTURE-DETECTION-1/data.yaml", 
                epochs=5,
                imgsz = 640,
                project = "Hand-Gestures-Detection",
                name = 'yolov8n_5'
                )
    1. Glenn JocherUltralytics

      @Pushtogithub23 to log all training metrics and media with Weights & Biases, ensure you have the latest versions of ultralytics and wandb installed. Also, verify that your Weights & Biases account is properly authenticated. For detailed setup instructions, visit the Weights & Biases integration guide.

  4. TJdeWetGitHub

    Hi!

    I am using wandb to do hyperparameter tuning. Is it possible to maximise validation mAP50? This seems to be maximising the training mAP50 if I am not mistaken?

    metric: name: mAP50 goal: maximise

    Otherwise should I do hyperparameter using something like this instead:

    metric: name: val/box_loss goal: minimize

    Thanks!

    1. Glenn JocherUltralytics(bearbeitet)

      Hi there!

      For your hyperparameter tuning in Weights & Biases, if you're aiming to maximize validation mAP50 specifically, I recommend adjusting your metric settings accordingly. To focus on validation mAP50, your metric configuration might look something like this:

      metric:
        name: metrics/mAP50(B)
        goal: maximize

      This setup ensures you're targeting the maximization of mAP50 on the validation data directly.

      Using val/box_loss with the goal to minimize can also be effective, especially if you prefer to focus on reducing the box prediction errors during validation:

      metric:
        name: val/box_loss
        goal: minimize

      Both approaches are valid and can be chosen based on your specific model performance goals. Hope this helps! If you have more questions, feel free to ask. 😊

    2. TJdeWetGitHub

      Hi Glenn,

      Thanks for getting back to me. I just tried it, and it doesn't seem that tuning to maximize val/mAP50 is working - the only metrics I see that are being logged are: cls, box, and dfl loss (both train and val), and metrics/mAP50(B), metrics/mAP50-75(B), metrics/Recall(B), and metrics/Precision(B), which I believe are the training metrics? I would like to log those same metrics for validation, and tune based on val/mAP50. Is there a way I can do this?

      Thanks!

    3. Glenn JocherUltralytics(bearbeitet)

      Hi there!

      In the Ultralytics W&B integration, validation metrics are logged automatically under names such as metrics/mAP50(B) and metrics/mAP50-95(B) (not val/mAP50; the val/ prefix is used for validation losses like val/box_loss). Use that name in your sweep config:

      metric:
        name: metrics/mAP50(B)
        goal: maximize

      Enable the integration with yolo settings wandb=True; no manual wandb.log() call is needed.

  5. JiyongBooGitHub

    Is it possible to train RT-DETR model with wandb? In add_wandb_callback() function, there are nothing about rt-detr. I tried replacing yolov8 with rt-detr in the example code. In the result, I confirmed that runs.summary["Validation-Table"] and runs.summary["Train-Table"] did not appear. How do I solve this problem?

    1. Paula DerrengerUltralytics(bearbeitet)

      @JiyongBoo hi there! 😊 RT-DETR trains with the same built-in Weights & Biases integration as other Ultralytics models, so you don't need add_wandb_callback() or manual wandb.log() calls. Enable it with yolo settings wandb=True, then train as usual:

      from ultralytics import RTDETR
      
      model = RTDETR("rtdetr-l.pt")
      model.train(data="coco8.yaml", epochs=5, project="ultralytics", name="rtdetr-l")

      See the Weights & Biases integration guide for details.

  6. DungHD-1997GitHub

    from ultralytics import YOLO from wandb.integration.ultralytics import add_wandb_callback import wandb def train(): wandb.login() project_name = "test_ai" # Step 1: Initialize a Weights & Biases run wandb.init(project=project_name, job_type="training",name="old_data")

    # Step 2: Define the YOLOv8 Model and Dataset
    model_name = "yolov8x"
    dataset_name = "C://Users//Administrator//project//yolov5_train_data//data//slant_2024.yaml"
    model = YOLO(f"{model_name}.pt")
    
    # Step 3: Add W&B Callback for Ultralytics
    add_wandb_callback(model, enable_model_checkpointing=True)
    model_name = "train_01"
    # Step 4: Train and Fine-Tune the Model
    model.train(project=project_name,name=model_name, data=dataset_name, epochs=100, imgsz=640, batch = 8)
    
    # Step 5: Validate the Model
    model.val()
    
    # Step 6: Perform Inference and Log Results
    #model(["path/to/image1", "path/to/image2"])
    
    # Step 7: Finalize the W&B Run
    wandb.finish()

    if name == "main": train() I used the above code to train custom data, but when using wandb, the GPU memory continuously increases over epochs until an out of memory error appears. program has been stopped. Error message: torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 20.00 MiB. GPU 0 has a total capacity of 15.88 GiB of which 7.62 MiB is free. Of the allocated memory 14.53 GiB is allocated by PyTorch, and 103.44 MiB is reserved by PyTorch but unallocated. If reserved but unallocated memory is large try setting PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True to avoid fragmentation. See documentation for Memory Management (https://pytorch.org/docs/stable/notes/cuda.html#environment-variables)

    1. DungHD-1997GitHub

      If I don't use wandb, the GPU memory hardly changes over each epoch. Is there something wrong with my code?

    2. Glenn JocherUltralytics(bearbeitet)

      Hey there! It looks like you're encountering a memory issue related to using Weights & Biases (W&B) with YOLOv8, specifically the GPU running out of memory during training. This can happen for a few reasons, including excessive memory allocation by PyTorch or W&B logging mechanisms. Here are a couple of suggestions that might help:

      1. Reduce Batch Size: Lowering the batch size can significantly reduce memory usage. Although this might increase training time, it can help avoid out-of-memory errors.

        model.train(batch=4)  # Try reducing the batch size
      2. Clear CUDA Cache: Manually clearing the CUDA cache after each epoch might help release unused memory.

        import torch
        torch.cuda.empty_cache()
      3. Optimize Model and DataLoader: Ensure that your DataLoader is not the source of the memory leak, and try to optimize your model's memory usage.

      4. Disable W&B to isolate the cause: Run yolo settings wandb=False and train again; if the out-of-memory error persists, W&B is not the cause.

      Finally, consider profiling your code to identify specific lines or operations that cause the memory spike. PyTorch and W&B offer tools and documentation on best practices to optimize memory usage. 📘

      Hope this helps! If the issue persists, feel free to reach out with more details or check the W&B and YOLOv8 docs for more insights.

  7. danielst4GitHub

    Hey there, I am trying to make a sweep using WandB but cant quite put together where to insert what into the YOLO call, to use different hyperparameters and track them. Even though I found a site where one has done this he too doesnt describe what he had to do. I am not sure if it is more complicated than I think and if I really have to insert stuff into the training function or if there is an easy way to achieve this. I would be really greatful for help to know what exactly is necessary to make a WandB hyperparameter sweep with YOLO Thanks Daniel

    1. Paula DerrengerUltralytics(bearbeitet)

      Hey Daniel 👋,

      Great to hear you're exploring hyperparameter sweeps with WandB and YOLO! It's simpler than it might seem at first. Here's a quick guide to get you started:

      1. Initialize WandB: Before starting your training, make sure to log in to WandB in your script or notebook using:
        import wandb
        wandb.login()
      2. Set Up the Sweep: Define your sweep configuration in WandB, using Ultralytics training argument names for the hyperparameters. For example:
        method: random
        metric:
          name: val/box_loss
          goal: minimize
        parameters:
          lr0:
            min: 0.0001
            max: 0.001
          batch:
            values: [16, 32, 64]
      3. Integrate Sweep with YOLO: Enable the built-in integration with yolo settings wandb=True. If a W&B run is already active (as in a sweep agent), Ultralytics logs into it and keeps any config values the sweep already set.
        import wandb
        from ultralytics import YOLO
        
        
        def train():
            wandb.init(project="your_project_name")
            model = YOLO("yolov8n.pt")
            model.train(data="coco128.yaml", epochs=5, imgsz=640, lr0=wandb.config.lr0, batch=wandb.config.batch)
      4. Start the Sweep: Once everything is set up, you can start the sweep in WandB. This will iterate over the defined hyperparameter space, automatically logging each experiment's results.

      Remember, the key parts are enabling the W&B setting and making sure your sweep parameter names match Ultralytics training arguments.

      Hope this helps! If you have any more questions or run into issues, feel free to ask. Happy sweeping! 🚀

    2. danielst4GitHub

      Thank you Paula, this helped a lot! I can make a sweep now but I noticed that the values of the parameters which are given from the sweep to the script dont match the parameters used. Even though the command looks like this: wandb.wandb_agent - INFO - About to run command: /usr/bin/env python training_rtdetr.py --batch=8 --epochs=6 --imgsz=1280 --learning_rate=0.0007013348811086657 where "training_rtdetr.py" is a script with the code you gave me. (I am working with the RTDETR but it shouldnt make a difference as the metrics and calls are the same if I understand correctly?) But then after engine/trainer it says its using epochs=100 and it also uses that number for training. So just to be sure about a few things, I already logged in to WandB, I wrote a script with the code from your 3., I went to wandb, created a sweep there with the code from 2. + the line program: training_rtdetr.py and in a terminal I used the resulting call wandb agent [sweepid] Also I am kinda confused because you used "learning_rate" and "batch_size" but as far as I can tell these are not the parameters I can give for the training and they should be called "lr0" and "batch" respectively (which I both tried but they didnt work) I hope I provided all the necessary information otherwise just tell me what you need to know

    3. Paula DerrengerUltralytics

      @danielst4 hey Daniel,

      It sounds like you're on the right track with setting up your WandB sweep with YOLOv8! Regarding the mismatch in parameter values, it seems like there might be a discrepancy between the parameter names expected by your script and those defined in your WandB sweep configuration.

      For YOLOv8, the correct parameter names for learning rate and batch size are indeed lr0 and batch, respectively. If you're using these parameters in your training_rtdetr.py script, ensure they're correctly parsed from the command line arguments. Here's a quick Python snippet using argparse for reference:

      import argparse
      
      # Parse command line arguments
      parser = argparse.ArgumentParser()
      parser.add_argument('--batch', type=int, help='batch size')
      parser.add_argument('--epochs', type=int, help='number of epochs')
      parser.add_argument('--imgsz', type=int, help='image size')
      parser.add_argument('--learning_rate', type=float, help='learning rate')
      args = parser.parse_args()
      
      # Now you can use args.batch, args.epochs, etc., in your script

      Make sure your WandB sweep configuration uses the same parameter names as those your script expects. For example:

      program: training_rtdetr.py
      method: bayes
      metric:
        name: val/box_loss
        goal: minimize
      parameters:
        learning_rate:
          min: 0.0001
          max: 0.001
        batch:
          values: [8, 16, 32]
        epochs:
          value: 6
        imgsz:
          value: 1280

      If you've already done this and the issue persists, it might be helpful to double-check how your script handles these parameters and ensure they're being correctly applied to your YOLOv8 model configuration.

      Feel free to share more details if you're still encountering issues. We're here to help! 🚀

  8. J0ELhGitHub

    Is it possible to remove logging and only log progress in the command line? For my training process yolov8 seems to automatically connect with my wandb account and start logging. This process is very time-consuming so I'd like to know whether there's a flag like log = False or something like that.

    1. J0ELhGitHub

      ^ this is because I'm done experimenting and need quick retraining options now.

    2. Glenn JocherUltralytics(bearbeitet)

      Hey there! 👋 If you're looking to disable automatic logging to Weights & Biases (W&B) during your YOLOv8 training to speed things up, you can do so by setting the wandb argument to False when initiating your training command. Here's how you can do it:

      yolo settings wandb=False

      This is a global Ultralytics setting, not a train argument, and it stops YOLOv8 from connecting to your W&B account and logging training progress there. Happy training! 🚀