YOLOv5 mit Comet

Dieser Leitfaden behandelt die Verwendung von YOLOv5 mit Comet, einem leistungsstarken Tool zum Tracking, Vergleichen und Optimieren von Machine-Learning-Experimenten.

Über Comet

Comet entwickelt Tools, die Data Scientists, Ingenieuren und Teamleitern helfen, Machine Learning- und Deep Learning-Modelle zu beschleunigen und zu optimieren.

Verfolge und visualisiere Modellmetriken in Echtzeit, speichere deine Hyperparameter, Datensätze und Modell-Checkpoints und visualisiere deine Modellvorhersagen mit Comet Custom Panels! Comet stellt sicher, dass du deine Arbeit nie aus den Augen verlierst, und erleichtert das Teilen von Ergebnissen sowie die Zusammenarbeit in Teams jeder Größe!

Erste Schritte

Comet installieren

pip install comet_ml

Comet-Anmeldedaten konfigurieren

Es gibt zwei Möglichkeiten, Comet mit YOLOv5 zu konfigurieren.

Du kannst deine Anmeldedaten entweder über Umgebungsvariablen festlegen:

Umgebungsvariablen

export COMET_API_KEY=YOUR_API_KEY
export COMET_PROJECT_NAME=YOUR_COMET_PROJECT_NAME # This will default to 'yolov5'

Oder erstelle eine .comet.config-Datei in deinem Arbeitsverzeichnis und lege deine Anmeldedaten dort fest:

Comet-Konfigurationsdatei

[comet]
api_key=YOUR_API_KEY
project_name=YOUR_COMET_PROJECT_NAME # This will default to 'yolov5'

Führe das Trainingsskript aus

# Train YOLOv5s on COCO128 for 5 epochs
python train.py --img 640 --batch 16 --epochs 5 --data coco128.yaml --weights yolov5s.pt

Das war's! Comet protokolliert automatisch deine Hyperparameter, Befehlszeilenargumente sowie Trainings- und Validierungsmetriken. Du kannst deine Runs in der Comet UI visualisieren und analysieren.

Probiere ein Beispiel aus!

Sieh dir hier ein Beispiel eines abgeschlossenen Runs an.

Oder noch besser, probiere es selbst in diesem Colab Notebook aus:

Automatische Protokollierung

Standardmäßig protokolliert Comet die folgenden Elemente:

Metriken

• Box Loss, Object Loss, Classification Loss für die Trainings- und Validierungsdaten
• mAP_0.5, mAP_0.5:0.95 Metriken für die Validierungsdaten
• Precision und Recall für die Validierungsdaten

Parameter

• Modell-Hyperparameter
• Alle Parameter, die über die Befehlszeilenoptionen übergeben werden

Visualisierungen

• Konfusionsmatrix der Modellvorhersagen auf den Validierungsdaten
• Plots für die PR- und F1-Kurven über alle Klassen hinweg
• Korrelogramm der Klassen-Labels

Comet-Logging konfigurieren

Comet kann so konfiguriert werden, dass zusätzliche Daten entweder über Befehlszeilen-Flags, die an das Trainingsskript übergeben werden, oder über Umgebungsvariablen protokolliert werden:

export COMET_MODE=online                           # Set whether to run Comet in 'online' or 'offline' mode. Defaults to online
export COMET_MODEL_NAME="yolov5"                   # Set the name for the saved model. Defaults to yolov5
export COMET_LOG_CONFUSION_MATRIX=false            # Set to disable logging a Comet Confusion Matrix. Defaults to true
export COMET_MAX_IMAGE_UPLOADS=30                  # Controls how many total image predictions to log to Comet. Defaults to 100.
export COMET_LOG_PER_CLASS_METRICS=true            # Set to log evaluation metrics for each detected class at the end of training. Defaults to false
export COMET_DEFAULT_CHECKPOINT_FILENAME="last.pt" # Set this if you would like to resume training from a different checkpoint. Defaults to 'last.pt'
export COMET_LOG_BATCH_LEVEL_METRICS=true          # Set this if you would like to log training metrics at the batch level. Defaults to false.
export COMET_LOG_PREDICTIONS=true                  # Set this to false to disable logging model predictions

Checkpoints mit Comet protokollieren

Die Protokollierung von Modellen an Comet ist standardmäßig deaktiviert. Um sie zu aktivieren, übergib das Argument save-period an das Trainingsskript. Dies speichert die protokollierten Checkpoints basierend auf dem von save-period bereitgestellten Intervallwert bei Comet:

python train.py \
  --img 640 \
  --batch 16 \
  --epochs 5 \
  --data coco128.yaml \
  --weights yolov5s.pt \
  --save-period 1

Modellvorhersagen protokollieren

Standardmäßig werden Modellvorhersagen (Bilder, Ground-Truth-Labels und Bounding Boxes) bei Comet protokolliert.

Du kannst die Häufigkeit der protokollierten Vorhersagen und die zugehörigen Bilder steuern, indem du das Befehlszeilenargument bbox_interval übergibst. Vorhersagen können mit dem Object Detection Custom Panel von Comet visualisiert werden. Diese Häufigkeit entspricht jedem N-ten Daten-Batch pro Epoch. Im folgenden Beispiel protokollieren wir jeden 2. Daten-Batch für jede Epoch.

Hinweis: Der YOLOv5 Validierungs-Dataloader verwendet standardmäßig eine Batch Size von 32, daher musst du die Protokollierungshäufigkeit entsprechend anpassen.

Hier ist ein Beispielprojekt, das das Panel verwendet

python train.py \
  --img 640 \
  --batch 16 \
  --epochs 5 \
  --data coco128.yaml \
  --weights yolov5s.pt \
  --bbox_interval 2

Steuerung der Anzahl der an Comet protokollierten Vorhersagebilder

Beim Protokollieren von Vorhersagen aus YOLOv5 protokolliert Comet die Bilder, die mit jedem Satz von Vorhersagen verknüpft sind. Standardmäßig werden maximal 100 Validierungsbilder protokolliert. Du kannst diese Anzahl mit der Umgebungsvariable COMET_MAX_IMAGE_UPLOADS erhöhen oder verringern:

env COMET_MAX_IMAGE_UPLOADS=200 python train.py \
  --img 640 \
  --batch 16 \
  --epochs 5 \
  --data coco128.yaml \
  --weights yolov5s.pt \
  --bbox_interval 1

Metriken auf Klassenebene protokollieren

Verwende die Umgebungsvariable COMET_LOG_PER_CLASS_METRICS, um mAP, Precision, Recall und F1 für jede Klasse zu protokollieren:

env COMET_LOG_PER_CLASS_METRICS=true python train.py \
  --img 640 \
  --batch 16 \
  --epochs 5 \
  --data coco128.yaml \
  --weights yolov5s.pt

Hochladen eines Datensatzes zu Comet Artifacts

Wenn du deine Daten mit Comet Artifacts speichern möchtest, kannst du dies mit dem upload_dataset-Flag tun.

Der Datensatz sollte wie in der YOLOv5-Dokumentation beschrieben organisiert sein. Die yaml-Datei für die Datensatzkonfiguration muss das gleiche Format haben wie die Datei coco128.yaml.

python train.py \
  --img 640 \
  --batch 16 \
  --epochs 5 \
  --data coco128.yaml \
  --weights yolov5s.pt \
  --upload_dataset

Du findest den hochgeladenen Datensatz im Tab "Artifacts" in deinem Comet-Workspace:

Du kannst die Daten direkt in der Comet UI in der Vorschau anzeigen:

Artifacts sind versioniert und unterstützen auch das Hinzufügen von Metadaten über den Datensatz. Comet protokolliert automatisch die Metadaten aus deiner Datensatz-yaml-Datei:

Verwendung eines gespeicherten Artifacts

Wenn du einen Datensatz aus Comet Artifacts verwenden möchtest, setze die path-Variable in deiner Datensatz-yaml-Datei so, dass sie auf die folgende Artifact-Ressourcen-URL zeigt:

# Contents of artifact.yaml file
path: "comet://WORKSPACE_NAME/ARTIFACT_NAME:ARTIFACT_VERSION_OR_ALIAS"

Übergebe diese Datei dann wie folgt an dein Trainingsskript:

python train.py \
  --img 640 \
  --batch 16 \
  --epochs 5 \
  --data artifact.yaml \
  --weights yolov5s.pt

Artifacts ermöglichen es dir auch, die Herkunft der Daten zu verfolgen, während sie durch deinen Experimentier-Workflow fließen. Hier kannst du ein Diagramm sehen, das dir alle Experimente zeigt, die deinen hochgeladenen Datensatz verwendet haben:

Wiederaufnahme eines Trainings-Runs

Wenn dein Trainings-Run aus irgendeinem Grund unterbrochen wird, z. B. durch eine gestörte Internetverbindung, kannst du den Run mit dem resume-Flag und dem Comet Run Path wieder aufnehmen.

Der Run Path hat das folgende Format comet://WORKSPACE_NAME/PROJECT_NAME/EXPERIMENT_ID.

Dadurch wird der Run in den Zustand vor der Unterbrechung zurückversetzt. Dies beinhaltet die Wiederherstellung des Modells aus einem Checkpoint, die Wiederherstellung aller Hyperparameter und Trainingsargumente sowie das Herunterladen der Comet-Datensatz-Artifacts, falls diese im ursprünglichen Run verwendet wurden. Der fortgesetzte Run protokolliert weiterhin in das bestehende Experiment in der Comet UI:

python train.py \
  --resume "comet://YOUR_RUN_PATH"

Hyperparameter-Suche mit dem Comet Optimizer

YOLOv5 ist auch in den Comet Optimizer integriert, was die Visualisierung von Hyperparameter-Sweeps in der Comet UI vereinfacht.

Einen Optimizer-Sweep konfigurieren

Um den Comet Optimizer zu konfigurieren, musst du eine JSON-Datei mit den Informationen über den Sweep erstellen. Eine Beispieldatei wurde unter utils/loggers/comet/optimizer_config.json bereitgestellt:

python utils/loggers/comet/hpo.py \
  --comet_optimizer_config "utils/loggers/comet/optimizer_config.json"

Das hpo.py-Skript akzeptiert dieselben Argumente wie train.py. Wenn du zusätzliche Argumente an deinen Sweep übergeben möchtest, füge sie einfach nach dem Skript hinzu:

python utils/loggers/comet/hpo.py \
  --comet_optimizer_config "utils/loggers/comet/optimizer_config.json" \
  --save-period 1 \
  --bbox_interval 1

Ergebnisse visualisieren

Comet bietet eine Reihe von Möglichkeiten, die Ergebnisse deines Sweeps zu visualisieren. Sieh dir hier ein Projekt mit einem abgeschlossenen Sweep an.