Ultralytics YOLO27:

YOLOv5のハイパーパラメータ進化#

📚 このガイドでは、YOLOv5のハイパーパラメータ進化について説明します 🚀。ハイパーパラメータ進化は、最適化に遺伝的アルゴリズム (GA)を使用するハイパーパラメータ最適化の手法です。

機械学習におけるハイパーパラメータは、トレーニングのさまざまな側面を制御しますが、最適な値を見つけることは困難な場合があります。グリッドサーチなどの従来の手法は、次の理由によりすぐに実行困難になる可能性があります。

  1. 高次元の探索空間
  2. 各次元間の未知の相関関係
  3. 各地点での適応度評価にかかる高いコスト

このため、遺伝的アルゴリズムはハイパーパラメータ探索に適した候補となります。

開始する前に#

リポジトリをクローンし、Python>=3.8.0環境にrequirements.txtをインストールします。これにはPyTorch>=1.8も含まれます。モデルとデータセットは、最新のYOLOv5 リリースから自動的にダウンロードされます。

git clone https://github.com/ultralytics/yolov5 # clone
cd yolov5
pip install -r requirements.txt # install

1. ハイパーパラメータの初期化#

YOLOv5には、さまざまなトレーニング設定に使用される約30個のハイパーパラメータがあります。これらは/data/hypsディレクトリ内の*.yamlファイルで定義されています。初期値を適切に設定することが重要です。より良い初期推定値からは、より良い最終結果が得られるためです。迷った場合は、デフォルト値をそのまま使用してください。これは、YOLOv5をCOCOでゼロからトレーニングするために最適化されています。

# YOLOv5 🚀 by Ultralytics, AGPL-3.0 license
# Hyperparameters for low-augmentation COCO training from scratch
# python train.py --batch 64 --cfg yolov5n6.yaml --weights '' --data coco.yaml --img 640 --epochs 300 --linear
# See tutorials for hyperparameter evolution https://github.com/ultralytics/yolov5#tutorials

lr0: 0.01 # initial learning rate (SGD=1E-2, Adam=1E-3)
lrf: 0.01 # final OneCycleLR learning rate (lr0 * lrf)
momentum: 0.937 # SGD momentum/Adam beta1
weight_decay: 0.0005 # optimizer weight decay 5e-4
warmup_epochs: 3.0 # warmup epochs (fractions ok)
warmup_momentum: 0.8 # warmup initial momentum
warmup_bias_lr: 0.1 # warmup initial bias lr
box: 0.05 # box loss gain
cls: 0.5 # cls loss gain
cls_pw: 1.0 # cls BCELoss positive_weight
obj: 1.0 # obj loss gain (scale with pixels)
obj_pw: 1.0 # obj BCELoss positive_weight
iou_t: 0.20 # IoU training threshold
anchor_t: 4.0 # anchor-multiple threshold
# anchors: 3  # anchors per output layer (0 to ignore)
fl_gamma: 0.0 # focal loss gamma (efficientDet default gamma=1.5)
hsv_h: 0.015 # image HSV-Hue augmentation (fraction)
hsv_s: 0.7 # image HSV-Saturation augmentation (fraction)
hsv_v: 0.4 # image HSV-Value augmentation (fraction)
degrees: 0.0 # image rotation (+/- deg)
translate: 0.1 # image translation (+/- fraction)
scale: 0.5 # image scale (+/- gain)
shear: 0.0 # image shear (+/- deg)
perspective: 0.0 # image perspective (+/- fraction), range 0-0.001
flipud: 0.0 # image flip up-down (probability)
fliplr: 0.5 # image flip left-right (probability)
mosaic: 1.0 # image mosaic (probability)
mixup: 0.0 # image mixup (probability)
copy_paste: 0.0 # segment copy-paste (probability)

2. 適応度の定義#

適応度は最大化を目指す値です。YOLOv5では、デフォルトの適応度関数をメトリクスの重み付き組み合わせとして定義しています。mAP@0.5が重みの10%を占め、mAP@0.5:0.95が残りの90%を占めますが、精度 (P)と再現率 (R)は除外されています。必要に応じてこれらを調整するか、utils/metrics.pyにあるデフォルトの適応度定義を使用してください（推奨）。この適応度によって、どの結果がhyp_evolve.yamlに保存されるかが決まります。遺伝的アルゴリズム自体は親とエリートをmAP@0.5のみでランク付けするため、これらの重みを変更しても親の選択は変わりません。

def fitness(x):
    """Return model fitness as the sum of weighted metrics [P, R, mAP@0.5, mAP@0.5:0.95]."""
    w = [0.0, 0.0, 0.1, 0.9]  # weights for [P, R, mAP@0.5, mAP@0.5:0.95]
    return (x[:, :4] * w).sum(1)

3. 進化#

進化は、改善を目指すベースシナリオを基に実行されます。この例のベースシナリオは、事前トレーニング済みのYOLOv5sを使用して、COCO128を10エポックでファインチューニングすることです。ベースシナリオのトレーニングコマンドは次のとおりです。

python train.py --epochs 10 --data coco128.yaml --weights yolov5s.pt --cache

このシナリオに固有のハイパーパラメータを進化させるには、**セクション1.**で定義した初期値から開始し、**セクション2.**で定義した適応度を最大化するために、--evolveを追加します。

# Single-GPU
python train.py --epochs 10 --data coco128.yaml --weights yolov5s.pt --cache --evolve

# Multi-GPU with delay
for i in {0..7}; do
  sleep $((30 * i)) # 30-second delay (optional)
  echo "Starting GPU $i..."
  nohup python train.py --epochs 10 --data coco128.yaml --weights yolov5s.pt --cache --device $i --evolve > "evolve_gpu_$i.log" &
done

# Continuous training (use with caution)
# for i in {0..7}; do
#   sleep $((30 * i))  # 30-second delay (optional)
#   echo "Starting continuous training on GPU $i..."
#   (
#     while true; do
#       python train.py --epochs 10 --data coco128.yaml --weights yolov5s.pt --cache --device $i --evolve > "evolve_gpu_$i.log"
#     done
#   ) &
# done

デフォルトの進化設定は300世代実行され、各世代では母集団内の50人の個体それぞれに対してベースシナリオを1回トレーニングします。世代数は--evolve引数（例：python train.py --evolve 1000）で変更できます。

主な遺伝的オペレータは交叉と突然変異です。各世代では、すべての個体をトレーニングしてmAP@0.5でスコア付けし、最も適したエリートを親プールに追加したトーナメント選択によって親を選択し、進化の進行に合わせて適応するレートで交叉と突然変異を通じて次の母集団を構築します。結果はruns/evolve/exp/evolve.csvに記録され、最も適応度の高い子孫が世代ごとにruns/evolve/exp/hyp_evolve.yamlとして保存されます。

# YOLOv5 Hyperparameter Evolution Results
# Best generation: 287
# Last generation: 300
#    metrics/precision,       metrics/recall,      metrics/mAP_0.5, metrics/mAP_0.5:0.95,         val/box_loss,         val/obj_loss,         val/cls_loss
#              0.54634,              0.55625,              0.58201,              0.33665,             0.056451,             0.042892,             0.013441

lr0: 0.01 # initial learning rate (SGD=1E-2, Adam=1E-3)
lrf: 0.2 # final OneCycleLR learning rate (lr0 * lrf)
momentum: 0.937 # SGD momentum/Adam beta1
weight_decay: 0.0005 # optimizer weight decay 5e-4
warmup_epochs: 3.0 # warmup epochs (fractions ok)
warmup_momentum: 0.8 # warmup initial momentum
warmup_bias_lr: 0.1 # warmup initial bias lr
box: 0.05 # box loss gain
cls: 0.5 # cls loss gain
cls_pw: 1.0 # cls BCELoss positive_weight
obj: 1.0 # obj loss gain (scale with pixels)
obj_pw: 1.0 # obj BCELoss positive_weight
iou_t: 0.20 # IoU training threshold
anchor_t: 4.0 # anchor-multiple threshold
# anchors: 3  # anchors per output layer (0 to ignore)
fl_gamma: 0.0 # focal loss gamma (efficientDet default gamma=1.5)
hsv_h: 0.015 # image HSV-Hue augmentation (fraction)
hsv_s: 0.7 # image HSV-Saturation augmentation (fraction)
hsv_v: 0.4 # image HSV-Value augmentation (fraction)
degrees: 0.0 # image rotation (+/- deg)
translate: 0.1 # image translation (+/- fraction)
scale: 0.5 # image scale (+/- gain)
shear: 0.0 # image shear (+/- deg)
perspective: 0.0 # image perspective (+/- fraction), range 0-0.001
flipud: 0.0 # image flip up-down (probability)
fliplr: 0.5 # image flip left-right (probability)
mosaic: 1.0 # image mosaic (probability)
mixup: 0.0 # image mixup (probability)
copy_paste: 0.0 # segment copy-paste (probability)

最良の結果を得るためには、最低300世代の進化をお勧めします。ベースシナリオのトレーニングが数千回行われ、場合によっては数百または数千のGPU時間を必要とするため、進化には一般的に費用と時間がかかります。

進化が完了したら、保存されたファイルをトレーニングで指定することで、見つかった設定を再利用できます。たとえばpython train.py --hyp runs/evolve/exp/hyp_evolve.yaml --data your.yaml --weights yolov5s.ptです。

4. 可視化#

進化が完了すると、evolve.csvはutils.plots.plot_evolve()によってevolve.pngとしてプロットされます。各ハイパーパラメータにつき1つのサブプロットがあり、適応度（Y軸）とハイパーパラメータ値（X軸）が示されます。黄色は、より高い集中度を示します。縦方向の分布は、パラメータが無効化され、突然変異しないことを示します。これはtrain.pyのmetaディクショナリでユーザーが選択できます。パラメータを固定し、進化を防ぐ場合に便利です。

YOLOv5のハイパーパラメータ進化における適応度の結果

サポート対象の環境#

Ultralyticsは、プロジェクトをすぐに開始できるよう、CUDA、CUDNN、Python、PyTorchなどの主要な依存関係があらかじめインストールされた、すぐに使用できるさまざまな環境を提供しています。

プロジェクトのステータス#

YOLOv5 CI

このバッジは、すべてのYOLOv5 GitHub Actions継続的インテグレーション（CI）テストに正常に合格していることを示します。これらのCIテストでは、トレーニング、検証、推論、エクスポート、ベンチマークなど、さまざまな主要領域におけるYOLOv5の機能とパフォーマンスを厳密に確認します。24時間ごとおよび新しいコミットごとにテストを実施し、macOS、Windows、Ubuntuで一貫した信頼性の高い動作を保証します。

FAQ#

  • 各世代では50メンバーの母集団内の個体ごとにベースシナリオを1回トレーニングするため、10エポックのCOCO128実行を300世代行うと、そのような1回分の実行コストの約15,000倍になります。ベースシナリオは短く、代表的なものにしてください。上記のマルチGPUループは、1つの検索を共有するのではなく、各GPUで独立した検索を開始するため、固定予算で作業している場合はプロセスあたりの--evolveを下げてください。

  • はい。--evolveのデフォルトは300世代です。より多く実行するには、--evolve 1000などの数値を渡してください。

  • train.py内のmeta辞書のエントリの最初の値をFalseに設定します。除外されたパラメータは初期値を維持し、evolve.pngに垂直線として表示されます。

  • 保存されたファイルを通常のトレーニング実行に渡します：python train.py --hyp runs/evolve/exp/hyp_evolve.yaml --data your.yaml --weights yolov5s.pt。

貢献者
GLglenn-jocher2RAraimbekovm1PDpderrenger1

コメント