カスタムデータセットでYOLOをファインチューニングする方法#

ファインチューニングでは、ランダムな初期化ではなく、学習済みの重みを使って事前学習済みモデルを新しいクラスに適応させます。数百エポックをかけてゼロからトレーニングする代わりに、事前学習済みのCOCO特徴を活用することで、カスタムデータへの収束を大幅に短縮できます。

このガイドでは、基本的な使い方からレイヤーの凍結や2段階トレーニングなどの高度な手法まで、カスタムデータセットでYOLO26をファインチューニングする方法を説明します。

ファインチューニングとゼロからのトレーニングの比較#

事前学習済みモデルは、数百万枚の画像から、エッジ検出、テクスチャ認識、形状理解などの一般的な視覚特徴をすでに学習しています。ファインチューニングによる転移学習では、その知識を再利用し、新しいクラスの外観だけをモデルに学習させるため、より速く収束し、必要なデータ量も少なくなります。ゼロからトレーニングする場合は、そうした知識をすべて破棄し、ピクセルレベルのパターンからすべてを学習させるため、はるかに多くのリソースが必要です。アーキテクチャのみを定義する.yamlファイルとチェックポイントの違いについては、モデルYAML設定ガイドをご覧ください。

事前学習済み重みの転送の仕組み#

クラス数が異なるデータセット（たとえば、COCOの80クラスからカスタムの5クラス）で事前学習済みモデルをファインチューニングする場合、Ultralyticsは形状を考慮した重み転送を行います。

1. バックボーンとネックは完全に転送されます - これらのレイヤーは一般的な視覚特徴を抽出し、その形状はクラス数に依存しません。
2. 検出ヘッドの一部が再初期化されます - 各分類ブランチ（cv3、one2one_cv3）の最終畳み込み層のみ、クラス数（80対5）に応じて形状が変わります。両方のモデルでスケールが同じ場合、ブランチの隠れ層は転送されます。一致するクラス名の互換性のある行は、未一致の行を初期化する前に再マッピングされます。ヘッド内のバウンディングボックス回帰レイヤー（cv2、one2one_cv2）は、クラス数に関係なく形状が固定されているため、通常どおり転送されます。
3. クラス数を変更しても、重みの大部分は転送されます。たとえば、COCO（80クラス）で学習したYOLO26nを5クラスのデータセットにファインチューニングする場合、708個の重みテンソルのうち696個に加え、名前が一致する互換性のある分類行が転送されます。

データセットのクラス数が事前学習済みモデルと同じ場合（たとえば、COCOで事前学習した重みを別の80クラスデータセットでファインチューニングする場合）、検出ヘッドを含むすべての重みが転送されます。

別名を使ったクラスの転送#

Ultralyticsは、データセット間でクラス名が一致する分類ヘッドの行を転送します。この処理では、大文字と小文字の違いや前後の空白は無視されます。同等のクラスに異なる名前が付いている場合は、読み込み前にメモリ上でソースチェックポイントのクラス名を変更してください。これにより、名前が一致しないものとして扱われてランダムに初期化されるはずだった、共通概念の事前学習済み分類重みを維持できます。

このObjects365 v2からCOCOへの例では、読み込んだチェックポイントのソースクラス名を変更し、その名前をtrain()が事前学習済み重みとして引き継ぎます。

from ultralytics import YOLO

# ソースのObjects365 v2名（小文字） -> ターゲットのCOCO名
ALIASES = {
    "wild bird": "bird",
    "handbag/satchel": "handbag",
    "luggage": "suitcase",
    "bowl/basin": "bowl",
    "orange/tangerine": "orange",
    "monitor/tv": "tv",
    "stuffed toy": "teddy bear",
    "hair dryer": "hair drier",
}

model = YOLO("path/to/yolo26s-objects365.pt")
# Objects365のクラス名は各単語の先頭が大文字のため、小文字に変換した名前で照合します
model.model.names = {i: ALIASES.get(name.lower(), name) for i, name in model.model.names.items()}
model.train(data="coco.yaml", epochs=100, imgsz=640)

cls_remap設定では、名前に基づくこの転送がデフォルトで有効になります。互換性のある行がコピーされると、トレーニング時にRemapped N/M cls head rows from pretrained weights by class nameが出力されます。無効にするには、cls_remap=Falseを設定してください。

ファインチューニングの基本例#

from ultralytics import YOLO

model = YOLO("yolo26n.pt")  # 事前学習済みモデルを読み込む
model.train(data="custom.yaml", epochs=50, imgsz=640)

モデルサイズの選択#

大規模なモデルはより高い能力を備えていますが、更新するパラメーターも多いため、トレーニングデータが限られている場合は過学習のリスクが高まります。小規模なモデル（YOLO26nまたはYOLO26s）から始め、検証指標が頭打ちになった場合にのみ大きなモデルに切り替える方法が実用的です。最適なモデルサイズは、タスクの複雑さ、クラス数、データセットの多様性、デプロイに利用できるハードウェアによって異なります。利用可能なサイズと性能ベンチマークについては、YOLO26モデルのページをご覧ください。

オプティマイザーと学習率の選択#

デフォルトのoptimizer=auto設定では、トレーニングの総反復回数に基づいてオプティマイザーと学習率が選択されます。

• 反復回数が10,000回以下（小規模なデータセットまたは少ないエポック数）：AdamWと、自動計算される低い学習率
• 反復回数が10,000回を超える場合（大規模なデータセット）：MuSGD（MuonとSGDのハイブリッドオプティマイザー）、lr=0.01

ほとんどのファインチューニングタスクでは、デフォルト設定で十分な結果が得られ、手動でのチューニングは不要です。次の場合は、オプティマイザーを明示的に設定することを検討してください。

• トレーニングが不安定な場合（損失が急増する、または発散する）：より安定した収束を得るために、optimizer=AdamW, lr0=0.001を試してください。
• 小規模なデータセットで大規模モデルをファインチューニングする場合：optimizer=AdamW, lr0=0.001など、学習率を低くしたオプティマイザーを明示的に指定すると、事前学習済みの特徴を維持しやすくなります。

レイヤーの凍結#

レイヤーを凍結すると、トレーニング中に特定のレイヤーが更新されなくなります。これにより、データセットの規模がモデルの能力に比べて小さい場合に、トレーニングを高速化し、過学習を抑制できます。

freezeパラメーターには、整数またはリストを指定できます。整数のfreeze=10は最初の10レイヤー（インデックス0～9）を凍結し、YOLO26バックボーンの大部分が対象になります。バックボーンはレイヤー0～10にわたるため、freeze=10では最後のC2PSAブロック（レイヤー10）が学習可能なまま残ります。バックボーン全体を凍結するには、freeze=11を使用してください。リストには、バックボーンの一部を凍結するfreeze=[0, 3, 5]のようなレイヤーインデックスや、レイヤー内の特定の分岐を細かく制御するfreeze=["23.cv2", "23.one2one_cv2"]のようなモジュール名文字列を指定できます（この例では検出ヘッドの両方のボックス回帰分岐が対象です）。

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.train(data="custom.yaml", epochs=50, freeze=10)

適切な凍結深度は、対象ドメインが事前学習データにどの程度類似しているか、また利用できる学習データがどの程度あるかによって異なります。

凍結深度もハイパーパラメーターとして扱うことができます。いくつかの値（0、5、10）を試し、検証用mAPを比較するのは、特定のデータセットに最適な設定を見つける実用的な方法です。

ファインチューニングの主なハイパーパラメーター#

ファインチューニングでは通常、スクラッチから学習する場合ほど多くのハイパーパラメーター調整は必要ありません。特に重要なパラメーターは次のとおりです。

• epochs: ファインチューニングはスクラッチからの学習より速く収束します。中程度の値から始め、検証指標が頭打ちになったらpatienceを使用して早期に停止します。
• patience: デフォルトの100は、長時間の学習を想定した設定です。これを10～20に減らすと、すでに収束した学習に時間を費やすことを避けられます。
• warmup_epochs: ウォームアップでは、最初の数エポックにわたって学習率をスケジュールされた値まで徐々に引き上げるため、初期のバッチが事前学習済みの特徴を乱す可能性を抑えられます。ファインチューニング時はゼロ以外に設定しますが、デフォルトの3エポックすべては必要ありません。Objects365の重みから複数エポック継続して学習する公式YOLO26 COCOファインチューニングの基盤となった進化的探索では、すべてのモデルサイズで約1エポックに落ち着きました。

学習パラメーターの全リストについては、学習設定のリファレンスをご覧ください。レイヤーごとの学習率、勾配クリッピング、カスタム検証指標など、パラメーターでは設定できない動作については、トレーナーをサブクラス化してください。

2段階ファインチューニング#

2段階ファインチューニングでは、学習を2つのフェーズに分けます。第1段階ではバックボーンを凍結し、ネックとヘッドのみを学習させます。これにより、事前学習済みの特徴を損なわずに、検出レイヤーを新しいクラスに適応させることができます。第2段階ではすべてのレイヤーの凍結を解除し、より低い学習率でモデル全体を学習させて、対象ドメインに合わせてバックボーンを調整します。

この方法は、対象ドメインがCOCOと大きく異なる場合（医療画像、航空画像、顕微鏡画像など）に特に有効です。このようなケースではバックボーンの適応が必要になる一方、すべてを一度に学習すると不安定になる可能性があります。コールバックを使って自動的に凍結を解除する方法については、バックボーンの凍結と解除をご覧ください。

from ultralytics import YOLO

# 第1段階: バックボーンを凍結し、ヘッドとネックを学習させます
model = YOLO("yolo26n.pt")
model.train(data="custom.yaml", epochs=20, freeze=10, name="stage1", exist_ok=True)

# 第2段階: すべての凍結を解除し、低いlrでファインチューニングします
model = YOLO("runs/detect/stage1/weights/best.pt")
model.train(data="custom.yaml", epochs=30, optimizer="AdamW", lr0=0.001, name="stage2", exist_ok=True)

よくある問題#

モデルが予測を出力しない#

• 学習データが不十分: サンプルが非常に少ない状態で学習することが最も一般的な原因です。データが少なすぎると、モデルは学習も汎化もできません。他の原因を調べる前に、各クラスについて十分に多様なサンプルがあることを確認してください。

• データセットのパスを確認: 無効な画像パスはデータセットエラーになります。個々のラベルファイルが欠落または空の場合は背景画像として扱われ、スキャン中に報告されます。学習分割にラベルが1つもない場合はエラーになります。学習前にデータセットを検証してください。

  yolo detect val model=yolo26n.pt data=custom.yaml

• 信頼度しきい値を下げる: 予測は存在するもののフィルタリングされている場合は、推論時にconf=0.1を試してください。

• クラス数を確認: data.yaml内のncが、ラベルファイルに実際に含まれるクラス数と一致していることを確認してください。

検証用mAPが早期に頭打ちになる#

• データを追加: ファインチューニングでは、学習データを増やすことで大きな効果が得られます。特に、角度、照明、背景がさまざまな多様なサンプルが有効です。
• クラスのバランスを確認: サンプル数の少ないクラスはAPが低くなります。サンプルを追加するか、検証セットでcls_pwを調整してください。
• データ拡張を減らす: 非常に小規模なデータセットでは、強いデータ拡張は効果よりも悪影響のほうが大きくなる場合があります。mosaic=0.5またはmosaic=0.0を試してください。
• 解像度を上げる: 小さなオブジェクトを含むデータセットでは、細部を保持するためにimgsz=1280を試してください。

ファインチューニング後、元のクラスに対する性能が低下する#

これは破滅的忘却と呼ばれます。新しいデータのみでファインチューニングすると、モデルが以前に学習した知識を失います。新しいデータとともに元のデータセットの画像を含めない限り、忘却を完全に防ぐことはほぼできません。影響を抑える方法は次のとおりです。

• データセットを統合: ファインチューニング時に、新しいクラスとともに元のクラスのサンプルも含めます。忘却を防ぐ確実な方法はこれだけです。
• バックボーンとネックを凍結: バックボーンとネックの両方を凍結して検出ヘッドのみを学習させる方法は、学習率を非常に低くした短期間のファインチューニングで有効です。
• エポック数を減らす: 新しいデータだけでモデルを学習する期間が長くなるほど、忘却が進みます。

よくある質問#