Ultralytics YOLOによるモデルのエクスポート#

Ultralyticsを使用すると、YOLO26モデルをONNX形式に簡単にエクスポートできます。モデルのエクスポートには、PythonとCLIの両方の方法が用意されています。

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom-trained model

# Export the model
model.export(format="onnx")

プロセスの詳細（異なる入力サイズの処理などの高度なオプションを含む）については、ONNX統合ガイドを参照してください。

モデルのエクスポートにTensorRTを使用すると、大幅なパフォーマンス向上が得られます。TensorRTにエクスポートしたYOLO26モデルは、GPUで最大5倍の高速化を実現できるため、リアルタイム推論アプリケーションに適しています。

• 汎用性: 特定のハードウェア構成向けにモデルを最適化できます。
• 速度: 高度な最適化により、より高速な推論を実現できます。
• 互換性: NVIDIAハードウェアとスムーズに統合できます。

TensorRTの統合について詳しくは、TensorRT統合ガイドを参照してください。

INT8量子化は、モデルを圧縮して推論を高速化する優れた方法です。特にエッジデバイスで効果的です。INT8量子化は次の方法で有効にできます。

from ultralytics import YOLO

model = YOLO("yolo26n.pt")  # Load a model
model.export(format="onnx", quantize=8, data="coco8.yaml")

INT8量子化は、ONNX、TensorRT、OpenVINO、CoreML、Rockchip RKNNなどの形式に適用できます。最適な量子化結果を得るには、dataパラメーターを使用して代表的なデータセットを指定してください。受け入れ可能なquantizeの値とサポート対象形式については、量子化オプションを参照してください。

動的入力サイズを使用すると、エクスポートしたモデルでさまざまな画像サイズを処理できるため、柔軟性が向上し、用途ごとの処理効率を最適化できます。ONNXやTensorRTなどの形式にエクスポートする際に動的入力サイズを有効にすると、モデルが異なる入力形状にシームレスに適応できます。

この機能を有効にするには、エクスポート時にdynamic=Trueフラグを使用します。

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.export(format="onnx", dynamic=True)

動的入力サイズは、動画処理や異なるソースからの画像の処理など、入力サイズが変化する可能性のあるアプリケーションで特に役立ちます。

エクスポート引数を理解して設定することは、モデルのパフォーマンスを最適化するうえで重要です。

• format: エクスポートするモデルの対象形式です（例: onnx、torchscript、saved_model）。
• imgsz: モデル入力に使用する希望の画像サイズです（例: 640または(height, width)）。
• quantize: 量子化精度です。8/"int8"、16/"fp16"、32/"fp32"、またはサポート対象形式で使用できる混合重み／アクティベーション方式の"w8a16"と"w8a32"（LiteRT動的INT8）などがあります。量子化オプションを参照してください。
• optimize: DEEPXエクスポートでコンパイラーの最適化レベルを高くします。

特定のハードウェアプラットフォームにデプロイする場合は、NVIDIA GPU向けのTensorRT、Appleデバイス向けのCoreML、Google Coralデバイス向けのEdge TPUなど、専用のエクスポート形式の使用を検討してください。

YOLOモデルをONNXやTensorRTなどの形式にエクスポートすると、出力テンソルの構造はモデルのタスクによって異なります。カスタム推論を実装するには、これらの出力を理解することが重要です。

YOLO26検出モデル（例: yolo26n.pt）を nms=False でエクスポートした場合、サポートされているフォーマットでは (batch_size, max_detections, 6) のような形状を持ち [x1, y1, x2, y2, confidence, class_id] の値を持つNMS不要の出力が生成されます。デフォルトの max_det=300 では、これは通常 (batch_size, 300, 6) になります。一部の制約されたフォーマットでは、エンドツーエンド演算子がサポートされていない場合、自動的に従来の出力レイアウトにフォールバックします。

デフォルト（nms=None）では、YOLO26を含む検出モデルは生の一対多予測をエクスポートします。出力は通常 (batch_size, 4 + num_classes, num_predictions) のような形状の単一のテンソルであり、チャネルはボックス座標とクラスごとのスコアを表し、num_predictions はエクスポートの入力解像度に依存します（動的にすることも可能です）。どのフォーマットがエンドツーエンド出力を維持するかについては、エンドツーエンド検出ガイドで解説されています。

セグメンテーションモデル（例: yolo26n-seg.pt）では、通常2つの出力が得られます。1つ目のテンソルは(batch_size, 4 + num_classes + mask_dim, num_predictions)の形状（ボックス、クラススコア、マスク係数）で、2つ目のテンソルは(batch_size, mask_dim, proto_h, proto_w)の形状で、係数とともにインスタンスマスクの生成に使用するマスクプロトタイプを含みます。サイズはエクスポート入力解像度に依存します（動的にすることも可能です）。

ポーズモデル（例: yolo26n-pose.pt）では、通常、出力テンソルは(batch_size, 4 + num_classes + keypoint_dims, num_predictions)の形状になります。keypoint_dimsはポーズ仕様（キーポイント数や信頼度を含めるかどうかなど）に依存し、num_predictionsはエクスポート入力解像度に依存します（動的にすることも可能です）。

ONNX推論の例では、各モデルタイプでこれらの出力を処理する方法を説明しています。

Ultralyticsは現在、YOLOモデル専用のC++推論APIを提供していません。C++でデプロイする場合は、モデルをONNX、TensorRT、TorchScript、MNNなどのランタイム形式にエクスポートし、そのランタイムのネイティブC++ APIでエクスポートしたアーティファクトを読み込んでください。

たとえば、yolo export model=yolo26n.pt format=onnx で検出モデルをエクスポートして .onnx ファイルをONNX Runtime C++で実行するか、format=engine でエクスポートしてTensorRT C++アプリケーションからTensorRTエンジンを実行します。カスタムC++後処理を使用する場合は、タスクおよびエクスポート設定に合わせて出力テンソルレイアウトを一致させてください。デフォルトのYOLO26検出エクスポートは、外部NMSを必要とする生予測テンソルを返します。nms=False でエクスポートすると (batch, max_det, 6) の形状を持つNMS不要の検出が得られ、nms=True でエクスポートするとサポートされているフォーマットにNMSを埋め込むことができます。

quantize=16（FP16）またはquantize=8（INT8）を使用してエクスポートすると、モデルサイズを削減してパフォーマンスを向上させるため、ほとんどのテンソルが低精度に変換されます。ただし、nms=Falseを有効にすると、後処理（クラスインデックスを含む）がエクスポートされたグラフに直接組み込まれます。

output0テンソルにはクラスインデックスが含まれており、内部では浮動小数点値として表現されます。FP16は仮数の精度が限られているため、2048を超える整数値を正確に表現できません。精度の損失やクラスIDの誤りを防ぐため、output0は意図的にFP32のまま維持されます。

この動作は想定どおりであり、クラスインデックスの忠実性を維持する必要がある低精度または量子化エクスポートにも適用されます。

完全なFP16出力が必要な場合は、nms=Noneを使用してエクスポートし、後処理を外部で実行してください。