Ultralytics YOLOによるモデルのエクスポート#

Ultralyticsを使えば、YOLO26モデルをONNX形式に簡単にエクスポートできます。モデルのエクスポートにはPythonとCLIの両方を使用できます。

from ultralytics import YOLO

# モデルを読み込む
model = YOLO("yolo26n.pt")  # 公式モデルを読み込みます
model = YOLO("path/to/best.pt")  # カスタム学習済みモデルを読み込む

# モデルをエクスポートする
model.export(format="onnx")

入力サイズの変更などの高度なオプションを含む手順の詳細については、ONNXインテグレーションガイドを参照してください。

モデルのエクスポートにTensorRTを使用すると、パフォーマンスが大幅に向上します。TensorRTにエクスポートしたYOLO26モデルでは、GPUの速度を最大5倍にできるため、リアルタイム推論アプリケーションに最適です。

• 汎用性： 特定のハードウェア構成に合わせてモデルを最適化できます。
• 速度： 高度な最適化により、推論を高速化できます。
• 互換性： NVIDIAハードウェアとスムーズに統合できます。

TensorRTとの統合について詳しくは、TensorRTインテグレーションガイドを参照してください。

INT8量子化は、モデルを圧縮して推論を高速化する優れた方法であり、特にエッジデバイスで効果的です。INT8量子化を有効にする方法は次のとおりです。

from ultralytics import YOLO

model = YOLO("yolo26n.pt")  # モデルを読み込む
model.export(format="onnx", quantize=8, data="coco8.yaml")

ONNX、TensorRT、OpenVINO、CoreML、Rockchip RKNN、AMD Xilinxなどの形式にINT8量子化を適用できます。最適な量子化結果を得るには、dataパラメーターを使用して、代表的なデータセットを指定してください。使用可能なquantizeの値と対応形式については、量子化オプションを参照してください。

動的入力サイズを使うと、エクスポートしたモデルがさまざまな画像サイズに対応できるため、柔軟性が高まり、用途に応じて処理効率を最適化できます。ONNXやTensorRTなどの形式にエクスポートする際に動的入力サイズを有効にすると、モデルはさまざまな入力形状にシームレスに対応できます。

この機能を有効にするには、エクスポート時にdynamic=Trueフラグを使用します。

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.export(format="onnx", dynamic=True)

動的入力サイズは、動画処理や異なるソースからの画像の処理など、入力サイズが変わるアプリケーションで特に役立ちます。

PyTorchモデルと動的エクスポートでは、デフォルトで最小矩形パディングが使用されますが、静的エクスポートではimgsz全体にパディングするため、信頼度しきい値付近の検出結果が異なることがあります。静的エクスポートと一致させるには、ネイティブ推論でrect=Falseを使用するか、対応している場合はdynamic=Trueを指定してエクスポートしてください。

モデルのパフォーマンスを最適化するには、エクスポート引数を理解し、適切に設定することが重要です。

• format: エクスポートするモデルの対象形式（例：onnx、torchscript、saved_model）。
• imgsz: モデル入力の希望する画像サイズ（例：640または(height, width)）。
• quantize: 量子化精度です。たとえば、8／"int8"、16／"fp16"、32／"fp32"、または対応形式で利用できる重み／アクティベーションの混合方式"w8a16"および"w8a32"（LiteRTの動的INT8）を指定します。量子化オプションを参照してください。
• dynamic: ONNX、OpenVINO、TensorRTなど、動的形状に対応する形式で可変の入力サイズを受け付けます。
• nms: 外部NMS用の生の出力（None）、組み込みNMS（True）、またはNMSフリーヘッド（False）を選択します。
• device: エクスポート時にモデルのトレースに使用するデバイスです。たとえば、最初のCUDA GPUにはcpuまたは0を指定します。FP16のTorchScriptにはGPUが必要です。

特定のハードウェアプラットフォームにデプロイする場合は、NVIDIA GPU向けのTensorRT、Appleデバイス向けのCoreML、Google Coralデバイス向けのEdge TPUなど、専用のエクスポート形式を検討してください。

YOLOモデルをONNXやTensorRTなどの形式にエクスポートすると、出力テンソルの構造はモデルのタスクによって異なります。カスタム推論を実装するうえで、これらの出力を理解することが重要です。

nms=Falseを使用してエクスポートしたYOLO26の検出モデル（例：yolo26n.pt）では、対応形式で[x1, y1, x2, y2, confidence, class_id]個の値を持つ(batch_size, max_detections, 6)形状のNMSフリー出力が生成されます。デフォルトのmax_det=300では、通常(batch_size, 300, 6)になります。エンドツーエンド演算子に対応していない一部の制約付き形式では、従来の出力レイアウトに自動的にフォールバックします。

デフォルト（nms=None）では、YOLO26を含む検出モデルは生のone-to-many予測をエクスポートします。通常、出力は(batch_size, 4 + num_classes, num_predictions)形状の単一テンソルで、チャネルはボックス座標とクラスごとのスコアを表し、num_predictionsはエクスポート時の入力解像度によって異なります（動的にすることもできます）。どの形式でエンドツーエンド出力が保持されるかについては、エンドツーエンド検出ガイドをご覧ください。

セグメンテーションモデル（例：yolo26n-seg.pt）では、通常2つの出力が得られます。1つ目は(batch_size, 4 + num_classes + mask_dim, num_predictions)形状のテンソル（ボックス、クラススコア、マスク係数）で、2つ目は(batch_size, mask_dim, proto_h, proto_w)形状のテンソルです。2つ目のテンソルには、係数と組み合わせてインスタンスマスクを生成するマスクプロトタイプが含まれます。サイズはエクスポート時の入力解像度によって異なります（動的にすることもできます）。

Poseモデル（例：yolo26n-pose.pt）では、通常、出力テンソルは(batch_size, 4 + num_classes + keypoint_dims, num_predictions)形状になります。keypoint_dimsはPoseの仕様（例：キーポイント数や信頼度を含めるかどうか）によって異なり、num_predictionsはエクスポート時の入力解像度によって異なります（動的にすることもできます）。

ONNX推論の例では、各モデルタイプでこれらの出力を処理する方法を紹介しています。

Ultralyticsは現在、YOLOモデル専用のC++推論APIを提供していません。C++でデプロイする場合は、モデルをONNX、TensorRT、TorchScript、MNNなどのランタイム形式にエクスポートし、エクスポートした成果物を該当ランタイムのネイティブC++ APIで読み込みます。

たとえば、検出モデルをyolo export model=yolo26n.pt format=onnxでエクスポートし、.onnxファイルをONNX Runtime C++で実行するか、format=engineでエクスポートして、TensorRT C++アプリケーションからTensorRTエンジンを実行します。カスタムC++後処理を使用する場合は、タスクとエクスポート設定に応じた出力テンソルのレイアウトに合わせてください。デフォルトのYOLO26検出モデルのエクスポートでは、生の予測テンソルが返されるため、外部でNMSを実行する必要があります。NMSフリーの検出結果を(batch, max_det, 6)形状で出力するにはnms=Falseでエクスポートし、対応形式でNMSを組み込むにはnms=Trueを指定します。

quantize=16（FP16）またはquantize=8（INT8）でエクスポートすると、モデルサイズを削減してパフォーマンスを向上させるため、ほとんどのテンソルが低精度に変換されます。ただし、nms=Falseが有効な場合、クラスインデックスを含む後処理がエクスポートされたグラフに直接組み込まれます。

output0テンソルにはクラスインデックスが含まれており、内部では浮動小数点値として表現されます。FP16は仮数部の精度が限られているため、2048を超える整数値を正確に表現できません。精度の損失やクラスIDの誤りを防ぐため、output0は意図的にFP32のまま保持されます。

出力全体をFP16にする必要がある場合は、GPU上でnms=Noneを使用してエクスポートし、後処理を外部で実行してください。CPUでのFP16 ONNXエクスポートでは、内部グラフのみが変換され、入力と出力はFP32のまま保持されます。