Ultralytics YOLOを使用したモデルのエクスポート#

Ultralyticsを使用すれば、YOLO26モデルをONNXフォーマットにエクスポートするのは簡単です。PythonとCLIの両方のエクスポート手法を提供しています。

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom-trained model

# Export the model
model.export(format="onnx")

さまざまな入力サイズの処理などの高度なオプションを含むプロセスの詳細については、ONNX統合ガイドを参照してください。

モデルエクスポートにTensorRTを使用すると、パフォーマンスが大幅に向上します。TensorRTにエクスポートされたYOLO26モデルは、最大5倍のGPU高速化を達成できるため、リアルタイム推論アプリケーションに最適です。

• 汎用性: 特定のハードウェアセットアップに合わせてモデルを最適化します。
• 速度: 高度な最適化を通じて、より高速な推論を実現します。
• 互換性: NVIDIAハードウェアとスムーズに統合します。

TensorRTの統合の詳細については、TensorRT統合ガイドを参照してください。

INT8量子化は、特にエッジデバイスにおいてモデルを圧縮し、推論を高速化するための非常に優れた方法です。INT8量子化を有効にする方法は以下の通りです：

from ultralytics import YOLO

model = YOLO("yolo26n.pt")  # Load a model
model.export(format="onnx", quantize=8, data="coco8.yaml")

ONNX、TensorRT、OpenVINO、CoreML、Rockchip RKNNなどのフォーマットに対してINT8量子化を適用できます。最適な量子化結果を得るには、dataパラメータを使用して代表的なデータセットを提供してください。受け入れられるquantizeの値とサポートされているフォーマットについては、Quantization Optionsを参照してください。

動的入力サイズにより、エクスポートされたモデルがさまざまな画像ディメンションに対応できるようになり、柔軟性が向上し、さまざまなユースケースでの処理効率が最適化されます。ONNXやTensorRTなどのフォーマットにエクスポートする場合、動的入力サイズを有効にすることで、モデルが異なる入力形状にシームレスに適応できるようになります。

この機能を有効にするには、エクスポート中に dynamic=True フラグを使用します:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.export(format="onnx", dynamic=True)

動的な入力サイズ指定は、ビデオ処理や異なるソースからの画像を扱う場合など、入力寸法が変化する可能性のあるアプリケーションで特に便利です。

モデルパフォーマンスを最適化するには、エクスポート引数を理解し、設定することが極めて重要です：

• format: エクスポートするモデルのターゲットフォーマット（例: onnx、torchscript、tensorflow）。
• imgsz: モデル入力の希望する画像サイズ（例: 640 または (height, width)）。
• quantize: 量子化精度（例: 8/"int8"、16/"fp16"、32/"fp32"、またはサポートされているフォーマットでの混合ウェイト/アクティベーションスキーム "w8a16" および "w8a32"（LiteRT動的INT8））。量子化オプションを参照してください。
• optimize: DEEPXエクスポートのコンパイラ最適化をより高く有効にします。

特定のハードウェアプラットフォームへのデプロイでは、NVIDIA GPU用のTensorRT、Appleデバイス用のCoreML、Google Coralデバイス用のEdge TPUなど、特殊なエクスポートフォーマットの使用を検討してください。

YOLOモデルをONNXやTensorRTなどのフォーマットにエクスポートする場合、出力テンソルの構造はモデルのタスクに依存します。これらの出力を理解することは、カスタムの推論実装にとって重要です。

YOLO26検出モデル（例：yolo26n.pt）の場合、エンドツーエンドのエクスポートをサポートするフォーマットではデフォルトで有効になっているため、出力は[x1, y1, x2, y2, confidence, class_id]の値を持つ(batch_size, max_detections, 6)のような形状になります。デフォルトのmax_det=300では、これが一般的に(batch_size, 300, 6)になります。一部の制約されたフォーマットでは、エンドツーエンドの演算子がサポートされていない場合、自動的に従来の出力レイアウトにフォールバックします。

非エンドツーエンドの検出モデル、または end2end=False でエクスポートされたYOLO26モデルの場合、出力は通常、チャンネルがボックス座標とクラスごとのスコアを表す (batch_size, 4 + num_classes, num_predictions) のような形状の単一のテンソルであり、num_predictions はエクスポートの入力解像度に依存します（動的にすることも可能です）。

セグメンテーションモデル（例: yolo26n-seg.pt）の場合、通常2つの出力が得られます。1つ目は (batch_size, 4 + num_classes + mask_dim, num_predictions) のような形状のテンソル（ボックス、クラススコア、マスク係数）、2つ目は係数と組み合わせてインスタンスマスクを生成するために使用されるマスクプロトタイプを含む (batch_size, mask_dim, proto_h, proto_w) のような形状のテンソルです。サイズはエクスポートの入力解像度に依存します（動的にすることも可能です）。

ポーズモデル（例: yolo26n-pose.pt）の場合、出力テンソルは通常 (batch_size, 4 + num_classes + keypoint_dims, num_predictions) のような形状になり、keypoint_dims はポーズの仕様（例: キーポイントの数や信頼度が含まれているかどうか）に依存し、num_predictions はエクスポートの入力解像度に依存します（動的にすることも可能です）。

ONNX推論の例の例は、各モデルタイプのこれらの出力を処理する方法を示しています。

Ultralyticsは現在、YOLOモデル用の専用のC++推論APIを提供していません。C++デプロイの場合は、モデルをONNX、TensorRT、TorchScript、MNNなどのランタイムフォーマットにエクスポートし、そのランタイムのネイティブC++ APIを使用してエクスポートされた成果物をロードしてください。

たとえば、yolo export model=yolo26n.pt format=onnx で検出モデルをエクスポートして .onnx ファイルをONNX Runtime C++で実行するか、format=engine でエクスポートしてTensorRT C++アプリケーションからTensorRTエンジンを実行します。カスタムC++後処理を使用する場合は、タスクとエクスポート設定に合わせて出力テンソルレイアウトを一致させてください。YOLO26のエンドツーエンド検出エクスポートは通常 (batch, max_det, 6) を返しますが、非エンドツーエンドのエクスポートは外部の後処理を必要とする生の予測テンソルを返します。

quantize=16（FP16）または quantize=8（INT8）でエクスポートする場合、モデルサイズを縮小しパフォーマンスを向上させるために、ほとんどのテンソルが低精度に変換されます。ただし、end2end=True が有効になっている場合、後処理（クラスインデックスを含む）がエクスポートされたグラフに直接埋め込まれます。

output0 テンソルにはクラスインデックスが含まれており、これらは内部的に浮動小数点値として表現されます。FP16は、仮数部の精度が限られているため、2048を超える整数値を信頼性の高い表現ができません。潜在的な精度の損失や誤ったクラスIDを防ぐために、output0 は意図的にFP32に維持されます。

この動作は想定されるものであり、クラスインデックスの忠実度を保持する必要がある低精度または量子化されたエクスポートにも適用されます。

完全なFP16出力が必要な場合は、end2end=False でエクスポートし、外部で後処理を実行してください。