Link to this sectionIntel OpenVINO エクスポート#
本ガイドでは、YOLO26モデルをOpenVINO形式にエクスポートする方法について説明します。これにより、CPUで最大3倍の高速化が可能になるほか、IntelのGPUやNPUハードウェア上でのYOLO推論を高速化できます。
OpenVINO(Open Visual Inference & Neural Network Optimization toolkitの略)は、AI推論モデルの最適化とデプロイを行うための包括的なツールキットです。名前にVisualと含まれていますが、OpenVINOは言語、音声、時系列データなど、その他の多様なタスクもサポートしています。
Watch: How to Export Ultralytics YOLO26 to Intel OpenVINO Format for Faster Inference 🚀
Link to this section使用例#
OpenVINO形式はExport、Predict、およびValidateモードをサポートしています。モデルをエクスポートし、そのモデルを読み込んでIntel CPU、統合/ディスクリートGPU、またはNPUで推論を実行したり、精度を検証したりすることができます。
from ultralytics import YOLO
# Load a YOLO26 model
model = YOLO("yolo26n.pt")
# Export the model to OpenVINO format
model.export(format="openvino") # creates 'yolo26n_openvino_model/'from ultralytics import YOLO
# Load the exported OpenVINO model
model = YOLO("yolo26n_openvino_model/")
# Run inference
results = model("https://ultralytics.com/images/bus.jpg")
# Run inference on a specific device, available devices: ["intel:gpu", "intel:npu", "intel:cpu"]
results = model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")from ultralytics import YOLO
# Load the exported OpenVINO model
model = YOLO("yolo26n_openvino_model/")
# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")Link to this sectionエクスポートの引数#
| 引数 | タイプ | デフォルト | 説明 |
|---|---|---|---|
format | str | 'openvino' | エクスポートするモデルのターゲット形式。さまざまなデプロイ環境との互換性を定義します。 |
imgsz | intまたはtuple | 640 | モデル入力用の希望する画像サイズ。正方形画像の場合は整数、特定の寸法の場合はタプル(height, width)を指定できます。 |
quantize | int または str | None | Quantization precision: 16 (FP16) or 8 (INT8/PTQ; needs calibration data/fraction); 32/unset is FP32. Replaces the deprecated half/int8 flags. |
dynamic | bool | False | 動的な入力サイズを許可し、さまざまな画像次元を扱う際の柔軟性を高めます。 |
nms | bool | False | Non-Maximum Suppression (NMS) を追加します。これは正確で効率的な検出後処理に不可欠です。 |
batch | int | 1 | エクスポートされたモデルのバッチ推論サイズ、あるいはpredictモードで同時に処理する画像の最大数を指定します。 |
data | str | 'coco8.yaml' | 量子化に不可欠なデータセット設定ファイル(デフォルト: coco8.yaml)へのパスです。 |
fraction | float | 1.0 | INT8量子化キャリブレーションに使用するデータセットの割合を指定します。フルデータセットのサブセットでキャリブレーションを行えるため、実験やリソースが限られている場合に便利です。INT8が有効で指定されていない場合、フルデータセットが使用されます。 |
エクスポートプロセスの詳細については、Ultralyticsのエクスポートに関するドキュメントページを参照してください。
OpenVINO™はほとんどのIntel®プロセッサと互換性がありますが、最適なパフォーマンスを確保するためには以下の点を確認してください:
-
OpenVINO™のサポートを確認する お使いのIntel®チップがOpenVINO™で公式にサポートされているかどうかを、Intelの互換性リストで確認してください。
-
アクセラレータを特定する Intelのハードウェアガイドを参照し、使用しているプロセッサに統合NPU(Neural Processing Unit)またはGPU(統合GPU)が含まれているかを確認してください。
-
最新のドライバをインストールする チップがNPUまたはGPUをサポートしているにもかかわらず、OpenVINO™がそれを検出できない場合は、関連するドライバのインストールや更新が必要な場合があります。ドライバインストール手順に従い、フルアクセラレーションを有効にしてください。
これら3つのステップに従うことで、Intel®ハードウェア上でOpenVINO™が最適に動作するように設定できます。
Link to this sectionOpenVINOの利点#
- パフォーマンス: OpenVINOは、Intel CPU、統合およびディスクリートGPU、FPGAのパワーを活用し、高性能な推論を提供します。
- ヘテロジニアス実行のサポート: OpenVINOは、一度記述すればサポートされているすべてのIntelハードウェア(CPU、GPU、FPGA、VPUなど)上でデプロイできるAPIを提供します。
- Model Optimizer: OpenVINO provides a Model Optimizer that imports, converts, and optimizes models from popular deep learning frameworks such as PyTorch, TensorFlow, TensorFlow Lite, Keras, ONNX, PaddlePaddle, and Caffe.
- 使いやすさ: このツールキットには、ツールキットのさまざまな側面を学習するための膨大なチュートリアルノートブック(YOLO26の最適化を含む)が付属しています。
Link to this sectionOpenVINOエクスポート構造#
モデルをOpenVINO形式にエクスポートすると、以下の内容を含むディレクトリが生成されます:
- XMLファイル: ネットワークトポロジーを記述します。
- BINファイル: 重みとバイアスのバイナリデータを含みます。
- マッピングファイル: 元のモデルの出力テンソルとOpenVINOテンソル名のマッピングを保持します。
これらのファイルを使用して、OpenVINO推論エンジンによる推論を実行できます。
Link to this sectionデプロイメントでのOpenVINOエクスポートの使用#
モデルがOpenVINO形式に正常にエクスポートされたら、推論を実行するために主に2つの選択肢があります:
-
ハイレベルAPIを提供し、OpenVINO Runtimeをラップする
ultralyticsパッケージを使用する。 -
より高度な制御や、推論動作のカスタマイズを行うために、ネイティブな
openvinoパッケージを使用する。
Link to this sectionUltralyticsでの推論#
ultralyticsパッケージを使用すると、predictメソッドを介して、エクスポートされたOpenVINOモデルで簡単に推論を実行できます。device引数を使用して、ターゲットデバイス(例: intel:gpu、intel:npu、intel:cpu)を指定することも可能です。
from ultralytics import YOLO
# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/") # the path of your exported OpenVINO model
# Run inference with the exported model
ov_model.predict(device="intel:gpu") # specify the device you want to run inference onこのアプローチは、推論パイプラインを完全に制御する必要がない場合、迅速なプロトタイピングやデプロイメントに最適です。
Link to this sectionOpenVINO Runtimeでの推論#
OpenVINO Runtimeは、サポートされているすべてのIntelハードウェア間で推論を行うための統合APIを提供します。また、Intelハードウェア間での負荷分散や非同期実行といった高度な機能も備えています。推論の実行に関する詳細については、YOLO26ノートブックを参照してください。
Runtimeを使用してモデルを適切に設定・使用するには、XMLファイルとBINファイルだけでなく、入力サイズや正規化のためのスケール係数など、アプリケーション固有の設定が必要になることに注意してください。
デプロイ用アプリケーションでは、通常以下の手順を実行します:
core = Core()を作成してOpenVINOを初期化します。core.read_model()メソッドを使用してモデルを読み込みます。core.compile_model()関数を使用してモデルをコンパイルします。- 入力(画像、テキスト、音声など)を準備します。
compiled_model(input_data)を使用して推論を実行します。
詳細な手順やコードスニペットについては、OpenVINOドキュメントまたはAPIチュートリアルを参照してください。
Link to this sectionOpenVINO YOLO26ベンチマーク#
Ultralyticsチームは、さまざまなモデル形式と精度でYOLO26のベンチマークを行い、OpenVINOと互換性のある各Intelデバイスでの速度と精度を評価しました。
-
以下のベンチマーク結果は参考値であり、システムの正確なハードウェアおよびソフトウェア構成、ならびにベンチマーク実行時のシステムの負荷状況によって異なる場合があります。
-
すべてのベンチマークは、
openvinoPythonパッケージバージョン2026.2.0で実行されました。 -
NPU上のYOLO26モデルは、2xxVシリーズおよび3xxシリーズ以降のIntel® Core™ Ultra™システムでのみサポートされています。
Link to this sectionIntel® Core™ Ultra™#
Intel® Core™ Ultra™シリーズは、ゲーマーやクリエイターからAIを活用するプロフェッショナルまで、現代のユーザーの進化する需要を満たすよう設計された、高性能コンピューティングの新しい基準を象徴しています。この次世代ラインアップは従来のCPUシリーズの枠を超え、強力なCPUコア、統合された高性能GPU機能、専用のNeural Processing Unit(NPU)を単一チップに組み合わせており、多様で集中的な計算負荷に対して統合的なソリューションを提供します。
Intel® Core Ultra™アーキテクチャの中心には、従来の処理タスク、GPUアクセラレーション負荷、AI主導の操作全体で卓越したパフォーマンスを実現するハイブリッド設計があります。NPUの搭載はオンデバイスAI推論を強化し、幅広いアプリケーションでより高速で効率的な機械学習とデータ処理を可能にします。
Core Ultra™ファミリーには、さまざまなパフォーマンスニーズに合わせて調整された多様なモデルが含まれています。省電力設計から、「H」指定のハイパワーバリエーション(深刻な演算能力を必要とするラップトップや小型フォームファクタに最適)まで、幅広い選択肢が用意されています。ラインアップ全体を通して、ユーザーはCPU、GPU、NPU統合の相乗効果から恩恵を受け、優れた効率性、応答性、マルチタスク能力を実現します。
Intelの継続的なイノベーションの一環として、Core Ultra™シリーズは将来を見据えたコンピューティングの新しい基準を打ち立てています。複数のモデルが利用可能であり、今後もさらなる展開が予定されているこのシリーズは、次世代のインテリジェントでAIが強化されたデバイスに向けた、最先端のソリューションを提供するというIntelのコミットメントを強調するものです。
以下のベンチマークは、Intel® Core™ Ultra™ X7 358H、Intel® Core™ Ultra™ 7 258V、およびIntel® Core™ Ultra™ 7 155H上で、FP32、FP16、およびINT8精度にて実行されました。
Link to this sectionIntel® Core™ Ultra™ X7 358H#
詳細なベンチマーク結果
| モデル | 形式 | 適合率 | ステータス | サイズ (MB) | metrics/mAP50-95(B) | 推論時間 (ms/im) |
|---|---|---|---|---|---|---|
| YOLO26n | PyTorch (CPU) | FP32 | ✅ | 5.3 | 0.4765 | 25.18 |
| YOLO26n | OpenVINO | FP32 | ✅ | 9.6 | 0.4763 | 2.67 |
| YOLO26n | OpenVINO | FP16 | ✅ | 5.1 | 0.4763 | 2.64 |
| YOLO26n | OpenVINO | INT8 | ✅ | 3.2 | 0.4625 | 2.73 |
| YOLO26s | PyTorch (CPU) | FP32 | ✅ | 19.5 | 0.5703 | 50.09 |
| YOLO26s | OpenVINO | FP32 | ✅ | 36.7 | 0.5615 | 3.57 |
| YOLO26s | OpenVINO | FP16 | ✅ | 18.6 | 0.5615 | 3.55 |
| YOLO26s | OpenVINO | INT8 | ✅ | 10.0 | 0.547 | 3.09 |
| YOLO26m | PyTorch (CPU) | FP32 | ✅ | 42.2 | 0.6196 | 135.1 |
| YOLO26m | OpenVINO | FP32 | ✅ | 78.3 | 0.6168 | 5.64 |
| YOLO26m | OpenVINO | FP16 | ✅ | 39.5 | 0.6168 | 5.85 |
| YOLO26m | OpenVINO | INT8 | ✅ | 20.5 | 0.5994 | 4.14 |
| YOLO26l | PyTorch (CPU) | FP32 | ✅ | 50.7 | 0.6215 | 169.75 |
| YOLO26l | OpenVINO | FP32 | ✅ | 95.3 | 0.6206 | 8.14 |
| YOLO26l | OpenVINO | FP16 | ✅ | 48.1 | 0.6206 | 8.18 |
| YOLO26l | OpenVINO | INT8 | ✅ | 25.2 | 0.5999 | 4.67 |
| YOLO26x | PyTorch (CPU) | FP32 | ✅ | 113.2 | 0.6512 | 407.56 |
| YOLO26x | OpenVINO | FP32 | ✅ | 213.2 | 0.6569 | 13.11 |
| YOLO26x | OpenVINO | FP16 | ✅ | 107.1 | 0.6569 | 13.15 |
| YOLO26x | OpenVINO | INT8 | ✅ | 54.8 | 0.6374 | 9.24 |
Link to this sectionIntel® Core™ Ultra™ 7 258V#
詳細なベンチマーク結果
| モデル | 形式 | 適合率 | ステータス | サイズ (MB) | metrics/mAP50-95(B) | 推論時間 (ms/im) |
|---|---|---|---|---|---|---|
| YOLO26n | PyTorch (CPU) | FP32 | ✅ | 5.3 | 0.4765 | 31.43 |
| YOLO26n | OpenVINO | FP32 | ✅ | 9.6 | 0.4762 | 3.57 |
| YOLO26n | OpenVINO | FP16 | ✅ | 5.1 | 0.4762 | 3.53 |
| YOLO26n | OpenVINO | INT8 | ✅ | 3.2 | 0.4625 | 3.65 |
| YOLO26s | PyTorch (CPU) | FP32 | ✅ | 19.5 | 0.5703 | 60.4 |
| YOLO26s | OpenVINO | FP32 | ✅ | 36.7 | 0.5616 | 5.02 |
| YOLO26s | OpenVINO | FP16 | ✅ | 18.6 | 0.5616 | 5.01 |
| YOLO26s | OpenVINO | INT8 | ✅ | 10.0 | 0.547 | 4.31 |
| YOLO26m | PyTorch (CPU) | FP32 | ✅ | 42.2 | 0.6196 | 173.31 |
| YOLO26m | OpenVINO | FP32 | ✅ | 78.3 | 0.6191 | 9.48 |
| YOLO26m | OpenVINO | FP16 | ✅ | 39.5 | 0.6168 | 9.6 |
| YOLO26m | OpenVINO | INT8 | ✅ | 20.5 | 0.5994 | 6.03 |
| YOLO26l | PyTorch (CPU) | FP32 | ✅ | 50.7 | 0.6173 | 224.52 |
| YOLO26l | OpenVINO | FP32 | ✅ | 95.3 | 0.3725 | 11.88 |
| YOLO26l | OpenVINO | FP16 | ✅ | 48.1 | 0.6201 | 12.0 |
| YOLO26l | OpenVINO | INT8 | ✅ | 25.2 | 0.5999 | 8.47 |
| YOLO26x | PyTorch (CPU) | FP32 | ✅ | 113.2 | 0.6512 | 595.72 |
| YOLO26x | OpenVINO | FP32 | ✅ | 213.2 | 0.6567 | 20.26 |
| YOLO26x | OpenVINO | FP16 | ✅ | 107.1 | 0.6454 | 20.25 |
| YOLO26x | OpenVINO | INT8 | ✅ | 54.8 | 0.6374 | 14.77 |
Link to this sectionIntel® Core™ Ultra™ 7 155H#
詳細なベンチマーク結果
| モデル | 形式 | 適合率 | ステータス | サイズ (MB) | metrics/mAP50-95(B) | 推論時間 (ms/im) |
|---|---|---|---|---|---|---|
| YOLO26n | PyTorch (CPU) | FP32 | ✅ | 5.3 | 0.4765 | 38.77 |
| YOLO26n | OpenVINO | FP32 | ✅ | 9.6 | 0.4774 | 9.87 |
| YOLO26n | OpenVINO | FP16 | ✅ | 5.1 | 0.4774 | 9.84 |
| YOLO26n | OpenVINO | INT8 | ✅ | 3.2 | 0.4705 | 5.86 |
| YOLO26s | PyTorch (CPU) | FP32 | ✅ | 19.5 | 0.5703 | 69.54 |
| YOLO26s | OpenVINO | FP32 | ✅ | 36.7 | 0.5616 | 17.29 |
| YOLO26s | OpenVINO | FP16 | ✅ | 18.6 | 0.5616 | 17.06 |
| YOLO26s | OpenVINO | INT8 | ✅ | 10.0 | 0.5452 | 10.33 |
| YOLO26m | PyTorch (CPU) | FP32 | ✅ | 42.2 | 0.6196 | 192.22 |
| YOLO26m | OpenVINO | FP32 | ✅ | 78.3 | 0.6187 | 34.64 |
| YOLO26m | OpenVINO | FP16 | ✅ | 39.5 | 0.6187 | 34.75 |
| YOLO26m | OpenVINO | INT8 | ✅ | 20.5 | 0.6073 | 15.99 |
| YOLO26l | PyTorch (CPU) | FP32 | ✅ | 50.7 | 0.6215 | 245.62 |
| YOLO26l | OpenVINO | FP32 | ✅ | 95.3 | 0.6202 | 43.7 |
| YOLO26l | OpenVINO | FP16 | ✅ | 48.1 | 0.6202 | 44.65 |
| YOLO26l | OpenVINO | INT8 | ✅ | 25.2 | 0.6048 | 20.31 |
| YOLO26x | PyTorch (CPU) | FP32 | ✅ | 113.2 | 0.6512 | 513.06 |
| YOLO26x | OpenVINO | FP32 | ✅ | 213.2 | 0.6544 | 80.19 |
| YOLO26x | OpenVINO | FP16 | ✅ | 107.1 | 0.6544 | 79.83 |
| YOLO26x | OpenVINO | INT8 | ✅ | 54.8 | 0.6393 | 35.16 |
Link to this section結果の再現#
Ultralyticsのベンチマークをすべてのエクスポート形式で再現するには、以下のコードを実行してください。
from ultralytics import YOLO
# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")
# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml")ベンチマークの結果は、システムのハードウェアやソフトウェアの構成、およびベンチマーク実行時の負荷状況によって異なる場合があります。最も信頼性の高い結果を得るには、data='coco.yaml'(5000枚の検証画像)のような画像数の多いデータセットを使用してください。
Link to this section結論#
ベンチマークの結果から、YOLO26モデルをOpenVINO形式にエクスポートする利点が明確にわかります。さまざまなモデルやハードウェアプラットフォームにおいて、OpenVINO形式は推論速度の面で他の形式を一貫して上回り、同等の精度を維持しています。
これらのベンチマークは、ディープラーニングモデルをデプロイするためのツールとしてのOpenVINOの有効性を裏付けています。モデルをOpenVINO形式に変換することで、開発者はパフォーマンスを大幅に向上させ、実世界のアプリケーションへのデプロイを容易にすることができます。
OpenVINOの使用に関する詳細や手順については、公式OpenVINOドキュメントを参照してください。
Link to this sectionよくある質問 (FAQ)#
Link to this sectionYOLO26モデルをOpenVINO形式にエクスポートするにはどうすればよいですか?#
YOLO26モデルをOpenVINO形式にエクスポートすることで、CPU速度を大幅に向上させ、Intelハードウェア上のGPUおよびNPUアクセラレーションを活用できるようになります。エクスポートには、以下に示すようにPythonまたはCLIのいずれかを使用できます。
from ultralytics import YOLO
# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")
# Export the model
model.export(format="openvino") # creates 'yolo26n_openvino_model/'詳細については、エクスポート形式のドキュメントを参照してください。
Link to this sectionYOLO26モデルでOpenVINOを使用する利点は何ですか?#
IntelのOpenVINOツールキットをYOLO26モデルで使用することには、いくつかの利点があります。
- パフォーマンス: CPU推論で最大3倍の速度向上を実現し、Intel GPUやNPUによるアクセラレーションを活用できます。
- モデルオプティマイザー: PyTorch、TensorFlow、ONNXなどの主要なフレームワークのモデルを変換、最適化、実行できます。
- 使いやすさ: YOLO26向けをはじめ、ユーザーがすぐに使い始められるよう多数のチュートリアルノートブックが用意されています。
- 異機種混合実行: 統一されたAPIを使用して、さまざまなIntelハードウェアにモデルをデプロイできます。
詳細なパフォーマンス比較については、ベンチマークセクションをご覧ください。
Link to this sectionOpenVINOにエクスポートしたYOLO26モデルを使用して推論を実行するにはどうすればよいですか?#
YOLO26nモデルをOpenVINO形式にエクスポートした後、PythonまたはCLIを使用して推論を実行できます。
from ultralytics import YOLO
# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/")
# Run inference
results = ov_model("https://ultralytics.com/images/bus.jpg")詳細については、予測モードのドキュメントを参照してください。
Link to this sectionOpenVINOエクスポートにおいて、他のモデルではなくUltralytics YOLO26を選ぶべき理由は何ですか?#
Ultralytics YOLO26は、リアルタイム物体検出のために高い精度と速度を追求して最適化されています。特にOpenVINOと組み合わせることで、YOLO26は以下の利点を提供します。
- Intel CPUでの最大3倍の速度向上
- Intel GPUおよびNPUへのシームレスなデプロイ
- さまざまなエクスポート形式にわたる一貫した同等の精度
詳細なパフォーマンス分析については、異なるハードウェアにおけるYOLO26のベンチマークを確認してください。
Link to this sectionYOLO26モデルをPyTorch、ONNX、OpenVINOなどの異なる形式でベンチマークできますか?#
はい、YOLO26モデルはPyTorch、TorchScript、ONNX、OpenVINOを含む様々な形式でベンチマーク可能です。選択したデータセットでベンチマークを実行するには、以下のコードスニペットを使用してください。
from ultralytics import YOLO
# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")
# Benchmark YOLO26n speed and [accuracy](https://www.ultralytics.com/glossary/accuracy) on the COCO8 dataset for all export formats
results = model.benchmark(data="coco8.yaml")詳細なベンチマーク結果については、ベンチマークセクションおよびエクスポート形式のドキュメントを参照してください。