Link to this sectionIntel OpenVINO エクスポート#
本ガイドでは、YOLO26モデルを OpenVINO 形式にエクスポートする方法について解説します。この形式に変換することで、CPU で最大3倍の高速化が期待できるほか、Intel GPU および NPU ハードウェア上でのYOLO推論を加速させることができます。
OpenVINO(Open Visual Inference & Neural Network Optimization toolkitの略称)は、AI推論モデルの最適化およびデプロイを行うための包括的なツールキットです。名称にはVisualが含まれていますが、OpenVINOは言語、音声、時系列データなど、その他の多様なタスクもサポートしています。
Watch: How to Export Ultralytics YOLO26 to Intel OpenVINO Format for Faster Inference 🚀
Link to this section使用例#
OpenVINO形式は、Export、Predict、および Validate モードをサポートしています。モデルをエクスポートした後、エクスポートしたモデルを読み込んで、Intel CPU、内蔵/ディスクリートGPU、またはNPU上で推論を実行したり、精度を検証したりすることができます。
from ultralytics import YOLO
# Load a YOLO26 model
model = YOLO("yolo26n.pt")
# Export the model to OpenVINO format
model.export(format="openvino") # creates 'yolo26n_openvino_model/'from ultralytics import YOLO
# Load the exported OpenVINO model
model = YOLO("yolo26n_openvino_model/")
# Run inference
results = model("https://ultralytics.com/images/bus.jpg")
# Run inference on a specific device, available devices: ["intel:gpu", "intel:npu", "intel:cpu"]
results = model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")from ultralytics import YOLO
# Load the exported OpenVINO model
model = YOLO("yolo26n_openvino_model/")
# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")Link to this sectionエクスポート引数#
| 引数 | 型 | デフォルト | 説明 |
|---|---|---|---|
format | str | 'openvino' | エクスポートされたモデルの対象形式。さまざまなデプロイ環境との互換性を定義します。 |
imgsz | int または tuple | 640 | モデル入力の希望画像サイズ。正方形の画像の場合は整数、特定の寸法の指定にはタプル (height, width) を使用できます。 |
half | bool | False | FP16(半精度)量子化を有効にし、モデルサイズを縮小して、対応ハードウェアでの推論を高速化する可能性があります。 |
int8 | bool | False | INT8量子化を有効にし、モデルをさらに圧縮して推論を高速化します。精度 の損失を最小限に抑え、主にエッジデバイス向けに使用されます。 |
dynamic | bool | False | 動的な入力サイズを許可し、さまざまな画像サイズを扱う際の柔軟性を高めます。 |
nms | bool | False | NMS (Non-Maximum Suppression) を追加します。これは、正確かつ効率的な検出後処理に不可欠です。 |
batch | int | 1 | エクスポートされたモデルのバッチ推論サイズ、または predict モードでエクスポートされたモデルが同時に処理する画像の最大数を指定します。 |
data | str | 'coco8.yaml' | データセット 設定ファイルへのパス(デフォルト: coco8.yaml)。量子化に不可欠です。 |
fraction | float | 1.0 | INT8量子化のキャリブレーションに使用するデータセットの割合を指定します。データセット全体の一部を使用してキャリブレーションを行えるため、実験時やリソースが限られている場合に便利です。INT8を有効にした状態で指定がない場合は、データセット全体が使用されます。 |
エクスポートプロセスの詳細については、Ultralyticsのモデルエクスポートに関するドキュメントページ を参照してください。
OpenVINO™はほとんどのIntel®プロセッサと互換性がありますが、最適なパフォーマンスを確保するには以下を確認してください。
-
OpenVINO™サポートの確認 Intelの互換性リスト を使用して、お使いのIntel®チップがOpenVINO™で公式にサポートされているか確認してください。
-
アクセラレータの特定 Intelのハードウェアガイド を参照して、プロセッサに統合NPU(Neural Processing Unit)またはGPU(内蔵GPU)が含まれているかを確認してください。
-
最新ドライバーのインストール チップがNPUまたはGPUをサポートしているにもかかわらずOpenVINO™がそれを検出できない場合は、関連するドライバーのインストールや更新が必要な場合があります。ドライバーのインストール手順 に従って、フルアクセラレーションを有効にしてください。
これら3つのステップに従うことで、Intel®ハードウェア上でOpenVINO™を最適に実行できるようになります。
Link to this sectionOpenVINOの利点#
- パフォーマンス: OpenVINOは、Intel CPU、内蔵およびディスクリートGPU、FPGAの能力を活用することで、高性能な推論を実現します。
- ヘテロジニアス実行のサポート: OpenVINOは、一度コードを書けば、サポートされているあらゆるIntelハードウェア(CPU、GPU、FPGA、VPUなど)にデプロイできるAPIを提供します。
- Model Optimizer: OpenVINO provides a Model Optimizer that imports, converts, and optimizes models from popular deep learning frameworks such as PyTorch, TensorFlow, TensorFlow Lite, Keras, ONNX, PaddlePaddle, and Caffe.
- 使いやすさ: このツールキットには、ツールキットのさまざまな側面を学べる チュートリアルノートブック (YOLO26の最適化 を含む)の膨大なコレクションが付属しています。
Link to this sectionOpenVINOエクスポートの構造#
モデルをOpenVINO形式にエクスポートすると、以下のファイルを含むディレクトリが生成されます。
- XMLファイル: ネットワークのトポロジを記述します。
- BINファイル: 重みとバイアスのバイナリデータを含みます。
- マッピングファイル: 元のモデル出力テンソルとOpenVINOテンソル名のマッピングを保持します。
これらのファイルを使用して、OpenVINO推論エンジンで推論を実行できます。
Link to this sectionデプロイメントでのOpenVINOエクスポートの使用#
モデルがOpenVINO形式に正常にエクスポートされたら、推論を実行するために主に2つの選択肢があります。
-
高レベルAPIを提供し、OpenVINO Runtimeをラップする
ultralyticsパッケージを使用する。 -
推論動作をより高度に、またはカスタマイズして制御するために、ネイティブの
openvinoパッケージを使用する。
Link to this sectionUltralyticsでの推論#
ultralyticsパッケージを使用すると、predictメソッドを通じてエクスポートされたOpenVINOモデルを使って簡単に推論を実行できます。また、device引数を使用してターゲットデバイス(例: intel:gpu、intel:npu、intel:cpu)を指定することも可能です。
from ultralytics import YOLO
# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/") # the path of your exported OpenVINO model
# Run inference with the exported model
ov_model.predict(device="intel:gpu") # specify the device you want to run inference onこの方法は、推論パイプラインを完全に制御する必要がない場合や、迅速なプロトタイピング、デプロイメントに最適です。
Link to this sectionOpenVINO Runtimeでの推論#
OpenVINO Runtimeは、サポートされているすべてのIntelハードウェア間で統一された推論APIを提供します。また、Intelハードウェア間での負荷分散や非同期実行といった高度な機能も提供します。推論の実行に関する詳細については、YOLO26ノートブック を参照してください。
Runtimeを使用してモデルを正しくセットアップし使用するには、XMLファイルとBINファイルだけでなく、入力サイズや正規化のためのスケール係数など、アプリケーション固有の設定が必要になることに注意してください。
デプロイメントアプリケーションでは、通常以下の手順を実行します。
core = Core()を作成してOpenVINOを初期化します。core.read_model()メソッドを使用してモデルを読み込みます。core.compile_model()関数を使用してモデルをコンパイルします。- 入力(画像、テキスト、音声など)を準備します。
compiled_model(input_data)を使用して推論を実行します。
詳細な手順やコードスニペットについては、OpenVINOドキュメント または APIチュートリアル を参照してください。
Link to this sectionOpenVINO YOLO26ベンチマーク#
Ultralyticsチームは、さまざまなモデル形式と 精度 にわたってYOLO26のベンチマークを行い、OpenVINOと互換性のあるさまざまなIntelデバイス上での速度と精度を評価しました。
-
以下のベンチマーク結果は参照用です。実際のシステム構成、ハードウェアおよびソフトウェアの構成、またベンチマーク実行時のシステムの負荷状況によって結果は異なる場合があります。
-
すべてのベンチマークは、
openvinoPythonパッケージのバージョン 2026.2.0.dev20260501 で実行されました。バージョン2026.2.0がリリースされ次第、安定版ビルドでベンチマークを更新する予定です。 -
NPU上でのYOLO26モデルは、2xxVシリーズおよび3xxシリーズ以降のIntel® Core™ Ultra™システムでのみサポートされています。
Link to this sectionIntel® Core™ Ultra#
Intel® Core™ Ultra™シリーズは、ハイパフォーマンスコンピューティングにおける新しいベンチマークであり、ゲーマーやクリエイターからAIを活用するプロフェッショナルまで、現代のユーザーの進化する需要を満たすよう設計されています。この次世代ラインナップは、単なる従来のCPUシリーズを超えた存在です。強力なCPUコア、内蔵の高性能GPU機能、専用のNeural Processing Unit (NPU) を1つのチップに統合しており、多様で集中的なコンピューティングワークロードに対する統合的なソリューションを提供します。
Intel® Core Ultra™アーキテクチャの中心にあるのは、従来の処理タスク、GPUアクセラレーションワークロード、およびAI駆動型操作全体で卓越したパフォーマンスを実現するハイブリッド設計です。NPUの搭載により、オンデバイスAI推論が強化され、幅広いアプリケーションにわたって、より高速で効率的な機械学習とデータ処理が可能になります。
Core Ultra™ファミリーには、さまざまなパフォーマンスニーズに合わせたモデルが含まれています。エネルギー効率を重視した設計から、「H」指定の高性能バリアントまでオプションが揃っており、高い計算能力を必要とするノートパソコンやコンパクトなフォームファクタに最適です。ラインナップ全体を通して、ユーザーはCPU、GPU、NPU統合の相乗効果から恩恵を受け、驚くべき効率性、応答性、マルチタスク能力を実現できます。
Intelの継続的なイノベーションの一環として、Core Ultra™シリーズは、未来を見据えたコンピューティングの新しい標準を設定します。複数のモデルが利用可能であり、今後さらに登場予定のこのシリーズは、次世代のインテリジェントでAIが強化されたデバイスに向けた最先端のソリューションを提供するというIntelのコミットメントを強調しています。
以下のベンチマークは、Intel® Core™ Ultra™ X7 358H、Intel® Core™ Ultra™ 7 258V、およびIntel® Core™ Ultra™ 7 155H上で、FP32、FP16、およびINT8の精度で実行されました。
Link to this sectionIntel® Core™ Ultra™ X7 358H#
詳細なベンチマーク結果
| モデル | 形式 | 精度 | ステータス | サイズ (MB) | metrics/mAP50-95(B) | 推論時間 (ms/im) |
|---|---|---|---|---|---|---|
| YOLO26n | PyTorch (CPU) | FP32 | ✅ | 5.3 | 0.4765 | 25.18 |
| YOLO26n | OpenVINO | FP32 | ✅ | 9.6 | 0.4763 | 2.67 |
| YOLO26n | OpenVINO | FP16 | ✅ | 5.1 | 0.4763 | 2.64 |
| YOLO26n | OpenVINO | INT8 | ✅ | 3.2 | 0.4625 | 2.73 |
| YOLO26s | PyTorch (CPU) | FP32 | ✅ | 19.5 | 0.5703 | 50.09 |
| YOLO26s | OpenVINO | FP32 | ✅ | 36.7 | 0.5615 | 3.57 |
| YOLO26s | OpenVINO | FP16 | ✅ | 18.6 | 0.5615 | 3.55 |
| YOLO26s | OpenVINO | INT8 | ✅ | 10.0 | 0.547 | 3.09 |
| YOLO26m | PyTorch (CPU) | FP32 | ✅ | 42.2 | 0.6196 | 135.1 |
| YOLO26m | OpenVINO | FP32 | ✅ | 78.3 | 0.6168 | 5.64 |
| YOLO26m | OpenVINO | FP16 | ✅ | 39.5 | 0.6168 | 5.85 |
| YOLO26m | OpenVINO | INT8 | ✅ | 20.5 | 0.5994 | 4.14 |
| YOLO26l | PyTorch (CPU) | FP32 | ✅ | 50.7 | 0.6215 | 169.75 |
| YOLO26l | OpenVINO | FP32 | ✅ | 95.3 | 0.6206 | 8.14 |
| YOLO26l | OpenVINO | FP16 | ✅ | 48.1 | 0.6206 | 8.18 |
| YOLO26l | OpenVINO | INT8 | ✅ | 25.2 | 0.5999 | 4.67 |
| YOLO26x | PyTorch (CPU) | FP32 | ✅ | 113.2 | 0.6512 | 407.56 |
| YOLO26x | OpenVINO | FP32 | ✅ | 213.2 | 0.6569 | 13.11 |
| YOLO26x | OpenVINO | FP16 | ✅ | 107.1 | 0.6569 | 13.15 |
| YOLO26x | OpenVINO | INT8 | ✅ | 54.8 | 0.6374 | 9.24 |
Link to this sectionIntel® Core™ Ultra™ 7 258V#
詳細なベンチマーク結果
| モデル | 形式 | 精度 | ステータス | サイズ (MB) | metrics/mAP50-95(B) | 推論時間 (ms/im) |
|---|---|---|---|---|---|---|
| YOLO26n | PyTorch (CPU) | FP32 | ✅ | 5.3 | 0.4765 | 31.43 |
| YOLO26n | OpenVINO | FP32 | ✅ | 9.6 | 0.4762 | 3.57 |
| YOLO26n | OpenVINO | FP16 | ✅ | 5.1 | 0.4762 | 3.53 |
| YOLO26n | OpenVINO | INT8 | ✅ | 3.2 | 0.4625 | 3.65 |
| YOLO26s | PyTorch (CPU) | FP32 | ✅ | 19.5 | 0.5703 | 60.4 |
| YOLO26s | OpenVINO | FP32 | ✅ | 36.7 | 0.5616 | 5.02 |
| YOLO26s | OpenVINO | FP16 | ✅ | 18.6 | 0.5616 | 5.01 |
| YOLO26s | OpenVINO | INT8 | ✅ | 10.0 | 0.547 | 4.31 |
| YOLO26m | PyTorch (CPU) | FP32 | ✅ | 42.2 | 0.6196 | 173.31 |
| YOLO26m | OpenVINO | FP32 | ✅ | 78.3 | 0.6191 | 9.48 |
| YOLO26m | OpenVINO | FP16 | ✅ | 39.5 | 0.6168 | 9.6 |
| YOLO26m | OpenVINO | INT8 | ✅ | 20.5 | 0.5994 | 6.03 |
| YOLO26l | PyTorch (CPU) | FP32 | ✅ | 50.7 | 0.6173 | 224.52 |
| YOLO26l | OpenVINO | FP32 | ✅ | 95.3 | 0.3725 | 11.88 |
| YOLO26l | OpenVINO | FP16 | ✅ | 48.1 | 0.6201 | 12.0 |
| YOLO26l | OpenVINO | INT8 | ✅ | 25.2 | 0.5999 | 8.47 |
| YOLO26x | PyTorch (CPU) | FP32 | ✅ | 113.2 | 0.6512 | 595.72 |
| YOLO26x | OpenVINO | FP32 | ✅ | 213.2 | 0.6567 | 20.26 |
| YOLO26x | OpenVINO | FP16 | ✅ | 107.1 | 0.6454 | 20.25 |
| YOLO26x | OpenVINO | INT8 | ✅ | 54.8 | 0.6374 | 14.77 |
Link to this sectionIntel® Core™ Ultra™ 7 155H#
詳細なベンチマーク結果
| モデル | 形式 | 精度 | ステータス | サイズ (MB) | metrics/mAP50-95(B) | 推論時間 (ms/im) |
|---|---|---|---|---|---|---|
| YOLO26n | PyTorch (CPU) | FP32 | ✅ | 5.3 | 0.4765 | 38.77 |
| YOLO26n | OpenVINO | FP32 | ✅ | 9.6 | 0.4774 | 9.87 |
| YOLO26n | OpenVINO | FP16 | ✅ | 5.1 | 0.4774 | 9.84 |
| YOLO26n | OpenVINO | INT8 | ✅ | 3.2 | 0.4705 | 5.86 |
| YOLO26s | PyTorch (CPU) | FP32 | ✅ | 19.5 | 0.5703 | 69.54 |
| YOLO26s | OpenVINO | FP32 | ✅ | 36.7 | 0.5616 | 17.29 |
| YOLO26s | OpenVINO | FP16 | ✅ | 18.6 | 0.5616 | 17.06 |
| YOLO26s | OpenVINO | INT8 | ✅ | 10.0 | 0.5452 | 10.33 |
| YOLO26m | PyTorch (CPU) | FP32 | ✅ | 42.2 | 0.6196 | 192.22 |
| YOLO26m | OpenVINO | FP32 | ✅ | 78.3 | 0.6187 | 34.64 |
| YOLO26m | OpenVINO | FP16 | ✅ | 39.5 | 0.6187 | 34.75 |
| YOLO26m | OpenVINO | INT8 | ✅ | 20.5 | 0.6073 | 15.99 |
| YOLO26l | PyTorch (CPU) | FP32 | ✅ | 50.7 | 0.6215 | 245.62 |
| YOLO26l | OpenVINO | FP32 | ✅ | 95.3 | 0.6202 | 43.7 |
| YOLO26l | OpenVINO | FP16 | ✅ | 48.1 | 0.6202 | 44.65 |
| YOLO26l | OpenVINO | INT8 | ✅ | 25.2 | 0.6048 | 20.31 |
| YOLO26x | PyTorch (CPU) | FP32 | ✅ | 113.2 | 0.6512 | 513.06 |
| YOLO26x | OpenVINO | FP32 | ✅ | 213.2 | 0.6544 | 80.19 |
| YOLO26x | OpenVINO | FP16 | ✅ | 107.1 | 0.6544 | 79.83 |
| YOLO26x | OpenVINO | INT8 | ✅ | 54.8 | 0.6393 | 35.16 |
Link to this section結果を再現する#
上記のUltralyticsベンチマークをすべてのエクスポート形式で再現するには、以下のコードを実行してください:
from ultralytics import YOLO
# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")
# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml")ベンチマーク結果は、システムの正確なハードウェアおよびソフトウェア構成、ならびにベンチマーク実行時のシステムの現在の負荷によって異なる場合があることに注意してください。最も信頼性の高い結果を得るには、data='coco.yaml'(5000枚の検証用画像)のように、多数の画像を含むデータセットを使用してください。
Link to this section結論#
ベンチマーク結果は、YOLO26モデルをOpenVINO形式にエクスポートする利点を明確に示しています。異なるモデルやハードウェアプラットフォーム全体において、OpenVINO形式は他の形式と比較して、精度を維持しながら推論速度で一貫して優れたパフォーマンスを発揮します。
このベンチマークは、ディープラーニングモデルをデプロイするためのツールとしてのOpenVINOの有効性を強調しています。モデルをOpenVINO形式に変換することで、開発者は大幅なパフォーマンス向上を実現でき、実世界のアプリケーションへのモデルデプロイが容易になります。
OpenVINOの使用に関する詳細な情報と手順については、公式OpenVINOドキュメントを参照してください。
Link to this sectionFAQ#
Link to this sectionYOLO26モデルをOpenVINO形式にエクスポートするにはどうすればよいですか?#
YOLO26モデルをOpenVINO形式にエクスポートすると、CPU速度が大幅に向上し、Intelハードウェア上でGPUおよびNPUアクセラレーションを有効にできます。エクスポートには、以下に示すようにPythonまたはCLIのいずれかを使用できます:
from ultralytics import YOLO
# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")
# Export the model
model.export(format="openvino") # creates 'yolo26n_openvino_model/'詳細については、エクスポート形式ドキュメントを参照してください。
Link to this sectionYOLO26モデルでOpenVINOを使用する利点は何ですか?#
IntelのOpenVINOツールキットをYOLO26モデルで使用することには、いくつかの利点があります:
- パフォーマンス: CPU推論で最大3倍の速度向上を実現し、Intel GPUおよびNPUを活用して高速化します。
- モデルオプティマイザー: PyTorch、TensorFlow、ONNXなどの一般的なフレームワークからモデルを変換、最適化、実行します。
- 使いやすさ: YOLO26を含む、ユーザーの開始を支援する多数のチュートリアルノートブックが利用可能です。
- 異種コンピューティング実行: 統合されたAPIを使用して、さまざまなIntelハードウェアにモデルをデプロイします。
詳細なパフォーマンス比較については、ベンチマークセクションをご覧ください。
Link to this sectionOpenVINOにエクスポートしたYOLO26モデルを使用して推論を実行するにはどうすればよいですか?#
YOLO26nモデルをOpenVINO形式にエクスポートした後、PythonまたはCLIを使用して推論を実行できます:
from ultralytics import YOLO
# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/")
# Run inference
results = ov_model("https://ultralytics.com/images/bus.jpg")詳細については、予測モードドキュメントを参照してください。
Link to this sectionOpenVINOエクスポートにおいて、他のモデルよりもUltralytics YOLO26を選択すべきなのはなぜですか?#
Ultralytics YOLO26は、高い精度と速度を備えたリアルタイム物体検出用に最適化されています。特にOpenVINOと組み合わせると、YOLO26は以下を提供します:
- Intel CPUで最大3倍の速度向上
- Intel GPUおよびNPUでのシームレスなデプロイ
- さまざまなエクスポート形式間での一貫性のある比較可能な精度
詳細なパフォーマンス分析については、さまざまなハードウェアでのYOLO26ベンチマークをご確認ください。
Link to this sectionPyTorch、ONNX、OpenVINOなどの異なる形式でYOLO26モデルをベンチマークできますか?#
はい、PyTorch、TorchScript、ONNX、OpenVINOを含むさまざまな形式でYOLO26モデルをベンチマークできます。選択したデータセットでベンチマークを実行するには、以下のコードスニペットを使用してください:
from ultralytics import YOLO
# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")
# Benchmark YOLO26n speed and [accuracy](https://www.ultralytics.com/glossary/accuracy) on the COCO8 dataset for all export formats
results = model.benchmark(data="coco8.yaml")詳細なベンチマーク結果については、ベンチマークセクションおよびエクスポート形式ドキュメントを参照してください。