Ultralytics YOLO27:

Intel OpenVINOエクスポート#

OpenVINO Intel AI inference toolkit

このガイドでは、最大3倍のCPU高速化を実現でき、IntelのGPUおよびNPUハードウェア上でのYOLO推論も高速化できる、YOLO26モデルのOpenVINO形式へのエクスポートについて説明します。

OpenVINOは、Open Visual Inference & Neural Network Optimization toolkitの略称で、AI推論モデルの最適化とデプロイに対応する包括的なツールキットです。名前にVisualが含まれていますが、OpenVINOは言語、音声、時系列など、さまざまな追加タスクにも対応しています。



Watch: How to Export Ultralytics YOLO26 to Intel OpenVINO Format for Faster Inference 🚀

サポートされるタスク#

OpenVINOエクスポートは、Ultralyticsの7つすべてのタスクに対応しています。セマンティックセグメンテーションと深度推定は、これらのヘッドを搭載して出荷される唯一のファミリーであるYOLO26でのみ利用できます。

タスクYOLOv8YOLO11YOLO26
検出✅✅✅
セグメンテーション✅✅✅
セマンティック❌❌✅
深度❌❌✅
分類✅✅✅
ポーズ✅✅✅
OBB✅✅✅

インストール#

OpenVINOのエクスポート依存関係をインストールするには、次を実行します：

pip install "ultralytics[export-openvino]"

これらの依存関係は ultralytics[export] にも含まれており、エクスポート時に必要に応じて自動的にインストールされます。

使用例#

OpenVINO形式は、Export、Predict、Validateモードに対応しています。モデルをエクスポートした後、エクスポート済みモデルを読み込んで推論を実行するか、IntelのCPU、統合型またはディスクリートGPU、NPU上で精度を検証できます。

エクスポート
from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to OpenVINO format
model.export(format="openvino")  # creates 'yolo26n_openvino_model/'
推論
from ultralytics import YOLO

# Load the exported OpenVINO model
model = YOLO("yolo26n_openvino_model/")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

# Run inference on a specific device, available devices: ["intel:gpu", "intel:npu", "intel:cpu"]
results = model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")
検証
from ultralytics import YOLO

# Load the exported OpenVINO model
model = YOLO("yolo26n_openvino_model/")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

エクスポート引数#

引数型デフォルト説明
formatstr'openvino'エクスポートされたモデルの対象形式で、さまざまなデプロイ環境との互換性を定義します。
imgszintまたはtuple640モデル入力に使用する画像サイズです。正方形画像の場合は整数、特定の寸法の場合はタプル(height, width)を指定できます。
quantizeintまたはstrNone量子化精度: 16（FP16）または8（INT8/PTQ、キャリブレーションdata/fractionが必要）です。32/未設定はFP32です。非推奨のhalf/int8フラグに置き換わります。
dynamicboolFalse動的な入力サイズを許可し、さまざまな画像寸法を柔軟に扱えるようにします。
nmsbool、オプションNone生出力（None、デフォルト）、組み込み NMS（True）、または NMS フリーヘッド（False）を選択します。
batchint1エクスポートするモデルのバッチ推論サイズ、またはpredictモードでエクスポート済みモデルが同時に処理する画像の最大数を指定します。
datastrNone量子化に必須となるデータセット YAMLへのパスです。分類の場合は、データセットディレクトリまたは組み込みデータセット名を指定します。quantize=8で省略すると、Ultralyticsがモデルタスク用のデフォルトのキャリブレーションデータセットを選択します。
fractionfloat、int、またはlist1.0キャリブレーションサブセットを、比率、画像枚数、または [train, val, test] の比率／枚数として指定します。2項目のリストでは、test はすべて使用され、0 はスキップされます。

エクスポートプロセスの詳細については、エクスポートに関するUltralyticsドキュメントページをご覧ください。

警告

OpenVINO™はほとんどのIntel®プロセッサーと互換性がありますが、最適なパフォーマンスを確保するには、次の点を確認してください。

  1. OpenVINO™のサポートを確認する Intelの互換性リストを使用して、お使いのIntel®チップがOpenVINO™で公式にサポートされているか確認します。

  2. アクセラレーターを特定する Intelのハードウェアガイドを参照して、プロセッサーに統合NPU（NPU）またはGPU（統合GPU）が搭載されているか確認します。

  3. 最新のドライバーをインストールする チップがNPUまたはGPUに対応しているにもかかわらずOpenVINO™が検出しない場合は、関連するドライバーのインストールまたは更新が必要になることがあります。完全なアクセラレーションを有効にするには、ドライバーのインストール手順に従ってください。

この3つの手順に従うことで、Intel®ハードウェア上でOpenVINO™を最適に実行できます。

OpenVINOのメリット#

  1. パフォーマンス: OpenVINOは、IntelのCPU、統合型およびディスクリートGPU、FPGAの性能を活用して、高性能な推論を実現します。
  2. ヘテロジニアス実行のサポート: OpenVINOは、一度記述すれば、サポートされている任意のIntelハードウェア（CPU、GPU、FPGA、VPUなど）にデプロイできるAPIを提供します。
  3. Model Optimizer: OpenVINOは、PyTorch、TensorFlow、TensorFlow Lite、Keras、ONNX、PaddlePaddle、Caffeなど、主要なディープラーニングフレームワークのモデルをインポート、変換、最適化するModel Optimizerを提供します。
  4. 使いやすさ: このツールキットには、ツールキットのさまざまな側面を学べる多数のチュートリアルノートブック（YOLO26の最適化を含む）が用意されています。

OpenVINOエクスポートの構成#

モデルをOpenVINO形式にエクスポートすると、次のファイルを含むディレクトリが生成されます。

  1. XMLファイル: ネットワークトポロジーを記述します。
  2. BINファイル: 重みとバイアスのバイナリデータを含みます。
  3. マッピングファイル: 元のモデル出力テンソルとOpenVINOテンソル名の対応関係を保持します。

これらのファイルを使用して、OpenVINO Inference Engineで推論を実行できます。

デプロイでのOpenVINOエクスポートの使用#

モデルをOpenVINO形式に正常にエクスポートしたら、推論を実行する主な方法は2つあります。

  1. ultralyticsパッケージを使用します。このパッケージは、高レベルAPIを提供し、OpenVINO Runtimeをラップします。

  2. ネイティブのopenvinoパッケージを使用すると、推論動作をより高度かつ柔軟に制御できます。

Ultralyticsでの推論#

ultralyticsパッケージを使用すると、predictメソッドを介してエクスポート済みのOpenVINOモデルで簡単に推論を実行できます。device引数を使用して、対象デバイス（例: intel:gpu、intel:npu、intel:cpu）を指定することもできます。

from ultralytics import YOLO

# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/")  # the path of your exported OpenVINO model
# Run inference with the exported model
ov_model.predict(device="intel:gpu")  # specify the device you want to run inference on

この方法は、推論パイプラインを完全に制御する必要がない場合の高速なプロトタイピングやデプロイに適しています。

OpenVINO Runtimeでの推論#

OpenVINO Runtimeは、サポートされているすべてのIntelハードウェアで推論を実行できる統合APIを提供します。また、Intelハードウェア間の負荷分散や非同期実行などの高度な機能も提供します。推論の実行方法について詳しくは、YOLO26ノートブックを参照してください。

Runtimeでモデルを正しく設定して使用するには、XMLファイルとBINファイルに加えて、入力サイズ、正規化用のスケール係数など、アプリケーション固有の設定が必要です。

デプロイアプリケーションでは、通常、次の手順を実行します。

  1. core = Core()を作成してOpenVINOを初期化します。
  2. core.read_model()メソッドを使用してモデルを読み込みます。
  3. core.compile_model()関数を使用してモデルをコンパイルします。
  4. 入力（画像、テキスト、音声など）を準備します。
  5. compiled_model(input_data)を使用して推論を実行します。

詳細な手順とコードスニペットについては、OpenVINOドキュメントまたはAPIチュートリアルを参照してください。

OpenVINO YOLO26ベンチマーク#

Ultralyticsチームは、さまざまなモデル形式と精度にわたってYOLO26のベンチマークを実施し、OpenVINOと互換性のあるさまざまなIntelデバイスで速度と精度を評価しました。

注記

  • 以下のベンチマーク結果は参考情報であり、システムの正確なハードウェアおよびソフトウェア構成や、ベンチマーク実行時のシステムの現在の負荷によって異なる場合があります。

  • すべてのベンチマークは、openvino Pythonパッケージのバージョン2026.2.1で実行しました。

  • NPU上のYOLO26モデルは、2xxVシリーズおよび3xxシリーズ以上を搭載したIntel® Core™ Ultra™システムでのみサポートされています。

Intel® Core™ Ultra#

Intel® Core™ Ultra™シリーズは、ゲーマーやクリエイターからAIを活用する専門家まで、現代のユーザーの変化するニーズに応えるよう設計された、高性能コンピューティングの新たな基準です。この次世代ラインアップは従来のCPUシリーズにとどまらず、強力なCPUコア、統合された高性能GPU機能、専用のニューラル・プロセッシング・ユニット（NPU）を1つのチップに統合し、多様で負荷の高いコンピューティングワークロードに対応する統合ソリューションを提供します。

Intel® Core Ultra™アーキテクチャの中核にあるのは、従来の処理タスク、GPUアクセラレーションワークロード、AI主導の処理で卓越したパフォーマンスを実現するハイブリッド設計です。NPUを搭載することでデバイス上のAI推論が強化され、幅広いアプリケーションで、より高速かつ効率的な機械学習とデータ処理が可能になります。

Core Ultra™ファミリーには、さまざまなパフォーマンスニーズに合わせた複数のモデルがあり、省電力設計から「H」の designationが付いた高出力モデルまで選択できます。高出力モデルは、高いコンピューティング性能を必要とするノートPCや小型フォームファクターに適しています。ラインアップ全体で、CPU、GPU、NPUの統合による相乗効果により、優れた効率、応答性、マルチタスク性能が実現します。

Intelが継続するイノベーションの一環として、Core Ultra™シリーズは将来を見据えたコンピューティングの新たな標準を確立します。複数のモデルが提供され、今後も追加される予定であり、このシリーズは次世代のインテリジェントでAI強化されたデバイスに最先端のソリューションを提供するというIntelの取り組みを示しています。

以下のベンチマークは、Intel® Core™ Ultra™ X7 358H、Intel® Core™ Ultra™ 7 258V、Intel® Core™ Ultra™ 7 155H上で、FP32、FP16、INT8の精度を使用して実行しました。

Intel® Core™ Ultra™ X7 358H#

ベンチマーク
Intel Core Ultra GPU benchmarks
詳細なベンチマーク結果
モデル形式Precisionステータスサイズ (MB)metrics/mAP50-95(B)推論時間（ms/画像）
YOLO26nPyTorch（CPU）FP32✅5.30.476529.28
YOLO26nOpenVINOFP32✅9.70.47624.09
YOLO26nOpenVINOFP16✅5.10.47624.03
YOLO26nOpenVINOINT8✅3.20.46344.24
YOLO26sPyTorch（CPU）FP32✅19.50.570359.32
YOLO26sOpenVINOFP32✅36.70.56165.08
YOLO26sOpenVINOFP16✅18.70.56165.14
YOLO26sOpenVINOINT8✅10.00.54624.47
YOLO26mPyTorch（CPU）FP32✅42.20.6196143.21
YOLO26mOpenVINOFP32✅78.40.61667.1
YOLO26mOpenVINOFP16✅39.50.61667.06
YOLO26mOpenVINOINT8✅20.60.60555.61
YOLO26lPyTorch（CPU）FP32✅50.70.6215181.16
YOLO26lOpenVINOFP32✅95.30.62058.45
YOLO26lOpenVINOFP16✅48.10.62058.49
YOLO26lOpenVINOINT8✅25.20.59386.25
YOLO26xPyTorch（CPU）FP32✅113.20.6512379.75
YOLO26xOpenVINOFP32✅213.30.656813.03
YOLO26xOpenVINOFP16✅107.10.656812.98
YOLO26xOpenVINOINT8✅54.80.63858.74

Intel® Core™ Ultra™ 7 258V#

ベンチマーク
Intel Core Ultra GPU benchmarks
詳細なベンチマーク結果
モデル形式Precisionステータスサイズ (MB)metrics/mAP50-95(B)推論時間（ms/画像）
YOLO26nPyTorch（CPU）FP32✅5.30.476527.33
YOLO26nOpenVINOFP32✅9.60.47643.33
YOLO26nOpenVINOFP16✅5.10.47643.34
YOLO26nOpenVINOINT8✅3.20.46343.46
YOLO26sPyTorch（CPU）FP32✅19.50.570360.2
YOLO26sOpenVINOFP32✅36.70.56164.66
YOLO26sOpenVINOFP16✅18.60.56164.65
YOLO26sOpenVINOINT8✅10.00.54623.99
YOLO26mPyTorch（CPU）FP32✅42.20.6196152.87
YOLO26mOpenVINOFP32✅78.40.61689.03
YOLO26mOpenVINOFP16✅39.50.61688.98
YOLO26mOpenVINOINT8✅20.60.60555.7
YOLO26lPyTorch（CPU）FP32✅50.70.6215201.57
YOLO26lOpenVINOFP32✅95.30.620311.32
YOLO26lOpenVINOFP16✅48.10.620311.36
YOLO26lOpenVINOINT8✅25.20.59387.45
YOLO26xPyTorch（CPU）FP32✅113.20.6512431.04
YOLO26xOpenVINOFP32✅213.20.656819.08
YOLO26xOpenVINOFP16✅107.10.656819.63
YOLO26xOpenVINOINT8✅54.80.638513.69

Intel® Core™ Ultra™ 7 155H#

ベンチマーク
Intel Core Ultra GPU benchmarks
詳細なベンチマーク結果
モデル形式Precisionステータスサイズ (MB)metrics/mAP50-95(B)推論時間（ms/画像）
YOLO26nPyTorch（CPU）FP32✅5.30.476533.19
YOLO26nOpenVINOFP32✅9.60.47589.13
YOLO26nOpenVINOFP16✅5.10.47589.07
YOLO26nOpenVINOINT8✅3.20.45735.79
YOLO26sPyTorch（CPU）FP32✅19.50.570370.92
YOLO26sOpenVINOFP32✅36.70.561616.37
YOLO26sOpenVINOFP16✅18.60.561616.65
YOLO26sOpenVINOINT8✅10.00.5459.27
YOLO26mPyTorch（CPU）FP32✅42.20.6196192.45
YOLO26mOpenVINOFP32✅78.40.616734.47
YOLO26mOpenVINOFP16✅39.50.616735.71
YOLO26mOpenVINOINT8✅20.60.603915.46
YOLO26lPyTorch（CPU）FP32✅50.70.6215239.19
YOLO26lOpenVINOFP32✅95.30.62143.24
YOLO26lOpenVINOFP16✅48.10.62143.4
YOLO26lOpenVINOINT8✅25.20.599919.72
YOLO26xPyTorch（CPU）FP32✅113.20.6512511.89
YOLO26xOpenVINOFP32✅213.20.655279.49
YOLO26xOpenVINOFP16✅107.10.655279.45
YOLO26xOpenVINOINT8✅54.80.64234.66

結果を再現する#

上記のUltralyticsベンチマークをすべてのエクスポート形式で再現するには、次のコードを実行します。

例
from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml")

ベンチマーク結果は、システムの正確なハードウェアおよびソフトウェア構成や、ベンチマーク実行時のシステムの現在の負荷によって異なる場合があります。最も信頼性の高い結果を得るには、多数の画像を含むデータセット、つまりdata='coco.yaml'（検証画像5,000枚）を使用してください。

まとめ#

ベンチマーク結果は、YOLO26モデルをOpenVINO形式にエクスポートするメリットを明確に示しています。さまざまなモデルとハードウェアプラットフォームにおいて、OpenVINO形式は同等の精度を維持しながら、推論速度で一貫して他の形式を上回っています。

このベンチマークは、ディープラーニングモデルのデプロイツールとしてのOpenVINOの有効性を示しています。モデルをOpenVINO形式に変換することで、開発者は大幅なパフォーマンス向上を実現でき、実際のアプリケーションへのモデルのデプロイが容易になります。

OpenVINOの詳細情報と使用手順については、OpenVINO公式ドキュメントを参照してください。

FAQ#

  • YOLO26モデルをOpenVINO形式にエクスポートすると、CPU速度が大幅に向上し、Intelハードウェア上でGPUおよびNPUアクセラレーションを利用できるようになります。エクスポートには、以下に示すようにPythonまたはCLIを使用できます。

    例
    from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model
model.export(format="openvino")  # creates 'yolo26n_openvino_model/'

    詳細については、エクスポート形式のドキュメントを参照してください。

  • IntelのOpenVINOツールキットをYOLO26モデルと使用すると、次のようなメリットがあります。

    1. パフォーマンス: CPU推論で最大3倍の高速化を実現し、Intel GPUとNPUを活用してアクセラレーションできます。
    2. Model Optimizer: PyTorch、TensorFlow、ONNXなどの主要なフレームワークのモデルを変換、最適化、実行できます。
    3. 使いやすさ: YOLO26向けを含む多数のチュートリアルノートブックが用意されており、ユーザーの導入を支援します。
    4. ヘテロジニアス実行: 統合APIを使用して、さまざまなIntelハードウェアにモデルをデプロイできます。

    詳細なパフォーマンス比較については、ベンチマークセクションをご覧ください。

  • YOLO26nモデルをOpenVINO形式にエクスポートした後、PythonまたはCLIを使用して推論を実行できます。

    例
    from ultralytics import YOLO

# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/")

# Run inference
results = ov_model("https://ultralytics.com/images/bus.jpg")

    詳細については、predictモードのドキュメントを参照してください。

  • Ultralytics YOLO26は、高い精度と速度を備えたリアルタイム物体検出向けに最適化されています。特にOpenVINOと組み合わせることで、YOLO26は次のメリットを提供します。

    • Intel CPUで最大3倍の高速化
    • Intel GPUおよびNPUへのシームレスなデプロイ
    • さまざまなエクスポート形式で一貫した同等の精度

    詳細なパフォーマンス分析については、異なるハードウェアで実施したYOLO26ベンチマークをご確認ください。

  • はい。PyTorch、TorchScript、ONNX、OpenVINOなど、さまざまな形式のYOLO26モデルをベンチマークできます。選択したデータセットでベンチマークを実行するには、次のコードスニペットを使用してください。

    例
    from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and [accuracy](https://www.ultralytics.com/glossary/accuracy) on the COCO8 dataset for all export formats
results = model.benchmark(data="coco8.yaml")

    詳細なベンチマーク結果については、ベンチマークセクションおよびエクスポート形式のドキュメントを参照してください。

貢献者
GLglenn-jocher28LAlakshanthad11AMambitious-octopus7RIRizwanMunawar4RAraimbekovm3LALaughing-q2FCfcakyon2GOGornoka1ONonuralpszr1EAeasyrider111PDpderrenger1MAMatthewNoyce1ANandrei-kochin1ABabirami-vina1

コメント