YOLO26のデプロイオプション比較分析#
YOLO26は、ランタイム、対象ハードウェア、プラットフォームごとに最適化された20種類を超えるデプロイオプションをサポートしています。PyTorchやONNXから、TensorRT、OpenVINO、CoreML、専用のエッジNPUフォーマットまで対応しています。適切なオプションを選ぶには、推論速度、ハードウェアの制約、統合の容易さのバランスを取る必要があります。このガイドではすべてのオプションを比較し、アプリケーションに最適なものを選択できるようにしたうえで、モデルデプロイのベストプラクティスに進み、信頼性の高いデプロイを実現します。
Watch: How to Choose the Best Ultralytics YOLO26 Deployment Format for Your Project | TensorRT | OpenVINO 🚀
デプロイは、トレーニング済みモデルが実際の処理を開始するコンピュータビジョンプロジェクトのワークフローの段階です。そのため、エクスポート先のフォーマットは速度、コスト、移植性に直接影響します。
YOLO26モデルに適したデプロイオプションの選択方法#
YOLO26モデルをデプロイする段階では、適切なエクスポートフォーマットを選択することが非常に重要です。Ultralytics YOLO26エクスポートドキュメントで説明しているように、model.export()関数は、さまざまな環境とパフォーマンス要件に合わせた多様なフォーマットへ、トレーニング済みモデルを変換します。
最適なフォーマットは、モデルの想定運用環境とハードウェアによって異なります。
手動エクスポートなしのマネージドデプロイには、Ultralytics Platformが、42のグローバルリージョンでオートスケーリングに対応したすぐに使える推論エンドポイントを提供します。
YOLO26のデプロイオプション#
ここでは、各フォーマットの概要と使用する場面を簡単に説明します。エクスポートの詳細な手順についてはエクスポートドキュメントを、条件を横並びで比較するには比較表を参照してください。
- PyTorch（
.pt）：ネイティブのトレーニングおよび推論フォーマットで、NVIDIA CUDAまたはAMD ROCmによる最大限の柔軟性とGPUアクセラレーションを提供します。エクスポート手順が不要なため、研究やプロトタイピングに最適です。 - TorchScript（
torchscript）：モデルをシリアライズしてPython不要のC++ランタイムで実行できるようにするフォーマットで、Pythonを利用できない本番システムに適しています。 - ONNX（
onnx）：特定のフレームワークに依存しない交換フォーマットで、ONNX Runtimeを通じて幅広いクロスプラットフォームおよびハードウェアをサポートします。 - OpenVINO（
openvino）：Intel CPU、内蔵GPU、NPUでの最適化推論に対応するIntelのツールキットで、IoTやエッジコンピューティングでよく使用されます。 - TensorRT（
engine）：FP16およびINT8最適化による最高クラスのGPU推論を実現する、NVIDIAの高性能ランタイムです。 - CoreML（
coreml）：Apple Neural Engineを使用する、iOS、macOS、watchOS、tvOS向けのApple製オンデバイスフォーマットです。 - TF SavedModel（
saved_model）：TensorFlow Servingによるスケーラブルなサーバー側サービング向けのTensorFlow標準フォーマットです。 - TF GraphDef（
pb）：固定された計算グラフが必要な環境向けの、フリーズ済み静的グラフTensorFlowフォーマットです。 - TF Edge TPU（
edgetpu）：.tfliteモデルをGoogle Coral Edge TPUアクセラレーター向けにコンパイルします。 - LiteRT（
litert）：Googleのオンデバイスランタイム（旧称TensorFlow Lite）で、単一の.tfliteモデルからモバイル、組み込み、ブラウザーでの推論を実行できます。FP32とINT8をサポートし、LiteRT.jsによるブラウザー内実行にも対応します。 - PaddlePaddle（
paddle）：中国で広く利用されているBaiduのディープラーニングフレームワークで、幅広いハードウェアをサポートします。 - MNN（
mnn）：モバイルおよび組み込みARM、x86-64システム向けに最適化された、軽量で高性能な推論エンジンです。 - NCNN（
ncnn）：モバイルARMデバイス向けに調整された、高性能で軽量な推論フレームワークです。 - Sony IMX500（
imx）：Raspberry Pi AI Cameraなど、チップ上で処理を行うSonyのIMX500インテリジェントビジョンセンサー向けにエクスポートします。 - Rockchip RKNN（
rknn）：FP16およびINT8量子化に対応し、組み込みボード上のRockchip NPUを対象とします。 - ExecuTorch（
executorch）：XNNPACKを介して、モバイル（iOSおよびAndroid）や組み込みシステムで利用できるPyTorchネイティブのオンデバイスランタイムです。 - Axelera AI（
axelera）：PCIeまたはM.2経由で、最大856 TOPSのAxelera製Metis AIPU向けにコンパイルし、高スループットのエッジ推論を実現します。 - DEEPX（
deepx）：組み込みエッジ推論向けにINT8量子化を使用し、DEEPX NPUハードウェアを対象とします。 - Qualcomm QNN（
qnn）：Qualcomm AIスタックを通じて、Snapdragon Hexagon NPU、Adreno GPU、CPUでオンデバイス推論を実行します。 - Core AI (
coreai): CPU、GPU、Apple Neural Engine にわたって予定されている、iOS 27 および macOS 27 向け Apple の新しい.aimodelフォーマット。エクスポートには Apple シリコン上で macOS 26 以降が必要です。
Hailo統合では、YOLOの検出、セグメンテーション、セマンティックセグメンテーション、深度推定、分類、ポーズ、OBBモデルをHailo HEFへ直接エクスポートします。検証済みのモデルと対象については、互換性表を参照してください。Ambarella統合はONNXを中心としたワークフローに従い、AmbarellaのCVflowツールチェーンを使用してONNXエクスポートをAmbaPBフォーマットへコンパイルします。対象はCV72などのCVflow® SoCで、必要に応じてSpongeTorchの圧縮認識トレーニングも使用できます。Huawei Ascend統合は、CANN ATCコンパイラーを使用してONNXエクスポートを.omオフラインフォーマットへコンパイルし、Ascend AI ProcessorsでFP16推論を実行します。
デプロイオプションの比較#
次の表では、通常選択の判断材料となる基準に基づき、YOLO26モデルのデプロイオプションをまとめています。各フォーマットの詳細については、エクスポートフォーマットのドキュメントを参照してください。
| デプロイオプション | 性能ベンチマーク | 互換性と統合 | コミュニティサポートとエコシステム | ケーススタディ | メンテナンスとアップデート | セキュリティに関する考慮事項 | ハードウェアアクセラレーション |
|---|---|---|---|---|---|---|---|
| PyTorch | 柔軟性に優れていますが、純粋なパフォーマンスとのトレードオフが生じる場合があります | Pythonライブラリとの互換性に優れています | リソースとコミュニティが充実しています | 研究とプロトタイプ | 定期的かつ活発な開発 | デプロイ環境に依存します | GPUアクセラレーション向けのCUDAサポート |
| TorchScript | PyTorchよりも本番環境に適しています | PyTorchからC++への移行がスムーズです | 特化されている一方、PyTorchより対象範囲が狭くなっています | Pythonがボトルネックとなる業界 | PyTorchと一貫したアップデート | Python全体を使用せずにセキュリティを向上できます | PyTorchからCUDAサポートを継承します |
| ONNX | ランタイムによって異なります | 異なるフレームワーク間でも高い互換性があります | 幅広いエコシステムと、多数の組織によるサポート | MLフレームワーク間で柔軟に利用できます | 新しいオペレーションに対応する定期的なアップデート | 安全な変換およびデプロイのプラクティスを徹底してください | さまざまなハードウェア最適化 |
| OpenVINO | Intelハードウェア向けに最適化されています | Intelエコシステム内で最適です | コンピュータビジョン分野で堅牢です | Intelハードウェアを使用するIoTおよびエッジ | Intelハードウェア向けの定期的なアップデート | 機密性の高いアプリケーション向けの堅牢な機能 | Intelハードウェア向けに最適化されています |
| TensorRT | NVIDIA GPUで最高クラスの性能 | NVIDIAハードウェアに最適です | NVIDIAによる強力なネットワーク | リアルタイムの動画および画像推論 | 新しいGPU向けの頻繁なアップデート | セキュリティを重視しています | NVIDIA GPU向けに設計されています |
| CoreML | Appleのオンデバイスハードウェア向けに最適化されています | Appleエコシステム専用です | Appleおよび開発者による強力なサポート | Apple製品でのオンデバイスML | Appleによる定期的なアップデート | プライバシーとセキュリティを重視しています | Apple Neural EngineとGPU |
| TF SavedModel | サーバー環境でスケーラブルです | TensorFlowエコシステムで幅広い互換性があります | TensorFlowの人気により、サポートが充実しています | 大規模なモデルサービング | Googleとコミュニティによる定期的なアップデート | エンタープライズ向けの堅牢な機能 | さまざまなハードウェアアクセラレーション |
| TF GraphDef | 静的計算グラフに対して安定しています | TensorFlowインフラストラクチャと適切に統合できます | 静的グラフの最適化に関するリソース | 静的グラフが必要なシナリオ | TensorFlowコアと連動したアップデート | 確立されたTensorFlowセキュリティプラクティス | TensorFlowのアクセラレーションオプション |
| TF Edge TPU | GoogleのEdge TPUハードウェア向けに最適化されています | Edge TPUデバイス専用です | Googleおよびサードパーティーのリソースとともに拡大しています | リアルタイム処理が必要なIoTデバイス | 新しいEdge TPUハードウェア向けの改善 | Googleの堅牢なIoTセキュリティ | Google Coral向けにカスタム設計 |
| LiteRT | モバイル／組み込み／Webでの速度と効率 | モバイル、組み込み、エッジ、ブラウザーをサポート | 強固なコミュニティとGoogleの支援 | Android、iOS、Web向けのオンデバイスアプリ | 最新のオンデバイスランタイム機能 | 安全なオンデバイスおよびブラウザー内推論 | GPU、DSP、WebGPUアクセラレーション |
| PaddlePaddle | 競争力があり、使いやすく、スケーラブル | Baiduエコシステムと幅広いアプリケーションサポート | 急速に成長しており、特に中国で顕著 | 中国市場と自然言語処理 | 中国向けAIアプリケーションに注力 | データプライバシーとセキュリティを重視 | BaiduのKunlunチップを含む |
| MNN | モバイルデバイス向けの高性能 | モバイルおよび組み込みARMシステムとX86-64 CPU | モバイル／組み込みMLコミュニティ | モバイルシステムでの効率性 | モバイルデバイスで高性能を維持 | オンデバイスセキュリティのメリット | ARM CPUおよびGPU向けの最適化 |
| NCNN | モバイルARMベースデバイス向けに最適化 | モバイルおよび組み込みARMシステム | ニッチながら活発なモバイル／組み込みMLコミュニティ | AndroidおよびARMシステムでの効率性 | ARM上で高性能を維持 | オンデバイスセキュリティのメリット | ARM CPUおよびGPU向けの最適化 |
| Sony IMX500 | 非常に低い消費電力でのセンサー上推論 | Sony IMX500センサー、Raspberry Pi AI Camera | Sony AITRIOSエコシステム | カメラ上でのエッジAI | Sony SDKおよびMCTツールチェーンの更新 | データをセンサー上に保持 | Sony IMX500オンチップアクセラレーター |
| Rockchip RKNN | Rockchip NPU向けに最適化 | Rockchip SoCボード（例：RK3588） | Rockchip開発者コミュニティ | 組み込みSBCおよびエッジデバイス | Rockchip RKNN-Toolkitの更新 | オンデバイスでのローカル推論 | Rockchip NPU |
| ExecuTorch | 効率的なオンデバイスPyTorchランタイム | XNNPACKを介したiOS、Android、組み込み環境 | PyTorchプロジェクトによる支援 | モバイルおよび組み込みアプリ | PyTorchと連携して保守 | オンデバイス推論によりデータをローカルに保持 | XNNPACKおよびモバイルCPU／GPUバックエンド |
| Axelera AI | 非常に高いスループット（最大856 TOPS） | PCIeまたはM.2接続のMetis AIPU | Axelera Voyager SDK | 高スループットのエッジ推論 | Axelera SDKの更新 | オンプレミスのエッジ推論 | Axelera Metis AIPU |
| DEEPX | INT8に最適化されたNPU推論 | DEEPX NPUハードウェア | DEEPX開発者ツール（dx_com、dx_engine） | 組み込みエッジ推論 | DEEPX SDKおよびランタイムの更新 | オンデバイスでのローカル推論 | DEEPX NPU |
| Qualcomm QNN | 高速なオンデバイスSnapdragon推論 | Snapdragon Hexagon NPU、Adreno GPU、CPU | Qualcomm AI Hubエコシステム | モバイルおよびエッジ向けSnapdragonデバイス | Qualcomm AIスタック（QAIRT）の更新 | オンデバイス推論によりデータをローカルに保持 | Snapdragon Hexagon NPU |
| Hailo | Hailo NPU での INT8 HEF 推論 | Hailo-8/8L/10H/15H/15L、Raspberry Pi AI HAT+ | Hailo Dataflow Compiler および HailoRT | カメラ、ロボット、産業用エッジシステム | Hailo DFC および HailoRT のリリース | オンデバイスでのローカル推論 | Hailo NPU |
| Huawei Ascend | Ascend AI Core でのスループット向上 | Atlas ボードおよび OrangePi AIPro | Huawei CANN エコシステム | Ascend NPU でのエッジ推論 | CANN および ATC のリリース | オンデバイスでのローカル推論 | Ascend AI Core |
| Core AI | Apple シリコンに最適化済み | iOS 27 および macOS 27。エクスポートには macOS 26+ が必要です | Apple フレームワーク。iOS/Flutter SDK にはまだ含まれていません | 次世代 Apple プラットフォームでのオンデバイス機械学習 | Apple OS のリリースに紐付けられており、現在はベータ版です | オンデバイス推論によりデータをローカルに保持 | Apple Neural Engine、GPU、および CPU |
この比較では、概要を把握できます。デプロイでは、プロジェクト固有の要件と制約を各オプションと照らし合わせて検討し、選択した形式に対応するリンク先の統合ガイドを参照してください。
まとめ#
YOLO26は幅広いエクスポート形式に対応しているため、クラウドGPUサーバーからセンサー上のエッジカメラまで、ほぼあらゆる環境に合わせてモデルを調整できます。形式を選択したら、最適化、トラブルシューティング、セキュリティについてはモデルデプロイのベストプラクティスに従い、問題が発生した場合はUltralyticsコミュニティを活用してください。
FAQ#
Ultralytics YOLO26は、特定の環境やハードウェアプラットフォーム向けに設計されたさまざまなデプロイ形式をサポートしています。主な形式は次のとおりです。
- 研究およびプロトタイピング向けのPyTorch。Pythonとの優れた統合性を備えています。
- Pythonを利用できない本番環境向けのTorchScript。
- クロスプラットフォーム互換性とハードウェアアクセラレーション向けのONNX。
- Intelハードウェア上で最適化されたパフォーマンスを実現するOpenVINO。
- NVIDIA GPU上での高速推論向けのTensorRT。
各形式には固有のメリットがあります。詳しい手順については、エクスポートプロセスのドキュメントを参照してください。
Intel CPU上での推論速度を向上させるには、IntelのOpenVINOツールキットを使用してYOLO26モデルをデプロイできます。OpenVINOは、Intelハードウェアを効率的に活用できるようモデルを最適化し、大幅なパフォーマンス向上を実現します。
model.export()関数を使用して、YOLO26モデルをOpenVINO形式に変換します。- 詳しいセットアップ手順については、Intel OpenVINO Exportドキュメントに従ってください。
詳しい情報については、ブログ記事をご覧ください。
はい、YOLO26モデルは、AndroidではLiteRT（旧称TensorFlow Lite）およびNCNNを使用し、iOSではCoreMLまたはLiteRTを使用してモバイルデバイスにデプロイできます。LiteRTはモバイルおよび組み込みデバイス向けのGoogleのオンデバイスランタイムであり、Android、iOS、ブラウザーで同じモデルを実行できるため、効率的なオンデバイス推論を実現します。
例# Export command for NCNN format model.export(format="ncnn")モバイルへのモデルのデプロイについて詳しくは、LiteRT統合ガイドを参照してください。
YOLO26のデプロイ形式を選択する際は、次の要素を考慮してください。
- パフォーマンス：TensorRTなどの形式はNVIDIA GPU上で非常に高い速度を実現する一方、OpenVINOはIntelハードウェア向けに最適化されています。
- 互換性：ONNXは、さまざまなプラットフォーム間で幅広い互換性を提供します。
- 統合の容易さ：CoreMLやLiteRTなどの形式は、それぞれiOSやAndroidなど特定のエコシステム向けに最適化されています。
- コミュニティサポート：PyTorchやTensorFlowなどの形式には、豊富なコミュニティリソースとサポートがあります。
比較分析については、エクスポート形式のドキュメントを参照してください。
WebアプリケーションにYOLO26モデルをデプロイするには、LiteRTのWebランタイムであるLiteRT.jsを使用できます。これにより、機械学習モデルをブラウザーおよびNode.jsで直接実行できます。この方法ではバックエンドインフラストラクチャが不要になり、リアルタイムのパフォーマンスを実現できます。
- YOLO26モデルをLiteRT形式にエクスポートします。
- LiteRT.jsを使用して、エクスポートしたモデルをWebアプリケーションに統合します。
手順については、LiteRT統合ガイドを参照してください。