エンタープライズレベルのセキュリティ: ISO 27001およびSOC 2 Type I準拠。

Link to this sectionUltralytics YOLOモデルのHailoエクスポート#

Hailo AIアクセラレータは、Raspberry Pi AI KitAI HAT+などのエッジデバイス上で、コンパイル済みのHailo Executable Format (HEF) モデルを実行します。Ultralyticsは、Hailo Dataflow Compiler (DFC) を使用して、YOLOの検出、セグメンテーション、ポーズ、OBD、分類、セマンティックセグメンテーション、および深度推定モデルをHEFへ直接エクスポートします。

Hailoのデプロイメントは、カメラ、ロボット、産業用システム、ゲートウェイ、その他すべてのフレームをクラウドに送信せずにローカルで物体検出を行う必要があるデバイスなど、エッジでのコンピュータビジョン向けに設計されています。コンパイルされたHEFには、選択したアクセラレータに必要な量子化済みネットワーク、ハードウェア割り当て、スケジューリング、およびオプションのHailoRTポストプロセッシングが含まれています。

新しいエッジアクセラレータの比較

新しいハードウェア展開の場合は、より新しいエッジアクセラレータプラットフォームをターゲットとし、より高いパフォーマンスを提供する可能性のあるAxeleraおよびDeepXも評価してください。Hailoは、最適な精度のために少なくとも1,024枚の代表的なキャリブレーション画像の使用を推奨しています。組み込みのタスク固有のデータセットは、迅速なテストにのみ適しています。

Link to this sectionなぜUltralytics YOLOをHailoにデプロイするのか?#

Ultralytics YOLOとHailoニューラルプロセッシングユニット(NPU)を組み合わせることで、モデルのトレーニングから低消費電力のエッジAI推論までの実用的なパスが提供されます。一般的なユースケースは以下の通りです:

  • スマートカメラおよびビデオ解析: セキュリティ、小売、交通、占有率アプリケーション向けに、カメラ付近でリアルタイムの物体検出を実行します。
  • ロボット工学および自律システム: 継続的なクラウド接続に依存することなく、人、車両、パッケージ、ツール、または障害物を検出します。
  • 産業用コンピュータビジョン: 検査、カウント、安全監視、品質管理のためにカスタムYOLOモデルをデプロイします。
  • Raspberry Pi AIプロジェクト: AI KitまたはAI HAT+を使用して、Raspberry Piシステムに高速化されたビジョン推論を追加します。
  • エッジゲートウェイおよびAI PC: 帯域幅とクラウド計算要件を削減しながら、複数のビデオまたはセンサーのストリームをローカルで処理します。

ローカル推論は、画像がデプロイメントデバイス内に留まるため、プライバシーと応答時間を改善できます。実際のスループット、レイテンシ、電力消費は、YOLOモデルのサイズ、入力解像度、Hailoアーキテクチャ、ホストシステム、およびアプリケーションパイプラインに依存します。

Link to this sectionHailoエクスポートの仕組み#

Ultralyticsは、format="hailo"の背後にある完全なエクスポートワークフローを所有しています:

YOLO (.pt) -> ONNX -> Hailo parse -> INT8 optimization -> HEF compile

エクスポーターはこれらの段階を自動的に実行します:

  1. コンパイラ互換の設定を持つ静的なONNXグラフをエクスポートします。
  2. モデルアーキテクチャのヘッド出力を選択します。
  3. 正規化、活性化、およびポストプロセッシングのディレクティブを生成します。
  4. 代表的なキャリブレーションストリームを構築し、モデルをINT8に量子化します。
  5. 選択したHailoアクセラレータ用に最適化されたグラフをコンパイルします。
  6. UltralyticsメタデータとともにHEFを保存し、中間的なONNXファイルを削除します。

YOLOv8およびYOLO11の検出モデルは、コンパイル済みパイプライン内でHailoRT YOLO NMSを使用します。YOLO26の検出モデルはNMS不要の1対1出力を利用するため、エクスポーターは異なる出力および量子化パスを自動的に選択します。YOLOv8/YOLO11のセグメンテーション、ポーズ、OBDは生ヘッドテンソルをコンパイルし、これをUltralyticsが推論時にデコードします。また、YOLOv8/YOLO11/YOLO26の分類はチップ上でソフトマックスを実行するため、HEFはクラス確率を直接返します。YOLO26のセマンティックセグメンテーションでは、エクスポーターはアクセラレータに追従し、Hailo-8/8L (DFC v3.x) はホスト側でのアップサンプルおよび縮小用の分類器ロジットを返し、Hailo-10/15 (DFC v5.x) はチップ上でマルチクラスArgMaxヘッドをコンパイルしてコンパクトなクラスマップを返します。単一クラスヘッドはArgMaxの代わりに閾値を必要とするため、すべてのターゲットでホストロジットパスを使用します。YOLO26の深度モデルはa16で密なロジット畳み込みをコンパイルし、ホスト上でメトリック深度マップ(ヘッドに続くクランプ/指数関数および学習済みロッグアフィン較正)を再構築するため、量子化器は生のロジット上で最も広い範囲を維持します。ユーザーは、ONNXのエンドノードの検索、Hailoモデルスクリプト (.alls) の記述、またはNMS JSONの手動作成を行う必要はありません。

Link to this sectionインストール#

Ultralyticsをインストールし、Hailo Developer Zoneからターゲットハードウェア用のDFCホイールをダウンロードしてください(無料の登録が必要です):

pip install ultralytics
pip install /path/to/hailo_dataflow_compiler-*.whl
注意

HailoコンパイルにはLinux x86_64が必要です。サポートされているワークステーションでモデルをコンパイルし、出力ディレクトリをターゲットデバイスにコピーしてください。推論にはDFCは不要です。

Hailo-8およびHailo-8LはDFC v3.xを使用します。Hailo-10およびHailo-15はDFC v5.xを使用します。ターゲットアクセラレータに一致するコンパイラジェネレーションをインストールしてください。

Ultralytics Platformでのエクスポート

Ultralytics Platformは管理されたHailoエクスポートを提供するため、ローカルのHailoアカウントやDFCのインストールは不要です。

Link to this sectionHailo HEFモデルのエクスポート#

format="hailo"を使用し、nameでターゲットアクセラレータを選択してください:

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
output = model.export(format="hailo", name="hailo8l")
print(output)  # yolo11n_hailo_model/

等価なCLIコマンドは以下の通りです:

yolo export model=yolo11n.pt format=hailo name=hailo8l

HailoエクスポートはINT8専用です。Ultralyticsは、dataが提供されない場合、タスク固有のキャリブレーションデータセットを自動的にダウンロードします。カスタムモデルの場合は、代表的なトレーニング画像または検証画像を使用してください:

最高の精度を得るために、少なくとも1,024枚のキャリブレーション画像を使用してください

UltralyticsはDFC最適化レベル2を強制し、実際のキャリブレーションデータセットサイズを使用するようにファインチューニングを設定します。Hailoは少なくとも1,024枚の多様な画像を推奨しています。組み込みの軽量データセットはレベル2でコンパイルされますが、本番環境のドメインを代表していない可能性があります。本番環境用のHEFエクスポートには、data="path/to/dataset.yaml"を使用して代表的なデータセットを渡してください。

model.export(format="hailo", name="hailo8l", data="path/to/dataset.yaml")

コンパイルには固定の入力形状が使用されます。imgszをデバイスで使用する解像度に設定してください:

model.export(format="hailo", name="hailo8l", imgsz=640)

Link to this sectionサポートされているモデルとハードウェア#

Hailoエコシステムは幅広いコンピュータビジョンワークロードをカバーしていますが、Ultralyticsの format="hailo" エクスポーターは現在、標準的なYOLOの検出、セグメンテーション、ポーズ、OBD、分類、セマンティックセグメンテーション、および深度推定ヘッドを検証します。タスクテーブルには利用可能なエクスポーターパスが記載されており、ハードウェアの検証については以下のセクションに個別にリストされています。

Ultralyticsタスク直接的なHailoエクスポートサポートされているモデルファミリー注意点
物体検出YOLOv8, YOLO11, YOLO26カスタムモデルを含む標準的なUltralytics Detectヘッド
インスタンスセグメンテーションYOLOv8、YOLO11推論時にUltralyticsによってデコードされる生のヘッドテンソル。YOLO26-segは現在サポートされていません
画像分類YOLOv8, YOLO11, YOLO26チップ上でソフトマックスを実行。HEFは直接クラス確率を返します
姿勢推定YOLOv8、YOLO11推論時にUltralyticsによってデコードされる生のヘッドテンソル。YOLO26-poseは現在サポートされていません
指向性物体検出YOLOv8、YOLO11推論時にUltralyticsによってデコードされる生のヘッドテンソル。YOLO26-OBBは現在サポートされていません
セマンティックセグメンテーションYOLO26Hailo-8/8Lおよびシングルクラスヘッドはロジットを返します。Hailo-10/15はマルチクラスマップを作成します
深度推定YOLO26a16でコンパイルされた密なロジット。Ultralyticsが推論時にメトリック深度マップを再構築します

YOLOv10、YOLO-World、YOLOE、RT-DETRなどの特殊な検出ファミリーも❌サポートされていません。Ultralyticsは、検証されていないHEFを生成する代わりに、コンパイル前にこれらのタスクとモデルファミリーを拒否します。

モデルファミリーHailo-8 / Hailo-8LHailo-10 / Hailo-15出力
YOLOv8 / YOLO11の検出HailoRT YOLO NMS付きHEF
YOLO26の検出サポートされているランタイム向けのNMS不要の検出ヘッド出力
YOLOv8-seg / YOLO11-seg推論時にUltralyticsによってデコードされる生のセグメンテーションテンソル
YOLOv8-pose / YOLO11-poseHailo-8Lで検証済み未検証推論時にUltralyticsによってデコードされる生のポーズテンソル
YOLOv8-obb / YOLO11-obbHailo-8Lで検証済み未検証推論時にUltralyticsによってデコードされる生のOBBテンソル
YOLOv8-cls / YOLO11-cls / YOLO26-clsHailo-8Lで検証済み未検証チップ上でのソフトマックス。HEFはクラス確率を返します
YOLO26-semHailo-8Lで検証済み未検証ロジット、またはHailo-10/15上の作成されたマルチクラスマップ
YOLO26-depthHailo-8Lで検証済み未検証密なロジット。Ultralyticsによってデコードされるメトリック深度マップ

ポーズ、OBD、分類、YOLO26セマンティックセグメンテーション、およびYOLO26深度推定(Hailo-8/8Lパス)は、HailoRT 4.23およびDFC 3.33を搭載したHailo-8Lで検証されています。エクスポーターは他のリストされたターゲットも受け入れますが、それらの新しいタスクパスについては、本番環境での使用前に対応するコンパイラおよびデバイスでの検証が必要です。

以下のname値のいずれかを選択してください:

nameターゲットアクセラレータ
hailo8Hailo-8
hailo8lHailo-8L
hailo10hHailo-10H
hailo15hHailo-15H
hailo15lHailo-15L

hailo8lがデフォルトです。選択したターゲットに一致するDFCジェネレーションをインストールしてください。

Link to this sectionHailoハードウェアおよびSDKジェネレーション#

Hailoアクセラレータファミリーは、異なるコンパイラジェネレーションを使用します。生成されたHEFはターゲットハードウェアと一致している必要があるため、エクスポートを行うマシンではなく、推論を実行するデバイスのnameを選択してください。

ハードウェアファミリーDFCジェネレーション一般的なデプロイメントの例
Hailo-8 / Hailo-8LDFC v3.xアクセラレータモジュール、Raspberry Pi AI Kit/HAT+
Hailo-10HDFC v5.x新しいエッジAIおよびRaspberry Piデプロイメント
Hailo-15H / Hailo-15LDFC v5.xスマートカメラおよび組み込みビジョンアプリケーション

コンパイラはLinux x86_64で実行され、結果として得られるHEFはHailoRTを介してHailoデバイスで実行されます。この分離により、ワークステーションまたはUltralytics Platformでコンパイルし、小さなランタイムアーティファクトをARMまたはx86エッジホストにデプロイできます。

Link to this section互換性に関する注意点#

Hailoコンパイルはハードウェア固有であり、固定の入力形状を使用します。これらの制約を考慮してください:

  • 選択されたnameは、デプロイメントアクセラレータと一致する必要があります。
  • キャリブレーション画像は、本番環境で予想される照明、視点、物体、背景を代表するものである必要があります。
  • 特定のimgszでコンパイルされたHEFは、ランタイム時に動的にサイズ変更できません。
  • Ultralyticsがモデルメタデータからポストプロセッシング設定を生成するため、カスタムクラス数はサポートされています。
  • 標準的なUltralyticsの Detect ヘッドを持つ検出モデル、YOLOv8/YOLO11セグメンテーション、ポーズ、OBDモデル、YOLOv8/YOLO11/YOLO26分類モデル、およびYOLO26セマンティックセグメンテーション・深度推定モデルがサポートされています。YOLO26インスタンスセグメンテーション、ポーズ、方向付きバウンディングボックス、ならびにYOLO-World、YOLOE、YOLOv10、RT-DETRのエクスポートは現在サポートされていません。
  • Hailo-8/8LおよびHailo-10/15のアーティファクトは、異なるDFCジェネレーションによってコンパイルされるため、互換性はありません。

Link to this sectionキャリブレーションとINT8量子化#

Hailo HEFエクスポートは、YOLOネットワークをアクセラレータ上に効率的にマップするためにINT8量子化を使用します。キャリブレーションデータセットは活性化の範囲を推定するものであり、モデルの再トレーニングやコンパイル中のラベルを必要としません。

data が省略された場合、Ultralyticsは、検出用のCOCO128、セマンティックセグメンテーション用のcityscapes8、深度推定用のdepth8など、タスク固有の軽量な較正データセットを使用します。密な深度ヘッドは較正ドメインに対して特に敏感です。関連のない検出画像で深度モデルを較正すると予測マップが平坦化され、より大規模なドメイン内セットによって精度が向上します。カスタムコンピュータビジョンモデルの場合は、data をそのデータセットYAMLに向けることで、コンパイラが実際のデプロイメントドメインからの代表的な画像を認識できるようにします:

model.export(format="hailo", name="hailo8l", data="my_dataset.yaml")

fraction はキャリブレーションに使用するデータセットの割合を選択します。画像はデプロイ環境を代表している場合にのみ有用であり、ドメイン外の画像は量子化後の精度を低下させ、最適化時間を増加させる可能性があります。もしINT8 HEFの精度が元のPyTorchモデルと比較して低下する場合は、モデルやランタイム設定を変更する前に、まずキャリブレーションデータを見直してください。

Link to this sectionモデルファミリー別の精度期待値#

Hailo-8L上でドメイン内キャリブレーション(COCO128、画像128枚)を行い測定した場合、INT8 HEFエクスポートは同一の評価プロトコル下でPyTorchのmAP50の以下の割合を維持します:

モデルmAP50維持率注意点
YOLOv8n~100%オンチップNMSを備えたDFLヘッド
YOLO11n~96%バックボーン内のAttentionブロックはINT8の影響を受けやすい
YOLO26n~93%エンドツーエンドのヘッドとAttention(信頼度に関する注意書きを参照)

この維持率は、両方のモデルを同じ信頼度閾値で比較したものです。YOLOv8およびYOLO11のHEFはエクスポート時の conf (デフォルト0.25)をオンチップNMSに組み込むため、デフォルトの低い閾値でPyTorchのベースラインに対して検証を行うと、適合率-再現率曲線のより広い範囲が統合され、量子化によるギャップが過大評価されます。

検出に加え、セグメンテーション、ポーズ、OBB、分類の各エクスポーターパスを同一のHailo-8L(DFC 3.33、HailoRT 4.23)で検証しました。各INT8 HEFは、ドメイン内キャリブレーションを使用して、同じ検証分割におけるPyTorchチェックポイントと比較されました。

タスクメトリクス(検証分割)YOLOv8nYOLO11n
インスタンスセグメンテーションmask mAP50保持率(COCO128-seg)98.0%93.6%
Pose(姿勢推定)box mAP50保持率(COCO8-pose)98.1%90.8%
回転バウンディングボックスmAP50保持率(DOTA128)~100%96.9%
分類top-1保持率(ImageNet val)92.6%95.4%

セグメンテーション、ポーズ、OBBは各タスクのデフォルトのドメイン内セット(COCO128-seg、COCO8-pose、DOTA128)でキャリブレーションされ、分類はImageNet100でキャリブレーションされました。これらのデフォルト設定には2つの注意点があります。COCO8-poseはわずか8枚の画像であるため、ポーズの結果は目安とし、本番環境ではより大きなdata=を渡してください。また、DOTA8では両モデルともmAP50が100%近くで飽和するため、OBBはDOTA128で読み取っています。分類はYOLO11がYOLOv8よりも高い保持率を示す唯一のタスクであり、他のタスクではYOLO11のアテンションバックボーンの方がINT8に対して敏感です。

デバイス測定から、以下の3つの実践的なルールが導かれます:

  1. 常にドメイン内でキャリブレーションを行うこと。 ドメイン外の画像でファインチューニングを行うことは、ファインチューニングを完全に無効にすることと同義です。1,238枚のドメイン外画像でキャリブレーションされたYOLO26nは、ファインチューニングなしでコンパイルされたものと同じ精度(85.7%)しか維持できません。小規模でもドメイン内のセットの方が、大規模なドメイン外のセットよりも優れています。
  2. YOLO26のデプロイではconfを約0.05下げてください。 量子化によりYOLO26のスコアは平均して約0.05低下するため、PyTorchで調整したしきい値ではHEF上で有効な検出が除外されてしまいます。デバイス上でconf=0.20を使用するとPyTorchのconf=0.25と同等の検出数になり、さらに少し下げる(conf=0.15程度)ことで、低信頼度の検出が増える代償として、実質的に残りのmAP50の差をすべて回復できます。量子化は検出結果の約20%を再ランク付けします(これはしきい値では解消できない永続的な順序付け効果です)が、この並べ替えは低いしきい値でのmAP50の回復を妨げるものではありません。
  3. Attentionの低下はHailo-8/8L (DFC 3.33) における構造上の問題です。 Attentionブロックは、コンパイラが提供するすべてのモードでINT8のアクティベーション入力を保持する matmul 操作にコンパイルされます。このグラフでは16ビット出力モードは割り当てに失敗し、周囲の層の精度を上げても、matmulが結局入力をINT8に再量子化するため効果はありません(テストでは、depthwiseおよび出力畳み込みを16ビットに保護してもmAPは変化しませんでした)。精度が優先され、かつモデルが代替可能な場合、現時点ではYOLO26よりもYOLO11の方が量子化後の性能が優れています。より新しいHailo世代(DFC 5.x)では混合精度の選択肢が増えており、結果が異なる可能性があります。

Link to this sectionエクスポートされたアーティファクト#

エクスポートにより、デプロイ可能なHEFとUltralyticsメタデータを含むディレクトリが作成されます:

yolo11n_hailo_model/
├── yolo11n.hef
├── metadata.yaml
└── nms_config.json
  • *.hefはHailoRTによってロードされるコンパイル済みモデルです。
  • metadata.yamlはモデル名、タスク、入力サイズ、ストライド、およびHailoターゲット情報を保持します。
  • nms_config.jsonは、YOLOv8およびYOLO11検出モデル用に生成されたHailoRT NMS構成を記録します。YOLO26検出および検出以外のすべてのタスク(セグメンテーション、姿勢推定、OBB、分類、セマンティック)はこのファイルを使用しません。

中間的なONNXグラフはコンパイル後に削除されます。

Link to this sectionHailoハードウェアで推論を実行する#

ターゲットデバイスにHailoRTをインストールしてください。Raspberry Pi AI KitおよびAI HAT+のユーザーは、Raspberry Pi AIソフトウェアガイドに従うことができます:

sudo apt install hailo-all
hailortcli fw-control identify

metadata.yamlがHEFの隣に配置されるように、エクスポートディレクトリ全体をデバイスにコピーしてください。UltralyticsはHailoRTを使用して、エクスポートされたディレクトリ上で直接predictおよびvalを実行します。

from ultralytics import YOLO

model = YOLO("yolo11n_hailo_model")
results = model.predict("path/to/image.jpg")

検出モデルの場合、バックエンドはYOLOv8およびYOLO11のHailoRT NMS出力を変換し、YOLO26の1対1出力を自動的にデコードします。また、生のセグメンテーション、姿勢推定、OBBテンソルをデコードし、オンチップの分類確率を返し、Hailo-8/8Lおよびすべてのシングルクラスヘッドの場合はホスト削減を通じて、またはマルチクラスHailo-10/15ヘッドの場合はオンチップArgMaxを通じてセマンティッククラスマップを生成します。TAPPAS、GStreamer、およびRaspberry Piの picamera2.devices.Hailo ヘルパーは、アプリケーション固有のパイプラインで引き続き利用可能です。

GStreamerデプロイメントの場合は、HEFをhailonetに渡してください:

gst-launch-1.0 filesrc location=video.mp4 ! decodebin ! videoconvert ! \
  hailonet hef-path=yolo11n_hailo_model/yolo11n.hef ! \
  hailofilter function-name=yolov8 ! hailooverlay ! autovideosink

Link to this sectionHailoデプロイメントオプション#

HEFは、複数のHailoランタイムインターフェース間で共通のデプロイ可能なモデルアーティファクトです。アプリケーションに適したインターフェースを選択してください:

ランタイムオプション最適な用途
HailoRT PythonまたはC/C++ APIカスタムアプリケーションおよび推論の直接制御
Raspberry Pi picamera2.devices.HailoRaspberry Piでのカメラモジュールプロジェクト
GStreamerおよびHailoアプリケーションリアルタイムビデオストリームおよびマルチステージパイプライン
hailortcliデバイスチェック、HEF検査、およびベンチマーク

アプリケーションがUltralyticsのクラス名、入力サイズ、ストライド、またはその他のモデル情報を必要とする場合は、HEFと一緒にmetadata.yamlを保持してください。HEF自体は、カメラキャプチャ、可視化、トラッキング、アラート、またはストレージに関するアプリケーションレベルのロジックを置き換えるものではありません。

Link to this sectionHailoデバイスとHEFの検証#

カメラやビデオパイプラインを統合する前に、ランタイムとアクセラレータを個別に検証してください:

hailortcli fw-control identify
hailortcli parse-hef yolo11n_hailo_model/yolo11n.hef

デバイスのみのパフォーマンス測定では、Hailoの推論をビデオデコード、画像リサイズ、描画、およびアプリケーションI/Oから分離します。エンドツーエンドのレイテンシやフレームレートを推定する場合は、アプリケーション全体を個別に測定してください。

Link to this section他のYOLOエクスポートフォーマットとHailoの比較#

モデルを実行するハードウェアに基づいてエクスポートフォーマットを選択してください:

デプロイターゲットUltralyticsエクスポートフォーマット
Hailo NPUHailo HEF (format="hailo")
NVIDIA GPUTensorRT
Intel CPU、GPU、またはNPUOpenVINO
AppleハードウェアCoreML
Qualcomm Snapdragon NPUQNN
Rockchip NPURKNN
Raspberry Pi AI CameraSony IMX500
ポータブルなクロスランタイム使用ONNX

最終的なデバイスにHailoアクセラレータが搭載されている場合は、HEFが正しい選択肢です。ONNXはポータブルな中間フォーマットとして依然として有用ですが、HailoRTは元のONNXモデルではなく、DFCによって生成されたハードウェア固有のHEFを実行します。

Link to this sectionHailoコンピュータービジョンのパフォーマンス最適化#

モデルとパイプラインの選択は、多くの場合、コンパイラフラグよりも重要です:

  • 小さなYOLOモデルから始め、精度が必要な場合にのみモデルサイズを大きくしてください。
  • アプリケーションにとって重要なオブジェクトを維持できる、最小の固定imgszを選択してください。
  • 可能であれば、実際のカメラと環境からのキャリブレーション画像を使用してください。
  • 推論のたびにHEFを再オープンするのではなく、フレーム間でHailoネットワークをアクティブに保ってください。
  • デバイスの推論時間を、前処理、ビデオデコード、後処理、可視化、およびネットワークI/Oから分離してください。
  • 持続的なビデオワークロードには、GStreamerのようなストリーミングパイプラインを使用してください。
  • 本番環境で使用される正確なアクセラレータとHailoRTバージョンで、エクスポートされたHEFを検証してください。

Link to this sectionエクスポートの引数#

引数タイプデフォルト説明
namestrhailo8lターゲットHailoアクセラレータアーキテクチャ
imgszint, list640固定モデル入力サイズ
datastrタスク固有キャリブレーションデータセットYAML
fractionfloat1.0使用するキャリブレーション画像の割合
quantizeint8HailoエクスポートはINT8量子化を使用します
simplifyboolTrue中間ONNXグラフの簡略化
conffloat0.25YOLOv8/YOLO11 HailoRT NMS信頼度閾値
ioufloat0.7YOLOv8/YOLO11 HailoRT NMS IoU閾値

検出のエクスポートにおいて、YOLOv8およびYOLO11はHailoRT NMSを受け取り、YOLO26はNMS不要の1対1出力を維持します。セグメンテーション、ポーズ、OBDは生ヘッドテンソルを使用し、分類はチップ上の確率を返し、セマンティックセグメンテーションはHailo-8/8Lでは生ロジットを返し、すべての単一クラスヘッドまたはマルチクラスのHailo-10/15ヘッドでは焼き込まれたクラスマップを返します。深度推定は生の深度ロジットを返し、Ultralyticsが推論時にそれをメトリック深度マップにデコードします。end2end を渡さないでください。明示的なオーバーライドは拒否されます。動的形状、1を超えるバッチ、埋め込み型Ultralytics NMS、FP16、およびFP32もサポートされていません。

Link to this sectionHailoエクスポートのトラブルシューティング#

Link to this sectionHailo Dataflow Compilerインポートエラー#

エクスポートでhailo_sdk_clientが見つからないと報告された場合は、Ultralyticsと同じPython環境にターゲットハードウェア世代用のDFCホイールをインストールしてください。Hailo-8/8LとHailo-10/15では、異なるコンパイラ世代が必要です。

Link to this sectionサポートされていないオペレーティングシステムまたはアーキテクチャ#

HEFのコンパイルはLinux x86_64でサポートされています。ローカルコンピュータがmacOS、Windows、Raspberry Pi、またはその他のARMシステムの場合は、Ultralytics Platformを介してエクスポートするか、互換性のあるワークステーションを使用してください。

Link to this sectionエクスポートに時間がかかる#

DFCの最適化は最も負荷の高いステージです。コンパイル時間は、モデルサイズ、入力解像度、およびキャリブレーションデータによって増加します。サポートされているGPUは最適化を高速化できますが、CPUのみのコンパイルは大幅に遅くなる可能性があります。

Link to this section量子化モデルの精度低下#

本番環境の入力に似ており、重要なオブジェクト、スケール、照明条件、背景を含むキャリブレーション画像を使用してください。デプロイ前に、元のPyTorchモデルとエクスポートされたHEFを同じ検証セットで比較してください。適切なキャリブレーションを行っても、モデルファミリーに依存する中程度のギャップは残ります。測定されたベースラインについては、精度期待値(モデルファミリー別) を参照してください。

Link to this sectionHEFがデバイスで読み込まれない#

nameが物理的なHailoアーキテクチャと一致していること、およびデバイスドライバー、ファームウェア、HailoRTパッケージが相互に互換性があることを確認してください。hailortcli parse-hefでアーティファクトを検査し、hailortcli fw-control identifyでアクセラレータを検証してください。

Link to this section出力の解析が正しくないように見える#

Ultralyticsが一致するYOLOv8、YOLO11、またはYOLO26のポストプロセッシングパスを選択できるよう、metadata.yamlをHEFの横に保持してください。カスタムのHailoRTアプリケーションでも同様に、ポストプロセッシングをエクスポートされたモデルファミリーに合わせる必要があります。

Link to this sectionよくある質問 (FAQ)#

Link to this sectionRaspberry PiでHEFをコンパイルできますか?#

いいえ。サポートされているLinux x86_64システムでDFCを実行し、生成されたHEFをRaspberry Piにデプロイしてください。

Link to this sectionNVIDIA GPUが必要ですか?#

サポートされているGPUがあれば、DFCの最適化時間を大幅に短縮できます。CPUコンパイルも可能ですが、大幅に時間がかかる場合があります。

Link to this sectionどのYOLOモデルがHailoエクスポートをサポートしていますか?#

直接エクスポートでは、標準のYOLOv8、YOLO11、またはYOLO26検出ヘッドを持つ検出モデル、YOLOv8/YOLO11セグメンテーション、ポーズ、OBDモデル、およびYOLOv8/YOLO11/YOLO26分類モデルがサポートされます。これには、それらの標準アーキテクチャから構築されたカスタムトレーニング済みモデルが含まれます。YOLO26セマンティックセグメンテーションおよび深度推定モデルもサポートされています。YOLO26インスタンスセグメンテーション、ポーズ、OBD、ならびにYOLOv10、YOLO-World、YOLOE、RT-DETRは、検証されていないHEFを生成する代わりに拒否されます。

Link to this sectionカスタムトレーニングしたYOLOモデルをエクスポートできますか?#

Yes. Use the same format="hailo" command with the custom .pt weights and pass the training dataset YAML through data for representative INT8 calibration. Class names and class count are read from the model metadata.

Link to this sectionHailoエクスポートは動的な画像サイズをサポートしていますか?#

いいえ。DFCは固定の入力形状をHEFにコンパイルします。デプロイパイプラインで使用される解像度と一致するように、エクスポート中にimgszを選択してください。

Link to this sectionなぜYOLO26は異なるHailo出力を生成するのですか?#

YOLO26はNMSフリーの1対1検出ヘッドを使用しています。Ultralyticsは、YOLOv8およびYOLO11で使用されるHailoRT YOLOv8スタイルのNMSを付加する代わりに、それらの出力テンソルを直接コンパイルします。

Link to this sectionDFCとHailoRTの違いは何ですか?#

Hailo Dataflow Compilerは、Linux x86_64ビルドマシン上でモデルを変換および量子化して、ハードウェア固有のHEFにします。HailoRTはそのHEFをターゲットデバイスに読み込んで実行します。

Link to this sectionONNXファイルとHEFファイルのどちらをデプロイすべきですか?#

コンパイル済みのHEFをHailoランタイムにデプロイしてください。ONNXはエクスポート中に使用される中間表現であり、コンパイル成功後に削除されます。

Link to this sectionHailo DFCはどこで入手できますか?#

Hailo Developer Zoneから、お使いのハードウェア世代用のコンパイラホイールをダウンロードしてください。コンパイラはHEFを作成するためにのみ必要であり、HailoRTはターゲットアクセラレータ上でそれを実行します。

Link to this section要約#

UltralyticsのHailoエクスポート機能は、学習済みのYOLOモデルからデプロイ可能なHEFへの直接的なパスを提供します。

  1. YOLOv8、YOLO11、またはYOLO26の検出または分類モデル、YOLOv8/YOLO11のセグメンテーション、ポーズ、またはOBDモデル、あるいはYOLO26のセマンティックセグメンテーションまたは深度推定モデルをロードします。
  2. format="hailo"でエクスポートし、ターゲットアーキテクチャを選択します。
  3. 対応するDFCを使用してローカルでキャリブレーションおよびコンパイルするか、Ultralytics Platformの管理エクスポートを使用します。
  4. HEFとmetadata.yamlをHailo搭載のエッジデバイスにコピーします。
  5. HailoRT、Raspberry Pi Picamera2、またはGStreamerビデオパイプラインを使用して推論を実行します。

その他のコンピュータービジョンデプロイターゲットについては、ExportモードBenchmarkモード、および統合ガイドを参照してください。関連するハードウェアガイドには、ONNXOpenVINOTensorRTNCNNRKNNSony IMX500、およびQualcomm QNNが含まれます。

コメント