Ultralytics YOLO の Huawei Ascend 統合#

Huawei Ascend AIプロセッサ上でコンピュータビジョンモデルをデプロイするには、Ascend AI Coreで実行される .om オフラインモデル形式にコンパイルする必要があります。Ultralytics YOLOモデルをAscendにエクスポートすると、ロボット工学、産業用検査、スマートカメラのデプロイメントで使用されるAtlas開発者ボードやOrangePi AIProデバイス上で、高速かつ低電力な推論を実行できます。

Huawei Ascend とは#

Huawei Ascendは、Huaweiの異種コンピューティングスタックである CANN (Compute Architecture for Neural Networks) とペアになったAIプロセッサファミリです。CANNには、標準的なONNXグラフをAscend AI Coreをターゲットとするハードウェア固有の .om オフラインモデルに変換するホスト側のツールである ATC (Ascend Tensor Compiler) が付属しています。

ATCは完全にホスト上で実行されるため、Ascendハードウェアを接続することなく、通常のx86-64またはARM64 Linuxマシン上でモデルをコンパイルし、結果として得られた .om をターゲットデバイスにコピーして推論を実行できます。

Ascend NPU でのトレーニング#

Ultralyticsは、AMP、検証、チェックポイント、再開、AutoBatchを含め、torch_npu によるシングルおよびマルチNPUトレーニングをサポートしています。device=npu:0 で1つのNPUを選択するか、device=npu:0,1 で複数のNPUを選択します。分散トレーニングではHCCLを使用します。互換性のあるCANN、PyTorch、および torch_npu のバージョンをインストールし、最初にCANN環境をソースしてください。インストールと使用例については、Ascend NPUトレーニングセクションを参照してください。

Ascend エクスポート形式#

Ultralyticsエクスポーターは、まず中間ONNXグラフを書き込み、次にATCを呼び出して、name 引数でターゲットとするSoC用にコンパイルします。その結果、.om バイナリとそのUltralyticsメタデータを保持する自己完結型のモデルディレクトリが作成されます。

Ascend モデルの主な機能#

• 専用 AI Core: コンパイルされたモデルは、ホスト CPU ではなく Ascend AI Core で実行され、リアルタイムカメラパイプラインのスループットが大幅に向上します。
• ホスト側のコンパイル: ATC は接続された NPU を必要としないため、CI、コンテナ、またはラップトップでエクスポートを実行できます。
• ONNXファースト: 標準のUltralytics ONNXエクスポートは、独自の独自中間形式なしで、CANNツールチェーンに直接フィードされます。
• 静的形状: 入力形状はコンパイル時に .om に焼き込まれるため、実行時の形状ネゴシエーションのオーバーヘッドがなくなります。
• マルチデバイスのターゲット設定: name を変更することで、同じONNXグラフがサポートされている任意のSoC向けにコンパイルされます。

サポートされているタスク#

Huawei Ascendのエクスポートは、7つのUltralyticsタスクすべてをサポートしています。セマンティックセグメンテーションと深度推定は、それらのヘッドを搭載する唯一のファミリーであるYOLO26でのみ利用可能です。

サポートされているデバイス#

name でターゲットSoCを渡します。ATCはそれを .om 内に --soc_version として焼き込むため、デプロイするボードと一致している必要があります。ローカルでは、CANNインストールのカーネルが提供する任意のSoC向けにコンパイルできます。Ultralytics Platformは、Ascend310P1、Ascend310P3、Ascend310B1、およびAscend310B4のターゲットをサポートしています。

Ascend へのエクスポート: YOLO モデルの変換#

インストール#

Ultralytics をインストールしてから、Huawei から CANN を個別にインストールします。

# Install the required package for YOLO
pip install ultralytics

CANNツールキットはHuaweiによって配布されており、自動的にはインストールされません。Ascendコミュニティダウンロードページからダウンロードするか、ATCとその依存関係をバンドルしている公式のascendai/cann コンテナイメージのいずれかを使用してください。

使用方法#

Ascend形式は、Export、Predict、およびValidateモードをサポートしています。推論と検証はAscendハードウェア上で実行されます。モデルをエクスポートし、エクスポートされたモデルをロードして推論を実行するか、精度を検証します。

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to Ascend format for an Atlas 200I / OrangePi AIPro board
model.export(format="ascend", name="Ascend310B4")

# Load the exported Ascend model and run inference on the device
ascend_model = YOLO("yolo26n_ascend_model")
results = ascend_model("https://ultralytics.com/images/bus.jpg")

エクスポートの引数#

エクスポートプロセスの詳細については、Ultralytics documentation page on exporting をご覧ください。

出力構造#

エクスポートが成功すると、以下のレイアウトでモデルディレクトリが作成されます。

yolo26n_ascend_model/
├── yolo26n_Ascend310B4.om  # Compiled Ascend offline model (AI Core executable)
└── metadata.yaml           # Model metadata (classes, image size, task, etc.)

.om ファイルは、CANNランタイムがデバイス上でロードするコンパイル済みオフラインモデルです。その名前にはターゲットSoCが含まれているため、アーティファクトは自己記述型です。ローダーはそこで見つかった単一のモデルをピックアップするため、ディレクトリごとに1つの .om を保持してください。metadata.yaml には、クラス名、画像サイズ、およびUltralytics推論パイプラインで使用されるその他の情報が含まれています。

エクスポートされた YOLO Ascend モデルのデプロイ#

Ultralytics YOLO モデルを Ascend 形式に正常にエクスポートしたら、次のステップは Ascend ハードウェアにデプロイすることです。

ランタイムのインストール#

推論には、デバイス上のCANNランタイムと、CANNのpyACLバインディングをラップする ais_bench Pythonパッケージが必要です。HuaweiのAscendツールリポジトリからビルドしてインストールします:

# On the Ascend device, with CANN installed and sourced
source /usr/local/Ascend/ascend-toolkit/set_env.sh

# Build and install the ais_bench inference wheel
git clone https://gitee.com/ascend/tools.git
cd tools/ais-bench_workload/tool/ais_bench
pip3 wheel ./backend -v
pip3 install ./aclruntime-*.whl
pip3 wheel ./ -v
pip3 install ./ais_bench-*.whl

エクスポートされた yolo26n_ascend_model ディレクトリをデバイスにコピーし、他のUltralytics形式と同様に推論を実行します。

推奨されるワークフロー#

1. UltralyticsのTrainモードを使用してモデルを トレーニング するか、事前トレーニング済みチェックポイントから開始します。
2. CANNがインストールされている任意のLinuxホスト上でAscendに エクスポート し、ターゲットSoCに一致する name を渡します。
3. エクスポートされたモデルディレクトリを Ascend デバイスに Copy します。
4. デバイス上での推論のために、CANNランタイムと ais_bench を使用して デプロイ します。

実際のアプリケーション#

Ascend ハードウェアで実行される YOLO モデルは、幅広い組み込みおよび産業用ビジョンアプリケーションに適しています:

• 産業用自動化: 製造ラインでの高速品質検査と欠陥検出。
• スマート監視: 中央サーバーなしのエッジゲートウェイでのリアルタイムマルチカメラオブジェクト検出。
• ロボット工学: 自律移動ロボットおよび協働アーム向けの一人称認識。
• スマートシティ: 低電力な路側ユニットでの交通監視と歩行者分析。

要約#

このガイドでは、Huawei Ascend NPU上でUltralytics YOLOをトレーニングする方法と、CANN ATCコンパイラを使用してモデルをAscend .om 形式にエクスポートする方法を学習しました。エクスポートは完全にホスト上で実行され、自己完結型のモデルディレクトリを作成し、単一の name 引数を通じてサポートされている任意のAscend SoCをターゲットにします。

使用方法の詳細については、公式CANNドキュメントをご覧ください。

また、他のUltralytics YOLOインテグレーションの詳細については、インテグレーションガイドページにアクセスして、役立つリソースを多数見つけてください。

よくある質問 (FAQ)#