Axelera AIのエクスポートとデプロイ#

UltralyticsはAxelera AIと提携し、Edge AIデバイス上で高性能かつエネルギー効率の高い推論を実現します。Voyager SDKを使用して、Ultralytics YOLOモデルをMetis® AIPUに直接エクスポートおよびデプロイします。

Axelera AIは、独自の情報フローアーキテクチャとインメモリコンピューティングを使用して、低消費電力で最大856 TOPSを実現し、エッジでのコンピュータビジョン向けに専用のハードウェアアクセラレーションを提供します。

適切なハードウェアの選択#

Axelera AIは、さまざまなデプロイ要件に対応するため、多様なフォームファクタを提供しています。以下のチャートは、Ultralytics YOLOデプロイメントに最適なハードウェアを特定するのに役立ちます。

graph TD
    A[Start: Select Deployment Target]:::start --> B{Device Type?}:::decide
    B -->|Edge Server / Workstation| C{Throughput Needs?}:::decide
    B -->|Embedded / Robotics| D{Space Constraints?}:::decide
    B -->|Standalone / R&D| E[Dev Kits & Systems]:::proc

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]:::out
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]:::out

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]:::out
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]:::out

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]:::out
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]:::out

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

ハードウェアポートフォリオ#

Axeleraハードウェアのラインナップは、高いFPS-per-watt効率でUltralytics YOLO26および従来バージョンを実行できるように最適化されています。

アクセラレータカード#

これらのカードにより、既存のホストデバイスでのAIアクセラレーションが可能になり、ブラウンフィールド環境へのデプロイが容易になります。

統合システム#

ターンキーソリューションのために、Axeleraはメーカーと提携し、Metis AIPU向けに事前検証済みのシステムを提供しています。

• Metis Compute Board: Metis AIPUとRockchip RK3588 ARM CPUを組み合わせたスタンドアロンのエッジデバイス。
• ワークステーション: Dell (Precision 3460XE) および Lenovo (ThinkStation P360 Ultra) のエンタープライズタワー。
• 産業用PC: 製造業の自動化向けに設計されたAdvantechおよびAetinaの高耐久システム。

サポートされているタスク#

深度推定はサポートされていません。深度ヘッドがMetis AIPUコンパイラでロワーできない演算子を出力するためです。Ultralytics exportによるYOLO26セグメンテーションもサポートされていませんが、後述のようにVoyager SDKを使用してデプロイすることは可能です。

インストール#

Ultralyticsのインストール#

pip install ultralytics

詳細な手順については、Ultralytics インストールガイドを参照してください。問題が発生した場合は、一般的な問題ガイドを参照してください。

Axeleraドライバのインストール#

1. Axeleraリポジトリキーを追加します：

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

2. aptにリポジトリを追加します：

   使用しているOSに合わせて、以下の適切なスニペットを選択してください。

   # Ubuntu 22.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

   # Ubuntu 24.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu24 main' > /etc/apt/sources.list.d/axelera.list"

3. SDKをインストールし、ドライバをロードします：

   sudo apt update
   sudo apt install -y metis-dkms=1.5.5
   sudo modprobe metis

[libaxldev.c:285] Found kernel driver version 1.4.16, but at least version 1.4.18 is required. Please update the kernel driver
ERROR: AXR_ERROR_CONNECTION_ERROR: Failed to open device metis-0:4:0

sudo apt update
sudo apt install -y metis-dkms=1.5.5
sudo rmmod metis
sudo modprobe metis

pip install axelera-devkit==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple
pip install axelera-rt==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple

YOLOモデルのAxeleraへのエクスポート#

Axeleraフォーマットは、エクスポート (Export)、予測 (Predict)、および検証 (Validate)モードをサポートしています。推論と検証はAxelera Metis AIPUハードウェア上で実行されます。モデルをエクスポートした後、エクスポートされたモデルをロードして推論を実行するか、精度を検証します。

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to Axelera format
model.export(format="axelera")  # creates 'yolo26n_axelera_model'

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

エクスポートの引数#

すべてのおよびエクスポートオプションについては、エクスポートモードのドキュメントを参照してください。

出力構造#

yolo26n_axelera_model/
├── yolo26n.axm                  # Axelera model file
├── compiler_config_final.toml  # Compiler configuration used for the build
└── metadata.yaml               # Model metadata (classes, image size, etc.)

Axelera AIベンチマーク#

Metis AIPUは、エネルギー消費を最小限に抑えながらスループットを最大化します。

ベンチマークはAxelera AIのデータに基づいています。実際のFPSはモデルサイズ、バッチ処理、入力解像度によって異なります。

実際のアプリケーション#

Axeleraハードウェア上のUltralytics YOLOは、高度なエッジコンピューティングソリューションを実現します：

• スマートリテール: 店舗最適化のためのリアルタイムオブジェクトカウントおよびヒートマップ分析。
• 産業安全: 製造環境における低遅延のPPE検出。
• ドローン分析: 農業や捜索救助活動のために、UAV上で高速な物体検出を実行します。
• 交通システム: エッジベースのナンバープレート認識および速度推定。

推奨されるワークフロー#

1. Ultralytics トレーニングモードを使用してモデルを**トレーニング (Train)**する
2. model.export(format="axelera")を使用してAxeleraフォーマットに**エクスポート (Export)**する
3. yolo valを使用して精度を**検証 (Validate)**し、量子化による損失が最小限であることを確認する
4. 定性的な検証のためにyolo predictを使用して**予測 (Predict)**を実行する
5. PyTorchへの依存なしで高性能なエンドツーエンドのパイプラインにデプロイします。axelera-rt を使用した構成可能なPythonパイプラインについては、YOLO on Voyager SDK examplesを参照してください。

デバイス健全性チェック#

Axeleraデバイスが正常に機能しているか確認してください：

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

詳細な診断については、AxDeviceドキュメントを参照してください。

最大パフォーマンス#

この統合では互換性のためにシングルコア構成を使用しています。最大のスループットを必要とする本番環境向けに、Axelera Voyager SDKでは以下が提供されています：

• マルチコア活用（クアッドコア Metis AIPU）
• ストリーミング推論パイプライン
• 高解像度カメラ向けタイルベース推論

FPSのベンチマークについてはモデルズーを参照するか、本番サポートについてAxeleraにお問い合わせください。

既知の課題#

サポートについては、Axeleraコミュニティにアクセスしてください。

よくある質問 (FAQ)#

AxeleraでサポートされているYOLOのバージョンは何ですか？#

Voyager SDKは、YOLOv8、YOLO11、およびYOLO26モデルのエクスポートをサポートしています。モデルごとのタスクの可用性については、サポートされているタスクを参照してください。

独自にトレーニングしたモデルをデプロイできますか？#

はい。Ultralytics トレーニングモードを使用してトレーニングされたモデルであれば、サポートされているレイヤーと演算子を使用している限り、Axeleraフォーマットにエクスポートできます。

INT8量子化は精度にどのような影響を与えますか？#

AxeleraのVoyager SDKは、混合精度AIPUアーキテクチャ向けにモデルを自動的に量子化します。ほとんどのオブジェクト検出タスクにおいて、パフォーマンスの向上（高FPS、低電力）は、mAPへのごくわずかな影響を大幅に上回ります。量子化には、モデルのサイズに応じて数秒から数時間かかります。エクスポート後にyolo valを実行して精度を確認してください。

キャリブレーション画像は何枚使用すべきですか？#

100枚から400枚の使用を推奨します。400枚を超えても追加の利点はなく、量子化時間が増加するだけです。100枚、200枚、400枚で試行し、最適なバランスを見つけてください。

Voyager SDKはどこで入手できますか？#

SDK、ドライバ、およびコンパイラツールは、Axeleraデベロッパーポータルから入手できます。