アクセレラAIのエクスポートとデプロイメント

Ultralytics Axelera AIとUltralytics 、エッジAIデバイスにおける高性能かつ省電力な推論を実現します。Voyager SDKを使用して、Ultralytics YOLO Metis® AIPUに直接エクスポートおよびデプロイできます。

アクセレラAIは、独自のデータフローアーキテクチャとインメモリコンピューティングを活用し、エッジ環境におけるコンピュータビジョン向けに専用ハードウェアアクセラレーションを提供。低消費電力で最大856 TOPSを実現します。

正しいハードウェアの選択

アクセラAIは、さまざまな導入制約に対応するため、さまざまなフォームファクターを提供しています。以下のチャートは、Ultralytics YOLO 展開に最適なハードウェアを特定するのに役立ちます。

graph TD
    A[Start: Select Deployment Target] --> B{Device Type?}
    B -->|Edge Server / Workstation| C{Throughput Needs?}
    B -->|Embedded / Robotics| D{Space Constraints?}
    B -->|Standalone / R&D| E[Dev Kits & Systems]

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

ハードウェア・ポートフォリオ

アクセラハードウェアのラインナップは、以下の動作に最適化されています。 Ultralytics YOLO11およびレガシーバージョンをワットあたり高い FPS 効率で実行できるように最適化されています。

アクセラレーターカード

これらのカードは、既存のホスト・デバイスでのAIアクセラレーションを可能にし、ブラウンフィールドでの展開を容易にする。

統合システム

ターンキーソリューションについては、アクセレラはメーカーと提携し、Metis AIPU用に事前に検証されたシステムを提供している。

• Metisコンピュートボード：Metis AIPUとRockchip RK3588 ARMCPU組み合わせたスタンドアローンのエッジデバイス。
• ワークステーション：デル（Precision 3460XE）とレノボ（ThinkStation P360 Ultra）のエンタープライズ・タワー。
• 産業用PC：製造オートメーション用に設計されたアドバンテックと エティナの堅牢なシステム。

サポートされているタスク

現在、物体検出モデルはAxelera形式にエクスポート可能です。追加タスクの統合が進行中です：

インストール

Ultralytics インストール

pip install ultralytics

詳細な手順については、Ultralytics ガイドをご覧ください。問題が発生した場合は、よくある問題ガイドを参照してください。

アクセレラ ドライバーのインストール

1. Axeleraリポジトリキーを追加します：

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"
   

2. リポジトリをaptに追加します:

   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"
   

3. SDKをインストールし、ドライバを読み込みます：

   sudo apt update
   sudo apt install -y axelera-voyager-sdk-base
   sudo modprobe metis
   yes | sudo /opt/axelera/sdk/latest/axelera_fix_groups.sh $USER
   

YOLO モデルのアクセラへのエクスポート

標準Ultralytics コマンドを使用して、トレーニング済みのYOLO をエクスポートします。

from ultralytics import YOLO

# Load a YOLO11 model
model = YOLO("yolo11n.pt")

# Export to Axelera format
model.export(format="axelera")  # creates 'yolo11n_axelera_model' directory

yolo export model=yolo11n.pt format=axelera

エクスポート引数

すべてのエクスポートオプションについては、エクスポートモードのドキュメントを参照してください。

出力構造

yolo11n_axelera_model/
├── yolo11n.axm              # Axelera model file
└── metadata.yaml            # Model metadata (classes, image size, etc.)

推論の実行

エクスポートしたモデルをUltralytics で読み込み、推論を実行します。これは ONNX モデルを読み込むのと同様の手順で実行します。

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo11n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

# Process results
for r in results:
    print(f"Detected {len(r.boxes)} objects")
    r.show()  # Display results

yolo predict model='yolo11n_axelera_model' source='https://ultralytics.com/images/bus.jpg'

推論パフォーマンス

メティスAIPUは、エネルギー消費を最小限に抑えながらスループットを最大化します。

Axelera AIデータに基づくベンチマーク。実際のFPSはモデルサイズ、バッチ処理、入力解像度によって異なります。

現実世界のアプリケーション

アクセラ・ハードウェア上のUltralytics YOLO 、高度なエッジ・コンピューティング・ソリューションを可能にします：

• スマートリテール：店舗最適化のためのリアルタイム物体カウントと ヒートマップ分析。
• 産業安全：製造環境における低遅延PPE検出。
• ドローンアナリティクス 農業や捜索救助のためのUAVでの高速物体検出。
• 交通システム：エッジベースのナンバープレート認識と 速度推定。

推奨ワークフロー

1. Ultralytics Train Modeを使用してモデルをトレーニングする
2. エクスポート Axelera形式を使用して model.export(format="axelera")
3. 検証 正確さをもって yolo val 最小量子化損失を検証する
4. 予測 使用 yolo predict 定性的検証のため

デバイス健全性チェック

Axeleraデバイスが正常に動作していることを確認してください：

. /opt/axelera/sdk/latest/axelera_activate.sh
axdevice

詳細な診断については、AxDeviceのドキュメントを参照してください。

最高性能

この統合は互換性のためにシングルコア構成を使用します。最大スループットを必要とする本番環境向けに、Axelera Voyager SDKは以下の機能を提供します：

• マルチコア利用率（クアッドコア Metis AIPU）
• ストリーミング推論パイプライン
• 高解像度カメラ向けタイル型推論

FPSベンチマークについてはモデル・ズーを参照するか、製品サポートについてはAxeleraにお問い合わせください。

既知の問題

サポートについては、Axeleraコミュニティをご覧ください。

よくある質問

アクセラでサポートされているYOLO バージョンは？

Voyager SDKはエクスポートをサポートしています YOLOv8 および YOLO11 モデルのエクスポートをサポートしています。

カスタムトレーニング済みモデルをデプロイできますか？

はい。Ultralytics Train Modeを使用してトレーニングされたモデルは、サポートされているレイヤーとオペレーションを使用する限り、Axeleraフォーマットにエクスポートできます。

INT8の量子化は精度にどう影響しますか？

AxeleraのVoyager SDKは、混合精度AIPUアーキテクチャ向けにモデルを自動的に量子化します。ほとんどの 物体検出 タスクにおいて、パフォーマンス向上（高いFPS、低い電力）は、最小限の影響を大幅に上回る。 mAP量子化にはモデルサイズに応じて数秒から数時間かかります。実行 yolo val エクスポート後に正確性を確認する。

校正画像は何枚使用すべきですか？

100～400枚の画像を推奨します。400枚を超えると追加の利点はなく、量子化時間が長くなります。100枚、200枚、400枚で実験し、最適なバランスを見つけてください。

Voyager SDKはどこにありますか？

SDK、ドライバ、コンパイラツールは、アクセラ開発者ポータルから入手できます。

📅20日前に作成 ✏️3 日前に更新

コメント