Exportation et déploiement Axelera AI#

Ultralytics s'associe à Axelera AI pour permettre une inférence haute performance et économe en énergie sur les appareils Edge AI. Exporte et déploie des Ultralytics YOLO models directement sur le Metis® AIPU en utilisant le Voyager SDK.

Axelera AI fournit une accélération matérielle dédiée pour la computer vision en périphérie, en utilisant une architecture de flux de données propriétaire et le in-memory computing pour offrir jusqu'à 856 TOPS avec une faible consommation d'énergie.

Sélectionner le matériel adapté#

Axelera AI propose divers facteurs de forme pour répondre aux différentes contraintes de déploiement. Le tableau ci-dessous t'aide à identifier le matériel optimal pour ton déploiement Ultralytics YOLO.

graph TD
    A[Start: Select Deployment Target]:::start --> B{Device Type?}:::decide
    B -->|Edge Server / Workstation| C{Throughput Needs?}:::decide
    B -->|Embedded / Robotics| D{Space Constraints?}:::decide
    B -->|Standalone / R&D| E[Dev Kits & Systems]:::proc

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]:::out
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]:::out

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]:::out
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]:::out

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]:::out
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]:::out

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

Portefeuille matériel#

La gamme de matériel Axelera est optimisée pour exécuter Ultralytics YOLO26 et les versions antérieures avec une efficacité FPS-par-watt élevée.

Cartes accélératrices#

Ces cartes permettent l'accélération de l'IA dans les appareils hôtes existants, facilitant les brownfield deployments.

Systèmes intégrés#

Pour des solutions clés en main, Axelera s'associe à des fabricants pour fournir des systèmes pré-validés pour le Metis AIPU.

• Metis Compute Board : Un appareil autonome en périphérie associant le Metis AIPU à un CPU ARM Rockchip RK3588.
• Stations de travail : Tours d'entreprise de Dell (Precision 3460XE) et Lenovo (ThinkStation P360 Ultra).
• Industrial PCs: Systèmes durcis d'Advantech et d'Aetina conçus pour le manufacturing automation.

Tâches prises en charge#

L'estimation de profondeur n'est pas prise en charge : la tête de profondeur émet des opérateurs que le compilateur Metis AIPU ne peut pas abaisser. La segmentation YOLO26 n'est pas non plus prise en charge par Ultralytics export, mais peut toujours être déployée via le Voyager SDK comme décrit ci-dessous.

Installation#

Installation d'Ultralytics#

pip install ultralytics

Pour des instructions détaillées, consulte notre Ultralytics Installation guide. Si tu rencontres des difficultés, consulte notre Common Issues guide.

Installation du pilote Axelera#

1. Ajoute la clé du dépôt Axelera :

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

2. Ajoute le dépôt à apt :

   Choisis l'extrait approprié ci-dessous pour correspondre au système d'exploitation utilisé.

   # Ubuntu 22.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

   # Ubuntu 24.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu24 main' > /etc/apt/sources.list.d/axelera.list"

3. Installe le SDK et charge le pilote :

   sudo apt update
   sudo apt install -y metis-dkms=1.5.5
   sudo modprobe metis

[libaxldev.c:285] Found kernel driver version 1.4.16, but at least version 1.4.18 is required. Please update the kernel driver
ERROR: AXR_ERROR_CONNECTION_ERROR: Failed to open device metis-0:4:0

sudo apt update
sudo apt install -y metis-dkms=1.5.5
sudo rmmod metis
sudo modprobe metis

pip install axelera-devkit==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple
pip install axelera-rt==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple

Exporter des modèles YOLO vers Axelera#

Le format Axelera prend en charge les modes Export, Predict et Validate. L'inférence et la validation s'exécutent sur le matériel Axelera Metis AIPU. Exporte ton modèle, puis charge le modèle exporté pour exécuter l'inférence ou valider sa précision.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to Axelera format
model.export(format="axelera")  # creates 'yolo26n_axelera_model'

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Arguments d'exportation#

Pour toutes les options d'exportation, consulte la documentation du Export Mode documentation.

Structure de sortie#

yolo26n_axelera_model/
├── yolo26n.axm                  # Axelera model file
├── compiler_config_final.toml  # Compiler configuration used for the build
└── metadata.yaml               # Model metadata (classes, image size, etc.)

Benchmarks Axelera AI#

Le Metis AIPU maximise le débit tout en minimisant la consommation d'énergie.

Benchmarks basés sur les données Axelera AI. Le FPS réel dépend de la taille du modèle, du traitement par lots et de la résolution d'entrée.

Applications concrètes#

Ultralytics YOLO sur le matériel Axelera permet des solutions de calcul en périphérie avancées :

• Smart Retail: Object counting en temps réel et heatmap analytics pour l'optimisation des magasins.
• Industrial Safety: PPE detection à faible latence dans les environnements de fabrication.
• Drone Analytics: Object detection à haute vitesse sur les UAV pour l'agriculture et la recherche et le sauvetage.
• Traffic Systems: License plate recognition et speed estimation basés sur la périphérie.

Flux de travail recommandé#

1. Entraîne ton modèle en utilisant le Mode Entraînement d'Ultralytics
2. Export au format Axelera en utilisant model.export(format="axelera")
3. Valide la précision avec yolo val pour vérifier une perte de quantification minimale
4. Prédis en utilisant yolo predict pour une validation qualitative
5. Deploy vers un pipeline de bout en bout haute performance sans dépendance PyTorch — voir les YOLO on Voyager SDK examples pour des pipelines Python composables utilisant axelera-rt

Vérification de l'état de l'appareil#

Vérifie que ton appareil Axelera fonctionne correctement :

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

Pour des diagnostics détaillés, consulte la documentation AxDevice documentation.

Performance maximale#

Cette intégration utilise une configuration à cœur unique par souci de compatibilité. Pour la production nécessitant un débit maximal, le Axelera Voyager SDK offre :

• Utilisation multi-cœurs (AIPU Metis quad-cœur)
• Pipelines d'inférence en streaming
• Inférence par tuiles pour les caméras à plus haute résolution

Consulte le model-zoo pour les benchmarks de FPS ou contact Axelera pour le support de production.

Problèmes connus#

Pour obtenir de l'aide, visite la Axelera Community.

FAQ#