Link to this sectionAxelera AI Export und Bereitstellung#

Ultralytics arbeitet mit Axelera AI zusammen, um leistungsstarke und energieeffiziente Inferenz auf Edge AI-Geräten zu ermöglichen. Exportiere und bereite Ultralytics YOLO-Modelle direkt auf dem Metis® AIPU mithilfe des Voyager SDK vor.

Axelera AI bietet dedizierte Hardwarebeschleunigung für computer vision am Edge, unter Verwendung einer proprietären Datenflussarchitektur und in-memory computing, um bis zu 856 TOPS bei niedrigem Stromverbrauch zu liefern.

Link to this sectionDie richtige Hardware auswählen#

Axelera AI bietet verschiedene Formfaktoren an, um unterschiedlichen Bereitstellungsanforderungen gerecht zu werden. Die folgende Tabelle hilft dir dabei, die optimale Hardware für deine Ultralytics YOLO-Bereitstellung zu identifizieren.

graph TD
    A[Start: Select Deployment Target] --> B{Device Type?}
    B -->|Edge Server / Workstation| C{Throughput Needs?}
    B -->|Embedded / Robotics| D{Space Constraints?}
    B -->|Standalone / R&D| E[Dev Kits & Systems]

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

Link to this sectionHardware-Portfolio#

Das Hardware-Sortiment von Axelera ist darauf optimiert, Ultralytics YOLO26 und ältere Versionen mit hoher FPS-pro-Watt-Effizienz auszuführen.

Link to this sectionBeschleunigerkarten#

Diese Karten ermöglichen KI-Beschleunigung in bestehenden Host-Geräten und erleichtern brownfield deployments.

Link to this sectionIntegrierte Systeme#

Für schlüsselfertige Lösungen arbeitet Axelera mit Herstellern zusammen, um Systeme anzubieten, die für das Metis AIPU vorvalidiert sind.

• Metis Compute Board: Ein eigenständiges Edge-Gerät, das das Metis AIPU mit einer Rockchip RK3588 ARM CPU kombiniert.
• Workstations: Enterprise-Tower von Dell (Precision 3460XE) und Lenovo (ThinkStation P360 Ultra).
• Industrial PCs: Robuste Systeme von Advantech und Aetina, die für manufacturing automation konzipiert sind.

Link to this sectionUnterstützte Aufgaben#

Die folgenden Aufgaben werden von YOLOv8, YOLO11 und YOLO26 Modellen unterstützt.

Link to this sectionInstallation#

Link to this sectionUltralytics Installation#

pip install ultralytics

Detaillierte Anweisungen findest du in unserem Ultralytics Installationsleitfaden. Falls Probleme auftreten, konsultiere unseren Leitfaden für häufige Probleme.

Link to this sectionAxelera Treiberinstallation#

1. Füge den Axelera-Repository-Schlüssel hinzu:

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

2. Füge das Repository zu apt hinzu:

   Wähle das entsprechende Snippet unten aus, das zu deinem verwendeten Betriebssystem passt.

   # Ubuntu 22.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

   # Ubuntu 24.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu24 main' > /etc/apt/sources.list.d/axelera.list"

3. Installiere das SDK und lade den Treiber:

   sudo apt update
   sudo apt install -y metis-dkms=1.4.16
   sudo modprobe metis

pip install axelera-devkit==1.6.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple
pip install axelera-rt==1.6.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple

Link to this sectionExportieren von YOLO-Modellen nach Axelera#

Das Axelera-Format unterstützt die Modi Export, Predict und Validate. Inferenz und Validierung laufen auf der Axelera Metis AIPU-Hardware. Exportiere dein Modell und lade dann das exportierte Modell, um eine Inferenz auszuführen oder dessen Genauigkeit zu validieren.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to Axelera format
model.export(format="axelera")  # creates 'yolo26n_axelera_model'

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this sectionExport-Argumente#

Für alle Exportoptionen siehe die Export-Modus-Dokumentation.

Link to this sectionAusgabestruktur#

yolo26n_axelera_model/
├── yolo26n.axm                  # Axelera model file
├── compiler_config_final.toml  # Compiler configuration used for the build
└── metadata.yaml               # Model metadata (classes, image size, etc.)

Link to this sectionAxelera AI Benchmarks#

Das Metis AIPU maximiert den Durchsatz bei gleichzeitiger Minimierung des Energieverbrauchs.

Benchmarks basieren auf Axelera AI-Daten. Die tatsächlichen FPS hängen von der Modellgröße, dem Batching und der Eingabeauflösung ab.

Link to this sectionAnwendungen in der Praxis#

Ultralytics YOLO auf Axelera-Hardware ermöglicht fortschrittliche Edge-Computing-Lösungen:

• Smart Retail: Echtzeit-object counting und heatmap analytics zur Ladenoptimierung.
• Industrielle Sicherheit: Latenzarme PPE detection in Fertigungsumgebungen.
• Drone Analytics: High-speed object detection on UAVs for agriculture and search-and-rescue.
• Traffic Systems: Edge-based license plate recognition and speed estimation.

Link to this sectionEmpfohlener Arbeitsablauf#

1. Trainiere dein Modell mithilfe des Ultralytics Train Mode
2. Exportiere in das Axelera-Format mit model.export(format="axelera")
3. Validiere die Genauigkeit mit yolo val, um einen minimalen Quantisierungsverlust sicherzustellen
4. Prognostiziere (Predict) mit yolo predict für eine qualitative Validierung
5. Stelle bereit in einer leistungsstarken End-to-End-Pipeline ohne PyTorch-Abhängigkeit — siehe die YOLO on Voyager SDK examples für zusammensetzbare Python-Pipelines mit axelera-rt

Link to this sectionGerätezustandsprüfung#

Überprüfe, ob dein Axelera-Gerät ordnungsgemäß funktioniert:

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

Für detaillierte Diagnosen siehe die AxDevice-Dokumentation.

Link to this sectionMaximale Leistung#

Diese Integration verwendet eine Single-Core-Konfiguration für die Kompatibilität. Für die Produktion, die maximalen Durchsatz erfordert, bietet das Axelera Voyager SDK:

• Multi-Core-Auslastung (Quad-Core Metis AIPU)
• Streaming-Inferenz-Pipelines
• Gekachelte Inferenz für Kameras mit höherer Auflösung

Besuche das model-zoo für FPS-Benchmarks oder kontaktiere Axelera für Produktionssupport.

Link to this sectionBekannte Probleme#

Für Support besuche die Axelera Community.

Link to this sectionFAQ#

Link to this sectionWelche YOLO-Versionen werden auf Axelera unterstützt?#

Das Voyager SDK unterstützt den Export von YOLOv8-, YOLO11- und YOLO26-Modellen. Siehe Supported Tasks für die Aufgabenverfügbarkeit pro Modell.

Link to this sectionKann ich benutzerdefinierte Modelle bereitstellen?#

Ja. Jedes Modell, das mit dem Ultralytics Train Mode trainiert wurde, kann in das Axelera-Format exportiert werden, sofern es unterstützte Layer und Operationen verwendet.

Link to this sectionWie wirkt sich die INT8-Quantisierung auf die Genauigkeit aus?#

Das Voyager SDK von Axelera quantisiert Modelle automatisch für die Mixed-Precision-AIPU-Architektur. Für die meisten Object Detection-Aufgaben wiegen die Performance-Gewinne (höhere FPS, geringerer Stromverbrauch) die minimalen Auswirkungen auf mAP deutlich auf. Die Quantisierung dauert je nach Modellgröße zwischen einigen Sekunden und mehreren Stunden. Führe nach dem Export yolo val aus, um die Genauigkeit zu überprüfen.

Link to this sectionWie viele Kalibrierungsbilder sollte ich verwenden?#

Wir empfehlen 100 bis 400 Bilder. Mehr als 400 bieten keinen zusätzlichen Nutzen und erhöhen die Quantisierungszeit. Experimentiere mit 100, 200 und 400 Bildern, um das optimale Gleichgewicht zu finden.

Link to this sectionWo finde ich das Voyager SDK?#

Das SDK, die Treiber und die Compiler-Tools sind über das Axelera Developer Portal verfügbar.