Link to this sectionEsportazione e distribuzione con Axelera AI#

Ultralytics collabora con Axelera AI per abilitare un'inferenza ad alte prestazioni ed elevata efficienza energetica su dispositivi Edge AI. Esporta e distribuisci i modelli Ultralytics YOLO direttamente sul Metis® AIPU utilizzando il Voyager SDK.

Axelera AI fornisce un'accelerazione hardware dedicata per la computer vision all'edge, utilizzando un'architettura di dataflow proprietaria e in-memory computing per offrire fino a 856 TOPS con un basso consumo energetico.

Link to this sectionSelezionare l'hardware giusto#

Axelera AI offre vari fattori di forma per soddisfare diverse esigenze di distribuzione. Il grafico sottostante ti aiuta a identificare l'hardware ottimale per la tua distribuzione di Ultralytics YOLO.

graph TD
    A[Start: Select Deployment Target] --> B{Device Type?}
    B -->|Edge Server / Workstation| C{Throughput Needs?}
    B -->|Embedded / Robotics| D{Space Constraints?}
    B -->|Standalone / R&D| E[Dev Kits & Systems]

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

Link to this sectionPortfolio hardware#

La gamma di hardware Axelera è ottimizzata per eseguire Ultralytics YOLO26 e le versioni precedenti con un'elevata efficienza FPS-per-watt.

Link to this sectionSchede acceleratrici#

Queste schede abilitano l'accelerazione AI nei dispositivi host esistenti, facilitando le brownfield deployments.

Link to this sectionSistemi integrati#

Per soluzioni chiavi in mano, Axelera collabora con i produttori per fornire sistemi pre-validati per il Metis AIPU.

• Metis Compute Board: Un dispositivo edge standalone che abbina il Metis AIPU a una CPU ARM Rockchip RK3588.
• Workstation: Tower aziendali di Dell (Precision 3460XE) e Lenovo (ThinkStation P360 Ultra).
• PC industriali: Sistemi rugged di Advantech e Aetina progettati per l'automazione della produzione.

Link to this sectionAttività supportate#

Le seguenti attività sono supportate nei modelli YOLOv8, YOLO11 e YOLO26.

Link to this sectionInstallazione#

Link to this sectionInstallazione di Ultralytics#

pip install ultralytics

Per istruzioni dettagliate, consulta la nostra Guida all'installazione di Ultralytics. Se riscontri difficoltà, consulta la nostra Guida ai problemi comuni.

Link to this sectionInstallazione del driver Axelera#

1. Aggiungi la chiave del repository Axelera:

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

2. Aggiungi il repository ad apt:

   Scegli lo snippet appropriato qui sotto per corrispondere al sistema operativo in uso.

   # Ubuntu 22.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

   # Ubuntu 24.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu24 main' > /etc/apt/sources.list.d/axelera.list"

3. Installa l'SDK e carica il driver:

   sudo apt update
   sudo apt install -y metis-dkms=1.4.16
   sudo modprobe metis

pip install axelera-devkit==1.6.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple
pip install axelera-rt==1.6.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple

Link to this sectionEsportazione di modelli YOLO su Axelera#

Il formato Axelera supporta le modalità Export, Predict e Validate. L'inferenza e la convalida vengono eseguite sull'hardware Axelera Metis AIPU. Esporta il tuo modello, quindi carica il modello esportato per eseguire l'inferenza o convalidarne l'accuratezza.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to Axelera format
model.export(format="axelera")  # creates 'yolo26n_axelera_model'

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this sectionArgomenti di esportazione#

Per tutte le opzioni di esportazione, consulta la documentazione della modalità Export.

Link to this sectionStruttura dell'output#

yolo26n_axelera_model/
├── yolo26n.axm                  # Axelera model file
├── compiler_config_final.toml  # Compiler configuration used for the build
└── metadata.yaml               # Model metadata (classes, image size, etc.)

Link to this sectionBenchmark di Axelera AI#

Il Metis AIPU massimizza il throughput riducendo al contempo il consumo energetico.

Benchmark basati su dati Axelera AI. Gli FPS effettivi dipendono dalle dimensioni del modello, dal batching e dalla risoluzione dell'input.

Link to this sectionApplicazioni nel mondo reale#

Ultralytics YOLO su hardware Axelera abilita soluzioni avanzate di edge computing:

• Smart Retail: Conteggio oggetti in tempo reale e heatmap analytics per l'ottimizzazione del punto vendita.
• Sicurezza industriale: Rilevamento DPI a bassa latenza negli ambienti produttivi.
• Analisi con droni: Object detection ad alta velocità su UAV per l'agricoltura e operazioni di ricerca e soccorso.
• Traffic Systems: Edge-based license plate recognition and speed estimation.

Link to this sectionFlusso di lavoro consigliato#

1. Addestra il tuo modello usando la Modalità Train di Ultralytics
2. Esporta nel formato Axelera usando model.export(format="axelera")
3. Valida l'accuratezza con yolo val per verificare una perdita di quantizzazione minima
4. Prevedi (Predict) usando yolo predict per la validazione qualitativa
5. Distribuisci su una pipeline end-to-end ad alte prestazioni senza dipendenze da PyTorch: vedi gli esempi di YOLO su Voyager SDK per pipeline Python componibili che utilizzano axelera-rt

Link to this sectionControllo dello stato del dispositivo#

Verifica che il tuo dispositivo Axelera funzioni correttamente:

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

Per diagnostica dettagliata, consulta la documentazione AxDevice.

Link to this sectionMassime prestazioni#

Questa integrazione utilizza una configurazione single-core per la compatibilità. Per la produzione che richiede il massimo throughput, l' Axelera Voyager SDK offre:

• Utilizzo multi-core (quad-core Metis AIPU)
• Pipeline di inferenza in streaming
• Inferenza a riquadri (tiled) per telecamere ad alta risoluzione

Consulta il model-zoo per i benchmark FPS o contatta Axelera per assistenza sulla produzione.

Link to this sectionProblemi noti#

Per assistenza, visita la Axelera Community.

Link to this sectionFAQ#

Link to this sectionQuali versioni di YOLO sono supportate su Axelera?#

Il Voyager SDK supporta l'esportazione di modelli YOLOv8, YOLO11 e YOLO26. Vedi Attività supportate per la disponibilità delle attività per singolo modello.

Link to this sectionPosso distribuire modelli addestrati in modo personalizzato?#

Sì. Qualsiasi modello addestrato utilizzando la Modalità di addestramento Ultralytics può essere esportato nel formato Axelera, a condizione che utilizzi layer e operazioni supportati.

Link to this sectionIn che modo la quantizzazione INT8 influisce sulla precisione?#

Il Voyager SDK di Axelera quantizza automaticamente i modelli per l'architettura AIPU a precisione mista. Per la maggior parte delle attività di object detection, i guadagni in termini di prestazioni (FPS più elevati, minor consumo energetico) superano significativamente il minimo impatto sul mAP. La quantizzazione richiede da pochi secondi a diverse ore a seconda delle dimensioni del modello. Esegui yolo val dopo l'esportazione per verificare la precisione.

Link to this sectionQuante immagini di calibrazione dovrei utilizzare?#

Consigliamo da 100 a 400 immagini. Più di 400 non offrono ulteriori vantaggi e aumentano il tempo di quantizzazione. Sperimenta con 100, 200 e 400 immagini per trovare l'equilibrio ottimale.

Link to this sectionDove posso trovare il Voyager SDK?#

L'SDK, i driver e gli strumenti di compilazione sono disponibili tramite l' Axelera Developer Portal.