Integrazione di Huawei Ascend per Ultralytics YOLO#

Per distribuire modelli di visione artificiale sui processori AI Huawei Ascend è necessario compilarli nel formato di modello offline .om, eseguito dall'Ascend AI Core. L'esportazione dei modelli Ultralytics YOLO su Ascend ti consente di eseguire inferenze veloci e a basso consumo sulle schede di sviluppo Atlas e sui dispositivi OrangePi AIPro utilizzati in applicazioni di robotica, ispezione industriale e telecamere intelligenti.

Che cos'è Huawei Ascend?#

Huawei Ascend è una famiglia di processori AI abbinati a CANN (Architettura di calcolo per reti neurali), lo stack di calcolo eterogeneo di Huawei. CANN include ATC (Compilatore Tensor Ascend), uno strumento lato host che converte un grafo ONNX standard in un modello offline .om specifico per l'hardware e destinato all'Ascend AI Core.

Poiché ATC viene eseguito interamente sull'host, puoi compilare i modelli su una normale macchina Linux x86-64 o ARM64 senza alcun hardware Ascend collegato, quindi copiare il modello .om risultante sul dispositivo di destinazione per l'inferenza.

Addestra su NPU Ascend#

Ultralytics supporta l'addestramento su una o più NPU con torch_npu, inclusi AMP, convalida, salvataggio dei checkpoint, ripresa e AutoBatch. Seleziona una NPU con device=npu:0 o più NPU con device=npu:0,1; l'addestramento distribuito utilizza HCCL. Installa versioni compatibili di CANN, PyTorch e torch_npu e configura innanzitutto l'ambiente CANN. Consulta la sezione sull'addestramento su NPU Ascend per esempi di installazione e utilizzo.

Formato di esportazione Ascend#

L'esportatore Ultralytics scrive innanzitutto un grafo ONNX intermedio, quindi richiama ATC per compilarlo per il SoC di destinazione specificato con l'argomento name. Il risultato è una directory di modelli autonoma contenente il binario .om e i relativi metadati Ultralytics.

Funzionalità principali dei modelli Ascend#

• AI Core dedicato: i modelli compilati vengono eseguiti sull'Ascend AI Core anziché sulla CPU host, offrendo un throughput notevolmente superiore per le pipeline di telecamere in tempo reale.
• Compilazione lato host: ATC non richiede una NPU collegata, quindi l'esportazione può essere eseguita in CI, nei container o su un laptop.
• ONNX come base: l'esportazione ONNX standard di Ultralytics alimenta direttamente la toolchain CANN senza alcun formato intermedio proprietario.
• Shape statiche: la shape di input viene incorporata in .om al momento della compilazione, eliminando l'overhead della negoziazione delle shape a runtime.
• Destinazione per più dispositivi: lo stesso grafo ONNX viene compilato per qualsiasi SoC supportato modificando name.

Attività supportate#

L'esportazione Huawei Ascend supporta tutti e sette i task Ultralytics. La segmentazione semantica e la stima della profondità sono disponibili solo con YOLO26, l'unica famiglia che include queste head.

Dispositivi supportati#

Passa il SoC di destinazione con name; ATC lo incorpora in .om come --soc_version, quindi deve corrispondere alla scheda su cui esegui il deployment. In locale puoi compilare per qualsiasi SoC per cui la tua installazione CANN fornisce i kernel. Ultralytics Platform supporta le destinazioni Ascend310P1, Ascend310P3, Ascend310B1 e Ascend310B4.

Esporta su Ascend: converti il tuo modello YOLO#

Installazione#

Installa Ultralytics, quindi installa CANN separatamente da Huawei.

# Install the required package for YOLO
pip install ultralytics

Il toolkit CANN è distribuito da Huawei e non viene installato automaticamente. Scaricalo dalla pagina di download della community Ascend, oppure usa una delle immagini container ufficiali di ascendai/cann, che includono ATC e le relative dipendenze.

Utilizzo#

Il formato Ascend supporta le modalità Export, Predict e Validate. L'inferenza e la convalida vengono eseguite sull'hardware Ascend. Esporta il modello, quindi carica il modello esportato per eseguire l'inferenza o convalidarne l'accuratezza.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to Ascend format for an Atlas 200I / OrangePi AIPro board
model.export(format="ascend", name="Ascend310B4")

# Load the exported Ascend model and run inference on the device
ascend_model = YOLO("yolo26n_ascend_model")
results = ascend_model("https://ultralytics.com/images/bus.jpg")

Argomenti di esportazione#

Per ulteriori dettagli sul processo di esportazione, visita la pagina della documentazione Ultralytics sull'esportazione.

Struttura dell'output#

Dopo un'esportazione riuscita, viene creata una directory del modello con la seguente struttura:

yolo26n_ascend_model/
├── yolo26n_Ascend310B4.om  # Compiled Ascend offline model (AI Core executable)
└── metadata.yaml           # Model metadata (classes, image size, task, etc.)

Il file .om è il modello offline compilato che il runtime CANN carica sul dispositivo. Il suo nome contiene il SoC di destinazione, rendendo l'artefatto auto-descrittivo; mantieni un solo .om per directory, poiché il loader seleziona l'unico modello che trova al suo interno. Il file metadata.yaml contiene i nomi delle classi, la dimensione dell'immagine e altre informazioni utilizzate dalla pipeline di inferenza Ultralytics.

Distribuzione dei modelli YOLO Ascend esportati#

Dopo aver esportato correttamente il tuo modello Ultralytics YOLO nel formato Ascend, il passaggio successivo consiste nel distribuirlo sull'hardware Ascend.

Installazione del runtime#

L'inferenza richiede il runtime CANN sul dispositivo e il pacchetto Python ais_bench, che integra i binding pyACL di CANN. Compilalo e installalo dal repository degli strumenti Ascend di Huawei:

# On the Ascend device, with CANN installed and sourced
source /usr/local/Ascend/ascend-toolkit/set_env.sh

# Build and install the ais_bench inference wheel
git clone https://gitee.com/ascend/tools.git
cd tools/ais-bench_workload/tool/ais_bench
pip3 wheel ./backend -v
pip3 install ./aclruntime-*.whl
pip3 wheel ./ -v
pip3 install ./ais_bench-*.whl

Copia la directory yolo26n_ascend_model esportata sul dispositivo, quindi esegui l'inferenza esattamente come faresti con qualsiasi altro formato Ultralytics.

Flusso di lavoro consigliato#

1. Addestra il tuo modello utilizzando la Modalità di addestramento di Ultralytics, oppure parti da un checkpoint pre-addestrato.
2. Esporta su Ascend da qualsiasi host Linux con CANN installato, passando name in corrispondenza del SoC di destinazione.
3. Copia la directory del modello esportato sul dispositivo Ascend.
4. Esegui il deployment con il runtime CANN e ais_bench per l'inferenza sul dispositivo.

Applicazioni nel mondo reale#

I modelli YOLO eseguiti sull'hardware Ascend sono adatti a un'ampia gamma di applicazioni di visione embedded e industriale:

• Automazione industriale: ispezione della qualità ad alta velocità e rilevamento dei difetti sulle linee di produzione.
• Videosorveglianza intelligente: rilevamento di oggetti in tempo reale con più telecamere sui gateway edge, senza un server centrale.
• Robotica: percezione a bordo per robot mobili autonomi e bracci collaborativi.
• Città intelligenti: monitoraggio del traffico e analisi dei pedoni su unità stradali a basso consumo.

Riepilogo#

In questa guida hai imparato ad addestrare Ultralytics YOLO sulle NPU Huawei Ascend e a esportare i modelli nel formato Ascend .om utilizzando il compilatore CANN ATC. L'esportazione viene eseguita interamente sull'host, produce una directory di modelli autonoma e supporta qualsiasi SoC Ascend compatibile tramite un singolo argomento name.

Per maggiori dettagli sull'utilizzo, visita la documentazione ufficiale di CANN.

Inoltre, se vuoi saperne di più sulle altre integrazioni Ultralytics YOLO, visita la nostra pagina della guida alle integrazioni per trovare numerose risorse utili.

FAQ#