Integrazione Huawei Ascend per Ultralytics YOLO#

La distribuzione di modelli di visione artificiale sui processori AI Huawei Ascend richiede la loro compilazione nel formato offline .om, eseguito dall'Ascend AI Core. L'esportazione dei modelli Ultralytics YOLO su Ascend consente di eseguire inferenze rapide e a basso consumo sulle schede di sviluppo Atlas e sui dispositivi OrangePi AIPro impiegati nella robotica, nell'ispezione industriale e nelle installazioni di telecamere intelligenti.

Che cos'è Huawei Ascend?#

Huawei Ascend è una famiglia di processori AI abbinati a CANN (Architettura di calcolo per reti neurali), lo stack di calcolo eterogeneo di Huawei. CANN include ATC (Compilatore Tensor Ascend), uno strumento eseguito sull'host che converte un grafo ONNX standard in un modello offline .om specifico per l'hardware e destinato all'Ascend AI Core.

Poiché ATC viene eseguito interamente sull'host, puoi compilare i modelli su una normale macchina Linux x86-64 o ARM64 senza collegare hardware Ascend, quindi copiare il .om risultante sul dispositivo target per l'inferenza.

Addestramento sulle NPU Ascend#

Ultralytics supporta l'addestramento su una o più NPU con torch_npu, inclusi AMP, convalida, salvataggio dei checkpoint, ripresa dell'addestramento e AutoBatch. Seleziona una NPU con device=npu:0 oppure più NPU con device=npu:0,1; l'addestramento distribuito usa HCCL. Installa versioni compatibili di CANN, PyTorch e torch_npu e, prima, carica l'ambiente CANN. Consulta la sezione sull'addestramento sulle NPU Ascend per esempi di installazione e utilizzo.

Formato di esportazione Ascend#

L'esportatore Ultralytics scrive prima un grafo ONNX intermedio, poi invoca ATC per compilarlo per il SoC target specificato con l'argomento name. Il risultato è una directory del modello autonoma contenente il file binario .om e i metadati Ultralytics.

Caratteristiche principali dei modelli Ascend#

• AI Core dedicato: i modelli compilati vengono eseguiti sull'Ascend AI Core anziché sulla CPU host, offrendo una velocità di elaborazione nettamente superiore per le pipeline di telecamere in tempo reale.
• Compilazione sull'host: ATC non richiede una NPU collegata, quindi l'esportazione può essere eseguita in CI, nei container o su un laptop.
• Basato su ONNX: l'esportazione ONNX standard di Ultralytics alimenta direttamente la toolchain CANN senza alcun formato intermedio proprietario.
• Forme statiche: la forma dell'input viene incorporata in .om durante la compilazione, eliminando l'overhead della negoziazione delle forme in fase di esecuzione.
• Supporto di più dispositivi: lo stesso grafo ONNX viene compilato per qualsiasi SoC supportato modificando name.

Attività supportate#

L'esportazione Huawei Ascend supporta tutti e sette i task Ultralytics. La segmentazione semantica e la stima della profondità sono disponibili solo con YOLO26, l'unica famiglia che include queste head.

Dispositivi supportati#

Passa il SoC target con name; ATC lo incorpora in .om come --soc_version, quindi deve corrispondere alla scheda su cui esegui la distribuzione. In locale puoi compilare per qualsiasi SoC per cui l'installazione CANN fornisce kernel. Ultralytics Platform supporta i target Ascend310P1, Ascend310P3, Ascend310B1 e Ascend310B4.

Esportazione su Ascend: convertire il modello YOLO#

Installazione#

Installa Ultralytics, quindi installa CANN separatamente da Huawei.

# Install the required package for YOLO
pip install ultralytics

Il toolkit CANN è distribuito da Huawei e non viene installato automaticamente. Scaricalo dalla pagina dei download della community Ascend oppure usa una delle ascendai/cann immagini container ufficiali, che includono ATC e le sue dipendenze.

Utilizzo#

Il formato Ascend supporta le modalità Export, Predict e Validate. L'inferenza e la convalida vengono eseguite su hardware Ascend. Esporta il modello, quindi carica il modello esportato per eseguire l'inferenza o convalidarne la precisione.

from ultralytics import YOLO

# Carica un modello YOLO26
model = YOLO("yolo26n.pt")

# Esporta il modello nel formato Ascend per una scheda Atlas 200I / OrangePi AIPro
model.export(format="ascend", name="Ascend310B4")

# Carica il modello Ascend esportato ed esegui l'inferenza sul dispositivo
ascend_model = YOLO("yolo26n_ascend_model")
results = ascend_model("https://ultralytics.com/images/bus.jpg")

Argomenti di esportazione#

Per ulteriori dettagli sul processo di esportazione, visita la pagina della documentazione Ultralytics dedicata all'esportazione.

Struttura dell'output#

Dopo un'esportazione riuscita, viene creata una directory del modello con la seguente struttura:

yolo26n_ascend_model/
├── yolo26n_Ascend310B4.om  # Compiled Ascend offline model (AI Core executable)
└── metadata.yaml           # Model metadata (classes, image size, task, etc.)

Il file .om è il modello offline compilato che il runtime CANN carica sul dispositivo. Il nome indica il SoC di destinazione, rendendo l'artefatto autoesplicativo; mantieni un solo .om per directory, poiché il loader seleziona l'unico modello che trova. metadata.yaml contiene i nomi delle classi, la dimensione dell'immagine e altre informazioni utilizzate dalla pipeline di inferenza Ultralytics.

Deployment dei modelli YOLO Ascend esportati#

Dopo aver esportato correttamente il modello Ultralytics YOLO nel formato Ascend, il passaggio successivo consiste nel distribuirlo sull'hardware Ascend.

Installazione del runtime#

L'inferenza richiede il runtime CANN sul dispositivo e il pacchetto Python ais_bench, che racchiude i binding pyACL di CANN. Compilalo e installalo dal repository degli strumenti Ascend di Huawei Ascend:

# On the Ascend device, with CANN installed and sourced
source /usr/local/Ascend/ascend-toolkit/set_env.sh

# Build and install the ais_bench inference wheel
git clone https://gitee.com/ascend/tools.git
cd tools/ais-bench_workload/tool/ais_bench
pip3 wheel ./backend -v
pip3 install ./aclruntime-*.whl
pip3 wheel ./ -v
pip3 install ./ais_bench-*.whl

Copia la directory yolo26n_ascend_model esportata sul dispositivo, quindi esegui l'inferenza esattamente come faresti con qualsiasi altro formato Ultralytics.

Flusso di lavoro consigliato#

1. Addestra il modello con la modalità di addestramento di Ultralytics oppure parti da un checkpoint preaddestrato.
2. Esporta in formato Ascend su qualsiasi host Linux con CANN installato, passando name corrispondente al SoC di destinazione.
3. Copia la directory del modello esportato sul dispositivo Ascend.
4. Esegui il deployment con il runtime CANN e ais_bench per l'inferenza sul dispositivo.

Applicazioni nel mondo reale#

I modelli YOLO in esecuzione sull'hardware Ascend sono adatti a un'ampia gamma di applicazioni di visione embedded e industriale:

• Automazione industriale: ispezione qualità ad alta velocità e rilevamento dei difetti sulle linee di produzione.
• Videosorveglianza intelligente: rilevamento di oggetti in tempo reale su più telecamere, tramite gateway edge senza un server centrale.
• Robotica: percezione a bordo per robot mobili autonomi e bracci collaborativi.
• Città intelligenti: monitoraggio del traffico e analisi dei pedoni su unità stradali a basso consumo.

Riepilogo#

In questa guida hai imparato ad addestrare Ultralytics YOLO sugli NPU Huawei Ascend e a esportare i modelli nel formato .om di Ascend usando il compilatore CANN ATC. L'esportazione viene eseguita interamente sull'host, produce una directory del modello autonoma e supporta qualsiasi SoC Ascend compatibile tramite un unico argomento name.

Per maggiori dettagli sull'utilizzo, consulta la documentazione ufficiale di CANN.

Inoltre, se vuoi saperne di più sulle altre integrazioni Ultralytics YOLO, visita la nostra pagina delle guide alle integrazioni per trovare molte risorse utili.

Domande frequenti#