Integração Huawei Ascend para Ultralytics YOLO#

Implantar modelos de visão computacional em Processadores de IA Huawei Ascend requer compilá-los para o formato de modelo offline .om executado pelo Ascend AI Core. Exportar modelos do Ultralytics YOLO para o Ascend permite que executes inferência rápida e de baixo consumo de energia em placas de desenvolvedor Atlas e dispositivos OrangePi AIPro usados em robótica, inspeção industrial e implantações de câmeras inteligentes.

O que é o Huawei Ascend?#

O Huawei Ascend é uma família de Processadores de IA combinada com o CANN (Compute Architecture for Neural Networks), a pilha de computação heterogênea da Huawei. O CANN inclui o ATC (Ascend Tensor Compiler), uma ferramenta do lado do host que converte um grafo ONNX padrão em um modelo offline .om específico de hardware direcionado ao Ascend AI Core.

Como o ATC é executado inteiramente no host, podes compilar modelos numa máquina Linux x86-64 ou ARM64 comum, sem nenhum hardware Ascend conectado, e depois copiar o .om resultante para o dispositivo de destino para inferência.

Treina em NPU da Ascend#

O Ultralytics suporta treino de NPU única e múltipla com torch_npu, incluindo AMP, validação, criação de pontos de controlo (checkpointing), retoma (resume) e AutoBatch. Seleciona uma NPU com device=npu:0 ou várias NPUs com device=npu:0,1; o treino distribuído usa o HCCL. Instala versões compatíveis do CANN, PyTorch e torch_npu e configura o ambiente CANN primeiro. Consulta a seção de treino de NPU Ascend para exemplos de instalação e uso.

Formato de Exportação Ascend#

O exportador do Ultralytics primeiro escreve um grafo ONNX intermediário, depois invoca o ATC para compilá-lo para o SoC que defines com o argumento name. O resultado é um diretório de modelo autossuficiente contendo o binário .om e seus metadados do Ultralytics.

Principais Recursos dos Modelos Ascend#

• AI Core Dedicado: Modelos compilados são executados no Ascend AI Core em vez da CPU do host, oferecendo uma taxa de transferência substancialmente maior para pipelines de câmera em tempo real.
• Compilação no lado do host: O ATC não precisa de nenhuma NPU conectada, portanto a exportação é executada em CI, em contêineres ou em um laptop.
• ONNX em primeiro lugar: A exportação ONNX do Ultralytics padrão alimenta diretamente a cadeia de ferramentas do CANN, sem nenhum formato intermediário proprietário.
• Formas estáticas: A forma (shape) de entrada é integrada ao .om no momento da compilação, eliminando a sobrecarga de negociação de formas em tempo de execução.
• Direcionamento para múltiplos dispositivos: O mesmo grafo ONNX é compilado para qualquer SoC suportado alterando o name.

Tarefas Suportadas#

A exportação para o Huawei Ascend suporta todas as sete tarefas do Ultralytics. A segmentação semântica e a estimativa de profundidade estão disponíveis apenas com o YOLO26, a única família que possui esses cabeçotes.

Dispositivos Compatíveis#

Passa o SoC de destino com name; o ATC o incorpora no .om como --soc_version, portanto, deve corresponder à placa em que fazes a implantação. Localmente, podes compilar para qualquer SoC para o qual a tua instalação do CANN forneça kernels. A Ultralytics Platform suporta os destinos Ascend310P1, Ascend310P3, Ascend310B1 e Ascend310B4.

Exportando para o Ascend: Convertendo o Seu Modelo YOLO#

Instalação#

Instale o Ultralytics e, em seguida, instale o CANN separadamente a partir da Huawei.

# Install the required package for YOLO
pip install ultralytics

O kit de ferramentas CANN é distribuído pela Huawei e não é instalado automaticamente. Transfere-o da página de transferência da comunidade Ascend ou usa uma das imagens de contentor oficiais do ascendai/cann, que incluem o ATC e suas dependências.

Uso#

O formato Ascend suporta os modos Exportar, Prever e Validar. A inferência e a validação são executadas em hardware Ascend. Exporta o teu modelo e, em seguida, carrega o modelo exportado para executar a inferência ou validar a sua precisão.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to Ascend format for an Atlas 200I / OrangePi AIPro board
model.export(format="ascend", name="Ascend310B4")

# Load the exported Ascend model and run inference on the device
ascend_model = YOLO("yolo26n_ascend_model")
results = ascend_model("https://ultralytics.com/images/bus.jpg")

Argumentos de Exportação#

Para mais detalhes sobre o processo de exportação, visita a página de documentação do Ultralytics sobre exportação.

Estrutura de Saída#

Após uma exportação bem-sucedida, um diretório de modelo é criado com o seguinte layout:

yolo26n_ascend_model/
├── yolo26n_Ascend310B4.om  # Compiled Ascend offline model (AI Core executable)
└── metadata.yaml           # Model metadata (classes, image size, task, etc.)

O ficheiro .om é o modelo offline compilado que o runtime do CANN carrega no dispositivo. O seu nome carrega o SoC de destino para que o artefato seja autodescritivo; mantém um .om por diretório, já que o carregador escolhe o único modelo que encontra lá. O metadata.yaml contém nomes de classes, tamanho da imagem e outras informações usadas pelo pipeline de inferência do Ultralytics.

Implantando Modelos YOLO Ascend Exportados#

Assim que você exportar com sucesso o seu modelo Ultralytics YOLO para o formato Ascend, o próximo passo será implantá-lo em hardware Ascend.

Instalação do Runtime#

A inferência requer o runtime do CANN no dispositivo mais o pacote Python ais_bench, que encapsula as ligações pyACL do CANN. Compila e instala-o a partir do repositório de ferramentas Ascend da Huawei:

# On the Ascend device, with CANN installed and sourced
source /usr/local/Ascend/ascend-toolkit/set_env.sh

# Build and install the ais_bench inference wheel
git clone https://gitee.com/ascend/tools.git
cd tools/ais-bench_workload/tool/ais_bench
pip3 wheel ./backend -v
pip3 install ./aclruntime-*.whl
pip3 wheel ./ -v
pip3 install ./ais_bench-*.whl

Copia o diretório yolo26n_ascend_model exportado para o dispositivo e, em seguida, executa a inferência exatamente como farias com qualquer outro formato do Ultralytics.

Fluxo de Trabalho Recomendado#

1. Treina o teu modelo usando o Modo de Treino do Ultralytics ou começa a partir de um ponto de controlo pré-treinado.
2. Exporta para o Ascend em qualquer anfitrião (host) Linux com o CANN instalado, passando o name que corresponde ao teu SoC de destino.
3. Copie o diretório do modelo exportado para o dispositivo Ascend.
4. Implanta com o runtime do CANN e o ais_bench para inferência no próprio dispositivo.

Aplicações do Mundo Real#

Modelos YOLO executados em hardware Ascend adequam-se a uma ampla gama de aplicações de visão embarcada e industrial:

• Automação Industrial: Inspeção de qualidade em alta velocidade e detecção de defeitos em linhas de produção.
• Vigilância Inteligente: Detecção de objetos em tempo real com múltiplas câmeras em gateways de borda, sem a necessidade de um servidor central.
• Robótica: Percepção embarcada para robôs móveis autônomos e braços colaborativos.
• Cidades Inteligentes: Monitoramento de tráfego e análise de pedestres em unidades de borda de baixo consumo.

Resumo#

Neste guia, aprendeste a treinar o Ultralytics YOLO em NPUs Huawei Ascend e a exportar modelos para o formato Ascend .om usando o compilador CANN ATC. A exportação é executada inteiramente no host, produz um diretório de modelo autossuficiente e direciona qualquer SoC Ascend suportado por meio de um único argumento name.

Para mais detalhes sobre o uso, visita a documentação oficial do CANN.

Além disso, se quiseres saber mais sobre outras integrações do Ultralytics YOLO, visita a nossa página do guia de integração para encontrar vários recursos úteis.

FAQ#