Exportação e implantação da Axelera AI#

A Ultralytics faz parceria com a Axelera AI para permitir inferência de alto desempenho e eficiente em termos de energia em dispositivos de Edge AI. Exporte e implante modelos Ultralytics YOLO diretamente no Metis® AIPU usando o Voyager SDK.

A Axelera AI fornece aceleração de hardware dedicada para visão computacional na borda, usando uma arquitetura de fluxo de dados proprietária e computação em memória para entregar até 856 TOPS com baixo consumo de energia.

Selecionando o hardware certo#

A Axelera AI oferece vários formatos para atender a diferentes restrições de implantação. O gráfico abaixo ajuda a identificar o hardware ideal para sua implantação do Ultralytics YOLO.

graph TD
    A[Start: Select Deployment Target]:::start --> B{Device Type?}:::decide
    B -->|Edge Server / Workstation| C{Throughput Needs?}:::decide
    B -->|Embedded / Robotics| D{Space Constraints?}:::decide
    B -->|Standalone / R&D| E[Dev Kits & Systems]:::proc

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]:::out
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]:::out

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]:::out
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]:::out

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]:::out
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]:::out

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

Portfólio de hardware#

A linha de hardware da Axelera é otimizada para executar o Ultralytics YOLO26 e versões legadas com alta eficiência de FPS por watt.

Placas aceleradoras#

Essas placas permitem a aceleração de IA em dispositivos host existentes, facilitando implantações brownfield.

Sistemas integrados#

Para soluções completas, a Axelera faz parceria com fabricantes para fornecer sistemas pré-validados para o Metis AIPU.

• Placa de Computação Metis: Um dispositivo de borda autônomo que combina o Metis AIPU com um processador ARM Rockchip RK3588.
• Workstations: Torres corporativas da Dell (Precision 3460XE) e Lenovo (ThinkStation P360 Ultra).
• PCs Industriais: Sistemas robustos da Advantech e Aetina projetados para automação de manufatura.

Tarefas Suportadas#

A estimativa de profundidade não é suportada: o cabeçote de profundidade emite operadores que o compilador do Metis AIPU não consegue abaixar. A segmentação do YOLO26 também não é suportada pelo Ultralytics export, mas ainda pode ser implantada por meio do Voyager SDK conforme descrito abaixo.

Instalação#

Instalação do Ultralytics#

pip install ultralytics

Para instruções detalhadas, consulte nosso Guia de Instalação do Ultralytics. Se encontrar dificuldades, consulte nosso Guia de Problemas Comuns.

Instalação do driver Axelera#

1. Adicione a chave do repositório Axelera:

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

2. Adicione o repositório ao apt:

   Escolha o trecho apropriado abaixo para corresponder ao SO que você está usando.

   # Ubuntu 22.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

   # Ubuntu 24.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu24 main' > /etc/apt/sources.list.d/axelera.list"

3. Instale o SDK e carregue o driver:

   sudo apt update
   sudo apt install -y metis-dkms=1.5.5
   sudo modprobe metis

[libaxldev.c:285] Found kernel driver version 1.4.16, but at least version 1.4.18 is required. Please update the kernel driver
ERROR: AXR_ERROR_CONNECTION_ERROR: Failed to open device metis-0:4:0

sudo apt update
sudo apt install -y metis-dkms=1.5.5
sudo rmmod metis
sudo modprobe metis

pip install axelera-devkit==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple
pip install axelera-rt==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple

Exportando modelos YOLO para Axelera#

O formato Axelera suporta os modos Export, Predict e Validate. A inferência e a validação são executadas no hardware Axelera Metis AIPU. Exporte seu modelo e, em seguida, carregue o modelo exportado para executar a inferência ou validar sua precisão.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to Axelera format
model.export(format="axelera")  # creates 'yolo26n_axelera_model'

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Argumentos de Exportação#

Para todas as opções de exportação, consulte a documentação do Export Mode.

Estrutura de Saída#

yolo26n_axelera_model/
├── yolo26n.axm                  # Axelera model file
├── compiler_config_final.toml  # Compiler configuration used for the build
└── metadata.yaml               # Model metadata (classes, image size, etc.)

Benchmarks da Axelera AI#

O Metis AIPU maximiza a taxa de transferência enquanto minimiza o consumo de energia.

Benchmarks baseados em dados da Axelera AI. O FPS real depende do tamanho do modelo, do lote e da resolução da entrada.

Aplicações do Mundo Real#

O Ultralytics YOLO no hardware Axelera permite soluções avançadas de computação de borda:

• Smart Retail: Contagem de objetos em tempo real e análise de mapa de calor para otimização de lojas.
• Segurança Industrial: Detecção de EPI de baixa latência em ambientes de fabricação.
• Análise por Drone: Detecção de objetos de alta velocidade em UAVs para agricultura e busca e salvamento.
• Sistemas de Tráfego: Reconhecimento de placas de veículos baseado em borda e estimativa de velocidade.

Fluxo de Trabalho Recomendado#

1. Treine seu modelo usando o Modo de Treinamento do Ultralytics
2. Exportar para o formato Axelera usando model.export(format="axelera")
3. Valide a precisão com yolo val para verificar a perda mínima de quantização
4. Preveja usando yolo predict para validação qualitativa
5. Implantar em um pipeline ponta a ponta de alto desempenho sem dependência do PyTorch — consulte os exemplos de YOLO no Voyager SDK para pipelines Python componíveis usando axelera-rt

Verificação de integridade do dispositivo#

Verifique se seu dispositivo Axelera está funcionando corretamente:

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

Para diagnósticos detalhados, consulte a documentação do AxDevice.

Desempenho Máximo#

Esta integração usa configuração de núcleo único para compatibilidade. Para produção que exige vazão máxima, o Axelera Voyager SDK oferece:

• Utilização multi-core (Metis AIPU quad-core)
• Pipelines de inferência em streaming
• Inferência por blocos (tiled) para câmeras de alta resolução

Consulte o model-zoo para benchmarks de FPS ou entre em contato com a Axelera para suporte de produção.

Problemas conhecidos#

Para suporte, visite a Comunidade Axelera.

FAQ#