Exportação e Implementação Axelera AI

A Ultralytics faz parceria com a Axelera AI para permitir inferência de alto desempenho e energeticamente eficiente em dispositivos de Edge AI. Exporte e implemente modelos Ultralytics YOLO diretamente para a Metis® AIPU usando o Voyager SDK.

A Axelera AI oferece aceleração de hardware dedicada para visão computacional na borda, usando uma arquitetura de fluxo de dados proprietária e computação em memória para entregar até 856 TOPS com baixo consumo de energia.

Selecionando o Hardware Certo

A Axelera AI oferece vários formatos para atender a diferentes restrições de implantação. O gráfico abaixo ajuda a identificar o hardware ideal para sua implantação Ultralytics YOLO.

graph TD
    A[Start: Select Deployment Target] --> B{Device Type?}
    B -->|Edge Server / Workstation| C{Throughput Needs?}
    B -->|Embedded / Robotics| D{Space Constraints?}
    B -->|Standalone / R&D| E[Dev Kits & Systems]

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

Portfólio de Hardware

A linha de hardware Axelera é otimizada para executar Ultralytics YOLO26 e versões legadas com alta eficiência de FPS por watt.

Placas Aceleradoras

Essas placas permitem a aceleração de IA em dispositivos host existentes, facilitando implantações brownfield.

Sistemas Integrados

Para soluções completas, a Axelera faz parceria com fabricantes para fornecer sistemas pré-validados para o Metis AIPU.

• Placa de Computação Metis: Um dispositivo edge autónomo que emparelha o Metis AIPU com uma CPU ARM Rockchip RK3588.
• Workstations: Torres corporativas da Dell (Precision 3460XE) e Lenovo (ThinkStation P360 Ultra).
• PCs Industriais: Sistemas robustecidos da Advantech e Aetina projetados para automação de manufatura.

Tarefas Suportadas

As seguintes tarefas são suportadas nos modelos YOLOv8, YOLO11 e YOLO26.

Instalação

Instalação da Ultralytics

pip install ultralytics

Para instruções detalhadas, consulte nosso guia de Instalação Ultralytics. Se encontrar dificuldades, consulte nosso guia de Problemas Comuns.

Instalação do Driver Axelera

1. Adicione a chave do repositório Axelera:

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"
   

2. Adicione o repositório ao apt:

   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"
   

3. Instale o SDK e carregue o driver:

   sudo apt update
   sudo apt install -y metis-dkms=1.4.16
   sudo modprobe metis
   

Exportando Modelos YOLO para Axelera

Exporte seus modelos YOLO treinados usando o comando de exportação padrão da Ultralytics.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export to Axelera format
model.export(format="axelera")  # creates 'yolo26n_axelera_model' directory

yolo export model=yolo26n.pt format=axelera

Argumentos de Exportação

Para todas as opções de exportação, consulte a documentação do Modo de Exportação.

Estrutura de Saída

yolo26n_axelera_model/
├── yolo26n.axm              # Axelera model file
└── metadata.yaml            # Model metadata (classes, image size, etc.)

Executando a Inferência

Carregue o modelo exportado com a API Ultralytics e execute a inferência, semelhante ao carregamento de modelos ONNX.

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

# Process results
for r in results:
    print(f"Detected {len(r.boxes)} objects")
    r.show()  # Display results

yolo predict model='yolo26n_axelera_model' source='https://ultralytics.com/images/bus.jpg'

Testes de desempenho da Axelera AI

A Metis AIPU maximiza o throughput enquanto minimiza o consumo de energia.

Benchmarks baseados em dados da Axelera AI. O FPS real depende do tamanho do modelo, do batching e da resolução de entrada.

Aplicações no Mundo Real

O YOLO da Ultralytics no hardware da Axelera permite soluções avançadas de computação de ponta:

• Varejo Inteligente: Contagem de objetos em tempo real e análise de mapas de calor para otimização da loja.
• Segurança Industrial: Detecção de EPI de baixa latência em ambientes de fabricação.
• Análise com Drones: detect de objetos de alta velocidade em UAVs para agricultura e busca e salvamento.
• Sistemas de Tráfego: Reconhecimento de matrículas e estimativa de velocidade baseados na borda.

Fluxo de Trabalho Recomendado

1. Treine seu modelo usando o Modo de Treinamento da Ultralytics
2. Exportar para o formato Axelera usando model.export(format="axelera")
3. Validar precisão com yolo val para verificar a perda mínima de quantização
4. Prever usando yolo predict para validação qualitativa
5. Implantação para um pipeline completo de alto desempenho sem PyTorch — consulte o Exemplos YOLO SDK do Voyager para Python modulares utilizando axelera-rt

Verificação de Integridade do Dispositivo

Verifique se o seu dispositivo Axelera está funcionando corretamente:

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

Para diagnósticos detalhados, consulte a documentação do AxDevice.

Desempenho Máximo

Esta integração utiliza uma configuração de núcleo único para compatibilidade. Para produção que exige throughput máximo, o Axelera Voyager SDK oferece:

• Utilização multi-core (AIPU Metis quad-core)
• Pipelines de inferência em streaming
• Inferência em mosaico para câmeras de maior resolução

Consulte o model-zoo para benchmarks de FPS ou entre em contato com a Axelera para suporte de produção.

Problemas Conhecidos

Para suporte, visite a Comunidade Axelera.

FAQ

Quais versões do YOLO são suportadas no Axelera?

O SDK do Voyager suporta a exportação de YOLOv8, YOLO11e YOLO26. Consulte Tarefas suportadas para ver a disponibilidade de tarefas por modelo.

Posso implantar modelos treinados personalizados?

Sim. Qualquer modelo treinado usando o Modo de Treinamento Ultralytics pode ser exportado para o formato Axelera, desde que utilize camadas e operações suportadas.

Como a quantização INT8 afeta a precisão?

O Voyager SDK da Axelera quantiza automaticamente modelos para a arquitetura AIPU de precisão mista. Para a maioria das detecção de objetos tarefas, os ganhos de desempenho (FPS mais alto, menor consumo de energia) superam significativamente o impacto mínimo na mAP. A quantização leva de segundos a várias horas, dependendo do tamanho do modelo. Execute yolo val após a exportação para verificar a precisão.

Quantas imagens de calibração devo usar?

Recomendamos de 100 a 400 imagens. Mais de 400 não oferece benefício adicional e aumenta o tempo de quantização. Experimente com 100, 200 e 400 imagens para encontrar o equilíbrio ideal.

Onde posso encontrar o SDK do Voyager?

O SDK, os drivers e as ferramentas de compilação estão disponíveis através do Portal do Desenvolvedor da Axelera.

📅 Criado há 4 meses ✏️ Atualizado há 3 dias

Comentários