Exportación y despliegue de Axelera AI#

Ultralytics colabora con Axelera AI para permitir inferencia de alto rendimiento y bajo consumo energético en dispositivos de Edge AI. Exporta y despliega Ultralytics YOLO models directamente en la Metis® AIPU utilizando el Voyager SDK.

Axelera AI ofrece aceleración de hardware dedicada para computer vision en el extremo, utilizando una arquitectura de flujo de datos patentada y in-memory computing para ofrecer hasta 856 TOPS con un bajo consumo de energía.

Selección del hardware adecuado#

Axelera AI ofrece varios factores de forma para adaptarse a diferentes limitaciones de despliegue. El siguiente gráfico ayuda a identificar el hardware óptimo para tu despliegue de Ultralytics YOLO.

graph TD
    A[Start: Select Deployment Target]:::start --> B{Device Type?}:::decide
    B -->|Edge Server / Workstation| C{Throughput Needs?}:::decide
    B -->|Embedded / Robotics| D{Space Constraints?}:::decide
    B -->|Standalone / R&D| E[Dev Kits & Systems]:::proc

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]:::out
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]:::out

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]:::out
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]:::out

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]:::out
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]:::out

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

Cartera de hardware#

La gama de hardware de Axelera está optimizada para ejecutar Ultralytics YOLO26 y versiones anteriores con una alta eficiencia de FPS por vatio.

Tarjetas aceleradoras#

Estas tarjetas permiten la aceleración de IA en dispositivos host existentes, facilitando brownfield deployments.

Sistemas integrados#

Para soluciones integrales, Axelera colabora con fabricantes para proporcionar sistemas prevalidos para la Metis AIPU.

• Metis Compute Board: Un dispositivo edge autónomo que combina la Metis AIPU con una CPU ARM Rockchip RK3588.
• Estaciones de trabajo: Torres empresariales de Dell (Precision 3460XE) y Lenovo (ThinkStation P360 Ultra).
• Industrial PCs: Sistemas robustos de Advantech y Aetina diseñados para manufacturing automation.

Tareas compatibles#

La estimación de profundidad no es compatible: el encabezado de profundidad emite operadores que el compilador de Metis AIPU no puede reducir. La segmentación de YOLO26 tampoco es compatible con Ultralytics export, pero aun así se puede desplegar a través del Voyager SDK como se describe a continuación.

Instalación#

Instalación de Ultralytics#

pip install ultralytics

Para obtener instrucciones detalladas, consulta nuestra Ultralytics Installation guide. Si encuentras dificultades, consulta nuestra Common Issues guide.

Instalación del controlador de Axelera#

1. Añade la clave del repositorio de Axelera:

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

2. Añade el repositorio a apt:

   Elige el fragmento correspondiente de abajo para que coincida con el SO que estás utilizando.

   # Ubuntu 22.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

   # Ubuntu 24.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu24 main' > /etc/apt/sources.list.d/axelera.list"

3. Instala el SDK y carga el controlador:

   sudo apt update
   sudo apt install -y metis-dkms=1.5.5
   sudo modprobe metis

[libaxldev.c:285] Found kernel driver version 1.4.16, but at least version 1.4.18 is required. Please update the kernel driver
ERROR: AXR_ERROR_CONNECTION_ERROR: Failed to open device metis-0:4:0

sudo apt update
sudo apt install -y metis-dkms=1.5.5
sudo rmmod metis
sudo modprobe metis

pip install axelera-devkit==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple
pip install axelera-rt==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple

Exportación de modelos YOLO a Axelera#

El formato de Axelera es compatible con los modos Export, Predict y Validate. La inferencia y la validación se ejecutan en el hardware Axelera Metis AIPU. Exporta tu modelo y luego cárgalo para ejecutar la inferencia o validar su precisión.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to Axelera format
model.export(format="axelera")  # creates 'yolo26n_axelera_model'

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Argumentos de exportación#

Para todas las opciones de exportación, consulta la Export Mode documentation.

Estructura de salida#

yolo26n_axelera_model/
├── yolo26n.axm                  # Axelera model file
├── compiler_config_final.toml  # Compiler configuration used for the build
└── metadata.yaml               # Model metadata (classes, image size, etc.)

Benchmarks de Axelera AI#

La Metis AIPU maximiza el rendimiento y minimiza el consumo de energía.

Benchmarks basados en datos de Axelera AI. Los FPS reales dependen del tamaño del modelo, el procesamiento por lotes y la resolución de entrada.

Aplicaciones en el mundo real#

Ultralytics YOLO en hardware Axelera permite soluciones avanzadas de computación edge:

• Smart Retail: object counting en tiempo real y heatmap analytics para la optimización de tiendas.
• Industrial Safety: PPE detection de baja latencia en entornos de fabricación.
• Drone Analytics: object detection de alta velocidad en vehículos aéreos no tripulados para agriculture y búsqueda y rescate.
• Traffic Systems: license plate recognition y speed estimation basados en el extremo.

Flujo de trabajo recomendado#

1. Entrena tu modelo usando el modo de entrenamiento de Ultralytics
2. Exporta al formato de Axelera utilizando model.export(format="axelera")
3. Valida la precisión con yolo val para comprobar que la pérdida por cuantización sea mínima
4. Predice usando yolo predict para la validación cualitativa
5. Despliega en una canalización de extremo a extremo de alto rendimiento sin dependencia de PyTorch; consulta los YOLO on Voyager SDK examples para ver canalizaciones de Python componibles usando axelera-rt

Comprobación del estado del dispositivo#

Verifica que tu dispositivo Axelera funcione correctamente:

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

Para diagnósticos detallados, consulta la AxDevice documentation.

Máximo rendimiento#

Esta integración utiliza una configuración de un solo núcleo por compatibilidad. Para producción que requiera el máximo rendimiento, el Axelera Voyager SDK ofrece:

• Utilización de múltiples núcleos (Metis AIPU de cuatro núcleos)
• Canalizaciones de inferencia en streaming
• Inferencia en mosaico (tiled) para cámaras de alta resolución

Consulta el model-zoo para ver las comparativas de FPS o contact Axelera para obtener soporte de producción.

Problemas conocidos#

Para obtener asistencia, visita la Axelera Community.

FAQ#