Exportación y Despliegue de Axelera AI

Ultralytics se asocia con Axelera AI para habilitar inferencia de alto rendimiento y eficiencia energética en dispositivos Edge AI. Exporte y despliegue modelos Ultralytics YOLO directamente a la Metis® AIPU utilizando el Voyager SDK.

Axelera AI proporciona aceleración de hardware dedicada para visión artificial en el edge, utilizando una arquitectura de flujo de datos propietaria y computación en memoria para ofrecer hasta 856 TOPS con bajo consumo de energía.

Seleccionar el hardware adecuado

Axelera AI ofrece varios factores de forma para adaptarse a diferentes restricciones de implementación. El siguiente gráfico ayuda a identificar el hardware óptimo para su implementación de Ultralytics YOLO.

graph TD
    A[Start: Select Deployment Target] --> B{Device Type?}
    B -->|Edge Server / Workstation| C{Throughput Needs?}
    B -->|Embedded / Robotics| D{Space Constraints?}
    B -->|Standalone / R&D| E[Dev Kits & Systems]

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

Portfolio de hardware

La línea de hardware de Axelera está optimizada para ejecutar Ultralytics YOLO26 y versiones anteriores con una alta eficiencia de FPS por vatio.

Tarjetas aceleradoras

Estas tarjetas permiten la aceleración de la IA en los dispositivos host existentes, lo que facilita las implementaciones brownfield.

Sistemas Integrados

Para soluciones llave en mano, Axelera se asocia con fabricantes para proporcionar sistemas prevalidados para el Metis AIPU.

• Placa de cómputo Metis: Un dispositivo de borde independiente que combina el Metis AIPU con una CPU ARM Rockchip RK3588.
• Estaciones de trabajo: Torres empresariales de Dell (Precision 3460XE) y Lenovo (ThinkStation P360 Ultra).
• PCs industriales: Sistemas robustecidos de Advantech y Aetina diseñados para la automatización de la fabricación.

Tareas admitidas

Las siguientes tareas son compatibles con los modelos YOLOv8, YOLO11 y YOLO26.

Instalación

Instalación de Ultralytics

pip install ultralytics

Para obtener instrucciones detalladas, consulte nuestra guía de instalación de Ultralytics. Si encuentra dificultades, consulte nuestra guía de problemas comunes.

Instalación del Controlador de Axelera

1. Añada la clave del repositorio de Axelera:

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"
   

2. Añada el repositorio a apt:

   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"
   

3. Instale el SDK y cargue el controlador:

   sudo apt update
   sudo apt install -y metis-dkms=1.4.16
   sudo modprobe metis
   

Exportación de modelos YOLO a Axelera

Exporte sus modelos YOLO entrenados utilizando el comando de exportación estándar de Ultralytics.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export to Axelera format
model.export(format="axelera")  # creates 'yolo26n_axelera_model' directory

yolo export model=yolo26n.pt format=axelera

Argumentos de exportación

Para todas las opciones de exportación, consulte la documentación del modo de exportación.

Estructura de Salida

yolo26n_axelera_model/
├── yolo26n.axm              # Axelera model file
└── metadata.yaml            # Model metadata (classes, image size, etc.)

Ejecutando la inferencia

Cargue el modelo exportado con la API de Ultralytics y ejecute la inferencia, de forma similar a la carga de modelos ONNX.

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

# Process results
for r in results:
    print(f"Detected {len(r.boxes)} objects")
    r.show()  # Display results

yolo predict model='yolo26n_axelera_model' source='https://ultralytics.com/images/bus.jpg'

Pruebas de rendimiento de Axelera AI

La AIPU Metis maximiza el rendimiento minimizando el consumo de energía.

Puntos de referencia basados en datos de Axelera AI. Los FPS reales dependen del tamaño del modelo, el procesamiento por lotes y la resolución de entrada.

Aplicaciones en el mundo real

Ultralytics YOLO en hardware de Axelera permite soluciones avanzadas de computación en el borde:

• Retail Inteligente: Conteo de objetos en tiempo real y análisis de mapas de calor para la optimización de la tienda.
• Seguridad industrial: Detección de EPI de baja latencia en entornos de fabricación.
• Análisis con drones: Detección de objetos de alta velocidad en UAV para agricultura y búsqueda y rescate.
• Sistemas de tráfico: Reconocimiento de matrículas y estimación de velocidad basados en Edge.

Flujo de Trabajo Recomendado

1. Entrene su modelo utilizando el modo de entrenamiento de Ultralytics
2. Exportar a formato Axelera utilizando model.export(format="axelera")
3. Validar precisión con yolo val para verificar la pérdida mínima de cuantificación
4. Predecir usando yolo predict para validación cualitativa
5. Despliegue a un proceso integral de alto rendimiento sin PyTorch ; consulta el Ejemplos de YOLO el SDK de Voyager para Python modulables que utilizan axelera-rt

Verificación del Estado del Dispositivo

Verifique que su dispositivo Axelera esté funcionando correctamente:

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

Para diagnósticos detallados, consulte la documentación de AxDevice.

Rendimiento Máximo

Esta integración utiliza una configuración de un solo núcleo para compatibilidad. Para producción que requiera el máximo rendimiento, el SDK Axelera Voyager ofrece:

• Utilización multinúcleo (AIPU Metis de cuatro núcleos)
• Pipelines de inferencia en streaming
• Inferencia por teselas para cámaras de mayor resolución

Consulte el model-zoo para puntos de referencia de FPS o contacte a Axelera para soporte de producción.

Problemas Conocidos

Para soporte, visite la Comunidad Axelera.

Preguntas frecuentes

¿Qué versiones de YOLO son compatibles con Axelera?

El SDK de Voyager permite exportar YOLOv8, YOLO11y YOLO26. Consulte Tareas compatibles para ver la disponibilidad de tareas por modelo.

¿Puedo desplegar modelos entrenados a medida?

Sí. Cualquier modelo entrenado usando el Modo de entrenamiento de Ultralytics se puede exportar al formato Axelera, siempre que utilice capas y operaciones compatibles.

¿Cómo afecta la cuantificación INT8 a la precisión?

El SDK Voyager de Axelera cuantifica automáticamente los modelos para la arquitectura AIPU de precisión mixta. Para la mayoría de las detección de objetos tareas, las mejoras de rendimiento (mayor FPS, menor consumo de energía) superan significativamente el impacto mínimo en mAP. La cuantificación tarda desde segundos hasta varias horas, dependiendo del tamaño del modelo. Ejecute yolo val después de la exportación para verificar la precisión.

¿Cuántas imágenes de calibración debo usar?

Recomendamos de 100 a 400 imágenes. Más de 400 no proporciona ningún beneficio adicional y aumenta el tiempo de cuantificación. Experimente con 100, 200 y 400 imágenes para encontrar el equilibrio óptimo.

¿Dónde puedo encontrar el SDK de Voyager?

El SDK, los controladores y las herramientas del compilador están disponibles a través del Portal para desarrolladores de Axelera.

📅 Creado hace 4 meses ✏️ Actualizado hace 3 días

Comentarios