Axelera AI 내보내기 및 배포#

Ultralytics는 Axelera AI와 파트너십을 맺고 Edge AI 장치에서 고성능, 고효율 추론을 지원합니다. Voyager SDK를 사용하여 Ultralytics YOLO 모델을 Metis® AIPU로 직접 내보내고 배포할 수 있습니다.

Axelera AI는 독자적인 데이터플로우 아키텍처와 인메모리 컴퓨팅을 사용하여 엣지에서의 컴퓨터 비전을 위한 전용 하드웨어 가속을 제공하며, 낮은 전력 소비로 최대 856 TOPS의 성능을 발휘합니다.

올바른 하드웨어 선택하기#

Axelera AI는 다양한 배포 제약 조건에 맞는 여러 폼 팩터를 제공합니다. 아래 차트는 귀하의 Ultralytics YOLO 배포에 최적화된 하드웨어를 식별하는 데 도움을 줍니다.

graph TD
    A[Start: Select Deployment Target]:::start --> B{Device Type?}:::decide
    B -->|Edge Server / Workstation| C{Throughput Needs?}:::decide
    B -->|Embedded / Robotics| D{Space Constraints?}:::decide
    B -->|Standalone / R&D| E[Dev Kits & Systems]:::proc

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]:::out
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]:::out

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]:::out
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]:::out

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]:::out
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]:::out

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

하드웨어 포트폴리오#

Axelera 하드웨어 라인업은 Ultralytics YOLO26 및 이전 버전을 높은 와트당 FPS 효율로 실행할 수 있도록 최적화되어 있습니다.

가속기 카드#

이 카드는 기존 호스트 장치에서 AI 가속을 활성화하여 브라운필드 배포를 용이하게 합니다.

통합 시스템#

턴키 솔루션을 위해 Axelera는 제조업체와 파트너십을 맺고 Metis AIPU용으로 사전 검증된 시스템을 제공합니다.

• Metis Compute Board: Metis AIPU와 Rockchip RK3588 ARM CPU를 결합한 독립형 엣지 장치입니다.
• 워크스테이션: Dell(Precision 3460XE) 및 Lenovo(ThinkStation P360 Ultra)의 엔터프라이즈 타워형 시스템입니다.
• 산업용 PC: 제조 자동화를 위해 설계된 Advantech 및 Aetina의 견고한 시스템입니다.

지원되는 작업#

깊이 추정은 지원되지 않습니다. 깊이 헤드는 Metis AIPU 컴파일러가 내릴 수 없는 연산자를 생성합니다. YOLO26 분할 역시 Ultralytics export에서 지원되지 않지만, 아래에 설명된 대로 Voyager SDK를 통해 계속 배포할 수 있습니다.

설치#

Ultralytics 설치#

pip install ultralytics

자세한 지침은 Ultralytics 설치 가이드를 참조하세요. 문제가 발생하면 일반적인 문제 가이드를 확인하세요.

Axelera 드라이버 설치#

1. Axelera 저장소 키를 추가하십시오:

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

2. apt에 저장소를 추가하십시오:

   사용 중인 운영 체제에 맞는 아래의 코드 스니펫을 선택하십시오.

   # Ubuntu 22.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

   # Ubuntu 24.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu24 main' > /etc/apt/sources.list.d/axelera.list"

3. SDK를 설치하고 드라이버를 로드하십시오:

   sudo apt update
   sudo apt install -y metis-dkms=1.5.5
   sudo modprobe metis

[libaxldev.c:285] Found kernel driver version 1.4.16, but at least version 1.4.18 is required. Please update the kernel driver
ERROR: AXR_ERROR_CONNECTION_ERROR: Failed to open device metis-0:4:0

sudo apt update
sudo apt install -y metis-dkms=1.5.5
sudo rmmod metis
sudo modprobe metis

pip install axelera-devkit==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple
pip install axelera-rt==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple

YOLO 모델을 Axelera로 내보내기#

Axelera 형식은 Export, Predict, Validate 모드를 지원합니다. 추론과 검증은 Axelera Metis AIPU 하드웨어에서 실행됩니다. 모델을 내보낸 다음 내보낸 모델을 로드하여 추론을 실행하거나 정확도를 검증하세요.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to Axelera format
model.export(format="axelera")  # creates 'yolo26n_axelera_model'

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

내보내기 인수#

모든 내보내기 옵션에 대해서는 내보내기 모드 문서를 참조하세요.

출력 구조#

yolo26n_axelera_model/
├── yolo26n.axm                  # Axelera model file
├── compiler_config_final.toml  # Compiler configuration used for the build
└── metadata.yaml               # Model metadata (classes, image size, etc.)

Axelera AI 벤치마크#

Metis AIPU는 에너지 소비를 최소화하면서 처리량을 극대화합니다.

벤치마크는 Axelera AI 데이터를 기반으로 합니다. 실제 FPS는 모델 크기, 배치 처리 및 입력 해상도에 따라 다릅니다.

실제 활용 사례#

Axelera 하드웨어에서의 Ultralytics YOLO는 고급 엣지 컴퓨팅 솔루션을 구현합니다:

• 스마트 리테일: 매장 최적화를 위한 실시간 객체 카운팅 및 히트맵 분석.
• 산업 안전: 제조 환경에서의 저지연 PPE 감지.
• 드론 분석: 농업 및 수색 구조 활동을 위해 UAV에서 수행하는 고속 객체 감지.
• 교통 시스템: 엣지 기반 번호판 인식 및 속도 추정.

권장 워크플로우#

1. Ultralytics 학습 모드를 사용하여 모델 학습
2. model.export(format="axelera")을 사용하여 Axelera 형식으로 내보내기
3. yolo val으로 정확도를 검증하여 최소한의 양자화 손실 확인
4. 정성적 검증을 위해 yolo predict을 사용하여 예측 수행
5. PyTorch 의존성 없이 고성능 엔드투엔드 파이프라인으로 배포하세요 — axelera-rt을 사용하는 컴포저블 Python 파이프라인에 대해서는 YOLO on Voyager SDK 예제를 참조하세요.

장치 상태 점검#

Axelera 장치가 정상적으로 작동하는지 확인하십시오:

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

자세한 진단 정보는 AxDevice 문서를 참조하세요.

최대 성능#

이 통합은 호환성을 위해 싱글 코어 구성을 사용합니다. 최대 처리량이 필요한 프로덕션의 경우 Axelera Voyager SDK에서 다음 기능을 제공합니다:

• 멀티 코어 활용 (쿼드 코어 Metis AIPU)
• 스트리밍 추론 파이프라인
• 고해상도 카메라를 위한 타일형 추론(Tiled inferencing)

FPS 벤치마크는 모델 랜드를 참조하거나 프로덕션 지원은 Axelera에 문의하세요.

알려진 문제#

지원이 필요한 경우 Axelera 커뮤니티를 방문하세요.

FAQ#