Axelera AI 내보내기 및 배포#

Ultralytics는 Axelera AI와 파트너십을 맺고 Edge AI 장치에서 고성능, 고효율 추론을 지원합니다. Voyager SDK를 사용하여 Ultralytics YOLO 모델을 Metis® AIPU로 직접 내보내고 배포할 수 있습니다.

Axelera AI는 독자적인 데이터플로우 아키텍처와 인메모리 컴퓨팅을 사용하여 엣지에서의 컴퓨터 비전을 위한 전용 하드웨어 가속을 제공하며, 낮은 전력 소비로 최대 856 TOPS의 성능을 발휘합니다.

올바른 하드웨어 선택하기#

Axelera AI는 다양한 배포 제약 조건에 맞는 여러 폼 팩터를 제공합니다. 아래 차트는 귀하의 Ultralytics YOLO 배포에 최적화된 하드웨어를 식별하는 데 도움을 줍니다.

graph TD
    A[Start: Select Deployment Target]:::start --> B{Device Type?}:::decide
    B -->|Edge Server / Workstation| C{Throughput Needs?}:::decide
    B -->|Embedded / Robotics| D{Space Constraints?}:::decide
    B -->|Standalone / R&D| E[Dev Kits & Systems]:::proc

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]:::out
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]:::out

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]:::out
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]:::out

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]:::out
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]:::out

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

하드웨어 포트폴리오#

Axelera 하드웨어 라인업은 Ultralytics YOLO26 및 이전 버전을 높은 와트당 FPS 효율로 실행할 수 있도록 최적화되어 있습니다.

가속기 카드#

이 카드는 기존 호스트 장치에서 AI 가속을 활성화하여 브라운필드 배포를 용이하게 합니다.

통합 시스템#

턴키 솔루션을 위해 Axelera는 제조업체와 파트너십을 맺고 Metis AIPU용으로 사전 검증된 시스템을 제공합니다.

• Metis Compute Board: Metis AIPU와 Rockchip RK3588 ARM CPU를 결합한 독립형 엣지 장치입니다.
• 워크스테이션: Dell(Precision 3460XE) 및 Lenovo(ThinkStation P360 Ultra)의 엔터프라이즈 타워형 시스템입니다.
• 산업용 PC: 제조 자동화를 위해 설계된 Advantech 및 Aetina의 견고한 시스템입니다.

지원되는 작업#

깊이 추정은 지원되지 않습니다. 깊이 헤드는 Metis AIPU 컴파일러가 내릴 수 없는 연산자를 생성합니다. YOLO26 분할 역시 Ultralytics export에서 지원되지 않지만, 아래에 설명된 대로 Voyager SDK를 통해 계속 배포할 수 있습니다.

설치#

Ultralytics 설치#

pip install ultralytics

자세한 지침은 Ultralytics 설치 가이드를 참조하세요. 문제가 발생하면 일반적인 문제 가이드를 확인하세요.

Axelera 드라이버 설치#

1. Axelera 저장소 키를 추가하십시오:

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

2. apt에 저장소를 추가하십시오:

   사용 중인 운영 체제에 맞는 아래의 코드 스니펫을 선택하십시오.

   # Ubuntu 22.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

   # Ubuntu 24.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu24 main' > /etc/apt/sources.list.d/axelera.list"

3. SDK를 설치하고 드라이버를 로드하십시오:

   sudo apt update
   sudo apt install -y metis-dkms=1.5.5
   sudo modprobe metis

[libaxldev.c:285] Found kernel driver version 1.4.16, but at least version 1.4.18 is required. Please update the kernel driver
ERROR: AXR_ERROR_CONNECTION_ERROR: Failed to open device metis-0:4:0

sudo apt update
sudo apt install -y metis-dkms=1.5.5
sudo rmmod metis
sudo modprobe metis

pip install axelera-devkit==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple
pip install axelera-rt==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple

YOLO 모델을 Axelera로 내보내기#

Axelera 형식은 Export, Predict, Validate 모드를 지원합니다. 추론과 검증은 Axelera Metis AIPU 하드웨어에서 실행됩니다. 모델을 내보낸 다음 내보낸 모델을 로드하여 추론을 실행하거나 정확도를 검증하세요.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to Axelera format
model.export(format="axelera")  # creates 'yolo26n_axelera_model'

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

내보내기 인수#

모든 내보내기 옵션에 대해서는 내보내기 모드 문서를 참조하세요.

출력 구조#

yolo26n_axelera_model/
├── yolo26n.axm                  # Axelera model file
├── compiler_config_final.toml  # Compiler configuration used for the build
└── metadata.yaml               # Model metadata (classes, image size, etc.)

Axelera AI 벤치마크#

Metis AIPU는 에너지 소비를 최소화하면서 처리량을 극대화합니다.

벤치마크는 Axelera AI 데이터를 기반으로 합니다. 실제 FPS는 모델 크기, 배치 처리 및 입력 해상도에 따라 다릅니다.

실제 활용 사례#

Axelera 하드웨어에서의 Ultralytics YOLO는 고급 엣지 컴퓨팅 솔루션을 구현합니다:

• 스마트 리테일: 매장 최적화를 위한 실시간 객체 카운팅 및 히트맵 분석.
• 산업 안전: 제조 환경에서의 저지연 PPE 감지.
• 드론 분석: 농업 및 수색 구조 활동을 위해 UAV에서 수행하는 고속 객체 감지.
• 교통 시스템: 엣지 기반 번호판 인식 및 속도 추정.

권장 워크플로우#

1. Ultralytics 학습 모드를 사용하여 모델 학습
2. model.export(format="axelera")을 사용하여 Axelera 형식으로 내보내기
3. yolo val으로 정확도를 검증하여 최소한의 양자화 손실 확인
4. 정성적 검증을 위해 yolo predict을 사용하여 예측 수행
5. PyTorch 의존성 없이 고성능 엔드투엔드 파이프라인으로 배포하세요 — axelera-rt을 사용하는 컴포저블 Python 파이프라인에 대해서는 YOLO on Voyager SDK 예제를 참조하세요.

장치 상태 점검#

Axelera 장치가 정상적으로 작동하는지 확인하십시오:

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

자세한 진단 정보는 AxDevice 문서를 참조하세요.

최대 성능#

이 통합은 호환성을 위해 싱글 코어 구성을 사용합니다. 최대 처리량이 필요한 프로덕션의 경우 Axelera Voyager SDK에서 다음 기능을 제공합니다:

• 멀티 코어 활용 (쿼드 코어 Metis AIPU)
• 스트리밍 추론 파이프라인
• 고해상도 카메라를 위한 타일형 추론(Tiled inferencing)

FPS 벤치마크는 모델 랜드를 참조하거나 프로덕션 지원은 Axelera에 문의하세요.

알려진 문제#

지원이 필요한 경우 Axelera 커뮤니티를 방문하세요.

FAQ#

Axelera에서 어떤 YOLO 버전을 지원합니까?#

Voyager SDK는 YOLOv8, YOLO11, YOLO26 모델의 내보내기를 지원합니다. 모델별 작업 가용성은 지원되는 작업을 참조하세요.

사용자 지정 학습 모델을 배포할 수 있습니까?#

예. Ultralytics 학습 모드를 사용하여 학습된 모든 모델은 지원되는 레이어와 연산을 사용하는 경우 Axelera 형식으로 내보낼 수 있습니다.

INT8 양자화가 정확도에 어떤 영향을 미칩니까?#

Axelera의 Voyager SDK는 혼합 정밀도 AIPU 아키텍처용 모델을 자동으로 양자화합니다. 대부분의 객체 감지 작업의 경우, 성능 향상(더 높은 FPS, 낮은 전력)이 mAP에 미치는 미미한 영향보다 훨씬 큽니다. 양자화는 모델 크기에 따라 몇 초에서 몇 시간까지 걸릴 수 있습니다. 내보낸 후 yolo val를 실행하여 정확도를 확인하세요.

몇 장의 보정(calibration) 이미지를 사용해야 합니까?#

100장에서 400장의 이미지를 권장합니다. 400장을 초과하면 추가적인 이점이 없으며 양자화 시간만 증가합니다. 100장, 200장, 400장으로 실험하여 최적의 균형을 찾으십시오.

Voyager SDK는 어디에서 찾을 수 있습니까?#

SDK, 드라이버 및 컴파일러 툴은 Axelera 개발자 포털을 통해 제공됩니다.