액셀레라 AI 가속

Ultralytics Axelera AI와 협력하여 에지 AI 디바이스에서 고성능의 에너지 효율적인 추론을 간소화합니다. 이 통합을 통해 사용자는 Voyager SDK를 사용하여 Ultralytics YOLO 모델을 Metis® AIPU 및 Europa® 플랫폼으로 직접 내보내고 배포할 수 있습니다.

Axelera AI는 엣지에서 컴퓨터 비전과 제너레이티브 AI를 위한 전용 하드웨어 가속을 제공합니다. 이 기술은 독점적인 데이터 흐름 아키텍처와 인메모리 컴퓨팅을 활용하여 저전력 범위 내에서 높은 처리량(최대 856 TOPS)을 제공합니다.

Ultralytics 사용자에게는 임베디드 드론에서 에지 서버에 이르는 다양한 디바이스에 물체 감지, 포즈 추정 및 기타 YOLO 작업을 배포할 수 있는 확장 가능한 경로를 제공합니다.

적합한 하드웨어 선택

Axelera AI는 다양한 배포 제약 조건에 맞는 다양한 폼 팩터를 제공합니다. 아래 차트는 Ultralytics YOLO 배포를 위한 최적의 하드웨어를 식별하는 데 도움이 됩니다.

graph TD
    A[Start: Select Deployment Target] --> B{Device Type?}
    B -->|Edge Server / Workstation| C{Throughput Needs?}
    B -->|Embedded / Robotics| D{Space Constraints?}
    B -->|Standalone / R&D| E[Dev Kits & Systems]

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

하드웨어 포트폴리오

Axelera 하드웨어 라인업은 다음을 실행하도록 최적화되어 있습니다. Ultralytics YOLO11 및 와트당 FPS 효율이 높은 레거시 버전을 실행하도록 최적화되어 있습니다.

액셀러레이터 카드

이 카드를 사용하면 기존 호스트 디바이스에서 AI를 가속화할 수 있어 브라운필드 배포가 용이해집니다.

통합 시스템

턴키 솔루션의 경우, Axelera는 제조업체와 협력하여 Metis AIPU에 대해 사전 검증된 시스템을 제공합니다.

• Metis 컴퓨팅 보드: Metis AIPU와 Rockchip RK3588 ARM CPU 페어링하는 독립 실행형 에지 디바이스입니다.
• 워크스테이션: Dell (Precision 3460XE) 및 Lenovo (ThinkStation P360 Ultra)의 엔터프라이즈 타워.
• 산업용 PC: 제조 자동화를 위해 설계된 어드밴텍과 Aetina의 견고한 시스템.

Voyager SDK 통합

보이저 SDK는 Ultralytics 모델과 악셀레라 하드웨어를 연결하는 다리 역할을 합니다. 신경망의 컴파일, 양자화 및 런타임 실행을 처리합니다.

Ultralytics 사용자를 위한 주요 기능

1. 원활한 내보내기: SDK의 컴파일러는 Metis 데이터 흐름 아키텍처에 맞게 YOLO 모델을 최적화합니다.
2. 정량화 엔진: 정확도 손실을 최소화하면서 FP32 모델을 INT8 정밀도로 자동 변환합니다.
3. 파이프라인 빌더: 복잡한 C++ 코드를 작성하지 않고도 여러 모델(예: 탐지 + 포즈 추정)을 연결할 수 있는 YAML 기반 프레임워크입니다.

설치 및 설정

악셀레라 가속을 사용하려면 다음이 필요합니다. ultralytics 패키지가 설치되어 있어야 합니다. Voyager SDK는 하드웨어와 인터페이스하는 데 필요한 별도의 시스템 수준 설치입니다. 런타임 휠은 다음에서 예상됩니다. Q1 2026아래 명령은 의도된 설정 흐름을 반영합니다.

# Install Ultralytics
pip install ultralytics

# Note: Download and install the Axelera Voyager SDK from the Axelera Developer Portal
# to enable the 'axelera' export format and runtime.

Axelera로 YOLO 모델 내보내기

Axelera 런타임 패키지가 출시되면(2026년 1분기 목표), 표준 Ultralytics 내보내기 명령을 사용하여 학습된 YOLO 모델을 Axelera 형식으로 내보내게 됩니다. 이 프로세스는 Voyager 컴파일러에 필요한 아티팩트를 생성합니다.

내보내기 예시

Metis 배포를 위해 YOLO11 모델을 변환합니다.

from ultralytics import YOLO

# Load a standard or custom trained YOLO11 model
model = YOLO("yolo11n.pt")

# Export to Axelera format
# int8=True enables quantization for the NPU
model.export(format="axelera", int8=True, imgsz=640)

# Export a model via CLI
yolo export model=yolo11n.pt format=axelera int8=True imgsz=640

사용 가능한 인수는 내보내기 모드 설명서를 참조하세요.

추론 실행

내보낸 후에는 Axelera에서 컴파일한 모델을 직접 로드할 수 있습니다. ultralytics API(로딩과 유사 ONNX 모델). 아래 예는 런타임 패키지가 제공된 후 추론을 실행하고 결과를 저장할 때 예상되는 사용 패턴을 보여줍니다.

from ultralytics import YOLO

# Load the Axelera-compiled model (example path; same flow as ONNX)
model = YOLO("yolo11n_axelera.axmodel")  # will work once Axelera runtime is released

# Run inference; you can pass a file, folder, glob, or list of sources
results = model("path/to/images", imgsz=640, save=True)

# Iterate over result objects to inspect or render detections
for r in results:
    boxes = r.boxes  # bounding boxes tensor + metadata
    print(f"Detected {len(boxes)} objects")

    # Save visuals per result (files saved alongside inputs)
    r.save()  # saves annotated image(s) to disk
    # Or display interactively (desktop environments)
    # r.show()

추론 성능

Metis AIPU는 에너지 소비를 최소화하면서 처리량을 최대화하도록 설계되었습니다. 아래 벤치마크는 표준 Ultralytics 모델로 달성할 수 있는 성능을 보여줍니다.

Axelera AI 데이터를 기반으로 한 벤치마크(2025년 9월). 실제 FPS는 모델 크기, 배치 및 입력 해상도에 따라 달라집니다.

실제 응용 분야

Axelera 하드웨어의 Ultralytics YOLO 고급 에지 컴퓨팅 솔루션을 지원합니다:

• 스마트 리테일: 매장 최적화를 위한 실시간 객체 카운팅 및 히트맵 분석.
• 산업 안전: 제조 환경에서 지연 시간이 짧은 PPE 감지.
• 드론 분석: 농업 및 수색 구조용 UAV에서 고속 물체 감지.
• 교통 시스템: 에지 기반 번호판 인식 및 속도 추정.

FAQ

악셀레라에서 지원되는 YOLO 버전은 무엇인가요?

Voyager SDK와 Ultralytics 통합은 다음과 같은 내보내기를 지원합니다. YOLOv8 및 YOLO11 모델의 내보내기를 지원합니다.

사용자 지정 학습된 모델을 배포할 수 있나요?

예. 지원되는 레이어와 연산을 사용하는 경우 Ultralytics 훈련 모드를 사용하여 훈련된 모든 모델을 Axelera 형식으로 내보낼 수 있습니다.

INT8 양자화는 정확도에 어떤 영향을 미치나요?

Axelera의 양자화 엔진은 고급 보정 기술을 사용하여 정확도 저하를 최소화합니다. 대부분의 탐지 작업에서 성능 향상은 다음에 미치는 미미한 영향을 훨씬 능가합니다. mAP.

Voyager SDK는 어디에서 찾을 수 있나요?

SDK, 드라이버 및 컴파일러 도구는 Axelera 개발자 포털을 통해 사용할 수 있습니다.

📅 생성 0 일 전 ✏️ 업데이트 0일 전

댓글