Tăng tốc AI của Axelera

Ultralytics hợp tác với Axelera AI để hợp lý hóa suy luận hiệu suất cao, tiết kiệm năng lượng trên các thiết bị Edge AI . Tích hợp này cho phép người dùng xuất và triển khai các mô hình Ultralytics YOLO trực tiếp lên nền tảng Metis® AIPU và Europa® bằng Voyager SDK .

Axelera AI cung cấp khả năng tăng tốc phần cứng chuyên dụng cho thị giác máy tính và AI tạo sinh tại biên. Công nghệ của họ tận dụng kiến trúc luồng dữ liệu độc quyền và điện toán trong bộ nhớ để mang lại thông lượng cao (lên đến 856 TOPS ) trong phạm vi công suất thấp.

Vì Ultralytics người dùng, điều này cung cấp một con đường có thể mở rộng để triển khai phát hiện đối tượng , ước tính tư thế và các YOLO các tác vụ trên các thiết bị từ máy bay không người lái nhúng đến máy chủ biên.

Lựa chọn phần cứng phù hợp

Axelera AI cung cấp nhiều kiểu dáng khác nhau để phù hợp với các hạn chế triển khai khác nhau. Biểu đồ bên dưới giúp xác định phần cứng tối ưu cho bạn. Ultralytics YOLO triển khai.

graph TD
    A[Start: Select Deployment Target] --> B{Device Type?}
    B -->|Edge Server / Workstation| C{Throughput Needs?}
    B -->|Embedded / Robotics| D{Space Constraints?}
    B -->|Standalone / R&D| E[Dev Kits & Systems]

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

Danh mục phần cứng

Dòng phần cứng Axelera được tối ưu hóa để chạy Ultralytics YOLO11 và các phiên bản cũ với hiệu suất FPS trên watt cao.

Thẻ tăng tốc

Các thẻ này cho phép tăng tốc AI trong các thiết bị chủ hiện có, tạo điều kiện thuận lợi cho việc triển khai brownfield .

Hệ thống tích hợp

Đối với các giải pháp trọn gói, Axelera hợp tác với các nhà sản xuất để cung cấp các hệ thống được xác thực trước cho Metis AIPU.

• Metis Compute Board : Một thiết bị biên độc lập ghép nối Metis AIPU với Rockchip RK3588 ARM CPU .
• Máy trạm : Máy trạm doanh nghiệp của Dell (Precision 3460XE) và Lenovo (ThinkStation P360 Ultra).
• Máy tính công nghiệp : Hệ thống bền bỉ từ Advantech và Aetina được thiết kế cho tự động hóa sản xuất .

Tích hợp Voyager SDK

Voyager SDK đóng vai trò là cầu nối giữa Ultralytics mô hình và phần cứng Axelera. Nó xử lý việc biên dịch, lượng tử hóa và thực thi thời gian chạy của mạng nơ-ron.

Các tính năng chính cho Ultralytics người dùng:

1. Xuất khẩu liền mạch : Trình biên dịch của SDK tối ưu hóa YOLO mô hình cho kiến trúc luồng dữ liệu Metis.
2. Công cụ lượng tử hóa : Tự động chuyển đổi các mô hình FP32 sang độ chính xác INT8 với mức độ mất độ chính xác tối thiểu.
3. Pipeline Builder : Một khuôn khổ dựa trên YAML để kết nối nhiều mô hình (ví dụ: phát hiện + ước tính tư thế ) mà không cần viết mã C++ phức tạp.

Cài đặt & Thiết lập

Để sử dụng khả năng tăng tốc của Axelera, bạn cần ultralytics Gói đã được cài đặt. Lưu ý rằng Voyager SDK là một cài đặt cấp hệ thống riêng biệt cần thiết để giao tiếp với phần cứng. Bánh xe thời gian chạy được mong đợi trong Q1 2026; các lệnh bên dưới phản ánh luồng thiết lập dự định.

# Install Ultralytics
pip install ultralytics

# Note: Download and install the Axelera Voyager SDK from the Axelera Developer Portal
# to enable the 'axelera' export format and runtime.

Xuất khẩu YOLO Các mô hình đến Axelera

Khi gói thời gian chạy Axelera được triển khai (mục tiêu là quý 1 năm 2026), bạn sẽ xuất bản YOLO các mô hình theo định dạng Axelera bằng cách sử dụng tiêu chuẩn Ultralytics lệnh xuất. Quá trình này tạo ra các hiện vật cần thiết cho trình biên dịch Voyager.

Ví dụ về Export (Xuất)

Chuyển đổi một YOLO11 mô hình triển khai Metis.

from ultralytics import YOLO

# Load a standard or custom trained YOLO11 model
model = YOLO("yolo11n.pt")

# Export to Axelera format
# int8=True enables quantization for the NPU
model.export(format="axelera", int8=True, imgsz=640)

# Export a model via CLI
yolo export model=yolo11n.pt format=axelera int8=True imgsz=640

Để biết các đối số có sẵn, hãy tham khảo tài liệu Chế độ xuất .

Chạy suy luận

Sau khi xuất, bạn sẽ có thể tải mô hình được biên dịch bởi Axelera trực tiếp bằng ultralytics API (tương tự như tải ONNX mô hình). Ví dụ dưới đây cho thấy mô hình sử dụng dự kiến để chạy suy luận và lưu kết quả sau khi gói thời gian chạy được triển khai.

from ultralytics import YOLO

# Load the Axelera-compiled model (example path; same flow as ONNX)
model = YOLO("yolo11n_axelera.axmodel")  # will work once Axelera runtime is released

# Run inference; you can pass a file, folder, glob, or list of sources
results = model("path/to/images", imgsz=640, save=True)

# Iterate over result objects to inspect or render detections
for r in results:
    boxes = r.boxes  # bounding boxes tensor + metadata
    print(f"Detected {len(boxes)} objects")

    # Save visuals per result (files saved alongside inputs)
    r.save()  # saves annotated image(s) to disk
    # Or display interactively (desktop environments)
    # r.show()

Hiệu suất suy luận

Metis AIPU được thiết kế để tối đa hóa thông lượng trong khi giảm thiểu mức tiêu thụ năng lượng. Các tiêu chuẩn dưới đây minh họa hiệu suất có thể đạt được với tiêu chuẩn Ultralytics các mô hình.

Điểm chuẩn dựa trên dữ liệu AI của Axelera (tháng 9 năm 2025). FPS thực tế phụ thuộc vào kích thước mô hình, xử lý hàng loạt và độ phân giải đầu vào.

Các ứng dụng thực tế

Ultralytics YOLO trên phần cứng Axelera cho phép các giải pháp điện toán biên tiên tiến:

• Bán lẻ thông minh : Đếm đối tượng theo thời gian thực và phân tích bản đồ nhiệt để tối ưu hóa cửa hàng.
• An toàn công nghiệp : Phát hiện PPE có độ trễ thấp trong môi trường sản xuất.
• Phân tích máy bay không người lái : Phát hiện vật thể tốc độ cao trên UAV phục vụ nông nghiệp và tìm kiếm cứu nạn.
• Hệ thống giao thông : Nhận dạng biển số xe dựa trên cạnh và ước tính tốc độ .

Câu hỏi thường gặp

Cái gì YOLO phiên bản nào được hỗ trợ trên Axelera?

SDK Voyager và Ultralytics tích hợp hỗ trợ xuất các mô hình YOLOv8 và YOLO11 .

Tôi có thể triển khai các mô hình được đào tạo tùy chỉnh không?

Có. Bất kỳ mô hình nào được đào tạo bằng Ultralytics Train Mode đều có thể được xuất sang định dạng Axelera, miễn là mô hình đó sử dụng các lớp và thao tác được hỗ trợ.

Lượng tử hóa INT8 ảnh hưởng đến độ chính xác như thế nào?

Công cụ lượng tử hóa của Axelera sử dụng các kỹ thuật hiệu chuẩn tiên tiến để giảm thiểu sự sụt giảm độ chính xác. Đối với hầu hết các tác vụ phát hiện, hiệu suất tăng lên đáng kể so với tác động không đáng kể lên mAP .

Tôi có thể tìm Voyager SDK ở đâu?

SDK, trình điều khiển và công cụ biên dịch có sẵn thông qua Cổng thông tin dành cho nhà phát triển Axelera .

📅 Được tạo cách đây 0 ngày ✏️ Đã cập nhật cách đây 0 ngày

Bình luận