YOLO Vision 2026：

Axelera AI 导出与部署#

Ultralytics 与 Axelera AI 合作，在 Edge AI 设备上实现高性能、高能效的推理。使用 Voyager SDK 将 Ultralytics YOLO models 直接导出并部署到 Metis® AIPU。

Axelera AI edge deployment ecosystem for YOLO

Axelera AI 通过专有的数据流架构和内存计算，为边缘端的计算机视觉提供专用的硬件加速，在低功耗下提供高达 856 TOPS 的性能。

选择合适的硬件#

Axelera AI 提供多种外形规格，以适应不同的部署限制。下表可帮助你为 Ultralytics YOLO 部署确定最佳硬件。

graph TD
    A[Start: Select Deployment Target]:::start --> B{Device Type?}:::decide
    B -->|Edge Server / Workstation| C{Throughput Needs?}:::decide
    B -->|Embedded / Robotics| D{Space Constraints?}:::decide
    B -->|Standalone / R&D| E[Dev Kits & Systems]:::proc

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]:::out
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]:::out

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]:::out
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]:::out

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]:::out
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]:::out

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

硬件产品组合#

Axelera 硬件产品线经过优化，可运行 Ultralytics YOLO26 及旧版本，具有很高的每瓦帧率效率。

加速卡#

这些卡可以在现有的主机设备中实现 AI 加速，从而促进利旧部署。

产品外形规格算力性能 (INT8)目标应用
Metis PCIe x4PCIe Gen3 x164x Metis AIPU856 TOPS高密度视频分析、智慧城市
Metis PCIe x1PCIe Gen3 x11x Metis AIPU214 TOPS工业电脑、零售排队管理
Metis M.2M.2 2280 M-Key1x Metis AIPU214 TOPS无人机、机器人、便携式医疗设备
Metis M.2 MAXM.2 22801x Metis AIPU214 TOPS需要高级热管理的环境

集成系统#

为提供统包解决方案，Axelera 与各制造商合作，提供已针对 Metis AIPU 进行预验证的系统。

  • Metis 计算板：一种独立的边缘设备，将 Metis AIPU 与 Rockchip RK3588 ARM CPU 配对。
  • 工作站：来自 Dell (Precision 3460XE) 和 Lenovo (ThinkStation P360 Ultra) 的企业级塔式机。
  • 工业电脑：来自 Advantech 和 Aetina 的加固系统，专为制造自动化设计。

支持的任务#

不支持深度估计：深度头会发出 Metis AIPU 编译器无法降级的算子。Ultralytics export 也不支持 YOLO26 分割，但仍可通过下文所述的 Voyager SDK 进行部署。

任务YOLOv8YOLO11YOLO26
检测✅✅✅
分割✅✅❌
语义❌❌✅
深度❌❌❌
分类✅✅✅
Pose✅✅✅
OBB✅✅✅
注意

Ultralytics export 命令暂不支持 YOLO26 分割。需要 YOLO26-seg 的用户可以使用 deploy.py 通过 Voyager SDK 进行部署，这提供了一种用户空间变通方案。原生编译器支持将在未来的版本中添加。

安装#

平台要求

导出为 Axelera 格式需要：

  • 操作系统：仅限 Linux (推荐 Ubuntu 22.04/24.04)
  • 硬件：Axelera AI 加速器（Metis 设备）
  • Python：版本 3.10、3.11、3.12 和 3.13
  • 系统依赖：sudo apt install libgl1（OpenCV 所需，不通过 pip 包含）

Ultralytics 安装#

pip install ultralytics

有关详细说明，请参阅我们的Ultralytics 安装指南。如果遇到困难，请参考我们的常见问题指南。

Axelera 驱动程序安装#

  1. 添加 Axelera 存储库密钥：

    sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

  2. 将存储库添加到 apt：

    根据使用的操作系统从下方选择合适的代码片段。

    # Ubuntu 22.04
sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"
    # Ubuntu 24.04
sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu24 main' > /etc/apt/sources.list.d/axelera.list"

  3. 安装 SDK 并加载驱动程序：

    sudo apt update
sudo apt install -y metis-dkms=1.5.5
sudo modprobe metis
保持内核驱动程序与 SDK 同步

内核驱动程序与 Python SDK 软件包分开安装，因此在升级 SDK（例如从 1.6 升级到 1.7）后，必须安装匹配的驱动程序版本。驱动程序不同步会导致设备不可用：axdevice 会报告所需的版本并且无法打开设备。

[libaxldev.c:285] Found kernel driver version 1.4.16, but at least version 1.4.18 is required. Please update the kernel driver
ERROR: AXR_ERROR_CONNECTION_ERROR: Failed to open device metis-0:4:0

安装与你的 SDK 匹配的驱动程序版本——请参阅步骤 3：安装 Metis 内核驱动程序。如果你已经在 Ubuntu 上运行较早的 SDK，请更新驱动程序并重新加载内核模块（无需重启）：

sudo apt update
sudo apt install -y metis-dkms=1.5.5
sudo rmmod metis
sudo modprobe metis

然后重新运行 axdevice 以确认已检测到设备。

首次运行会自动下载 SDK

首次运行带有 Axelera 模型的 yolo export format=axelera 或 yolo predict 将自动下载并安装 Axelera SDK 软件包。根据你的连接速度，这可能需要几分钟时间，并且下载期间不会显示进度。如需事先手动安装：

pip install axelera-devkit==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple
pip install axelera-rt==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple

将 YOLO 模型导出为 Axelera 格式#

Axelera 格式支持导出、预测和验证模式。推理和验证在 Axelera Metis AIPU 硬件上运行。导出你的模型，然后加载导出的模型以运行推理或验证其准确性。

导出
from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to Axelera format
model.export(format="axelera")  # creates 'yolo26n_axelera_model'
预测
from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")
验证
from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")
更新依赖后，首次导出可能会失败

Axelera 编译器需要 numpy<2。如果你的环境有 numpy>=2，第一次 yolo export 将自动将其降级，但由于模块状态陈旧，导出将会失败。只需再次运行相同的导出命令——它将在第二次运行时成功。

导出参数#

参数类型默认值描述
formatstr'axelera'Axelera Metis AIPU 硬件的目标格式。
imgszint 或 tuple640模型输入的图像尺寸。
batchint1指定导出模型的批处理推理大小，或导出的模型在 predict 模式下同时处理的最大图像数量。
quantizeint 或 str8/auto量化精度。Axelera AIPU 需要并自动启用 8（INT8）。替换已弃用的 half/int8 标志。请参阅INT8 量化。
datastr'coco128.yaml'用于量化校准的数据集配置。
fractionfloat1.0用于校准的数据集比例（推荐 100-400 张图像）。
devicestrNone导出设备：GPU（device=0）或 CPU（device=cpu）。

有关所有导出选项，请参阅导出模式文档。

输出结构#

yolo26n_axelera_model/
├── yolo26n.axm                  # Axelera model file
├── compiler_config_final.toml  # Compiler configuration used for the build
└── metadata.yaml               # Model metadata (classes, image size, etc.)

Axelera AI 基准测试#

Metis AIPU 可最大化吞吐量并同时将能耗降至最低。

模型Metis PCIe FPS (每秒帧数)Metis M.2 FPS (每秒帧数)
YOLOv8n847771
YOLO11n746574
YOLO26n648.6484.9

基准测试基于 Axelera AI 数据。实际 FPS 取决于模型大小、批处理大小和输入分辨率。

实际应用场景#

基于 Axelera 硬件的 Ultralytics YOLO 可实现先进的边缘计算解决方案：

推荐工作流程#

  1. 使用 Ultralytics 训练模式训练你的模型
  2. 使用 model.export(format="axelera") 导出为 Axelera 格式
  3. 使用 yolo val 验证准确性以检查最小的量化损失
  4. 使用 yolo predict 进行预测以进行定性验证
  5. 部署到无需 PyTorch 依赖的高性能端到端管道——有关使用 axelera-rt 的可组合 Python 管道，请参阅Voyager SDK 上的 YOLO 示例

设备健康检查#

验证你的 Axelera 设备是否工作正常：

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

有关详细的诊断信息，请参阅 AxDevice 文档。

最高性能#

此集成使用单核配置以确保兼容性。对于需要最大吞吐量的生产环境，Axelera Voyager SDK 提供：

  • 多核利用率（四核 Metis AIPU）
  • 流式推理流水线
  • 用于更高分辨率摄像头的分块推理

请参阅模型库了解 FPS 基准测试，或联系 Axelera获取生产支持。

已知问题#

已知限制
  • M.2 功率限制：大型或超大型模型在 M.2 加速器上可能会因供电限制而遇到运行时错误。

如需支持，请访问 Axelera 社区。

常见问题解答#

  • Voyager SDK 支持导出 YOLOv8、YOLO11 和 YOLO26 模型。请参阅支持的任务了解每个模型的任务可用性。

  • 是的。任何使用 Ultralytics 训练模式训练的模型都可以导出为 Axelera 格式，前提是它使用了支持的层和操作。

  • Axelera 的 Voyager SDK 会自动为混合精度 AIPU 架构量化模型。对于大多数对象检测任务，性能提升（更高的 FPS、更低的功耗）远大于对 mAP 的极小影响。根据模型大小，量化需要几秒到几小时不等。导出后运行 yolo val 以验证准确性。

  • 我们建议使用 100 到 400 张图像。超过 400 张不会提供额外的好处，反而会增加量化时间。请尝试使用 100、200 和 400 张图像，以找到最佳平衡点。

  • SDK、驱动程序和编译器工具可通过 Axelera 开发者门户获取。

贡献者
GLglenn-jocher19ONonuralpszr3RAraimbekovm2MImiles-deans-ultralytics1ARartest081TAtatsuya-toyoda1A-a-tangfan1TAtamrobb1LAlakshanthad1PDpderrenger1AMambitious-octopus1

评论