Link to this sectionAxelera AI 导出与部署#

Ultralytics 与 Axelera AI 合作，旨在实现 Edge AI 设备上的高性能、高能效推理。使用 Voyager SDK 将 Ultralytics YOLO 模型 直接导出并部署到 Metis® AIPU。

Axelera AI 为边缘端的 计算机视觉 提供专用硬件加速，利用专有的数据流架构和 内存计算 技术，以低功耗实现高达 856 TOPS 的性能。

Link to this section选择合适的硬件#

Axelera AI 提供多种外形规格，以适应不同的部署限制。下表可帮助你为 Ultralytics YOLO 部署确定最佳硬件。

graph TD
    A[Start: Select Deployment Target]:::start --> B{Device Type?}:::decide
    B -->|Edge Server / Workstation| C{Throughput Needs?}:::decide
    B -->|Embedded / Robotics| D{Space Constraints?}:::decide
    B -->|Standalone / R&D| E[Dev Kits & Systems]:::proc

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]:::out
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]:::out

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]:::out
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]:::out

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]:::out
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]:::out

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

Link to this section硬件产品组合#

Axelera 硬件产品阵容经过优化，能够以高每瓦 FPS 效率运行 Ultralytics YOLO26 及旧版本模型。

Link to this section加速卡#

这些加速卡支持在现有的主机设备中进行 AI 加速，从而助力 棕地部署。

Link to this section集成系统#

为提供统包解决方案，Axelera 与各制造商合作，提供已针对 Metis AIPU 进行预验证的系统。

• Metis 计算板：一种独立的边缘设备，将 Metis AIPU 与 Rockchip RK3588 ARM CPU 配对。
• 工作站：来自 Dell (Precision 3460XE) 和 Lenovo (ThinkStation P360 Ultra) 的企业级塔式机。
• 工业 PC：来自 Advantech 和 Aetina 的加固型系统，专为 制造自动化 设计。

Link to this section支持的任务#

以下任务在 YOLOv8、YOLO11 和 YOLO26 模型中均受支持。

Link to this section安装#

Link to this sectionUltralytics 安装#

pip install ultralytics

详细说明请参阅我们的 Ultralytics 安装指南。如果遇到困难，请查阅我们的 常见问题指南。

Link to this sectionAxelera 驱动程序安装#

1. 添加 Axelera 存储库密钥：

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

2. 将存储库添加到 apt：

   根据使用的操作系统从下方选择合适的代码片段。

   # Ubuntu 22.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

   # Ubuntu 24.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu24 main' > /etc/apt/sources.list.d/axelera.list"

3. 安装 SDK 并加载驱动程序：

   sudo apt update
   sudo apt install -y metis-dkms=1.5.5
   sudo modprobe metis

pip install axelera-devkit==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple
pip install axelera-rt==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple

Link to this section将 YOLO 模型导出为 Axelera 格式#

Axelera 格式支持 导出 (Export)、预测 (Predict) 和 验证 (Validate) 模式。推理和验证在 Axelera Metis AIPU 硬件上运行。导出模型后，加载导出的模型即可运行推理或验证其准确性。

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to Axelera format
model.export(format="axelera")  # creates 'yolo26n_axelera_model'

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this section导出参数#

有关所有导出选项，请参阅 导出模式文档。

Link to this section输出结构#

yolo26n_axelera_model/
├── yolo26n.axm                  # Axelera model file
├── compiler_config_final.toml  # Compiler configuration used for the build
└── metadata.yaml               # Model metadata (classes, image size, etc.)

Link to this sectionAxelera AI 基准测试#

Metis AIPU 可最大化吞吐量并同时将能耗降至最低。

基准测试基于 Axelera AI 数据。实际 FPS 取决于模型大小、批处理大小和输入分辨率。

Link to this section实际应用场景#

基于 Axelera 硬件的 Ultralytics YOLO 可实现先进的边缘计算解决方案：

• 智能零售：用于门店优化的实时 目标计数 和 热图分析。
• 工业安全：制造环境中的低延迟 个人防护装备 (PPE) 检测。
• 无人机分析：在无人机上进行高速 目标检测，用于 农业 和搜索救援。
• 交通系统：基于边缘的 车牌识别 和 速度估计。

Link to this section推荐工作流程#

1. 训练 你的模型，使用 Ultralytics 训练模式
2. 导出 (Export) 为 Axelera 格式，使用 model.export(format="axelera")
3. 验证 准确性，使用 yolo val 以确认极小的量化损失
4. 预测，使用 yolo predict 进行定性验证
5. 部署 (Deploy) 到无需 PyTorch 依赖的高性能端到端管道中 — 请参阅 YOLO on Voyager SDK 示例，了解使用 axelera-rt 的可组合 Python 管道。

Link to this section设备健康检查#

验证你的 Axelera 设备是否工作正常：

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

有关详细诊断信息，请参阅 AxDevice 文档。

Link to this section最高性能#

此集成为了兼容性使用了单核配置。对于需要最大吞吐量的生产环境，Axelera Voyager SDK 提供：

• 多核利用率（四核 Metis AIPU）
• 流式推理流水线
• 用于更高分辨率摄像头的分块推理

请查看 model-zoo 获取 FPS 基准测试，或 联系 Axelera 获取生产环境支持。

Link to this section已知问题#

如需支持，请访问 Axelera Community。

Link to this section常见问题解答#

Link to this sectionAxelera 支持哪些 YOLO 版本？#

Voyager SDK 支持 YOLOv8、YOLO11 和 YOLO26 模型的导出。请参阅 支持的任务 以了解各模型的任务可用性。

Link to this section我可以部署自定义训练的模型吗？#

是的。只要使用受支持的层和操作，任何通过 Ultralytics 训练模式 训练的模型都可以导出为 Axelera 格式。

Link to this sectionINT8 量化如何影响精度？#

Axelera 的 Voyager SDK 会自动将模型量化为混合精度 AIPU 架构。对于大多数 目标检测 任务，性能提升（更高的 FPS，更低的功耗）远超对 mAP 的微小影响。根据模型大小，量化过程耗时从几秒到几小时不等。导出后运行 yolo val 以验证准确性。

Link to this section我应该使用多少张校准图像？#

我们建议使用 100 到 400 张图像。超过 400 张不会提供额外的好处，反而会增加量化时间。请尝试使用 100、200 和 400 张图像，以找到最佳平衡点。

Link to this section我可以在哪里找到 Voyager SDK？#

SDK、驱动程序和编译器工具可通过 Axelera Developer Portal 获取。