Link to this sectionЭкспорт и развертывание Axelera AI#

Ultralytics сотрудничает с Axelera AI, чтобы обеспечить высокопроизводительный и энергоэффективный вывод на устройствах Edge AI. Экспортируй и разворачивай модели Ultralytics YOLO напрямую на Metis® AIPU, используя Voyager SDK.

Axelera AI предоставляет специализированное аппаратное ускорение для компьютерного зрения на периферии, используя проприетарную архитектуру потока данных и вычисления в памяти для обеспечения производительности до 856 TOPS при низком энергопотреблении.

Link to this sectionВыбор подходящего оборудования#

Axelera AI предлагает различные форм-факторы для соответствия разным ограничениям развертывания. Приведенная ниже таблица поможет определить оптимальное оборудование для твоего развертывания Ultralytics YOLO.

graph TD
    A[Start: Select Deployment Target] --> B{Device Type?}
    B -->|Edge Server / Workstation| C{Throughput Needs?}
    B -->|Embedded / Robotics| D{Space Constraints?}
    B -->|Standalone / R&D| E[Dev Kits & Systems]

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

Link to this sectionАппаратное портфолио#

Линейка оборудования Axelera оптимизирована для запуска Ultralytics YOLO26 и устаревших версий с высокой эффективностью FPS на ватт.

Link to this sectionКарты-ускорители#

Эти карты обеспечивают ускорение ИИ в существующих хост-устройствах, способствуя развертыванию на существующей инфраструктуре.

Link to this sectionИнтегрированные системы#

Для готовых решений Axelera сотрудничает с производителями, предоставляя системы, предварительно проверенные для Metis AIPU.

• Metis Compute Board: Автономное периферийное устройство, объединяющее Metis AIPU с ARM CPU Rockchip RK3588.
• Рабочие станции: Корпоративные башни от Dell (Precision 3460XE) и Lenovo (ThinkStation P360 Ultra).
• Промышленные ПК: Защищенные системы от Advantech и Aetina, разработанные для автоматизации производства.

Link to this sectionПоддерживаемые задачи#

Следующие задачи поддерживаются в моделях YOLOv8, YOLO11 и YOLO26.

Link to this sectionУстановка#

Link to this sectionУстановка Ultralytics#

pip install ultralytics

Подробные инструкции смотри в нашем руководстве по установке Ultralytics. Если возникнут трудности, обратись к нашему руководству по распространенным проблемам.

Link to this sectionУстановка драйвера Axelera#

1. Добавь ключ репозитория Axelera:

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

2. Добавь репозиторий в apt:

   Выбери подходящий фрагмент кода ниже, соответствующий используемой ОС.

   # Ubuntu 22.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

   # Ubuntu 24.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu24 main' > /etc/apt/sources.list.d/axelera.list"

3. Установи SDK и загрузи драйвер:

   sudo apt update
   sudo apt install -y metis-dkms=1.4.16
   sudo modprobe metis

pip install axelera-devkit==1.6.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple
pip install axelera-rt==1.6.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple

Link to this sectionЭкспорт моделей YOLO в Axelera#

Формат Axelera поддерживает режимы Export, Predict и Validate. Вывод и валидация выполняются на оборудовании Axelera Metis AIPU. Экспортируй свою модель, а затем загрузи ее для выполнения вывода или проверки точности.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to Axelera format
model.export(format="axelera")  # creates 'yolo26n_axelera_model'

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this sectionАргументы экспорта#

Все параметры экспорта смотри в документации режима экспорта.

Link to this sectionСтруктура вывода#

yolo26n_axelera_model/
├── yolo26n.axm                  # Axelera model file
├── compiler_config_final.toml  # Compiler configuration used for the build
└── metadata.yaml               # Model metadata (classes, image size, etc.)

Link to this sectionБенчмарки Axelera AI#

Metis AIPU максимизирует пропускную способность при минимизации энергопотребления.

Бенчмарки основаны на данных Axelera AI. Фактический FPS зависит от размера модели, пакетирования и входного разрешения.

Link to this sectionПрименение в реальных условиях#

Ultralytics YOLO на оборудовании Axelera открывает возможности для продвинутых периферийных вычислительных решений:

• Умный ритейл: Подсчет объектов в реальном времени и тепловые карты аналитики для оптимизации магазина.
• Промышленная безопасность: Обнаружение СИЗ с низкой задержкой в производственных средах.
• Аналитика дронов: Высокоскоростное обнаружение объектов на БПЛА для сельского хозяйства и поисково-спасательных операций.
• Traffic Systems: Edge-based license plate recognition and speed estimation.

Link to this sectionРекомендуемый рабочий процесс#

1. Обучай свою модель, используя режим обучения Ultralytics
2. Экспортируй в формат Axelera с помощью model.export(format="axelera")
3. Проверь точность с помощью yolo val, чтобы убедиться в минимальных потерях при квантовании
4. Выполни предсказание с помощью yolo predict для качественной валидации
5. Развертывай в высокопроизводительном сквозном конвейере без зависимости от PyTorch — смотри примеры YOLO на Voyager SDK для компонуемых конвейеров Python, использующих axelera-rt

Link to this sectionПроверка работоспособности устройства#

Проверь, что твое устройство Axelera функционирует правильно:

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

Для детальной диагностики смотри документацию AxDevice.

Link to this sectionМаксимальная производительность#

Эта интеграция использует одноядерную конфигурацию для обеспечения совместимости. Для промышленного использования, требующего максимальной пропускной способности, Axelera Voyager SDK предлагает:

• Использование нескольких ядер (четырехъядерный Metis AIPU)
• Потоковые конвейеры логического вывода
• Тайловый логический вывод для камер с более высоким разрешением

Ознакомься с model-zoo для получения данных о FPS или свяжись с Axelera для получения технической поддержки.

Link to this sectionИзвестные проблемы#

Для получения поддержки посети сообщество Axelera.

Link to this sectionFAQ#

Link to this sectionКакие версии YOLO поддерживаются на Axelera?#

Voyager SDK поддерживает экспорт моделей YOLOv8, YOLO11 и YOLO26. Смотри раздел Supported Tasks для проверки доступности задач для конкретной модели.

Link to this sectionМогу ли я развертывать модели, обученные самостоятельно?#

Да. Любая модель, обученная с использованием Ultralytics Train Mode, может быть экспортирована в формат Axelera при условии, что она использует поддерживаемые слои и операции.

Link to this sectionКак квантование INT8 влияет на точность?#

Voyager SDK от Axelera автоматически квантует модели для архитектуры AIPU со смешанной точностью. Для большинства задач object detection прирост производительности (более высокий FPS, меньшее энергопотребление) значительно перевешивает минимальное влияние на mAP. Квантование занимает от нескольких секунд до нескольких часов в зависимости от размера модели. Запусти yolo val после экспорта, чтобы проверить точность.

Link to this sectionСколько изображений для калибровки мне следует использовать?#

Мы рекомендуем от 100 до 400 изображений. Более 400 изображений не дают дополнительных преимуществ и увеличивают время квантования. Поэкспериментируй со 100, 200 и 400 изображениями, чтобы найти оптимальный баланс.

Link to this sectionГде я могу найти Voyager SDK?#

SDK, драйверы и инструменты компиляции доступны через Axelera Developer Portal.