Обучение и инференс на GPU AMD с Ultralytics YOLO, ROCm и MIGraphX#

Ultralytics YOLO работает на GPU AMD Instinct и поддерживаемых GPU Radeon через ROCm — открытый вычислительный стек AMD для GPU. Сборка PyTorch для ROCm позволяет обучать, валидировать и запускать предсказания на моделях .pt, используя тот же аргумент device=0, что и для любого другого GPU, без изменений кода.

Для развёртывания экспортируй обученную модель в ONNX и запусти её через MIGraphX — движок AMD для оптимизации графов и инференса. Бэкенд ONNX Ultralytics обнаруживает ROCm и автоматически выбирает MIGraphXExecutionProvider среды выполнения ONNX, поэтому вызов predict, работающий на GPU NVIDIA, будет работать и на GPU AMD. В рамках запланированных запусков непрерывной интеграции Ultralytics выполняет экспорт ONNX и инференс MIGraphX для всех задач на оборудовании с GPU AMD.

Установка#

Стек Python полностью устанавливается через pip из индексов wheel-пакетов ROCm от AMD, поэтому для PyTorch, плагина и библиотек среды выполнения ROCm не нужны пакеты apt или root-доступ — при условии, что на хосте уже установлен драйвер ядра GPU AMD (amdgpu / /dev/kfd).

# Read the GPU architecture from the amdgpu driver, e.g. device-gfx1151
GPU_ARCH=$(grep -rhs '^gfx_target_version' /sys/class/kfd/kfd/topology/nodes | awk '$2 {printf "device-gfx%d%d%x\n", int($2/10000), int($2/100)%100, $2%100}' | sort -u | paste -sd, -)

# ROCm PyTorch + torchvision for the detected architecture
pip install "torch[${GPU_ARCH:?No AMD GPU found}]" "torchvision[$GPU_ARCH]" --index-url https://stable.repo.amd.com/rocm/whl-next/

# Ultralytics
pip install ultralytics

Ultralytics автоматически устанавливает onnx при первом экспорте ONNX. При первом инференсе ONNX в системе с ROCm также устанавливаются плагин-провайдер выполнения MIGraphX (onnxruntime-ep-migraphx) и загружаемые им библиотеки среды выполнения MIGraphX (migraphx-libs); их версии закреплены и проверены на совместную работу. Плагин выпускается только для Python 3.11 или новее на Linux x86_64; в других версиях Python и архитектурах, а также при использовании YOLO_AUTOINSTALL=false без установленного плагина инференс ONNX переключается на CPU с предупреждением. Подробные инструкции и рекомендации смотри в нашем руководстве по установке YOLO26; если возникнут трудности, загляни в наше руководство по распространённым проблемам.

Перед обучением или экспортом убедись, что PyTorch видит GPU AMD:

import torch

print(torch.cuda.is_available())  # True при корректной установке ROCm
print(torch.cuda.get_device_name(0))  # Название GPU AMD, например AMD Radeon 8060S
print(torch.version.hip)  # Версия HIP в сборке PyTorch для ROCm; None для сборок CUDA или CPU

Обучение на GPU AMD с PyTorch ROCm#

Нативное обучение, валидация и предсказания на моделях .pt выполняются на GPU AMD через PyTorch ROCm, независимо от описанного ниже пути инференса через MIGraphX. Установи сборку PyTorch для ROCm, как указано в разделе Установка, и используй те же аргументы устройства, что и при любом другом запуске обучения Ultralytics:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

# Обучение на первом GPU AMD, доступном PyTorch ROCm
results = model.train(data="coco8.yaml", epochs=100, imgsz=640, device=0)

# Обучение на двух GPU AMD
results = model.train(data="coco8.yaml", epochs=100, imgsz=640, device=[0, 1])

Валидация и предсказания для моделей .pt используют тот же выбор устройства:

yolo detect val model=path/to/best.pt data=coco8.yaml device=0
yolo predict model=path/to/best.pt source=path/to/image.jpg device=0

yolo detect train data=coco8.yaml model=yolo26n.pt device=0 amp=False

Экспорт и инференс с MIGraphX#

ONNX Runtime — кроссплатформенный движок инференса, который запускает одну модель ONNX на различных аппаратных платформах с помощью подключаемых провайдеров выполнения (EP). Каждый EP сопоставляет граф ONNX с конкретным ускорителем: CUDA для GPU NVIDIA, CoreML для Apple silicon и MIGraphX для GPU AMD с ROCm. MIGraphX поставляется в виде плагина onnxruntime-ep-migraphx и компилирует граф в оптимизированную программу для твоего GPU.

Для инференса MIGraphX используется стандартный экспорт ONNX. Экспортируй модель в ONNX (format="onnx"), и инференс Ultralytics автоматически задействует бэкенд MIGraphXExecutionProvider для запуска модели ONNX на GPU AMD.

Основные возможности инференса MIGraphX#

• Автоматический выбор провайдера: на хосте с ROCm бэкенд ONNX регистрирует плагин и выбирает MIGraphXExecutionProvider без изменений кода. Если плагин отсутствует или не загружается, инференс переключается на CPU с предупреждением.
• Оптимизация графа: MIGraphX выполняет слияние операторов, планирование памяти и выбор ядер, оптимизированных для архитектур GPU AMD.
• Привязка ввода-вывода без копирования: входные и выходные данные привязываются напрямую к тензорам GPU через протокол DLPack, что позволяет избежать передачи данных через хост во время инференса.
• Варианты точности: запускай модель в FP32 или экспортируй модель ONNX в FP16 для инференса с пониженной точностью.
• Переносимый артефакт: один файл .onnx работает на CPU, GPU NVIDIA и GPU AMD, позволяя использовать несколько платформ на основе одного экспорта.
• Воспроизводимое развёртывание: весь стек (PyTorch для ROCm, плагин MIGraphX и его библиотеки) устанавливается через pip из индексов wheel-пакетов ROCm от AMD.

Поддерживаемые задачи#

Инференс MIGraphX поддерживает все семь задач Ultralytics. Семантическая сегментация и оценка глубины доступны только в YOLO26 — единственном семействе с такими выходными головками.

Использование#

Прежде чем перейти к инструкциям по использованию, ознакомься с линейкой моделей YOLO26 от Ultralytics. Это поможет выбрать модель, которая лучше всего подходит для требований твоего проекта.

Формат ONNX поддерживает режимы Export, Predict и Validate. Для инференса и валидации на GPU AMD нужна система с ROCm и установленным плагином MIGraphX. Экспортируй модель, а затем загрузи её, чтобы запустить инференс или проверить точность на device=0.

from ultralytics import YOLO

# Загрузи модель YOLO26
model = YOLO("yolo26n.pt")

# Экспортировать модель в формат ONNX
model.export(format="onnx")  # создаёт 'yolo26n.onnx'

from ultralytics import YOLO

# Загрузи экспортированную модель ONNX и запусти инференс на GPU AMD
model = YOLO("yolo26n.onnx")

# Провайдер выполнения MIGraphX автоматически выбирается в ROCm
results = model.predict("https://ultralytics.com/images/bus.jpg", device=0)

from ultralytics import YOLO

# Загрузи экспортированную модель ONNX
model = YOLO("yolo26n.onnx")

# Проверь точность на наборе данных COCO8 на GPU AMD
metrics = model.val(data="coco8.yaml", device=0)

Аргументы экспорта#

Инференс MIGraphX использует аргументы экспорта ONNX. Наиболее важные параметры для развёртывания на GPU AMD:

Полный список аргументов экспорта смотри в описании интеграции ONNX и на странице документации Ultralytics об экспорте.

Развёртывание на GPU AMD с MIGraphX#

Для готовой к запуску среды Dockerfile-amd собирает образ ultralytics/ultralytics:latest-amd с предустановленными ROCm PyTorch и MIGraphX EP. Информацию о флагах docker run, позволяющих использовать GPU AMD в контейнере, смотри в разделе Использование GPU краткого руководства по Docker.

Бенчмарки#

Приведённые ниже бенчмарки YOLO26 команда Ultralytics выполнила на GPU AMD Radeon 8060S (Ryzen AI Max+ PRO 395), сравнив скорость и точность PyTorch и ONNX с провайдером выполнения MIGraphX. Оба формата работают на GPU с точностью FP32: PyTorch использует ROCm, а ONNX — MIGraphX.

Обзор поддержки#

Поддержка одного продукта или среды выполнения AMD не означает поддержку всех ускорителей AMD. В этой таблице описан текущий статус поддержки в пакете Ultralytics Python.

Итоги#

В этом руководстве ты узнал, как обучать модели Ultralytics YOLO26 на GPU AMD с PyTorch ROCm, используя стандартный аргумент device=0, а затем экспортировать их в ONNX для ускоренного инференса через провайдер выполнения MIGraphX в ONNX Runtime. Бэкенд ONNX автоматически выбирает MIGraphXExecutionProvider, кэширует скомпилированную программу для ускорения последующих загрузок и поддерживает все задачи YOLO26 без изменений кода.

Другие целевые платформы развёртывания смотри на странице руководства по интеграциям, а форматы экспорта сравнивай в режиме бенчмарка.

Часто задаваемые вопросы#