Ultralytics YOLO, ROCm, MIGraphX를 사용한 AMD GPU 학습 및 추론#

Ultralytics YOLO는 AMD의 오픈 GPU 컴퓨팅 스택인 ROCm을 통해 AMD Instinct 및 지원되는 Radeon GPU에서 실행됩니다. PyTorch ROCm 빌드를 사용하면 다른 GPU에서와 동일한 device=0 인수로 .pt 모델을 학습, 검증, 예측할 수 있으며 코드를 변경할 필요가 없습니다.

배포하려면 학습된 모델을 ONNX로 내보낸 다음 AMD의 그래프 최적화 및 추론 엔진인 MIGraphX를 통해 실행하세요. Ultralytics ONNX 백엔드는 ROCm을 감지하고 ONNX Runtime MIGraphXExecutionProvider을 자동으로 선택하므로, NVIDIA GPU에서 실행되는 predict 호출을 AMD GPU에서도 그대로 사용할 수 있습니다. Ultralytics의 예약된 지속적 통합 작업은 AMD GPU 하드웨어에서 모든 작업의 ONNX 내보내기와 MIGraphX 추론을 실행합니다.

설치#

호스트에 AMD GPU 커널 드라이버(amdgpu / /dev/kfd)가 이미 설치되어 있으면, Python 스택은 AMD의 ROCm 휠 인덱스에서 pip을 통해 전부 설치되므로 PyTorch, 플러그인 또는 ROCm 런타임 라이브러리에 apt 패키지나 루트 액세스가 필요하지 않습니다.

# Read the GPU architecture from the amdgpu driver, e.g. device-gfx1151
GPU_ARCH=$(grep -rhs '^gfx_target_version' /sys/class/kfd/kfd/topology/nodes | awk '$2 {printf "device-gfx%d%d%x\n", int($2/10000), int($2/100)%100, $2%100}' | sort -u | paste -sd, -)

# ROCm PyTorch + torchvision for the detected architecture
pip install "torch[${GPU_ARCH:?No AMD GPU found}]" "torchvision[$GPU_ARCH]" --index-url https://stable.repo.amd.com/rocm/whl-next/

# Ultralytics
pip install ultralytics

Ultralytics는 첫 ONNX 내보내기 시 onnx을 자동으로 설치합니다. ROCm 시스템에서 처음 ONNX 추론을 실행할 때는 MIGraphX 실행 공급자 플러그인(onnxruntime-ep-migraphx 참조)과 플러그인이 로드하는 MIGraphX 런타임 라이브러리(migraphx-libs 참조)도 함께 설치하며, 두 구성 요소는 함께 테스트된 버전으로 고정됩니다. 플러그인은 Linux x86_64에서 Python 3.11 이상용으로만 제공됩니다. 그 외 Python 버전이나 아키텍처를 사용하거나 플러그인 없이 YOLO_AUTOINSTALL=false를 사용하면 ONNX 추론이 경고와 함께 CPU로 대체됩니다. 자세한 안내와 모범 사례는 YOLO26 설치 가이드를 참조하세요. 문제가 발생하면 일반적인 문제 가이드를 확인하세요.

학습하거나 내보내기 전에 PyTorch에서 AMD GPU를 인식하는지 확인하세요:

import torch

print(torch.cuda.is_available())  # 정상적으로 ROCm이 설치된 경우 True
print(torch.cuda.get_device_name(0))  # AMD GPU 이름(예: AMD Radeon 8060S)
print(torch.version.hip)  # ROCm PyTorch 빌드의 HIP 버전. CUDA 또는 CPU 빌드에서는 None

PyTorch ROCm으로 AMD GPU에서 학습#

.pt 모델의 네이티브 학습, 검증, 예측은 아래의 MIGraphX 추론 경로와 별개로 PyTorch ROCm을 통해 AMD GPU에서 실행됩니다. 설치에 설명된 대로 PyTorch ROCm 빌드를 설치하고, 다른 Ultralytics 학습 실행과 동일한 장치 인수를 사용하세요:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

# PyTorch ROCm에서 처음으로 인식한 AMD GPU로 학습
results = model.train(data="coco8.yaml", epochs=100, imgsz=640, device=0)

# AMD GPU 두 개를 사용해 학습
results = model.train(data="coco8.yaml", epochs=100, imgsz=640, device=[0, 1])

.pt 모델의 검증과 예측에도 동일한 장치 선택을 사용합니다:

yolo detect val model=path/to/best.pt data=coco8.yaml device=0
yolo predict model=path/to/best.pt source=path/to/image.jpg device=0

yolo detect train data=coco8.yaml model=yolo26n.pt device=0 amp=False

MIGraphX를 사용한 내보내기 및 추론#

ONNX Runtime은 플러그형 실행 공급자(EP)를 통해 하나의 ONNX 모델을 여러 하드웨어 백엔드에서 실행하는 크로스 플랫폼 추론 엔진입니다. 각 EP는 ONNX 그래프를 특정 가속기에 매핑합니다. NVIDIA GPU에는 CUDA, Apple 실리콘에는 CoreML, ROCm 기반 AMD GPU에는 MIGraphX를 사용하며, MIGraphX는 onnxruntime-ep-migraphx 플러그인으로 제공되고 그래프를 GPU에 최적화된 프로그램으로 컴파일합니다.

MIGraphX 추론은 표준 ONNX 내보내기를 사용합니다. 모델을 ONNX(format="onnx")로 내보내면 Ultralytics 추론이 MIGraphXExecutionProvider 백엔드를 자동으로 사용하여 AMD GPU에서 ONNX 모델을 실행합니다.

MIGraphX 추론의 주요 기능#

• 공급자 자동 선택: ROCm 호스트에서는 ONNX 백엔드가 플러그인을 등록하고 코드 변경 없이 MIGraphXExecutionProvider을 선택합니다. 플러그인이 없거나 로드에 실패하면 경고와 함께 추론이 CPU로 대체됩니다.
• 그래프 최적화: MIGraphX는 AMD GPU 아키텍처에 맞춰 연산자 융합, 메모리 계획, 커널 선택을 적용합니다.
• 제로 카피 IO 바인딩: DLPack 프로토콜을 통해 입력과 출력을 GPU 텐서에 직접 바인딩하여 추론 중 호스트와 GPU 간 왕복을 방지합니다.
• 정밀도 옵션: FP32로 실행하거나 FP16 ONNX 모델을 내보내 정밀도를 낮춘 추론을 수행할 수 있습니다.
• 이식 가능한 아티팩트: 단일 .onnx 파일을 CPU, NVIDIA GPU, AMD GPU에서 실행할 수 있어 하나의 내보내기 결과물로 여러 플랫폼을 대상으로 할 수 있습니다.
• 재현 가능한 배포: 전체 스택(ROCm PyTorch, MIGraphX 플러그인 및 라이브러리)은 AMD의 ROCm 휠 인덱스에서 pip을 통해 설치됩니다.

지원 작업#

MIGraphX 추론은 Ultralytics의 7가지 작업을 모두 지원합니다. 시맨틱 세그멘테이션과 깊이 추정은 해당 헤드를 제공하는 유일한 제품군인 YOLO26에서만 사용할 수 있습니다.

사용법#

사용 안내를 자세히 살펴보기 전에 Ultralytics에서 제공하는 다양한 YOLO26 모델을 확인하세요. 이를 통해 프로젝트 요구 사항에 가장 적합한 모델을 선택할 수 있습니다.

ONNX 형식은 내보내기, 예측, 검증 모드를 지원합니다. AMD GPU에서 추론 및 검증을 수행하려면 MIGraphX 플러그인이 설치된 ROCm 시스템이 필요합니다. 모델을 내보낸 다음 내보낸 모델을 로드하여 device=0에서 추론을 실행하거나 정확도를 검증하세요.

from ultralytics import YOLO

# YOLO26 모델 로드
model = YOLO("yolo26n.pt")

# 모델을 ONNX 형식으로 내보내기
model.export(format="onnx")  # 'yolo26n.onnx' 생성

from ultralytics import YOLO

# 내보낸 ONNX 모델을 로드하고 AMD GPU에서 추론 실행
model = YOLO("yolo26n.onnx")

# ROCm에서는 MIGraphX 실행 공급자가 자동으로 선택됩니다
results = model.predict("https://ultralytics.com/images/bus.jpg", device=0)

from ultralytics import YOLO

# 내보낸 ONNX 모델 로드
model = YOLO("yolo26n.onnx")

# AMD GPU에서 COCO8 데이터셋의 정확도 검증
metrics = model.val(data="coco8.yaml", device=0)

내보내기 인수#

MIGraphX 추론은 ONNX 내보내기 인수를 재사용합니다. AMD GPU 배포에 가장 관련성이 높은 옵션은 다음과 같습니다.

내보내기 인수 전체 목록은 ONNX 통합 및 내보내기에 관한 Ultralytics 문서 페이지를 참조하세요.

MIGraphX를 사용한 AMD GPU 배포#

바로 실행할 수 있는 환경을 제공하기 위해 Dockerfile-amd은 ROCm PyTorch와 MIGraphX EP가 사전 설치된 ultralytics/ultralytics:latest-amd 이미지를 빌드합니다. AMD GPU를 컨테이너에 연결하는 docker run 플래그는 Docker 빠른 시작 가이드의 GPU 사용을 참조하세요.

벤치마크#

아래 YOLO26 벤치마크는 Ultralytics 팀이 AMD Radeon 8060S GPU(Ryzen AI Max+ PRO 395)에서 수행했으며, MIGraphX 실행 공급자에서 PyTorch와 ONNX의 속도 및 정확도를 비교했습니다. 두 형식 모두 GPU에서 FP32 정밀도로 실행되며, PyTorch는 ROCm을 사용하고 ONNX는 MIGraphX를 사용합니다.

지원 현황 요약#

특정 AMD 제품이나 런타임을 지원한다고 해서 모든 AMD 가속기를 지원하는 것은 아닙니다. 이 표는 Ultralytics Python 패키지의 현재 지원 상태를 요약합니다.

요약#

이 가이드에서는 표준 device=0 인수를 사용하여 PyTorch ROCm으로 AMD GPU에서 Ultralytics YOLO26 모델을 학습한 다음, ONNX로 내보내 ONNX Runtime MIGraphX 실행 공급자를 통해 가속 추론을 수행하는 방법을 알아보았습니다. ONNX 백엔드는 MIGraphXExecutionProvider을 자동으로 선택하고, 이후 빠른 로드를 위해 컴파일된 프로그램을 캐시하며, 코드 변경 없이 모든 YOLO26 작업을 지원합니다.

다른 배포 대상을 살펴보려면 통합 가이드 페이지를 확인하고, 벤치마크 모드에서 내보내기 형식을 비교해 보세요.

자주 묻는 질문#