Ultralytics YOLO, ROCm ve MIGraphX ile AMD GPU Eğitimi ve Çıkarımı#

Ultralytics YOLO, AMD'nin açık GPU hesaplama yığını olan ROCm aracılığıyla AMD Instinct ve desteklenen Radeon GPU'larda çalışır. PyTorch'un ROCm derlemesiyle .pt modellerini başka herhangi bir GPU'da olduğu gibi aynı device=0 bağımsız değişkenini kullanarak eğitebilir, doğrulayabilir ve tahmin yapabilirsin; kod değişikliği gerekmez.

Dağıtım için eğitilmiş modeli ONNX olarak dışa aktar ve AMD'nin grafik optimizasyonu ve çıkarım motoru MIGraphX üzerinden çalıştır. Ultralytics'in ONNX arka ucu, ROCm'yi algılar ve ONNX Runtime MIGraphXExecutionProvider bileşenini otomatik olarak seçer; böylece NVIDIA GPU'larda çalışan aynı predict çağrısı AMD GPU'larda da çalışır. Zamanlanmış Ultralytics sürekli entegrasyon çalıştırmaları, AMD GPU donanımında her görev için ONNX dışa aktarımı ve MIGraphX çıkarımını yürütür.

Kurulum#

Python yığını, AMD'nin ROCm wheel indekslerinden tamamen pip aracılığıyla yüklenir; bu nedenle ana makinede AMD GPU çekirdek sürücüsü (amdgpu / /dev/kfd) zaten yüklüyse PyTorch, eklenti veya ROCm çalışma zamanı kitaplıkları için apt paketlerine ya da kök erişimine gerek yoktur.

# Read the GPU architecture from the amdgpu driver, e.g. device-gfx1151
GPU_ARCH=$(grep -rhs '^gfx_target_version' /sys/class/kfd/kfd/topology/nodes | awk '$2 {printf "device-gfx%d%d%x\n", int($2/10000), int($2/100)%100, $2%100}' | sort -u | paste -sd, -)

# ROCm PyTorch + torchvision for the detected architecture
pip install "torch[${GPU_ARCH:?No AMD GPU found}]" "torchvision[$GPU_ARCH]" --index-url https://stable.repo.amd.com/rocm/whl-next/

# Ultralytics
pip install ultralytics

Ultralytics, ilk ONNX dışa aktarımında onnx bileşenini otomatik olarak yükler. ROCm sisteminde ilk ONNX çıkarımı sırasında, birlikte test edilmiş sürümlere sabitlenmiş MIGraphX yürütme sağlayıcısı eklentisini (onnxruntime-ep-migraphx) ve eklentinin yüklediği MIGraphX çalışma zamanı kitaplıklarını (migraphx-libs) da yükler. Eklenti yalnızca Linux x86_64 üzerinde Python 3.11 veya daha yenisi için yayımlanır; diğer Python sürümlerinde veya mimarilerde ya da YOLO_AUTOINSTALL=false ayarlı olup eklenti yüklü değilse ONNX çıkarımı bir uyarıyla CPU'ya geri döner. Ayrıntılı yönergeler ve en iyi uygulamalar için YOLO26 Kurulum kılavuzumuza bak; sorun yaşarsan Sık Karşılaşılan Sorunlar kılavuzumuza başvur.

Eğitim veya dışa aktarma öncesinde PyTorch'un AMD GPU'yu gördüğünü doğrula:

import torch

print(torch.cuda.is_available())  # Çalışan bir ROCm kurulumunda True
print(torch.cuda.get_device_name(0))  # AMD GPU adı; ör. AMD Radeon 8060S
print(torch.version.hip)  # ROCm PyTorch derlemesinin HIP sürümü; CUDA veya CPU derlemelerinde None

PyTorch ROCm ile AMD GPU'larda Eğitim#

.pt modellerinin yerel eğitimi, doğrulaması ve tahmini, aşağıdaki MIGraphX çıkarım yolundan bağımsız olarak PyTorch ROCm aracılığıyla AMD GPU'larda çalışır. Kurulum bölümünde gösterildiği gibi PyTorch'un ROCm derlemesini yükle ve diğer tüm Ultralytics Eğitim çalıştırmalarındakiyle aynı cihaz bağımsız değişkenlerini kullan:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

# PyTorch ROCm'nin gördüğü ilk AMD GPU'da eğitim yap
results = model.train(data="coco8.yaml", epochs=100, imgsz=640, device=0)

# İki AMD GPU üzerinde eğitim yap
results = model.train(data="coco8.yaml", epochs=100, imgsz=640, device=[0, 1])

.pt modellerinin doğrulaması ve tahmini için de aynı cihaz seçimi kullanılır:

yolo detect val model=path/to/best.pt data=coco8.yaml device=0
yolo predict model=path/to/best.pt source=path/to/image.jpg device=0

yolo detect train data=coco8.yaml model=yolo26n.pt device=0 amp=False

MIGraphX ile Dışa Aktarma ve Çıkarım#

ONNX Runtime, tek bir ONNX modelini takılabilir yürütme sağlayıcıları (EP'ler) aracılığıyla birçok donanım arka ucunda çalıştıran, platformlar arası bir çıkarım motorudur. Her EP, ONNX grafiğini belirli bir hızlandırıcıya eşler: NVIDIA GPU'lar için CUDA, Apple silicon için CoreML ve ROCm üzerinde AMD GPU'lar için MIGraphX. MIGraphX, onnxruntime-ep-migraphx eklentisi olarak sunulur ve grafiği GPU'n için ayarlanmış bir programa derler.

MIGraphX çıkarımı standart ONNX dışa aktarımını kullanır. Modeli ONNX'e aktar (format="onnx"); ardından Ultralytics çıkarımı, ONNX modelini AMD GPU'nda çalıştırmak için MIGraphXExecutionProvider arka ucunu otomatik olarak kullanır.

MIGraphX Çıkarımının Temel Özellikleri#

• Otomatik sağlayıcı seçimi: ROCm ana makinesinde ONNX arka ucu eklentiyi kaydeder ve kod değişikliği olmadan MIGraphXExecutionProvider bileşenini seçer. Eklenti yoksa veya yüklenemezse çıkarım bir uyarıyla CPU'ya geri döner.
• Grafik optimizasyonu: MIGraphX, AMD GPU mimarileri için ayarlanmış işleç birleştirme, bellek planlama ve çekirdek seçimi uygular.
• Sıfır kopyalı G/Ç bağlama: Girdiler ve çıktılar DLPack protokolü aracılığıyla doğrudan GPU tensörlerine bağlanır; böylece çıkarım sırasında ana makineye gidiş dönüşler önlenir.
• Hassasiyet seçenekleri: FP32 ile çalıştır veya daha düşük hassasiyetli çıkarım için FP16 ONNX modeli dışa aktar.
• Taşınabilir yapıt: Tek bir .onnx dosyası CPU'larda, NVIDIA GPU'larda ve AMD GPU'larda çalışır; böylece tek bir dışa aktarımla birden fazla platformu hedefleyebilirsin.
• Yeniden üretilebilir dağıtım: Tüm yığın (ROCm PyTorch, MIGraphX eklentisi ve kitaplıkları) AMD'nin ROCm wheel indekslerinden pip aracılığıyla yüklenir.

Desteklenen Görevler#

MIGraphX çıkarımı, Ultralytics'in yedi görevinin tümünü destekler. Anlamsal segmentasyon ve derinlik tahmini yalnızca bu başlıkları sunan tek aile olan YOLO26 ile kullanılabilir.

Kullanım#

Kullanım yönergelerine geçmeden önce Ultralytics'in sunduğu YOLO26 model çeşitlerine göz at. Bu, proje gereksinimlerine en uygun modeli seçmene yardımcı olur.

ONNX biçimi Dışa Aktarma, Tahmin ve Doğrulama modlarını destekler. AMD GPU'da çıkarım ve doğrulama için MIGraphX eklentisinin yüklü olduğu bir ROCm sistemi gerekir. Modelini dışa aktar, ardından çıkarım yapmak veya doğruluğunu device=0 üzerinde doğrulamak için dışa aktarılan modeli yükle.

from ultralytics import YOLO

# YOLO26 modelini yükle
model = YOLO("yolo26n.pt")

# Modeli ONNX biçimine aktar
model.export(format="onnx")  # 'yolo26n.onnx' oluşturur

from ultralytics import YOLO

# Dışa aktarılan ONNX modelini yükle ve bir AMD GPU'da çıkarım çalıştır
model = YOLO("yolo26n.onnx")

# MIGraphX yürütme sağlayıcısı ROCm'da otomatik olarak seçilir
results = model.predict("https://ultralytics.com/images/bus.jpg", device=0)

from ultralytics import YOLO

# Dışa aktarılan ONNX modelini yükle
model = YOLO("yolo26n.onnx")

# COCO8 veri kümesinde bir AMD GPU ile doğruluğu doğrula
metrics = model.val(data="coco8.yaml", device=0)

Dışa Aktarma Bağımsız Değişkenleri#

MIGraphX çıkarımı, ONNX dışa aktarma bağımsız değişkenlerini kullanır. AMD GPU dağıtımı için en önemli seçenekler şunlardır:

Dışa aktarma bağımsız değişkenlerinin tam listesi için ONNX entegrasyonuna ve Ultralytics dışa aktarma belgeleri sayfasına bak.

MIGraphX ile AMD GPU'larda dağıtım#

Kullanıma hazır bir ortam için Dockerfile-amd, ROCm PyTorch ve önceden yüklenmiş MIGraphX EP ile ultralytics/ultralytics:latest-amd imajını oluşturur. AMD GPU'ları kapsayıcıya açan docker run bayrakları için Docker Hızlı Başlangıç kılavuzundaki GPU Kullanımı bölümüne bak.

Kıyaslamalar#

Aşağıdaki YOLO26 kıyaslamaları, MIGraphX yürütme sağlayıcısında PyTorch ile ONNX arasındaki hız ve doğruluk karşılaştırması için Ultralytics ekibi tarafından AMD Radeon 8060S GPU (Ryzen AI Max+ PRO 395) üzerinde gerçekleştirildi. Her iki biçim de GPU'da FP32 hassasiyetinde çalışır: PyTorch ROCm üzerinden, ONNX ise MIGraphX üzerinden.

Destek Özeti#

Bir AMD ürünü veya çalışma zamanı için destek sunulması, her AMD hızlandırıcısının desteklendiği anlamına gelmez. Bu tablo, Ultralytics Python paketindeki mevcut durumu özetler.

Özet#

Bu kılavuzda, standart device=0 bağımsız değişkenini kullanarak PyTorch ROCm ile AMD GPU'larda Ultralytics YOLO26 modellerini eğitmeyi, ardından ONNX Runtime MIGraphX yürütme sağlayıcısı üzerinden hızlandırılmış çıkarım için modelleri ONNX'e aktarmayı öğrendin. ONNX arka ucu MIGraphXExecutionProvider öğesini otomatik seçer, sonraki yüklemeleri hızlandırmak için derlenmiş programı önbelleğe alır ve kod değişikliği gerektirmeden tüm YOLO26 görevlerini destekler.

Diğer dağıtım hedefleri için entegrasyon kılavuzu sayfasına göz at ve dışa aktarma biçimlerini Kıyaslama kipiyle karşılaştır.

Sık Sorulan Sorular#