Addestramento e inferenza su GPU AMD con Ultralytics YOLO, ROCm e MIGraphX#

Ultralytics YOLO funziona sulle GPU AMD Instinct e Radeon supportate tramite ROCm, lo stack di calcolo GPU open source di AMD. Con una build ROCm di PyTorch, puoi addestrare, convalidare ed eseguire predizioni con i modelli .pt usando lo stesso argomento device=0 di qualsiasi altra GPU, senza modificare il codice.

Per la distribuzione, esporta il modello addestrato in ONNX ed eseguilo tramite MIGraphX, il motore di AMD per l'ottimizzazione dei grafi e l'inferenza. Il backend ONNX di Ultralytics rileva ROCm e seleziona automaticamente il runtime ONNX MIGraphXExecutionProvider, così la stessa chiamata predict eseguita sulle GPU NVIDIA funziona anche sulle GPU AMD. Le esecuzioni pianificate dell'integrazione continua di Ultralytics effettuano l'esportazione ONNX e l'inferenza MIGraphX per ogni attività su hardware GPU AMD.

Installazione#

Lo stack Python si installa interamente tramite pip dagli indici wheel ROCm di AMD, quindi non servono pacchetti apt né l'accesso root per PyTorch, il plugin o le librerie runtime ROCm, a condizione che sull'host sia già installato il driver kernel per GPU AMD (amdgpu / /dev/kfd).

# Read the GPU architecture from the amdgpu driver, e.g. device-gfx1151
GPU_ARCH=$(grep -rhs '^gfx_target_version' /sys/class/kfd/kfd/topology/nodes | awk '$2 {printf "device-gfx%d%d%x\n", int($2/10000), int($2/100)%100, $2%100}' | sort -u | paste -sd, -)

# ROCm PyTorch + torchvision for the detected architecture
pip install "torch[${GPU_ARCH:?No AMD GPU found}]" "torchvision[$GPU_ARCH]" --index-url https://stable.repo.amd.com/rocm/whl-next/

# Ultralytics
pip install ultralytics

Ultralytics installa automaticamente onnx alla prima esportazione ONNX. Alla prima inferenza ONNX su un sistema ROCm, installa anche il plugin provider di esecuzione MIGraphX (onnxruntime-ep-migraphx) e le librerie runtime MIGraphX caricate dal plugin (migraphx-libs), bloccando le versioni a quelle verificate per funzionare insieme. Il plugin è disponibile solo per Python 3.11 o versioni successive su Linux x86_64; con altre versioni di Python o architetture, oppure con YOLO_AUTOINSTALL=false e senza plugin installato, l'inferenza ONNX ripiega sulla CPU e mostra un avviso. Per istruzioni dettagliate e best practice, consulta la nostra guida all'installazione di YOLO26; se riscontri difficoltà, consulta la nostra guida ai problemi comuni.

Prima di addestrare o esportare, verifica che PyTorch rilevi la GPU AMD:

import torch

print(torch.cuda.is_available())  # Vero con un'installazione ROCm funzionante
print(torch.cuda.get_device_name(0))  # Nome della GPU AMD, ad es. AMD Radeon 8060S
print(torch.version.hip)  # Versione HIP della build ROCm di PyTorch, None nelle build CUDA o CPU

Addestramento su GPU AMD con PyTorch ROCm#

L'addestramento, la convalida e le predizioni native sui modelli .pt vengono eseguiti su GPU AMD tramite PyTorch ROCm, indipendentemente dal percorso di inferenza MIGraphX descritto di seguito. Installa una build ROCm di PyTorch come indicato in Installazione e usa gli stessi argomenti del dispositivo di qualsiasi altra esecuzione di addestramento Ultralytics:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

# Addestra sulla prima GPU AMD esposta da PyTorch ROCm
results = model.train(data="coco8.yaml", epochs=100, imgsz=640, device=0)

# Addestra usando due GPU AMD
results = model.train(data="coco8.yaml", epochs=100, imgsz=640, device=[0, 1])

La convalida e le predizioni dei modelli .pt usano la stessa selezione del dispositivo:

yolo detect val model=path/to/best.pt data=coco8.yaml device=0
yolo predict model=path/to/best.pt source=path/to/image.jpg device=0

yolo detect train data=coco8.yaml model=yolo26n.pt device=0 amp=False

Esportazione e inferenza con MIGraphX#

ONNX Runtime è un motore di inferenza multipiattaforma che esegue un singolo modello ONNX su diversi backend hardware tramite provider di esecuzione (EP) collegabili. Ogni EP mappa il grafo ONNX su un acceleratore specifico: CUDA per le GPU NVIDIA, CoreML per Apple silicon e MIGraphX per le GPU AMD con ROCm. MIGraphX è distribuito come plugin onnxruntime-ep-migraphx e compila il grafo in un programma ottimizzato per la tua GPU.

L'inferenza MIGraphX usa la normale esportazione ONNX. Esporta il modello in ONNX (format="onnx") e l'inferenza Ultralytics userà automaticamente il backend MIGraphXExecutionProvider per eseguire il modello ONNX sulla tua GPU AMD.

Funzionalità principali dell'inferenza MIGraphX#

• Selezione automatica del provider: su un host ROCm, il backend ONNX registra il plugin e seleziona MIGraphXExecutionProvider senza richiedere modifiche al codice. Se il plugin manca o non si carica, l'inferenza ripiega sulla CPU e mostra un avviso.
• Ottimizzazione del grafo: MIGraphX applica la fusione degli operatori, la gestione della memoria e la selezione dei kernel ottimizzate per le architetture GPU AMD.
• Associazione IO a copia zero: input e output vengono associati direttamente ai tensori GPU tramite il protocollo DLPack, evitando trasferimenti avanti e indietro dall'host durante l'inferenza.
• Opzioni di precisione: esegui in FP32 oppure esporta un modello ONNX FP16 per l'inferenza a precisione ridotta.
• Artefatto portabile: un singolo file .onnx funziona su CPU, GPU NVIDIA e GPU AMD, consentendoti di distribuire su più piattaforme partendo da una sola esportazione.
• Distribuzione riproducibile: l'intero stack (PyTorch ROCm, il plugin MIGraphX e le relative librerie) si installa tramite pip dagli indici wheel ROCm di AMD.

Attività supportate#

L'inferenza MIGraphX supporta tutte e sette le attività Ultralytics. La segmentazione semantica e la stima della profondità sono disponibili solo con YOLO26, l'unica famiglia che include queste teste.

Utilizzo#

Prima di approfondire le istruzioni per l'uso, dai un'occhiata alla gamma di modelli YOLO26 offerti da Ultralytics. Ti aiuterà a scegliere il modello più adatto ai requisiti del tuo progetto.

Il formato ONNX supporta le modalità Export, Predict e Validate. Per eseguire inferenza e convalida su una GPU AMD serve un sistema ROCm con il plugin MIGraphX installato. Esporta il modello, quindi carica il modello esportato per eseguire inferenze o convalidarne la precisione su device=0.

from ultralytics import YOLO

# Carica un modello YOLO26
model = YOLO("yolo26n.pt")

# Esporta il modello in formato ONNX
model.export(format="onnx")  # crea 'yolo26n.onnx'

from ultralytics import YOLO

# Carica il modello ONNX esportato ed esegui l'inferenza su una GPU AMD
model = YOLO("yolo26n.onnx")

# Il provider di esecuzione MIGraphX viene selezionato automaticamente su ROCm
results = model.predict("https://ultralytics.com/images/bus.jpg", device=0)

from ultralytics import YOLO

# Carica il modello ONNX esportato
model = YOLO("yolo26n.onnx")

# Convalida l'accuratezza sul dataset COCO8 su una GPU AMD
metrics = model.val(data="coco8.yaml", device=0)

Argomenti di esportazione#

L'inferenza con MIGraphX riutilizza gli argomenti di esportazione ONNX. Le opzioni più rilevanti per la distribuzione su GPU AMD sono:

Per l'elenco completo degli argomenti di esportazione, consulta l'integrazione ONNX e la pagina della documentazione Ultralytics sull'esportazione.

Distribuzione su GPU AMD con MIGraphX#

Per un ambiente pronto all'uso, Dockerfile-amd crea l'immagine ultralytics/ultralytics:latest-amd con PyTorch ROCm e MIGraphX EP preinstallati. Consulta Uso delle GPU nella guida rapida di Docker per conoscere i flag docker run che rendono accessibili le GPU AMD al container.

Benchmark#

I benchmark di YOLO26 riportati di seguito sono stati eseguiti dal team Ultralytics su una GPU AMD Radeon 8060S (Ryzen AI Max+ PRO 395), confrontando velocità e accuratezza tra PyTorch e ONNX con il provider di esecuzione MIGraphX. Entrambi i formati vengono eseguiti sulla GPU con precisione FP32: PyTorch tramite ROCm e ONNX tramite MIGraphX.

Panoramica del supporto#

Il supporto per un prodotto o runtime AMD non implica il supporto per tutti gli acceleratori AMD. Questa tabella riassume lo stato attuale nel pacchetto Python Ultralytics.

Riepilogo#

In questa guida hai imparato ad addestrare i modelli Ultralytics YOLO26 su GPU AMD con PyTorch ROCm usando l'argomento standard device=0, quindi a esportarli in ONNX per un'inferenza accelerata tramite il provider di esecuzione MIGraphX di ONNX Runtime. Il backend ONNX seleziona automaticamente MIGraphXExecutionProvider, memorizza nella cache il programma compilato per velocizzare i caricamenti successivi e supporta tutte le attività YOLO26 senza modifiche al codice.

Per altre destinazioni di distribuzione, consulta la pagina della guida alle integrazioni e confronta i formati di esportazione con la modalità Benchmark.

Domande frequenti#