Huấn luyện trên GPU AMD với Ultralytics YOLO và ROCm#

Ultralytics hỗ trợ huấn luyện, xác thực và suy luận trên các GPU AMD tương thích thông qua PyTorch ROCm. PyTorch cố ý cung cấp các thiết bị ROCm thông qua cùng API Python torch.cuda được CUDA sử dụng, vì vậy Ultralytics không cần một loại thiết bị rocm riêng cho các model PyTorch gốc. Cài đặt bản dựng PyTorch cho ROCm, sau đó chọn GPU AMD bằng cú pháp device=0 hoặc device=cuda:0 tiêu chuẩn.

AMD cũng cung cấp các công nghệ suy luận tách biệt với PyTorch ROCm. Việc hỗ trợ một sản phẩm AMD không đồng nghĩa với việc hỗ trợ mọi runtime hoặc bộ tăng tốc AMD.

Tổng quan về khả năng hỗ trợ#

Bảng này mô tả gói Python của Ultralytics được dùng để huấn luyện, xác thực, xuất model và dự đoán.

Vì sao ROCm sử dụng tên thiết bị CUDA#

Bản dựng PyTorch cho ROCm sử dụng HIP bên trong nhưng cố ý dùng lại các giao diện torch.cuda. Ví dụ, torch.cuda.is_available(), torch.cuda.device_count() và torch.cuda.get_device_name() hoạt động với các GPU AMD được hỗ trợ. Thiết kế này cho phép cùng một quy trình huấn luyện Ultralytics phục vụ cả NVIDIA CUDA lẫn AMD ROCm mà không cần backend trùng lặp.

Xem ngữ nghĩa HIP của PyTorch chính thức để biết thêm chi tiết.

Cài đặt PyTorch ROCm#

1. Xác minh hệ điều hành và GPU của bạn có trong ma trận tương thích ROCm.

2. Dùng trình chọn cài đặt PyTorch để chọn bản dựng ROCm phù hợp với phiên bản ROCm đã cài đặt.

3. Cài đặt Ultralytics sau PyTorch:

   pip install ultralytics

4. Xác minh PyTorch nhận diện GPU AMD:

   import torch
   
   print(torch.cuda.is_available())
   print(torch.cuda.get_device_name(0))
   print(torch.version.hip)

torch.cuda.is_available() sẽ trả về True, tên thiết bị phải nhận diện GPU AMD của bạn và torch.version.hip phải báo cáo phiên bản HIP do bản dựng ROCm cung cấp.

Huấn luyện trên GPU AMD#

Sử dụng các đối số thiết bị giống như trong chế độ Train của Ultralytics tiêu chuẩn.

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

# Huấn luyện trên GPU AMD đầu tiên được PyTorch ROCm cung cấp
results = model.train(data="coco8.yaml", epochs=100, imgsz=640, device=0)

# Huấn luyện trên hai GPU AMD
results = model.train(data="coco8.yaml", epochs=100, imgsz=640, device=[0, 1])

Xác thực và dự đoán sử dụng cùng cách chọn thiết bị:

yolo detect val model=path/to/best.pt data=coco8.yaml device=0
yolo predict model=path/to/best.pt source=path/to/image.jpg device=0

Khả năng tương thích AMP#

Ultralytics bật AMP theo mặc định và so sánh kết quả độ chính xác đầy đủ với độ chính xác hỗn hợp trước khi huấn luyện. Nếu bước kiểm tra phát hiện kết quả không tương thích, AMP sẽ bị tắt để tránh loss NaN hoặc quá trình huấn luyện có mAP bằng không. Hành vi AMP của ROCm có thể thay đổi tùy theo phiên bản PyTorch và ROCm, vì vậy hãy sử dụng amp=False khi khắc phục sự cố riêng của stack:

yolo detect train data=coco8.yaml model=yolo26n.pt device=0 amp=False

Các tính năng chưa được hỗ trợ#

MIGraphX#

MIGraphX là runtime tối ưu hóa đồ thị và suy luận của AMD. Gói Python Ultralytics hiện tại không bao gồm khả năng tải model MIGraphX gốc. Quá trình triển khai đang thực hiện, container AMD, các phần phụ thuộc, bài kiểm thử và tài liệu được theo dõi cùng nhau trong PR #24137. Cho đến khi công việc đó được hợp nhất và được xác thực trên phần cứng AMD, không nên mô tả việc xuất model ONNX là hỗ trợ MIGraphX gốc trong gói Python.

DirectML#

Gói Python Ultralytics không có backend DirectML để huấn luyện hoặc dự đoán trên Windows. DirectML khác với ROCm, và môi trường ROCm hoạt động tốt không kích hoạt device=directml.

NPU Ryzen AI#

NPU Ryzen AI không được PyTorch ROCm cung cấp và không phải thiết bị gốc của Ultralytics. Các quy trình do cộng đồng xây dựng có thể xuất model YOLO sang ONNX rồi chạy bằng các công cụ Ryzen AI hoặc Vitis AI bên ngoài của AMD, nhưng runtime, quá trình chuyển đổi và khả năng tương thích phần cứng đó nằm ngoài quy trình thực thi được Ultralytics hỗ trợ.

Tóm tắt#

Để huấn luyện, xác thực và suy luận trên các GPU AMD được hỗ trợ, hãy sử dụng bản dựng PyTorch ROCm tương thích cùng với device=0 hoặc device=cuda:0. Hãy xem MIGraphX, DirectML và NPU Ryzen AI là các khả năng riêng biệt: không khả năng nào được kích hoạt chỉ bằng cách cài đặt ROCm hoặc xuất model ONNX.

Câu hỏi thường gặp#