Hızlı Başlangıç Kılavuzu: Ultralytics YOLO26 ile NVIDIA DGX Spark#

Bu kapsamlı kılavuz, NVIDIA'nın kompakt masaüstü AI süper bilgisayarı NVIDIA DGX Spark üzerinde Ultralytics YOLO26'yı dağıtma sürecini ayrıntılı olarak adım adım anlatıyor. Ayrıca YOLO26'nın bu güçlü sistemdeki yeteneklerini göstermek için performans kıyaslamalarına yer veriyor.

NVIDIA DGX Spark nedir?#

NVIDIA DGX Spark, NVIDIA GB10 Grace Blackwell Superchip tarafından desteklenen kompakt bir masaüstü AI süper bilgisayarıdır. FP4 hassasiyetinde 1 petaFLOP'a kadar AI hesaplama performansı sunar; bu da onu masaüstü biçiminde güçlü AI yeteneklerine ihtiyaç duyan geliştiriciler, araştırmacılar ve veri bilimcileri için ideal kılar.

Temel teknik özellikler#

DGX OS#

NVIDIA DGX OS, DGX sistemlerinde yapay zekâ, makine öğrenimi ve analitik uygulamalarını çalıştırmak için kararlı, test edilmiş ve desteklenen bir işletim sistemi temeli sunan özelleştirilmiş bir Linux dağıtımıdır. Şunları içerir:

• Yapay zekâ iş yükleri için optimize edilmiş sağlam bir Linux temeli
• NVIDIA donanımı için önceden yapılandırılmış sürücüler ve sistem ayarları
• Güvenlik güncellemeleri ve sistem bakım özellikleri
• Daha geniş NVIDIA yazılım ekosistemiyle uyumluluk

DGX OS düzenli bir sürüm takvimini izler; güncellemeler genellikle yılda iki kez (Şubat ve Ağustos civarında) sunulur ve ana sürümler arasında ek güvenlik yamaları yayımlanır.

DGX Dashboard#

DGX Spark, şu özellikleri sunan yerleşik bir DGX Dashboard ile birlikte gelir:

• Gerçek Zamanlı Sistem İzleme: Sistemin mevcut çalışma ölçümlerine genel bakış
• Sistem Güncellemeleri: Güncellemeleri doğrudan kontrol panelinden uygulama olanağı
• Sistem Ayarları: Cihaz adını ve diğer yapılandırmaları değiştirme
• Entegre JupyterLab: Geliştirme için yerel Jupyter Notebooks'a erişim

Kontrol Paneline Erişim#

Docker ile Hızlı Başlangıç#

NVIDIA DGX Spark'ta Ultralytics YOLO26 ile çalışmaya başlamanın en hızlı yolu, önceden oluşturulmuş docker imajlarını kullanmaktır. NVIDIA ARM64 imajı, DGX OS ile DGX Spark'ı destekler.

t=ultralytics/ultralytics:latest-nvidia-arm64
sudo docker pull $t && sudo docker run -it --ipc=host --device nvidia.com/gpu=all $t

Yukarıdaki CDI cihaz isteği, DGX OS çalıştıran DGX Spark için geçerlidir. Jetson AGX Thor'daki PyTorch iş yükleri için NVIDIA Jetson kılavuzundaki ayrı ana makine gereksinimlerine ve TensorRT kısıtlamasına bak.

Bu imaj NVIDIA PyTorch 26.08, CUDA 13.4 ve TensorRT 11.2 kullanır. DGX OS ana makine sürücüsünü NVIDIA PyTorch 26.08 tarafından desteklenen bir sürüme güncelle ve imajı veya hedef GPU'yu değiştirdikten sonra TensorRT motorlarını yeniden oluştur.

Bunu yaptıktan sonra NVIDIA DGX Spark'ta TensorRT Kullanımı bölümüne geç.

Yerel Kurulumla Başla#

Docker kullanmadan yerel kurulum yapmak için şu adımları izle.

Ultralytics Paketini Yükle#

Burada, Ultralytics paketini DGX Spark'a kuracağız. Dışa aktarma bağımlılıkları, bir modeli ilk kez dışa aktardığında otomatik olarak yüklenir; bu nedenle burada yalnızca temel paket gerekir. Özellikle NVIDIA TensorRT dışa aktarımlarına odaklanacağız; çünkü TensorRT, DGX Spark'tan en yüksek performansı almamızı sağlar.

1. Paket listesini güncelle, pip'i yükle ve en son sürüme yükselt

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. ultralytics pip paketini yükle

   pip install ultralytics

3. Cihazı yeniden başlat

   sudo reboot

PyTorch ve Torchvision'ı yükle#

Yukarıdaki ultralytics kurulumu Torch ve Torchvision'ı yükler. Ancak pip üzerinden yüklenen bu paketler, CUDA 13 ile DGX Spark'ın ARM64 mimarisi için tam olarak optimize edilmemiş olabilir. Bu nedenle CUDA 13 ile uyumlu sürümleri yüklemeni öneririz:

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

UserWarning: Found GPU0 NVIDIA GB10 which is of cuda capability 12.1.
Minimum and Maximum cuda capability supported by this version of PyTorch is (8.0) - (12.0)

onnxruntime-gpu öğesini yükle#

Güncel ONNX Runtime GPU sürümleri, Python 3.12 dâhil Linux ARM64 wheel'ları sunar. NVIDIA ARM64 Docker imajı resmî paketi yükler; yerel CUDA 13 kurulumları için şunu kullan:

pip install onnxruntime-gpu

NVIDIA DGX Spark'ta TensorRT Kullanımı#

Ultralytics'in desteklediği tüm model dışa aktarma biçimleri arasında TensorRT, NVIDIA DGX Spark'ta en yüksek çıkarım performansını sunar; bu nedenle dağıtımlar için ilk önerimizdir. Kurulum talimatları ve gelişmiş kullanım için özel TensorRT entegrasyon kılavuzumuza bak.

Modeli TensorRT'ye Dönüştür ve Çıkarım Yap#

PyTorch biçimindeki YOLO26n modeli, dışa aktarılan modelle çıkarım yapmak üzere TensorRT'ye dönüştürülür.

from ultralytics import YOLO

# YOLO26n PyTorch modelini yükle
model = YOLO("yolo26n.pt")

# Modeli TensorRT'ye aktar
model.export(format="engine")  # 'yolo26n.engine' oluşturur

# Dışa aktarılan TensorRT modelini yükle
trt_model = YOLO("yolo26n.engine")

# Çıkarımı çalıştır
results = trt_model("https://ultralytics.com/images/bus.jpg")

NVIDIA DGX Spark YOLO11 Karşılaştırma Sonuçları#

YOLO11 karşılaştırma testleri, hız ve doğruluğu ölçmek üzere Ultralytics ekibi tarafından birden fazla model biçiminde gerçekleştirildi: PyTorch, TorchScript, ONNX, OpenVINO, TensorRT, TF SavedModel, TF GraphDef, TF Lite, MNN, NCNN, ExecuTorch. Testler NVIDIA DGX Spark'ta, varsayılan 640 giriş görüntüsü boyutuyla FP32 hassasiyetinde gerçekleştirildi.

Ayrıntılı karşılaştırma tablosu#

Aşağıdaki tablo; beş farklı modelin (YOLO11n, YOLO11s, YOLO11m, YOLO11l, YOLO11x) birden fazla biçimdeki karşılaştırma sonuçlarını gösterir ve her birleşim için durumu, boyutu, mAP50-95(B) metriğini ve çıkarım süresini sunar.

Sonuçlarımızı Yeniden Üretme#

Yukarıdaki Ultralytics kıyaslamalarını tüm dışa aktarma formatlarında yeniden üretmek için şu kodu çalıştır:

from ultralytics import YOLO

# YOLO26n PyTorch modelini yükle
model = YOLO("yolo26n.pt")

# COCO128 veri kümesinde YOLO26n hızını ve doğruluğunu tüm dışa aktarma formatları için kıyasla
results = model.benchmark(data="coco128.yaml", imgsz=640)

NVIDIA DGX Spark için En İyi Uygulamalar#

NVIDIA DGX Spark kullanırken YOLO26'yı en yüksek performansta çalıştırmak için izleyebileceğin birkaç en iyi uygulama vardır.

1. Sistem Performansını İzle

   GPU ve CPU kullanımını izlemek için NVIDIA'nın izleme araçlarını kullan:

   nvidia-smi

2. Bellek Kullanımını Optimize Et

   128 GB birleşik belleğiyle DGX Spark, büyük toplu iş boyutlarını ve modelleri işleyebilir. İşleme hızını artırmak için toplu iş boyutunu büyütmeyi düşün:

   from ultralytics import YOLO
   
   model = YOLO("yolo26n.engine")
   results = model.predict(source="path/to/images", batch=16)

3. TensorRT'yi FP16 veya INT8 ile Kullan

   En iyi performans için modelleri FP16 veya INT8 hassasiyetiyle dışa aktar:

   yolo export model=yolo26n.pt format=engine quantize=16 # FP16
   yolo export model=yolo26n.pt format=engine quantize=8  # INT8

Sistem Güncellemeleri (Founders Edition)#

DGX Spark Founders Edition'ı güncel tutmak performans ve güvenlik açısından kritik önem taşır. NVIDIA, sistem işletim sistemini, sürücüleri ve aygıt yazılımını güncellemek için iki temel yöntem sunar.

DGX Dashboard Kullanımı (Önerilen)#

Sistem güncellemelerini uyumluluğu sağlayarak yapmak için önerilen yöntem DGX Dashboard kullanmaktır. Şunları yapmana olanak tanır:

• Kullanılabilir sistem güncellemelerini görüntüleme
• Güvenlik yamalarını ve sistem güncellemelerini yükleme
• NVIDIA sürücüsü ve aygıt yazılımı güncellemelerini yönetme

Sistem Güncellemelerini Elle Yapma#

İleri düzey kullanıcılar güncellemeleri terminal üzerinden elle yapabilir:

sudo apt update
sudo apt dist-upgrade
sudo fwupdmgr refresh
sudo fwupdmgr upgrade
sudo reboot

Sonraki Adımlar#

Daha fazla bilgi ve destek için Ultralytics YOLO26 Belgeleri sayfasına göz at.

Sık Sorulan Sorular#