Hızlı Başlangıç Kılavuzu: Ultralytics YOLO26 ile NVIDIA DGX Spark#

Bu kapsamlı kılavuz, Ultralytics YOLO26'i NVIDIA DGX Spark üzerinde, NVIDIA'nın kompakt masaüstü yapay zekâ süper bilgisayarında dağıtmak için ayrıntılı bir uygulama akışı sunar. Ayrıca YOLO26'in bu güçlü sistemdeki yeteneklerini göstermek için performans kıyaslamalarını sergiler.

NVIDIA DGX Spark nedir?#

NVIDIA DGX Spark, NVIDIA GB10 Grace Blackwell Superchip tarafından desteklenen kompakt bir masaüstü yapay zekâ süper bilgisayarıdır. FP4 hassasiyetiyle 1 petaFLOP'a kadar yapay zekâ işlem performansı sunarak masaüstü biçiminde güçlü yapay zekâ yeteneklerine ihtiyaç duyan geliştiriciler, araştırmacılar ve veri bilimcileri için idealdir.

Temel Özellikler#

DGX OS#

NVIDIA DGX OS, DGX sistemlerinde yapay zekâ, makine öğrenimi ve analiz uygulamalarını çalıştırmak için kararlı, test edilmiş ve desteklenen bir işletim sistemi temeli sağlayan özelleştirilmiş bir Linux dağıtımıdır. Şunları içerir:

• Yapay zekâ iş yükleri için optimize edilmiş sağlam bir Linux temeli
• NVIDIA donanımı için önceden yapılandırılmış sürücüler ve sistem ayarları
• Güvenlik güncellemeleri ve sistem bakım özellikleri
• Daha geniş NVIDIA yazılım ekosistemiyle uyumluluk

DGX OS düzenli bir sürüm takvimini izler; güncellemeler genellikle yılda iki kez (Şubat ve Ağustos civarında) sunulur ve büyük sürümler arasında ek güvenlik yamaları sağlanır.

DGX Dashboard#

DGX Spark, şunları sağlayan yerleşik bir DGX Dashboard ile birlikte gelir:

• Gerçek Zamanlı Sistem İzleme: Sistemin mevcut çalışma ölçümlerine genel bakış
• Sistem Güncellemeleri: Güncellemeleri doğrudan kontrol panelinden uygulama olanağı
• Sistem Ayarları: Cihaz adını ve diğer yapılandırmaları değiştirme
• Entegre JupyterLab: Geliştirme için yerel Jupyter Notebooks'a erişim

Kontrol Paneline Erişme#

Docker ile Hızlı Başlangıç#

NVIDIA DGX Spark üzerinde Ultralytics YOLO26 ile hemen başlamanın en hızlı yolu, önceden oluşturulmuş docker görüntüleriyle çalıştırmaktır. NVIDIA ARM64 görüntüsü, DGX OS çalıştıran DGX Spark'ı destekler.

t=ultralytics/ultralytics:latest-nvidia-arm64
sudo docker pull $t && sudo docker run -it --ipc=host --device nvidia.com/gpu=all $t

Yukarıdaki CDI aygıt isteği, DGX OS çalıştıran DGX Spark için geçerlidir. Jetson AGX Thor üzerindeki PyTorch iş yükleri için NVIDIA Jetson kılavuzundaki ayrı konak gereksinimlerine ve TensorRT kısıtlamasına bak.

Bu görüntü NVIDIA PyTorch 26.08, CUDA 13.4 ve TensorRT 11 kullanır. DGX OS konak sürücüsünü NVIDIA PyTorch 26.08 tarafından desteklenen bir sürüme güncelle ve görüntüyü veya hedef GPU'yu değiştirdikten sonra TensorRT motorlarını yeniden oluştur.

Bu işlem tamamlandıktan sonra NVIDIA DGX Spark'ta TensorRT kullanma bölümüne geç.

Yerel Kurulumla Başla#

Docker kullanmadan yerel kurulum için şu adımları izle.

Ultralytics Paketini Yükleme#

Burada Ultralytics paketini DGX Spark'a yükleyeceğiz. Dışa aktarma bağımlılıkları, bir modeli ilk kez dışa aktardığında otomatik olarak yüklenir; bu nedenle burada yalnızca temel paket gereklidir. TensorRT'nin DGX Spark'tan en yüksek performansı almamızı sağlayacağından, temel olarak NVIDIA TensorRT dışa aktarımlarına odaklanacağız.

1. Paket listesini güncelle, pip'i yükle ve en son sürüme yükselt

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. ultralytics pip paketini yükle

   pip install ultralytics

3. Cihazı yeniden başlat

   sudo reboot

PyTorch ve Torchvision'ı yükle#

Yukarıdaki ultralytics kurulumu Torch ve Torchvision'ı yükler. Ancak pip aracılığıyla yüklenen bu paketler, DGX Spark'ın CUDA 13 içeren ARM64 mimarisi için tamamen optimize edilmemiş olabilir. Bu nedenle CUDA 13 ile uyumlu sürümleri yüklemeni öneririz:

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

UserWarning: Found GPU0 NVIDIA GB10 which is of cuda capability 12.1.
Minimum and Maximum cuda capability supported by this version of PyTorch is (8.0) - (12.0)

onnxruntime-gpu paketini yükle#

Mevcut ONNX Runtime GPU sürümleri, Python 3.12 dahil olmak üzere Linux ARM64 tekerlekleri sağlar. NVIDIA ARM64 Docker görüntüsü resmi paketi yükler; yerel CUDA 13 kurulumları için şunu kullan:

pip install onnxruntime-gpu

NVIDIA DGX Spark'ta TensorRT Kullanma#

Ultralytics tarafından desteklenen tüm model dışa aktarma biçimleri arasında TensorRT, NVIDIA DGX Spark'ta en yüksek çıkarım performansını sunar ve bu nedenle dağıtımlar için en çok önerdiğimiz seçenektir. Kurulum talimatları ve gelişmiş kullanım için özel TensorRT entegrasyon kılavuzumuza bak.

Modeli TensorRT'ye Dönüştürme ve Çıkarım Çalıştırma#

PyTorch biçimindeki YOLO26n modeli, dışa aktarılan modelle çıkarım çalıştırmak üzere TensorRT'ye dönüştürülür.

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT
model.export(format="engine")  # creates 'yolo26n.engine'

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

NVIDIA DGX Spark YOLO11 Kıyaslamaları#

YOLO11 kıyaslamaları, birden çok model biçiminde hız ve doğruluk ölçülerek Ultralytics ekibi tarafından gerçekleştirildi: PyTorch, TorchScript, ONNX, OpenVINO, TensorRT, TF SavedModel, TF GraphDef, TF Lite, MNN, NCNN, ExecuTorch. Kıyaslamalar, varsayılan 640 giriş görüntüsü boyutuyla FP32 hassasiyetinde NVIDIA DGX Spark üzerinde gerçekleştirildi.

Ayrıntılı Karşılaştırma Tablosu#

Aşağıdaki tablo, beş farklı modelin (YOLO11n, YOLO11s, YOLO11m, YOLO11l, YOLO11x) birden çok biçimdeki kıyaslama sonuçlarını göstererek her kombinasyon için durumu, boyutu, mAP50-95(B) metriğini ve çıkarım süresini sunar.

Sonuçlarımızı Yeniden Üretme#

Yukarıdaki Ultralytics kıyaslamalarını tüm dışa aktarma biçimlerinde yeniden üretmek için şu kodu çalıştır:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml", imgsz=640)

NVIDIA DGX Spark için En İyi Uygulamalar#

NVIDIA DGX Spark kullanırken YOLO26'yı çalıştırırken en yüksek performansı elde etmek için izlenmesi gereken birkaç en iyi uygulama vardır.

1. Sistem Performansını İzle

   GPU ve CPU kullanımını izlemek için NVIDIA'nın izleme araçlarını kullan:

   nvidia-smi

2. Bellek Kullanımını Optimize Et

   128 GB birleşik belleğiyle DGX Spark, büyük toplu iş boyutlarını ve modelleri işleyebilir. Daha yüksek aktarım hızı elde etmek için toplu iş boyutunu artırmayı düşün:

   from ultralytics import YOLO
   
   model = YOLO("yolo26n.engine")
   results = model.predict(source="path/to/images", batch=16)

3. FP16 veya INT8 ile TensorRT Kullan

   En iyi performans için modelleri FP16 veya INT8 hassasiyetiyle dışa aktar:

   yolo export model=yolo26n.pt format=engine quantize=16 # FP16
   yolo export model=yolo26n.pt format=engine quantize=8  # INT8

Sistem Güncellemeleri (Founders Edition)#

DGX Spark Founders Edition'ı güncel tutmak performans ve güvenlik açısından kritik öneme sahiptir. NVIDIA, sistem işletim sistemini, sürücüleri ve ürün yazılımını güncellemek için iki temel yöntem sunar.

DGX Dashboard'ı Kullanma (Önerilen)#

DGX Dashboard, uyumluluğu güvence altına alarak sistem güncellemelerini gerçekleştirmek için önerilen yöntemdir. Şunları yapmanı sağlar:

• Kullanılabilir sistem güncellemelerini görüntüleme
• Güvenlik yamalarını ve sistem güncellemelerini yükleme
• NVIDIA sürücüsü ve ürün yazılımı güncellemelerini yönetme

Manuel Sistem Güncellemeleri#

İleri düzey kullanıcılar güncellemeleri terminal üzerinden manuel olarak gerçekleştirebilir:

sudo apt update
sudo apt dist-upgrade
sudo fwupdmgr refresh
sudo fwupdmgr upgrade
sudo reboot

Sonraki Adımlar#

Daha fazla bilgi ve destek için Ultralytics YOLO26 Belgelerine bak.

SSS#