Hızlı Başlangıç Kılavuzu: NVIDIA DGX Spark ile Ultralytics YOLO26#

Bu kapsamlı kılavuz, NVIDIA'nın kompakt masaüstü yapay zeka süper bilgisayarı olan NVIDIA DGX Spark üzerinde Ultralytics YOLO26'yı dağıtmak için ayrıntılı bir adım adım rehber sunar. Ek olarak, bu güçlü sistemde YOLO26'nın yeteneklerini göstermek için performans kıyaslamalarını sergiler.

NVIDIA DGX Spark nedir?#

NVIDIA DGX Spark, NVIDIA GB10 Grace Blackwell Süperçipi tarafından desteklenen kompakt bir masaüstü yapay zeka süper bilgisayarıdır. FP4 hassasiyetiyle 1 petaFLOP'a kadar yapay zeka bilgi işlem performansı sunar ve bu da onu masaüstü form faktöründe güçlü yapay zeka yeteneklerine ihtiyaç duyan geliştiriciler, araştırmacılar ve veri bilimciler için ideal kılar.

Temel Özellikler#

DGX OS#

NVIDIA DGX OS, DGX sistemlerinde yapay zeka, makine öğrenimi ve analitik uygulamalarını çalıştırmak için kararlı, test edilmiş ve desteklenen bir işletim sistemi temeli sağlayan özelleştirilmiş bir Linux dağıtımıdır. Aşağıdakileri içerir:

• Yapay zeka iş yükleri için optimize edilmiş sağlam bir Linux temeli
• NVIDIA donanımı için önceden yapılandırılmış sürücüler ve sistem ayarları
• Güvenlik güncellemeleri ve sistem bakım yetenekleri
• Daha geniş NVIDIA yazılım ekosistemiyle uyumluluk

DGX OS, genellikle yılda iki kez (Şubat ve Ağustos civarı) sağlanan güncellemeler ve ana sürümler arasında sağlanan ek güvenlik yamalarıyla düzenli bir sürüm takvimini takip eder.

DGX Paneli#

DGX Spark, aşağıdakileri sağlayan yerleşik bir DGX Dashboard ile birlikte gelir:

• Gerçek zamanlı Sistem İzleme: Sistemin mevcut operasyonel metriklerine genel bakış
• Sistem Güncellemeleri: Güncellemeleri doğrudan panelden uygulama yeteneği
• Sistem Ayarları: Cihaz adını ve diğer yapılandırmaları değiştirme
• Entegre JupyterLab: Geliştirme için yerel Jupyter Notebook'lara erişim

Panele Erişim#

Docker ile Hızlı Başlangıç#

NVIDIA DGX Spark üzerinde Ultralytics YOLO26 ile başlamanın en hızlı yolu, önceden oluşturulmuş docker görüntüleri ile çalıştırmaktır. Jetson AGX Thor'u (JetPack 7.0) destekleyen aynı Docker görüntüsü, DGX OS yüklü DGX Spark üzerinde de çalışır.

t=ultralytics/ultralytics:latest-nvidia-arm64
sudo docker pull $t && sudo docker run -it --ipc=host --device nvidia.com/gpu=all $t

Yukarıdaki CDI aygıt isteği, DGX OS çalıştıran DGX Spark için geçerlidir. Jetson AGX Thor üzerinde, NVIDIA Jetson kılavuzunda gösterildiği gibi aynı imajı bunun yerine --runtime=nvidia ile çalıştır.

Bu işlem tamamlandıktan sonra Use TensorRT on NVIDIA DGX Spark section bölümüne geç.

Yerel Kurulumla Başlayın#

Docker olmadan yerel bir kurulum için şu adımları izle.

Ultralytics Paketini Yükleyin#

PyTorch modellerini diğer farklı formatlara dışarı aktarabilmemiz için burada DGX Spark üzerine Ultralytics paketini isteğe bağlı bağımlılıklarla birlikte kuracağız. TensorRT, DGX Spark'tan maksimum performans alabilmemizi sağlayacağı için ağırlıklı olarak NVIDIA TensorRT exports üzerine odaklanacağız.

1. Paket listesini güncelleyin, pip'i kurun ve en son sürüme yükseltin

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. İsteğe bağlı bağımlılıklarla birlikte ultralytics pip paketini kur

   pip install ultralytics[export]

3. Cihazı yeniden başlatın

   sudo reboot

PyTorch ve Torchvision'ı Kurun#

Yukarıdaki ultralytics kurulumu, Torch ve Torchvision'ı kuracaktır. Ancak, pip aracılığıyla kurulan bu paketler, CUDA 13 yüklü DGX Spark'ın ARM64 mimarisi için tam olarak optimize edilmemiş olabilir. Bu nedenle, CUDA 13 uyumlu sürümleri kurmanı öneririz:

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

UserWarning: Found GPU0 NVIDIA GB10 which is of cuda capability 12.1.
Minimum and Maximum cuda capability supported by this version of PyTorch is (8.0) - (12.0)

onnxruntime-gpu paketini kur#

PyPI'da barındırılan onnxruntime-gpu paketi, ARM64 sistemleri için aarch64 ikili dosyalarına sahip değildir. Bu yüzden bu paketleri manuel olarak kurmamız gerekir. Bu paket, dışarı aktarma işlemlerinden bazıları için gereklidir.

Burada Python3.12 desteğiyle onnxruntime-gpu 1.24.0 indirip kuracağız.

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.24.0-cp312-cp312-linux_aarch64.whl

NVIDIA DGX Spark üzerinde TensorRT Kullan#

Ultralytics tarafından desteklenen tüm model dışarı aktarma formatları arasında TensorRT, NVIDIA DGX Spark üzerinde en yüksek çıkarım performansını sunar ve bu da onu dağıtımlar için en önemli tavsiyemiz yapar. Kurulum talimatları ve gelişmiş kullanım için dedicated TensorRT integration guide kılavuzumuza göz at.

Modeli TensorRT'ye Dönüştür ve Çıkarımı Çalıştır#

PyTorch formatındaki YOLO26n modeli, dışa aktarılan modelle çıkarım çalıştırmak üzere TensorRT'ye dönüştürülür.

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT
model.export(format="engine")  # creates 'yolo26n.engine'

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

NVIDIA DGX Spark YOLO11 Karşılaştırmaları#

YOLO11 kıyaslamaları, Ultralytics ekibi tarafından hız ve accuracy ölçen birden fazla model formatında çalıştırıldı: PyTorch, TorchScript, ONNX, OpenVINO, TensorRT, TF SavedModel, TF GraphDef, TF Lite, MNN, NCNN, ExecuTorch. Kıyaslamalar, varsayılan 640 giriş resmi boyutuyla ve FP32 precision değerinde NVIDIA DGX Spark üzerinde çalıştırıldı.

Ayrıntılı Karşılaştırma Tablosu#

Aşağıdaki tablo, beş farklı modelin (YOLO11n, YOLO11s, YOLO11m, YOLO11l, YOLO11x) birden fazla formattaki karşılaştırma sonuçlarını temsil eder; bu tablo her kombinasyon için durum, boyut, mAP50-95(B) metriği ve çıkarım süresini verir.

Sonuçlarımızı Yeniden Oluştur#

Yukarıdaki Ultralytics kıyaslamalarını tüm dışarı aktarma formats üzerinde yeniden üretmek için şu kodu çalıştır:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml", imgsz=640)

NVIDIA DGX Spark İçin En İyi Uygulamalar#

NVIDIA DGX Spark kullanırken, YOLO26 çalıştırırken maksimum performansı elde etmek için izlemen gereken birkaç en iyi uygulama bulunmaktadır.

1. Sistem Performansını İzle

   GPU ve CPU kullanımını takip etmek için NVIDIA'nın izleme araçlarını kullan:

   nvidia-smi

2. Bellek Kullanımını Optimize Et

   128GB birleşik bellek ile DGX Spark büyük yığın boyutlarını ve modelleri işleyebilir. Gelişmiş iş hacmi için yığın boyutunu artırmayı düşün:

   from ultralytics import YOLO
   
   model = YOLO("yolo26n.engine")
   results = model.predict(source="path/to/images", batch=16)

3. FP16 veya INT8 ile TensorRT Kullan

   En iyi performans için, modelleri FP16 veya INT8 hassasiyeti ile dışa aktar:

   yolo export model=yolo26n.pt format=engine quantize=16 # FP16
   yolo export model=yolo26n.pt format=engine quantize=8  # INT8

Sistem Güncellemeleri (Founders Edition)#

DGX Spark Founders Edition'ını güncel tutmak, performans ve güvenlik açısından kritiktir. NVIDIA, sistem işletim sistemini, sürücüleri ve aygıt yazılımını güncellemek için iki ana yöntem sunar.

DGX Dashboard Kullanımı (Önerilen)#

DGX Dashboard, uyumluluğu garanti eden sistem güncellemelerini gerçekleştirmek için önerilen yoldur. Şunları yapmanı sağlar:

• Mevcut sistem güncellemelerini görüntüle
• Güvenlik yamalarını ve sistem güncellemelerini yükle
• NVIDIA sürücü ve aygıt yazılımı güncellemelerini yönet

Manuel Sistem Güncellemeleri#

İleri düzey kullanıcılar için, güncellemeler terminal üzerinden manuel olarak gerçekleştirilebilir:

sudo apt update
sudo apt dist-upgrade
sudo fwupdmgr refresh
sudo fwupdmgr upgrade
sudo reboot

Sonraki Adımlar#

Daha fazla öğrenme ve destek için Ultralytics YOLO26 Docs sayfasına göz at.

SSS#

Ultralytics YOLO26'yı NVIDIA DGX Spark üzerinde nasıl dağıtabilirim?#

NVIDIA DGX Spark üzerinde Ultralytics YOLO26'yı dağıtmak oldukça basittir. Hızlı kurulum için önceden oluşturulmuş Docker görüntüsünü kullanabilir veya gerekli paketleri manuel olarak kurabilirsin. Her yaklaşım için ayrıntılı adımlar Quick Start with Docker ve Start with Native Installation bölümlerinde bulunabilir.

NVIDIA DGX Spark üzerinde YOLO26'dan ne tür bir performans bekleyebilirim?#

YOLO26 modelleri, GB10 Grace Blackwell Superchip sayesinde DGX Spark üzerinde mükemmel performans sunar. TensorRT formatı en iyi çıkarım performansını sağlar. Farklı model boyutları ve formatlardaki belirli kıyaslama sonuçları için Detailed Comparison Table bölümüne göz at.

DGX Spark üzerinde YOLO26 için neden TensorRT kullanmalıyım?#

TensorRT, optimum performansı nedeniyle YOLO26 modellerini DGX Spark üzerinde dağıtmak için şiddetle tavsiye edilir. Blackwell GPU yeteneklerinden yararlanarak çıkarımı hızlandırır, maksimum verimlilik ve hız sağlar. Use TensorRT on NVIDIA DGX Spark bölümünde daha fazlasını öğren.

DGX Spark, YOLO26 için Jetson cihazlarına kıyasla nasıl bir performans sunar?#

DGX Spark, 1 PFLOP'a kadar AI performansı ve 128GB birleşik bellek sunarken, Jetson AGX Thor 2070 TFLOPS ve 128GB bellek sunar. DGX Spark bir masaüstü AI süper bilgisayarı olarak tasarlanmıştır, Jetson cihazları ise uç dağıtım için optimize edilmiş gömülü sistemlerdir.

DGX Spark ve Jetson AGX Thor için aynı Docker imajını kullanabilir miyim?#

Evet! ultralytics/ultralytics:latest-nvidia-arm64 Docker görüntüsü, her ikisi de CUDA 13 ve benzer yazılım yığınlarına sahip ARM64 mimarisini kullandığından hem NVIDIA DGX Spark'ı (DGX OS ile) hem de Jetson AGX Thor'u (JetPack 7.0 ile) destekler.