Link to this sectionHızlı Başlangıç Kılavuzu: NVIDIA DGX Spark ile Ultralytics YOLO26#

Bu kapsamlı kılavuz, Ultralytics YOLO26'yı NVIDIA'nın kompakt masaüstü yapay zeka süper bilgisayarı NVIDIA DGX Spark üzerinde dağıtman için ayrıntılı bir izlek sunar. Ayrıca, YOLO26'nın bu güçlü sistem üzerindeki yeteneklerini göstermek için performans karşılaştırmaları da içerir.

Link to this sectionNVIDIA DGX Spark nedir?#

NVIDIA DGX Spark, NVIDIA GB10 Grace Blackwell Süperçipi tarafından desteklenen kompakt bir masaüstü yapay zeka süper bilgisayarıdır. FP4 hassasiyetiyle 1 petaFLOP'a kadar yapay zeka bilgi işlem performansı sunar ve bu da onu masaüstü form faktöründe güçlü yapay zeka yeteneklerine ihtiyaç duyan geliştiriciler, araştırmacılar ve veri bilimciler için ideal kılar.

Link to this sectionTemel Özellikler#

Link to this sectionDGX OS#

NVIDIA DGX OS, DGX sistemlerinde yapay zeka, makine öğrenimi ve analitik uygulamalarını çalıştırmak için kararlı, test edilmiş ve desteklenen bir işletim sistemi temeli sağlayan özelleştirilmiş bir Linux dağıtımıdır. Şunları içerir:

• Yapay zeka iş yükleri için optimize edilmiş sağlam bir Linux temeli
• NVIDIA donanımı için önceden yapılandırılmış sürücüler ve sistem ayarları
• Güvenlik güncellemeleri ve sistem bakım yetenekleri
• Daha geniş NVIDIA yazılım ekosistemiyle uyumluluk

DGX OS, genellikle yılda iki kez (Şubat ve Ağustos civarı) sağlanan güncellemeler ve ana sürümler arasında sağlanan ek güvenlik yamalarıyla düzenli bir sürüm takvimini takip eder.

Link to this sectionDGX Paneli#

DGX Spark, şunları sağlayan yerleşik bir DGX Paneli ile birlikte gelir:

• Gerçek zamanlı Sistem İzleme: Sistemin mevcut operasyonel metriklerine genel bakış
• Sistem Güncellemeleri: Güncellemeleri doğrudan panelden uygulama yeteneği
• Sistem Ayarları: Cihaz adını ve diğer yapılandırmaları değiştirme
• Entegre JupyterLab: Geliştirme için yerel Jupyter Notebook'lara erişim

Link to this sectionPanele Erişim#

Link to this sectionDocker ile Hızlı Başlangıç#

NVIDIA DGX Spark üzerinde Ultralytics YOLO26 ile başlamanın en hızlı yolu, önceden oluşturulmuş docker görüntüleri ile çalıştırmaktır. Jetson AGX Thor'u (JetPack 7.0) destekleyen aynı Docker görüntüsü, DGX OS yüklü DGX Spark üzerinde de çalışır.

t=ultralytics/ultralytics:latest-nvidia-arm64
sudo docker pull $t && sudo docker run -it --ipc=host --runtime=nvidia --gpus all $t

Bu işlem bittikten sonra, NVIDIA DGX Spark üzerinde TensorRT kullanma bölümüne atla.

Link to this sectionYerel Kurulum ile Başla#

Docker olmadan yerel bir kurulum için şu adımları izle.

Link to this sectionUltralytics Paketini Yükle#

Burada, PyTorch modellerini diğer farklı formatlara dışa aktarabilmemiz için isteğe bağlı bağımlılıklarla birlikte DGX Spark üzerine Ultralytics paketini kuracağız. Ağırlıklı olarak NVIDIA TensorRT dışa aktarımlarına odaklanacağız çünkü TensorRT, DGX Spark'tan maksimum performansı alabilmemizi sağlayacaktır.

1. Paket listesini güncelle, pip'i yükle ve en son sürüme yükselt

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. İsteğe bağlı bağımlılıklarla ultralytics pip paketini kur

   pip install ultralytics[export]

3. Cihazı yeniden başlat

   sudo reboot

Link to this sectionPyTorch ve Torchvision kur#

Yukarıdaki ultralytics kurulumu, Torch ve Torchvision'ı kuracaktır. Ancak, pip aracılığıyla kurulan bu paketler, CUDA 13 yüklü DGX Spark'ın ARM64 mimarisi için tam olarak optimize edilmemiş olabilir. Bu nedenle, CUDA 13 uyumlu sürümleri kurmanı öneririz:

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

UserWarning: Found GPU0 NVIDIA GB10 which is of cuda capability 12.1.
Minimum and Maximum cuda capability supported by this version of PyTorch is (8.0) - (12.0)

Link to this sectiononnxruntime-gpu kur#

PyPI'da barındırılan onnxruntime-gpu paketinin ARM64 sistemleri için aarch64 ikili dosyaları bulunmuyor. Bu yüzden bu paketi manuel olarak kurmamız gerekiyor. Bu paket, bazı dışa aktarma işlemleri için gereklidir.

Here we will download and install onnxruntime-gpu 1.24.0 with Python3.12 support.

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.24.0-cp312-cp312-linux_aarch64.whl

Link to this sectionNVIDIA DGX Spark üzerinde TensorRT Kullan#

Ultralytics tarafından desteklenen tüm model dışa aktarma formatları arasında TensorRT, NVIDIA DGX Spark üzerinde en yüksek çıkarım performansını sunar ve bu da onu dağıtımlar için en önemli önerimiz haline getirir. Kurulum talimatları ve gelişmiş kullanım için özel TensorRT entegrasyon kılavuzumuza bak.

Link to this sectionModeli TensorRT'ye Dönüştür ve Çıkarım Çalıştır#

PyTorch formatındaki YOLO26n modeli, dışa aktarılan model ile çıkarım yapmak için TensorRT'ye dönüştürülür.

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT
model.export(format="engine")  # creates 'yolo26n.engine'

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

Link to this sectionNVIDIA DGX Spark YOLO11 Karşılaştırmaları#

YOLO11 karşılaştırmaları, hız ve doğruluğu ölçmek üzere birden fazla model formatında Ultralytics ekibi tarafından çalıştırılmıştır: PyTorch, TorchScript, ONNX, OpenVINO, TensorRT, TF SavedModel, TF GraphDef, TF Lite, MNN, NCNN, ExecuTorch. Karşılaştırmalar, NVIDIA DGX Spark üzerinde 640 varsayılan giriş görsel boyutu ile FP32 hassasiyetinde çalıştırılmıştır.

Link to this sectionAyrıntılı Karşılaştırma Tablosu#

Aşağıdaki tablo, beş farklı modelin (YOLO11n, YOLO11s, YOLO11m, YOLO11l, YOLO11x) birden fazla formattaki karşılaştırma sonuçlarını temsil eder; bu tablo her kombinasyon için durum, boyut, mAP50-95(B) metriği ve çıkarım süresini verir.

Link to this sectionSonuçlarımızı Yeniden Üret#

Yukarıdaki Ultralytics kıyaslamalarını tüm dışa aktarma formatlarında yeniden üretmek için bu kodu çalıştır:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml", imgsz=640)

Link to this sectionNVIDIA DGX Spark İçin En İyi Uygulamalar#

NVIDIA DGX Spark kullanırken, YOLO26 çalıştırırken maksimum performansı elde etmek için izlemen gereken birkaç en iyi uygulama bulunmaktadır.

1. Sistem Performansını İzle

   GPU ve CPU kullanımını takip etmek için NVIDIA'nın izleme araçlarını kullan:

   nvidia-smi

2. Bellek Kullanımını Optimize Et

   128GB birleşik bellek ile DGX Spark büyük yığın boyutlarını ve modelleri işleyebilir. Gelişmiş iş hacmi için yığın boyutunu artırmayı düşün:

   from ultralytics import YOLO
   
   model = YOLO("yolo26n.engine")
   results = model.predict(source="path/to/images", batch=16)

3. FP16 veya INT8 ile TensorRT Kullan

   En iyi performans için, modelleri FP16 veya INT8 hassasiyeti ile dışa aktar:

   yolo export model=yolo26n.pt format=engine half=True # FP16
   yolo export model=yolo26n.pt format=engine int8=True # INT8

Link to this sectionSistem Güncellemeleri (Founders Edition)#

DGX Spark Founders Edition'ını güncel tutmak, performans ve güvenlik açısından kritiktir. NVIDIA, sistem işletim sistemini, sürücüleri ve aygıt yazılımını güncellemek için iki ana yöntem sunar.

Link to this sectionDGX Dashboard Kullanımı (Önerilen)#

DGX Dashboard, uyumluluğu sağlayarak sistem güncellemelerini gerçekleştirmenin önerilen yoludur. Şunları yapmana olanak tanır:

• Mevcut sistem güncellemelerini görüntüle
• Güvenlik yamalarını ve sistem güncellemelerini yükle
• NVIDIA sürücü ve aygıt yazılımı güncellemelerini yönet

Link to this sectionManuel Sistem Güncellemeleri#

İleri düzey kullanıcılar için, güncellemeler terminal üzerinden manuel olarak gerçekleştirilebilir:

sudo apt update
sudo apt dist-upgrade
sudo fwupdmgr refresh
sudo fwupdmgr upgrade
sudo reboot

Link to this sectionSonraki Adımlar#

Daha fazla öğrenme ve destek için Ultralytics YOLO26 Dokümanlarına bak.

Link to this sectionSSS#

Link to this sectionUltralytics YOLO26'yı NVIDIA DGX Spark üzerinde nasıl dağıtabilirim?#

Ultralytics YOLO26'yı NVIDIA DGX Spark üzerinde dağıtmak oldukça basittir. Hızlı kurulum için önceden oluşturulmuş Docker imajını kullanabilir veya gerekli paketleri manuel olarak yükleyebilirsin. Her yaklaşım için ayrıntılı adımlar Docker ile Hızlı Başlangıç ve Yerel Kurulum ile Başlangıç bölümlerinde bulunabilir.

Link to this sectionNVIDIA DGX Spark üzerinde YOLO26'dan ne tür bir performans bekleyebilirim?#

YOLO26 modelleri, GB10 Grace Blackwell Superchip sayesinde DGX Spark üzerinde mükemmel performans sunar. TensorRT formatı en iyi çıkarım performansını sağlar. Farklı model boyutları ve formatları genelindeki özel kıyaslama sonuçları için Ayrıntılı Karşılaştırma Tablosu bölümüne göz at.

Link to this sectionDGX Spark üzerinde YOLO26 için neden TensorRT kullanmalıyım?#

TensorRT, optimal performansı nedeniyle DGX Spark üzerinde YOLO26 modellerini dağıtmak için şiddetle önerilir. Blackwell GPU yeteneklerinden yararlanarak çıkarımı hızlandırır, maksimum verimlilik ve hız sağlar. NVIDIA DGX Spark üzerinde TensorRT Kullanımı bölümünde daha fazlasını öğren.

Link to this sectionDGX Spark, YOLO26 için Jetson cihazlarına kıyasla nasıl bir performans sunar?#

DGX Spark, 1 PFLOP'a kadar AI performansı ve 128GB birleşik bellek sunarken, Jetson AGX Thor 2070 TFLOPS ve 128GB bellek sunar. DGX Spark bir masaüstü AI süper bilgisayarı olarak tasarlanmıştır, Jetson cihazları ise uç dağıtım için optimize edilmiş gömülü sistemlerdir.

Link to this sectionDGX Spark ve Jetson AGX Thor için aynı Docker imajını kullanabilir miyim?#

Evet! ultralytics/ultralytics:latest-nvidia-arm64 Docker imajı, her ikisi de CUDA 13 ve benzer yazılım yığınları ile ARM64 mimarisini kullandığından hem NVIDIA DGX Spark'ı (DGX OS ile) hem de Jetson AGX Thor'u (JetPack 7.0 ile) destekler.