Hızlı Başlangıç Rehberi: NVIDIA DGX Spark ile Ultralytics YOLO26

Bu kapsamlı rehber, Ultralytics YOLO26'yı NVIDIA'nın kompakt masaüstü yapay zeka süper bilgisayarı olan NVIDIA DGX Spark üzerinde dağıtmak için ayrıntılı bir yol haritası sunar. Ek olarak, bu güçlü sistemde YOLO26'nın yeteneklerini göstermek için performans kıyaslamalarını sergiler.

NVIDIA DGX Spark Nedir?

NVIDIA DGX Spark, NVIDIA GB10 Grace Blackwell Süperçipi tarafından desteklenen kompakt bir masaüstü yapay zeka süper bilgisayarıdır. FP4 hassasiyetinde 1 petaFLOP'a kadar yapay zeka hesaplama performansı sunarak, masaüstü form faktöründe güçlü yapay zeka yeteneklerine ihtiyaç duyan geliştiriciler, araştırmacılar ve veri bilimciler için idealdir.

Temel Özellikler

DGX OS

NVIDIA DGX OS, yapay zeka, makine öğrenimi ve analitik uygulamalarını DGX sistemlerinde çalıştırmak için kararlı, test edilmiş ve desteklenen bir işletim sistemi temeli sağlayan özelleştirilmiş bir Linux dağıtımıdır. Şunları içerir:

• Yapay zeka iş yükleri için optimize edilmiş sağlam bir Linux temeli
• NVIDIA donanımı için önceden yapılandırılmış sürücüler ve sistem ayarları
• Güvenlik güncellemeleri ve sistem bakım yetenekleri
• Daha geniş NVIDIA yazılım ekosistemi ile uyumluluk

DGX OS, genellikle yılda iki kez (Şubat ve Ağustos civarında) güncellemelerle düzenli bir yayın programı izler ve ana sürümler arasında ek güvenlik yamaları sağlanır.

DGX Kontrol Paneli

DGX Spark, yerleşik bir DGX Dashboard ile birlikte gelir ve şunları sağlar:

• Gerçek Zamanlı Sistem İzleme: Sistemin mevcut operasyonel metriklerine genel bakış
• Sistem Güncellemeleri: Güncellemeleri doğrudan kontrol panelinden uygulama yeteneği
• Sistem Ayarları: Cihaz adını ve diğer yapılandırmaları değiştirme
• Entegre JupyterLab: Geliştirme için yerel Jupyter Notebook'lara erişim

Kontrol Paneline Erişim

# Open an SSH tunnel
ssh -L 11000:localhost:11000 username@spark-abcd.local

# Then open in browser
# http://localhost:11000

Docker ile Hızlı Başlangıç

Ultralytics YOLO26'yı NVIDIA DGX Spark üzerinde kullanmaya başlamanın en hızlı yolu, önceden oluşturulmuş Docker görüntüleriyle çalıştırmaktır. Jetson AGX Thor'u (JetPack 7.0) destekleyen aynı Docker görüntüsü, DGX OS ile DGX Spark üzerinde çalışır.

t=ultralytics/ultralytics:latest-nvidia-arm64
sudo docker pull $t && sudo docker run -it --ipc=host --runtime=nvidia --gpus all $t

Bu işlem tamamlandıktan sonra, NVIDIA DGX Spark'ta TensorRT Kullanımı bölümüne atlayın.

Yerel Kurulum ile başlayın

Docker olmadan yerel bir kurulum için şu adımları izleyin.

Ultralytics Paketini Kurulumu

Burada, PyTorch modellerini diğer farklı formatlara aktarabilmek için Ultralytics paketini DGX Spark üzerine isteğe bağlı bağımlılıklarla kuracağız. Ağırlıklı olarak NVIDIA TensorRT dışa aktarımlarına odaklanacağız, çünkü TensorRT, DGX Spark'tan maksimum performansı almamızı sağlayacaktır.

1. Paketler listesini güncelleyin, pip'i kurun ve en son sürüme yükseltin

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip
   

2. Kurulum ultralytics isteğe bağlı bağımlılıkları olan pip paketi

   pip install ultralytics[export]
   

3. Cihazı yeniden başlatın

   sudo reboot
   

PyTorch ve Torchvision'ı yükle

Yukarıdaki Ultralytics kurulumu Torch ve Torchvision'ı yükleyecektir. Ancak, pip aracılığıyla yüklenen bu paketler, DGX Spark'ın CUDA 13'lü ARM64 mimarisi için tam olarak optimize edilmemiş olabilir. Bu nedenle, CUDA 13 uyumlu sürümleri yüklemenizi öneririz:

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

UserWarning: Found GPU0 NVIDIA GB10 which is of cuda capability 12.1.
Minimum and Maximum cuda capability supported by this version of PyTorch is (8.0) - (12.0)

Kurulum onnxruntime-gpu

onnxruntime-gpu PyPI'de barındırılan paketinde aarch64 ARM64 sistemleri için ikili dosyalar. Bu nedenle bu paketi manuel olarak kurmamız gerekiyor. Bu paket, bazı dışa aktarımlar için gereklidir.

Burada indirecek ve kuracağız onnxruntime-gpu 1.24.0 ile Python3.12 destek.

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.24.0-cp312-cp312-linux_aarch64.whl

NVIDIA DGX Spark'ta TensorRT Kullanımı

Ultralytics tarafından desteklenen tüm model dışa aktarım formatları arasında TensorRT, NVIDIA DGX Spark üzerinde en yüksek çıkarım performansını sunarak dağıtımlar için en önemli tavsiyemiz olmaktadır. Kurulum talimatları ve gelişmiş kullanım için özel TensorRT entegrasyon kılavuzumuza bakın.

Modeli TensorRT'ye Dönüştürün ve Çıkarım Çalıştırın

PyTorch formatındaki YOLO26n modeli, dışa aktarılan modelle çıkarım yapmak için TensorRT'ye dönüştürülür.

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT
model.export(format="engine")  # creates 'yolo26n.engine'

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO26n PyTorch model to TensorRT format
yolo export model=yolo26n.pt format=engine # creates 'yolo26n.engine'

# Run inference with the exported model
yolo predict model=yolo26n.engine source='https://ultralytics.com/images/bus.jpg'

NVIDIA DGX Spark YOLO11 Kıyaslamaları

YOLO11 kıyaslamaları, Ultralytics ekibi tarafından hız ve doğruluk ölçülerek birden fazla model formatında çalıştırıldı: PyTorch, TorchScript, ONNX, OpenVINO, TensorRT, TF SavedModel, TF GraphDef, TF Lite, MNN, NCNN, ExecuTorch. Kıyaslamalar, NVIDIA DGX Spark üzerinde FP32 hassasiyetinde ve varsayılan 640 giriş görüntü boyutuyla çalıştırıldı.

Detaylı Karşılaştırma Tablosu

Aşağıdaki tablo, beş farklı model (YOLO11n, YOLO11s, YOLO11m, YOLO11l, YOLO11x) için birden fazla formattaki kıyaslama sonuçlarını göstermekte, her bir kombinasyon için durum, boyut, mAP50-95(B) metriği ve çıkarım süresini sunmaktadır.

Sonuçlarımızı Tekrar Üretin

Yukarıdaki Ultralytics kıyaslamalarını tüm dışa aktarma biçimlerinde yeniden oluşturmak için bu kodu çalıştırın:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml", imgsz=640)

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
yolo benchmark model=yolo26n.pt data=coco128.yaml imgsz=640

NVIDIA DGX Spark için En İyi Uygulamalar

NVIDIA DGX Spark kullanırken, YOLO26'yı çalıştırırken maksimum performansı sağlamak için izlenmesi gereken birkaç en iyi uygulama vardır.

1. Sistem Performansını İzleme

   GPU ve CPU kullanımını track etmek için NVIDIA'nın izleme araçlarını kullanın:

   nvidia-smi
   

2. Bellek Kullanımını Optimize Etme

   128 GB birleşik belleği ile DGX Spark, büyük batch boyutlarını ve modelleri işleyebilir. Gelişmiş verim için batch boyutunu artırmayı düşünün:

   from ultralytics import YOLO
   
   model = YOLO("yolo26n.engine")
   results = model.predict(source="path/to/images", batch=16)
   

3. TensorRT'yi FP16 veya INT8 ile Kullanın

   En iyi performans için, modelleri FP16 veya INT8 hassasiyetinde dışa aktarın:

   yolo export model=yolo26n.pt format=engine half=True # FP16
   yolo export model=yolo26n.pt format=engine int8=True # INT8
   

Sistem Güncellemeleri (Founders Edition)

DGX Spark Founders Edition'ınızı güncel tutmak, performans ve güvenlik açısından çok önemlidir. NVIDIA, sistem işletim sistemini, sürücüleri ve bellenimi güncellemek için iki ana yöntem sunar.

DGX Kontrol Panelini Kullanma (Önerilen)

DGX Dashboard, uyumluluğu sağlayarak sistem güncellemelerini gerçekleştirmek için önerilen yöntemdir. Şunları yapmanızı sağlar:

• Mevcut sistem güncellemelerini görüntüle
• Güvenlik yamalarını ve sistem güncellemelerini yükle
• NVIDIA sürücü ve bellenim güncellemelerini yönet

Manuel Sistem Güncellemeleri

Gelişmiş kullanıcılar için güncellemeler terminal üzerinden manuel olarak yapılabilir:

sudo apt update
sudo apt dist-upgrade
sudo fwupdmgr refresh
sudo fwupdmgr upgrade
sudo reboot

Sonraki Adımlar

Daha fazla öğrenme ve destek için Ultralytics YOLO26 Belgeleri'ne bakın.

SSS

Ultralytics YOLO26'yı NVIDIA DGX Spark üzerinde nasıl dağıtırım?

Ultralytics YOLO26'yı NVIDIA DGX Spark üzerinde dağıtmak basittir. Hızlı kurulum için önceden oluşturulmuş Docker görüntüsünü kullanabilir veya gerekli paketleri manuel olarak kurabilirsiniz. Her bir yaklaşım için ayrıntılı adımlar Docker ile Hızlı Başlangıç ve Yerel Kurulum ile Başlangıç bölümlerinde bulunabilir.

NVIDIA DGX Spark üzerinde YOLO26'dan ne kadar performans bekleyebilirim?

YOLO26 modelleri, GB10 Grace Blackwell Superchip sayesinde DGX Spark üzerinde mükemmel performans sunar. TensorRT formatı en iyi çıkarım performansını sağlar. Farklı model boyutları ve formatları arasındaki belirli kıyaslama sonuçları için Ayrıntılı Karşılaştırma Tablosu bölümünü kontrol edin.

DGX Spark üzerinde YOLO26 için neden TensorRT kullanmalıyım?

TensorRT, optimal performansı nedeniyle YOLO26 modellerini DGX Spark üzerinde dağıtmak için şiddetle tavsiye edilir. Blackwell GPU yeteneklerinden yararlanarak çıkarımı hızlandırır, maksimum verimlilik ve hız sağlar. Daha fazla bilgiyi NVIDIA DGX Spark üzerinde TensorRT Kullanımı bölümünde bulabilirsiniz.

DGX Spark, YOLO26 için Jetson cihazlarıyla nasıl karşılaştırılır?

DGX Spark, Jetson AGX Thor'un 2070 TFLOPS ve 128GB belleğine kıyasla, 1 PFLOP'a kadar yapay zeka performansı ve 128GB birleşik bellekle Jetson cihazlarından önemli ölçüde daha fazla işlem gücü sunar. DGX Spark bir masaüstü yapay zeka süper bilgisayarı olarak tasarlanmışken, Jetson cihazları uç dağıtım için optimize edilmiş gömülü sistemlerdir.

DGX Spark ve Jetson AGX Thor için aynı Docker imajını kullanabilir miyim?

Evet! ultralytics/ultralytics:latest-nvidia-arm64 Docker görüntüsü, hem NVIDIA DGX Spark'ı (DGX OS ile) hem de Jetson AGX Thor'u (JetPack 7.0 ile) destekler, çünkü her ikisi de CUDA 13 ve benzer yazılım yığınları ile ARM64 mimarisini kullanır.

📅 21 gün önce oluşturuldu ✏️ 9 gün önce güncellendi

Yorumlar