Guida introduttiva rapida: NVIDIA DGX Spark con Ultralytics YOLO26#

Questa guida completa offre una panoramica dettagliata della distribuzione di Ultralytics YOLO26 su NVIDIA DGX Spark, il supercomputer IA desktop compatto di NVIDIA. Inoltre, presenta benchmark delle prestazioni per dimostrare le capacità di YOLO26 su questo potente sistema.

Che cos'è NVIDIA DGX Spark?#

NVIDIA DGX Spark è un supercomputer IA desktop compatto basato sul superchip NVIDIA GB10 Grace Blackwell. Offre fino a 1 petaFLOP di prestazioni di calcolo IA con precisione FP4, rendendolo ideale per sviluppatori, ricercatori e data scientist che necessitano di potenti funzionalità IA in un formato desktop.

Specifiche principali#

DGX OS#

NVIDIA DGX OS è una distribuzione Linux personalizzata che fornisce una base del sistema operativo stabile, testata e supportata per eseguire applicazioni di IA, machine learning e analisi sui sistemi DGX. Include:

• Una solida base Linux ottimizzata per i carichi di lavoro IA
• Driver e impostazioni di sistema preconfigurati per l'hardware NVIDIA
• Aggiornamenti di sicurezza e funzionalità di manutenzione del sistema
• Compatibilità con il più ampio ecosistema software NVIDIA

DGX OS segue un calendario di rilascio regolare, con aggiornamenti generalmente forniti due volte all'anno (intorno a febbraio e agosto) e patch di sicurezza aggiuntive tra le versioni principali.

DGX Dashboard#

DGX Spark include un DGX Dashboard integrato che offre:

• Monitoraggio del sistema in tempo reale: panoramica delle metriche operative attuali del sistema
• Aggiornamenti del sistema: possibilità di applicare gli aggiornamenti direttamente dal dashboard
• Impostazioni di sistema: modifica del nome del dispositivo e di altre configurazioni
• JupyterLab integrato: accesso ai Jupyter Notebook locali per lo sviluppo

Accesso al dashboard#

Guida rapida con Docker#

Il modo più veloce per iniziare a usare Ultralytics YOLO26 su NVIDIA DGX Spark è eseguire immagini Docker predefinite. L'immagine NVIDIA ARM64 supporta DGX Spark con DGX OS.

t=ultralytics/ultralytics:latest-nvidia-arm64
sudo docker pull $t && sudo docker run -it --ipc=host --device nvidia.com/gpu=all $t

La richiesta di dispositivi CDI sopra indicata si applica a DGX Spark con DGX OS in esecuzione. Per i carichi di lavoro PyTorch su Jetson AGX Thor, consulta i requisiti di sistema separati e la restrizione di TensorRT nella guida NVIDIA Jetson.

Questa immagine utilizza NVIDIA PyTorch 26.08, CUDA 13.4 e TensorRT 11. Aggiorna il driver host di DGX OS a una versione supportata da NVIDIA PyTorch 26.08 e ricompila i motori TensorRT dopo aver modificato l'immagine o la GPU di destinazione.

Al termine, passa alla sezione Usa TensorRT su NVIDIA DGX Spark.

Inizia con l'installazione nativa#

Per un'installazione nativa senza Docker, segui questi passaggi.

Installare il pacchetto Ultralytics#

Qui installeremo il pacchetto Ultralytics su DGX Spark. Le dipendenze per l'esportazione vengono installate automaticamente la prima volta che esporti un modello, quindi qui è sufficiente il pacchetto di base. Ci concentreremo principalmente sulle esportazioni NVIDIA TensorRT, perché TensorRT garantisce di ottenere le massime prestazioni da DGX Spark.

1. Aggiornare l'elenco dei pacchetti, installare pip e aggiornarlo all'ultima versione

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. Installare il pacchetto pip ultralytics

   pip install ultralytics

3. Riavviare il dispositivo

   sudo reboot

Installare PyTorch e Torchvision#

L'installazione di ultralytics descritta sopra installerà Torch e Torchvision. Tuttavia, questi pacchetti installati tramite pip potrebbero non essere completamente ottimizzati per l'architettura ARM64 di DGX Spark con CUDA 13. Pertanto, ti consigliamo di installare le versioni compatibili con CUDA 13:

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

UserWarning: Found GPU0 NVIDIA GB10 which is of cuda capability 12.1.
Minimum and Maximum cuda capability supported by this version of PyTorch is (8.0) - (12.0)

Installare onnxruntime-gpu#

Le attuali release di ONNX Runtime GPU forniscono wheel Linux ARM64, inclusa Python 3.12. L'immagine Docker NVIDIA ARM64 installa il pacchetto ufficiale; per le installazioni native di CUDA 13, usa:

pip install onnxruntime-gpu

Usa TensorRT su NVIDIA DGX Spark#

Tra tutti i formati di esportazione dei modelli supportati da Ultralytics, TensorRT offre le migliori prestazioni di inferenza su NVIDIA DGX Spark, rendendolo la nostra scelta principale per le distribuzioni. Per le istruzioni di configurazione e l'uso avanzato, consulta la nostra guida dedicata all'integrazione di TensorRT.

Converti il modello in TensorRT ed esegui l'inferenza#

Il modello YOLO26n in formato PyTorch viene convertito in TensorRT per eseguire l'inferenza con il modello esportato.

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT
model.export(format="engine")  # creates 'yolo26n.engine'

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

Benchmark di YOLO11 su NVIDIA DGX Spark#

Il team Ultralytics ha eseguito benchmark di YOLO11 su più formati di modello, misurando velocità e accuratezza: PyTorch, TorchScript, ONNX, OpenVINO, TensorRT, TF SavedModel, TF GraphDef, TF Lite, MNN, NCNN, ExecuTorch. I benchmark sono stati eseguiti su NVIDIA DGX Spark con precisione FP32 e una dimensione predefinita dell'immagine di input pari a 640.

Tabella di confronto dettagliata#

La tabella seguente mostra i risultati dei benchmark per cinque modelli diversi (YOLO11n, YOLO11s, YOLO11m, YOLO11l, YOLO11x) in più formati, indicando stato, dimensione, metrica mAP50-95(B) e tempo di inferenza per ogni combinazione.

Riproduci i nostri risultati#

Per riprodurre i benchmark Ultralytics precedenti su tutti i formati di esportazione, esegui questo codice:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml", imgsz=640)

Best practice per NVIDIA DGX Spark#

Quando usi NVIDIA DGX Spark, segui alcune best practice per ottenere le massime prestazioni durante l'esecuzione di YOLO26.

1. Monitora le prestazioni del sistema

   Usa gli strumenti di monitoraggio NVIDIA per tenere sotto controllo l'utilizzo di GPU e CPU:

   nvidia-smi

2. Ottimizza l'utilizzo della memoria

   Con 128 GB di memoria unificata, DGX Spark è in grado di gestire batch e modelli di grandi dimensioni. Valuta di aumentare la dimensione del batch per migliorare il throughput:

   from ultralytics import YOLO
   
   model = YOLO("yolo26n.engine")
   results = model.predict(source="path/to/images", batch=16)

3. Usa TensorRT con FP16 o INT8

   Per ottenere le migliori prestazioni, esporta i modelli con precisione FP16 o INT8:

   yolo export model=yolo26n.pt format=engine quantize=16 # FP16
   yolo export model=yolo26n.pt format=engine quantize=8  # INT8

Aggiornamenti del sistema (Founders Edition)#

Mantenere aggiornata la tua DGX Spark Founders Edition è fondamentale per le prestazioni e la sicurezza. NVIDIA fornisce due metodi principali per aggiornare il sistema operativo, i driver e il firmware.

Utilizzo di DGX Dashboard (consigliato)#

Il DGX Dashboard è il metodo consigliato per eseguire gli aggiornamenti del sistema, garantendo la compatibilità. Ti consente di:

• Visualizzare gli aggiornamenti di sistema disponibili
• Installare patch di sicurezza e aggiornamenti del sistema
• Gestire gli aggiornamenti dei driver e del firmware NVIDIA

Aggiornamenti manuali del sistema#

Gli utenti avanzati possono eseguire manualmente gli aggiornamenti tramite terminale:

sudo apt update
sudo apt dist-upgrade
sudo fwupdmgr refresh
sudo fwupdmgr upgrade
sudo reboot

Passaggi successivi#

Per ulteriori informazioni e supporto, consulta la documentazione di Ultralytics YOLO26.

FAQ#