Guía de inicio rápido: NVIDIA DGX Spark con Ultralytics YOLO26#

Esta guía completa ofrece un recorrido detallado para implementar Ultralytics YOLO26 en NVIDIA DGX Spark, el superordenador de IA de sobremesa compacto de NVIDIA. Además, muestra pruebas de rendimiento para demostrar las capacidades de YOLO26 en este potente sistema.

¿Qué es NVIDIA DGX Spark?#

NVIDIA DGX Spark es un superordenador de IA de sobremesa compacto impulsado por el superchip NVIDIA GB10 Grace Blackwell. Ofrece hasta 1 petaFLOP de rendimiento de computación de IA con precisión FP4, por lo que es ideal para desarrolladores, investigadores y científicos de datos que necesitan capacidades de IA potentes en un formato de sobremesa.

Especificaciones principales#

DGX OS#

NVIDIA DGX OS es una distribución de Linux personalizada que proporciona una base de sistema operativo estable, probada y compatible para ejecutar aplicaciones de IA, aprendizaje automático y análisis en sistemas DGX. Incluye:

• Una base de Linux robusta optimizada para cargas de trabajo de IA
• Controladores y ajustes del sistema preconfigurados para hardware NVIDIA
• Actualizaciones de seguridad y funciones de mantenimiento del sistema
• Compatibilidad con el ecosistema de software más amplio de NVIDIA

DGX OS sigue un calendario de versiones periódico, con actualizaciones que normalmente se proporcionan dos veces al año (aproximadamente en febrero y agosto), además de parches de seguridad adicionales entre las versiones principales.

DGX Dashboard#

DGX Spark incluye un DGX Dashboard integrado que proporciona:

• Supervisión del sistema en tiempo real: Vista general de las métricas operativas actuales del sistema
• Actualizaciones del sistema: Posibilidad de aplicar actualizaciones directamente desde el panel
• Ajustes del sistema: Cambia el nombre del dispositivo y otras configuraciones
• JupyterLab integrado: Accede a Jupyter Notebooks locales para el desarrollo

Acceso al panel#

Inicio rápido con Docker#

La forma más rápida de empezar con Ultralytics YOLO26 en NVIDIA DGX Spark es ejecutar con imágenes de Docker preconstruidas. La imagen NVIDIA ARM64 es compatible con DGX Spark con DGX OS.

t=ultralytics/ultralytics:latest-nvidia-arm64
sudo docker pull $t && sudo docker run -it --ipc=host --device nvidia.com/gpu=all $t

La solicitud de dispositivo CDI anterior se aplica a DGX Spark con DGX OS. Para cargas de trabajo de PyTorch en Jetson AGX Thor, consulta los requisitos de host independientes y la restricción de TensorRT en la guía de NVIDIA Jetson.

Esta imagen utiliza NVIDIA PyTorch 26.08, CUDA 13.4 y TensorRT 11. Actualiza el controlador de host de DGX OS a una versión compatible con NVIDIA PyTorch 26.08, y recompila los motores de TensorRT después de cambiar la imagen o la GPU de destino.

Cuando hayas terminado, ve directamente a la sección Usar TensorRT en NVIDIA DGX Spark.

Comienza con la instalación nativa#

Para realizar una instalación nativa sin Docker, sigue estos pasos.

Instalar el paquete de Ultralytics#

Aquí instalaremos el paquete Ultralytics en DGX Spark. Las dependencias de exportación se instalan automáticamente la primera vez que exportas un modelo, por lo que aquí solo se necesita el paquete base. Nos centraremos principalmente en las exportaciones de NVIDIA TensorRT, porque TensorRT garantizará que obtengamos el máximo rendimiento de DGX Spark.

1. Actualizar la lista de paquetes, instalar pip y actualizarlo a la última versión

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. Instalar el paquete pip ultralytics

   pip install ultralytics

3. Reiniciar el dispositivo

   sudo reboot

Instalar PyTorch y Torchvision#

La instalación de ultralytics anterior instalará Torch y Torchvision. Sin embargo, es posible que estos paquetes instalados mediante pip no estén totalmente optimizados para la arquitectura ARM64 de DGX Spark con CUDA 13. Por ello, recomendamos instalar las versiones compatibles con CUDA 13:

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

UserWarning: Found GPU0 NVIDIA GB10 which is of cuda capability 12.1.
Minimum and Maximum cuda capability supported by this version of PyTorch is (8.0) - (12.0)

Instalar onnxruntime-gpu#

Las versiones actuales de ONNX Runtime GPU proporcionan paquetes (wheels) para Linux ARM64, incluyendo Python 3.12. La imagen de Docker de NVIDIA ARM64 instala el paquete oficial; para instalaciones nativas de CUDA 13, utiliza:

pip install onnxruntime-gpu

Usar TensorRT en NVIDIA DGX Spark#

De todos los formatos de exportación de modelos compatibles con Ultralytics, TensorRT ofrece el mayor rendimiento de inferencia en NVIDIA DGX Spark, por lo que es nuestra principal recomendación para las implementaciones. Para consultar las instrucciones de configuración y el uso avanzado, visita nuestra guía específica de integración de TensorRT.

Convertir el modelo a TensorRT y ejecutar la inferencia#

El modelo YOLO26n en formato PyTorch se convierte a TensorRT para ejecutar la inferencia con el modelo exportado.

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT
model.export(format="engine")  # creates 'yolo26n.engine'

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

Pruebas de rendimiento de YOLO11 en NVIDIA DGX Spark#

El equipo de Ultralytics realizó pruebas de rendimiento de YOLO11 en varios formatos de modelo, midiendo la velocidad y la precisión: PyTorch, TorchScript, ONNX, OpenVINO, TensorRT, TF SavedModel, TF GraphDef, TF Lite, MNN, NCNN, ExecuTorch. Las pruebas se realizaron en NVIDIA DGX Spark con precisión FP32 y un tamaño de imagen de entrada predeterminado de 640.

Tabla comparativa detallada#

La tabla siguiente muestra los resultados de las pruebas de rendimiento de cinco modelos diferentes (YOLO11n, YOLO11s, YOLO11m, YOLO11l, YOLO11x) en varios formatos, e indica el estado, el tamaño, la métrica mAP50-95(B) y el tiempo de inferencia de cada combinación.

Reproduce nuestros resultados#

Para reproducir los benchmarks de Ultralytics anteriores en todos los formatos de exportación, ejecuta este código:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml", imgsz=640)

Prácticas recomendadas para NVIDIA DGX Spark#

Al utilizar NVIDIA DGX Spark, conviene seguir un par de prácticas recomendadas para lograr el máximo rendimiento al ejecutar YOLO26.

1. Supervisa el rendimiento del sistema

   Utiliza las herramientas de supervisión de NVIDIA para controlar el uso de GPU y CPU:

   nvidia-smi

2. Optimiza el uso de la memoria

   Con 128 GB de memoria unificada, DGX Spark puede gestionar tamaños de lote y modelos grandes. Considera la posibilidad de aumentar el tamaño del lote para mejorar el rendimiento:

   from ultralytics import YOLO
   
   model = YOLO("yolo26n.engine")
   results = model.predict(source="path/to/images", batch=16)

3. Usa TensorRT con FP16 o INT8

   Para obtener el mejor rendimiento, exporta los modelos con precisión FP16 o INT8:

   yolo export model=yolo26n.pt format=engine quantize=16 # FP16
   yolo export model=yolo26n.pt format=engine quantize=8  # INT8

Actualizaciones del sistema (Founders Edition)#

Mantener tu DGX Spark Founders Edition actualizado es crucial para el rendimiento y la seguridad. NVIDIA proporciona dos métodos principales para actualizar el sistema operativo, los controladores y el firmware del sistema.

Uso de DGX Dashboard (recomendado)#

El DGX Dashboard es la forma recomendada de realizar actualizaciones del sistema y garantizar la compatibilidad. Te permite:

• Ver las actualizaciones del sistema disponibles
• Instalar parches de seguridad y actualizaciones del sistema
• Gestionar las actualizaciones de los controladores y el firmware de NVIDIA

Actualizaciones manuales del sistema#

Los usuarios avanzados pueden realizar las actualizaciones manualmente mediante el terminal:

sudo apt update
sudo apt dist-upgrade
sudo fwupdmgr refresh
sudo fwupdmgr upgrade
sudo reboot

Siguientes pasos#

Para seguir aprendiendo y obtener asistencia, consulta la documentación de Ultralytics YOLO26.

Preguntas frecuentes#