Guía de inicio rápido: NVIDIA DGX Spark con Ultralytics YOLO26#

Esta guía completa ofrece instrucciones detalladas para desplegar Ultralytics YOLO26 en NVIDIA DGX Spark, el superordenador de IA de sobremesa compacto de NVIDIA. Además, presenta benchmarks de rendimiento para mostrar las capacidades de YOLO26 en este potente sistema.

¿Qué es NVIDIA DGX Spark?#

NVIDIA DGX Spark es un superordenador de IA de sobremesa compacto, equipado con el superchip NVIDIA GB10 Grace Blackwell. Ofrece hasta 1 petaFLOP de rendimiento de cálculo para IA con precisión FP4, por lo que es ideal para desarrolladores, investigadores y científicos de datos que necesitan potentes capacidades de IA en un formato de sobremesa.

Especificaciones principales#

DGX OS#

NVIDIA DGX OS es una distribución de Linux personalizada que proporciona una base de sistema operativo estable, probada y con soporte para ejecutar aplicaciones de IA, aprendizaje automático y análisis en sistemas DGX. Incluye:

• Una base Linux robusta optimizada para cargas de trabajo de IA
• Controladores y ajustes del sistema preconfigurados para el hardware de NVIDIA
• Actualizaciones de seguridad y funciones de mantenimiento del sistema
• Compatibilidad con el ecosistema de software más amplio de NVIDIA

DGX OS sigue un calendario de lanzamientos periódico, con actualizaciones que suelen publicarse dos veces al año (alrededor de febrero y agosto), además de parches de seguridad adicionales entre las versiones principales.

Panel de control de DGX#

DGX Spark incluye un panel de control de DGX integrado que ofrece:

• Supervisión del sistema en tiempo real: Vista general de las métricas operativas actuales del sistema
• Actualizaciones del sistema: Posibilidad de aplicar actualizaciones directamente desde el panel de control
• Ajustes del sistema: Cambia el nombre del dispositivo y otros parámetros
• JupyterLab integrado: Accede a cuadernos de Jupyter locales para desarrollar

Acceso al panel de control#

Inicio rápido con Docker#

La forma más rápida de empezar a usar Ultralytics YOLO26 en NVIDIA DGX Spark es ejecutar imágenes de Docker prediseñadas. La imagen ARM64 de NVIDIA es compatible con DGX Spark con DGX OS.

t=ultralytics/ultralytics:latest-nvidia-arm64
sudo docker pull $t && sudo docker run -it --ipc=host --device nvidia.com/gpu=all $t

La solicitud de dispositivo CDI anterior se aplica a DGX Spark con DGX OS. Para cargas de trabajo de PyTorch en Jetson AGX Thor, consulta los requisitos del sistema anfitrión y la restricción de TensorRT en la guía de NVIDIA Jetson.

Esta imagen utiliza NVIDIA PyTorch 26.08, CUDA 13.4 y TensorRT 11.2. Actualiza el controlador del sistema anfitrión de DGX OS a una versión compatible con NVIDIA PyTorch 26.08 y vuelve a compilar los motores de TensorRT después de cambiar la imagen o la GPU de destino.

Cuando hayas terminado, ve directamente a la sección sobre el uso de TensorRT en NVIDIA DGX Spark.

Empieza con la instalación nativa#

Para instalarlo de forma nativa, sin Docker, sigue estos pasos.

Instala el paquete Ultralytics#

Aquí instalaremos el paquete Ultralytics en DGX Spark. Las dependencias de exportación se instalan automáticamente la primera vez que exportas un modelo, así que aquí solo hace falta el paquete base. Nos centraremos principalmente en las exportaciones a NVIDIA TensorRT, porque TensorRT nos permitirá obtener el máximo rendimiento de DGX Spark.

1. Actualiza la lista de paquetes, instala pip y actualízalo a la última versión

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. Instala el paquete pip ultralytics

   pip install ultralytics

3. Reinicia el dispositivo

   sudo reboot

Instala PyTorch y Torchvision#

La instalación de ultralytics anterior instalará Torch y Torchvision. Sin embargo, es posible que estos paquetes instalados mediante pip no estén totalmente optimizados para la arquitectura ARM64 de DGX Spark con CUDA 13. Por eso, recomendamos instalar las versiones compatibles con CUDA 13:

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

UserWarning: Found GPU0 NVIDIA GB10 which is of cuda capability 12.1.
Minimum and Maximum cuda capability supported by this version of PyTorch is (8.0) - (12.0)

Instala onnxruntime-gpu#

Las versiones actuales de ONNX Runtime GPU proporcionan paquetes wheel para Linux ARM64, incluido Python 3.12. La imagen Docker ARM64 de NVIDIA instala el paquete oficial; para instalaciones nativas con CUDA 13, usa:

pip install onnxruntime-gpu

Usa TensorRT en NVIDIA DGX Spark#

De todos los formatos de exportación de modelos compatibles con Ultralytics, TensorRT ofrece el mayor rendimiento de inferencia en NVIDIA DGX Spark, por lo que es nuestra principal recomendación para implementaciones. Consulta nuestra guía específica sobre la integración de TensorRT para ver las instrucciones de configuración y el uso avanzado.

Convierte el modelo a TensorRT y ejecuta la inferencia#

El modelo YOLO26n en formato PyTorch se convierte a TensorRT para ejecutar la inferencia con el modelo exportado.

from ultralytics import YOLO

# Carga un modelo YOLO26n de PyTorch
model = YOLO("yolo26n.pt")

# Exporta el modelo a TensorRT
model.export(format="engine")  # crea 'yolo26n.engine'

# Carga el modelo exportado a TensorRT
trt_model = YOLO("yolo26n.engine")

# Ejecutar inferencia
results = trt_model("https://ultralytics.com/images/bus.jpg")

Pruebas de rendimiento de YOLO11 en NVIDIA DGX Spark#

El equipo de Ultralytics realizó pruebas de rendimiento de YOLO11 con varios formatos de modelo para medir la velocidad y la precisión: PyTorch, TorchScript, ONNX, OpenVINO, TensorRT, TF SavedModel, TF GraphDef, TF Lite, MNN, NCNN y ExecuTorch. Las pruebas se ejecutaron en NVIDIA DGX Spark con precisión FP32 y un tamaño de imagen de entrada predeterminado de 640.

Tabla comparativa detallada#

La tabla siguiente muestra los resultados de las pruebas de rendimiento de cinco modelos distintos (YOLO11n, YOLO11s, YOLO11m, YOLO11l, YOLO11x) en varios formatos, con el estado, el tamaño, la métrica mAP50-95(B) y el tiempo de inferencia de cada combinación.

Reproduce nuestros resultados#

Para reproducir las pruebas de rendimiento anteriores de Ultralytics en todos los formatos de exportación, ejecuta este código:

from ultralytics import YOLO

# Carga un modelo YOLO26n de PyTorch
model = YOLO("yolo26n.pt")

# Prueba la velocidad y la precisión de YOLO26n en el conjunto de datos COCO128 con todos los formatos de exportación
results = model.benchmark(data="coco128.yaml", imgsz=640)

Prácticas recomendadas para NVIDIA DGX Spark#

Al usar NVIDIA DGX Spark, conviene seguir algunas prácticas recomendadas para obtener el máximo rendimiento al ejecutar YOLO26.

1. Supervisa el rendimiento del sistema

   Usa las herramientas de supervisión de NVIDIA para controlar el uso de GPU y CPU:

   nvidia-smi

2. Optimiza el uso de memoria

   Con 128 GB de memoria unificada, DGX Spark puede gestionar tamaños de lote y modelos grandes. Plantéate aumentar el tamaño del lote para mejorar el rendimiento:

   from ultralytics import YOLO
   
   model = YOLO("yolo26n.engine")
   results = model.predict(source="path/to/images", batch=16)

3. Usa TensorRT con FP16 o INT8

   Para obtener el mejor rendimiento, exporta los modelos con precisión FP16 o INT8:

   yolo export model=yolo26n.pt format=engine quantize=16 # FP16
   yolo export model=yolo26n.pt format=engine quantize=8  # INT8

Actualizaciones del sistema (Founders Edition)#

Mantener DGX Spark Founders Edition actualizado es fundamental para el rendimiento y la seguridad. NVIDIA ofrece dos métodos principales para actualizar el sistema operativo, los controladores y el firmware.

Uso del panel de control de DGX (recomendado)#

El panel de control de DGX es la forma recomendada de realizar actualizaciones del sistema y garantizar la compatibilidad. Te permite:

• Ver las actualizaciones del sistema disponibles
• Instalar parches de seguridad y actualizaciones del sistema
• Gestionar las actualizaciones de los controladores y el firmware de NVIDIA

Actualizaciones manuales del sistema#

Los usuarios avanzados pueden realizar las actualizaciones manualmente desde el terminal:

sudo apt update
sudo apt dist-upgrade
sudo fwupdmgr refresh
sudo fwupdmgr upgrade
sudo reboot

Próximos pasos#

Para obtener más información y ayuda, consulta la documentación de Ultralytics YOLO26.

Preguntas frecuentes#