快速入门指南：使用 NVIDIA DGX Spark 运行 Ultralytics YOLO26#

本综合指南将详细介绍如何在 NVIDIA DGX Spark 上部署 Ultralytics YOLO26。NVIDIA DGX Spark 是 NVIDIA 推出的紧凑型桌面 AI 超级计算机。本指南还展示了性能基准测试，以说明 YOLO26 在这一强大系统上的性能。

什么是 NVIDIA DGX Spark？#

NVIDIA DGX Spark 是一款紧凑型桌面 AI 超级计算机，搭载 NVIDIA GB10 Grace Blackwell 超级芯片。它在 FP4 精度下可提供高达 1 petaFLOP 的 AI 计算性能，非常适合需要强大 AI 能力且希望采用桌面设备形态的开发者、研究人员和数据科学家。

主要规格#

DGX OS#

NVIDIA DGX OS 是一个定制的 Linux 发行版，为在 DGX 系统上运行 AI、机器学习和分析应用提供稳定、经过测试且受支持的操作系统基础。它包括：

• 针对 AI 工作负载优化的可靠 Linux 基础
• 为 NVIDIA 硬件预配置的驱动程序和系统设置
• 安全更新和系统维护功能
• 与更广泛的 NVIDIA 软件生态系统兼容

DGX OS 按照固定的发布计划进行更新，通常每年发布两次（约在 2 月和 8 月），并在主要版本之间提供额外的安全补丁。

DGX Dashboard#

DGX Spark 内置了 DGX Dashboard，其中提供：

• 实时系统监控：概览系统当前的运行指标
• 系统更新：可直接通过仪表板应用更新
• 系统设置：更改设备名称及其他配置
• 集成式 JupyterLab：访问本地 Jupyter Notebooks 进行开发

访问仪表板#

Docker 快速入门#

在 NVIDIA DGX Spark 上开始使用 Ultralytics YOLO26，最快的方法是运行预构建的 Docker 镜像。NVIDIA ARM64 镜像支持搭载 DGX OS 的 DGX Spark。

t=ultralytics/ultralytics:latest-nvidia-arm64
sudo docker pull $t && sudo docker run -it --ipc=host --device nvidia.com/gpu=all $t

上面的 CDI 设备请求适用于运行 DGX OS 的 DGX Spark。若要在 Jetson AGX Thor 上运行 PyTorch 工作负载，请参阅 NVIDIA Jetson 指南中的主机要求和 TensorRT 限制。

此镜像使用 NVIDIA PyTorch 26.08、CUDA 13.4 和 TensorRT 11.2。请将 DGX OS 主机驱动程序更新到 NVIDIA PyTorch 26.08支持的版本，并在更改镜像或目标 GPU 后重新构建 TensorRT 引擎。

完成后，请跳转到使用 NVIDIA DGX Spark 上的 TensorRT 一节。

从原生安装开始#

如需不使用 Docker 进行原生安装，请按照以下步骤操作。

安装 Ultralytics 包#

这里将在 DGX Spark 上安装 Ultralytics 软件包。首次导出模型时会自动安装导出所需的依赖项，因此这里仅需安装基础软件包。我们将主要介绍 NVIDIA TensorRT 导出，因为 TensorRT 可确保充分发挥 DGX Spark 的性能。

1. 更新软件包列表、安装 pip 并升级到最新版本

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. 安装 ultralytics pip 包

   pip install ultralytics

3. 重启设备

   sudo reboot

安装 PyTorch 和 Torchvision#

上述 ultralytics 安装会安装 Torch 和 Torchvision。不过，通过 pip 安装的这些软件包可能未针对 DGX Spark 的 ARM64 架构和 CUDA 13 完全优化。因此，我们建议安装与 CUDA 13 兼容的版本：

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

UserWarning: Found GPU0 NVIDIA GB10 which is of cuda capability 12.1.
Minimum and Maximum cuda capability supported by this version of PyTorch is (8.0) - (12.0)

安装 onnxruntime-gpu#

当前的 ONNX Runtime GPU 版本提供 Linux ARM64 wheel，包括 Python 3.12。NVIDIA ARM64 Docker 镜像会安装官方软件包；对于原生 CUDA 13 安装，请使用：

pip install onnxruntime-gpu

在 NVIDIA DGX Spark 上使用 TensorRT#

在 Ultralytics 支持的所有模型导出格式中，TensorRT 在 NVIDIA DGX Spark 上提供最高的推理性能，因此我们最推荐将其用于部署。有关设置说明和高级用法，请参阅专用 TensorRT 集成指南。

将模型转换为 TensorRT 并运行推理#

将 PyTorch 格式的 YOLO26n 模型转换为 TensorRT，以使用导出的模型运行推理。

from ultralytics import YOLO

# 加载 YOLO26n PyTorch 模型
model = YOLO("yolo26n.pt")

# 将模型导出为 TensorRT
model.export(format="engine")  # 创建 'yolo26n.engine'

# 加载导出的 TensorRT 模型
trt_model = YOLO("yolo26n.engine")

# 运行推理
results = trt_model("https://ultralytics.com/images/bus.jpg")

NVIDIA DGX Spark 上的 YOLO11 基准测试#

Ultralytics 团队在多种模型格式上运行了 YOLO11 基准测试，以测量速度和准确率：PyTorch、TorchScript、ONNX、OpenVINO、TensorRT、TF SavedModel、TF GraphDef、TF Lite、MNN、NCNN、ExecuTorch。基准测试在 NVIDIA DGX Spark 上以 FP32 精度运行，默认输入图像尺寸为 640。

详细对比表#

下表展示了五种不同模型（YOLO11n、YOLO11s、YOLO11m、YOLO11l、YOLO11x）在多种格式下的基准测试结果，列出了每种组合的状态、大小、mAP50-95(B) 指标和推理时间。

复现我们的结果#

如需在所有导出格式下复现上述 Ultralytics 基准测试，请运行以下代码：

from ultralytics import YOLO

# 加载 YOLO26n PyTorch 模型
model = YOLO("yolo26n.pt")

# 在 COCO128 数据集上对 YOLO26n 的所有导出格式进行速度和精度基准测试
results = model.benchmark(data="coco128.yaml", imgsz=640)

NVIDIA DGX Spark 最佳实践#

使用 NVIDIA DGX Spark 时，请遵循以下几项最佳实践，以在运行 YOLO26 时实现最高性能。

1. 监控系统性能

   使用 NVIDIA 的监控工具跟踪 GPU 和 CPU 利用率：

   nvidia-smi

2. 优化内存使用

   DGX Spark 配备 128GB 统一内存，可处理较大的批次和模型。你可以考虑增大批次，以提升吞吐量：

   from ultralytics import YOLO
   
   model = YOLO("yolo26n.engine")
   results = model.predict(source="path/to/images", batch=16)

3. 使用 FP16 或 INT8 的 TensorRT

   为获得最佳性能，请以 FP16 或 INT8 精度导出模型：

   yolo export model=yolo26n.pt format=engine quantize=16 # FP16
   yolo export model=yolo26n.pt format=engine quantize=8  # INT8

系统更新（Founders Edition）#

及时更新 DGX Spark Founders Edition 对性能和安全至关重要。NVIDIA 提供两种主要方法来更新系统 OS、驱动程序和固件。

使用 DGX Dashboard（推荐）#

建议使用 DGX Dashboard 执行系统更新，以确保兼容性。你可以通过它：

• 查看可用的系统更新
• 安装安全补丁和系统更新
• 管理 NVIDIA 驱动程序和固件更新

手动更新系统#

高级用户可以通过终端手动执行更新：

sudo apt update
sudo apt dist-upgrade
sudo fwupdmgr refresh
sudo fwupdmgr upgrade
sudo reboot

后续步骤#

如需进一步学习和获取支持，请参阅 Ultralytics YOLO26 文档。

常见问题#