퀵 스타트 가이드: NVIDIA DGX Spark 및 Ultralytics YOLO26

이 종합 가이드는 NVIDIA의 소형 데스크톱 AI 슈퍼컴퓨터인 NVIDIA DGX Spark에 Ultralytics YOLO26을 배포하는 상세한 단계별 안내를 제공합니다. 또한, 이 강력한 시스템에서 YOLO26의 성능을 입증하기 위한 벤치마크 결과를 보여줍니다.

NVIDIA DGX Spark란 무엇입니까?

NVIDIA DGX Spark는 NVIDIA GB10 Grace Blackwell Superchip으로 구동되는 소형 데스크톱 AI 슈퍼컴퓨터입니다. FP4 정밀도로 최대 1 petaFLOP의 AI 컴퓨팅 성능을 제공하여 데스크톱 폼 팩터에서 강력한 AI 성능이 필요한 개발자, 연구원 및 데이터 과학자에게 이상적입니다.

주요 사양

DGX OS

NVIDIA DGX OS는 DGX 시스템에서 AI, 머신러닝 및 분석 애플리케이션을 실행하기 위한 안정적이고 테스트를 거친 지원되는 운영 체제 기반을 제공하는 맞춤형 Linux 배포판입니다. 다음을 포함합니다:

• AI 워크로드에 최적화된 강력한 Linux 기반
• NVIDIA 하드웨어용으로 사전 구성된 드라이버 및 시스템 설정
• 보안 업데이트 및 시스템 유지 관리 기능
• 더 넓은 NVIDIA 소프트웨어 생태계와의 호환성

DGX OS는 일반적으로 1년에 두 번(2월 및 8월경) 업데이트를 제공하는 정기 릴리스 일정을 따르며, 주요 릴리스 사이에 추가 보안 패치가 제공됩니다.

DGX 대시보드

DGX Spark에는 다음을 제공하는 내장형 DGX 대시보드가 함께 제공됩니다:

• 실시간 시스템 모니터링: 시스템의 현재 운영 지표 개요
• 시스템 업데이트: 대시보드에서 직접 업데이트를 적용하는 기능
• 시스템 설정: 장치 이름 및 기타 구성 변경
• 통합 JupyterLab: 개발을 위한 로컬 Jupyter Notebook 접근

대시보드 접근

Docker를 이용한 퀵 스타트

NVIDIA DGX Spark에서 Ultralytics YOLO26을 시작하는 가장 빠른 방법은 사전 빌드된 docker 이미지를 사용하는 것입니다. Jetson AGX Thor(JetPack 7.0)를 지원하는 동일한 Docker 이미지가 DGX OS가 설치된 DGX Spark에서도 작동합니다.

t=ultralytics/ultralytics:latest-nvidia-arm64
sudo docker pull $t && sudo docker run -it --ipc=host --runtime=nvidia --gpus all $t

이 작업이 완료되면 NVIDIA DGX Spark에서 TensorRT 사용 섹션으로 건너뛰십시오.

네이티브 설치로 시작

Docker 없는 네이티브 설치를 위해서는 다음 단계를 따르십시오.

Ultralytics 패키지 설치

여기서는 PyTorch 모델을 다른 형식으로 내보낼 수 있도록 선택적 종속성을 포함하여 DGX Spark에 Ultralytics 패키지를 설치합니다. TensorRT가 DGX Spark의 성능을 극대화할 수 있으므로 주로 NVIDIA TensorRT 내보내기에 중점을 둡니다.

1. 패키지 목록 업데이트, pip 설치 및 최신 버전으로 업그레이드

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. 선택적 종속성이 포함된 ultralytics pip 패키지 설치

   pip install ultralytics[export]

3. 장치 재부팅

   sudo reboot

PyTorch 및 Torchvision 설치

위의 ultralytics 설치 과정에서 Torch 및 Torchvision이 설치됩니다. 그러나 pip를 통해 설치된 이 패키지들은 CUDA 13이 포함된 DGX Spark의 ARM64 아키텍처에 완전히 최적화되지 않았을 수 있습니다. 따라서 CUDA 13 호환 버전을 설치하는 것을 권장합니다:

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

UserWarning: Found GPU0 NVIDIA GB10 which is of cuda capability 12.1.
Minimum and Maximum cuda capability supported by this version of PyTorch is (8.0) - (12.0)

onnxruntime-gpu 설치

PyPI에 호스팅된 onnxruntime-gpu 패키지에는 ARM64 시스템용 aarch64 바이너리가 없습니다. 따라서 이 패키지를 수동으로 설치해야 합니다. 이 패키지는 일부 내보내기 작업에 필요합니다.

Here we will download and install onnxruntime-gpu 1.24.0 with Python3.12 support.

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.24.0-cp312-cp312-linux_aarch64.whl

NVIDIA DGX Spark에서 TensorRT 사용

Ultralytics에서 지원하는 모든 모델 내보내기 형식 중 TensorRT는 NVIDIA DGX Spark에서 가장 높은 추론 성능을 제공하므로 배포 시 가장 권장됩니다. 설정 방법 및 고급 사용법은 전용 TensorRT 통합 가이드를 참조하십시오.

모델을 TensorRT로 변환하고 추론 실행

PyTorch 형식의 YOLO26n 모델을 TensorRT로 변환하여 내보낸 모델로 추론을 실행합니다.

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT
model.export(format="engine")  # creates 'yolo26n.engine'

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

NVIDIA DGX Spark YOLO11 벤치마크

YOLO11 벤치마크는 Ultralytics 팀이 여러 모델 형식(PyTorch, TorchScript, ONNX, OpenVINO, TensorRT, TF SavedModel, TF GraphDef, TF Lite, MNN, NCNN, ExecuTorch)에 대해 속도와 정확도를 측정하였습니다. 벤치마크는 기본 입력 이미지 크기 640을 사용하여 FP32 정밀도에서 NVIDIA DGX Spark로 실행되었습니다.

상세 비교 테이블

아래 표는 5가지 모델(YOLO11n, YOLO11s, YOLO11m, YOLO11l, YOLO11x)에 대한 여러 형식의 벤치마크 결과를 나타내며, 각 조합에 대한 상태, 크기, mAP50-95(B) 지표 및 추론 시간을 제공합니다.

결과 재현하기

모든 내보내기 형식에 대해 위의 Ultralytics 벤치마크를 재현하려면 다음 코드를 실행하십시오:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml", imgsz=640)

NVIDIA DGX Spark를 위한 모범 사례

NVIDIA DGX Spark를 사용할 때 YOLO26을 실행하면서 최대 성능을 발휘하기 위해 따라야 할 몇 가지 모범 사례가 있습니다.

1. 시스템 성능 모니터링

   NVIDIA의 모니터링 도구를 사용하여 GPU 및 CPU 사용률을 추적하십시오:

   nvidia-smi

2. 메모리 사용 최적화

   128GB의 통합 메모리를 갖춘 DGX Spark는 대규모 배치 크기와 모델을 처리할 수 있습니다. 처리량 향상을 위해 배치 크기를 늘리는 것을 고려하십시오:

   from ultralytics import YOLO
   
   model = YOLO("yolo26n.engine")
   results = model.predict(source="path/to/images", batch=16)

3. FP16 또는 INT8로 TensorRT 사용

   최상의 성능을 위해 FP16 또는 INT8 정밀도로 모델을 내보내십시오:

   yolo export model=yolo26n.pt format=engine half=True # FP16
   yolo export model=yolo26n.pt format=engine int8=True # INT8

시스템 업데이트 (Founders Edition)

DGX Spark Founders Edition을 최신 상태로 유지하는 것은 성능과 보안 측면에서 매우 중요합니다. NVIDIA는 시스템 OS, 드라이버 및 펌웨어를 업데이트하기 위한 두 가지 주요 방법을 제공합니다.

DGX Dashboard 사용 (권장)

DGX Dashboard는 호환성을 보장하며 시스템 업데이트를 수행하는 권장 방법입니다. 이 대시보드를 통해 다음 작업을 수행할 수 있습니다:

• 사용 가능한 시스템 업데이트 보기
• 보안 패치 및 시스템 업데이트 설치
• NVIDIA 드라이버 및 펌웨어 업데이트 관리

수동 시스템 업데이트

숙련된 사용자의 경우 터미널을 통해 수동으로 업데이트를 수행할 수 있습니다:

sudo apt update
sudo apt dist-upgrade
sudo fwupdmgr refresh
sudo fwupdmgr upgrade
sudo reboot

다음 단계

추가 학습 및 지원은 Ultralytics YOLO26 문서를 참조하십시오.

FAQ

NVIDIA DGX Spark에 Ultralytics YOLO26을 어떻게 배포합니까?

NVIDIA DGX Spark에 Ultralytics YOLO26을 배포하는 것은 간단합니다. 빠른 설정을 위해 사전 빌드된 Docker 이미지를 사용하거나 필요한 패키지를 수동으로 설치할 수 있습니다. 각 방법에 대한 자세한 단계는 Docker를 이용한 빠른 시작 및 네이티브 설치로 시작하기 섹션에서 확인할 수 있습니다.

NVIDIA DGX Spark에서 YOLO26의 성능은 어느 정도입니까?

YOLO26 모델은 GB10 Grace Blackwell 슈퍼칩 덕분에 DGX Spark에서 뛰어난 성능을 제공합니다. TensorRT 형식은 최고의 추론 성능을 제공합니다. 다양한 모델 크기와 형식에 대한 구체적인 벤치마크 결과는 상세 비교 표 섹션을 확인하십시오.

DGX Spark에서 YOLO26을 위해 왜 TensorRT를 사용해야 합니까?

TensorRT는 최적의 성능을 제공하므로 DGX Spark에 YOLO26 모델을 배포할 때 적극 권장됩니다. 이 도구는 Blackwell GPU 기능을 활용하여 추론 속도를 가속화하고 최대의 효율성과 속도를 보장합니다. NVIDIA DGX Spark에서 TensorRT 사용 섹션에서 자세한 내용을 알아보십시오.

YOLO26 측면에서 DGX Spark와 Jetson 장치를 어떻게 비교할 수 있습니까?

DGX Spark는 최대 1 PFLOP의 AI 성능과 128GB 통합 메모리를 제공하여 Jetson AGX Thor의 2070 TFLOPS 및 128GB 메모리에 비해 훨씬 강력한 컴퓨팅 파워를 제공합니다. DGX Spark는 데스크탑 AI 슈퍼컴퓨터로 설계되었으며, Jetson 장치는 엣지 배포에 최적화된 임베디드 시스템입니다.

DGX Spark와 Jetson AGX Thor에 동일한 Docker 이미지를 사용할 수 있습니까?

네! ultralytics/ultralytics:latest-nvidia-arm64 Docker 이미지는 NVIDIA DGX Spark(DGX OS 사용)와 Jetson AGX Thor(JetPack 7.0 사용)를 모두 지원합니다. 두 장치 모두 CUDA 13과 유사한 소프트웨어 스택을 갖춘 ARM64 아키텍처를 사용하기 때문입니다.