빠른 시작 가이드: NVIDIA DGX Spark에서 Ultralytics YOLO26 사용하기#

이 종합 가이드에서는 NVIDIA의 소형 데스크톱 AI 슈퍼컴퓨터인 NVIDIA DGX Spark에 Ultralytics YOLO26을 배포하는 방법을 자세히 안내합니다. 또한 성능 벤치마크를 통해 이 강력한 시스템에서 YOLO26이 발휘하는 성능을 보여줍니다.

NVIDIA DGX Spark란 무엇인가요?#

NVIDIA DGX Spark는 NVIDIA GB10 Grace Blackwell Superchip을 탑재한 소형 데스크톱 AI 슈퍼컴퓨터입니다. FP4 정밀도에서 최대 1페타플롭의 AI 컴퓨팅 성능을 제공하므로 데스크톱 폼 팩터에서 강력한 AI 성능이 필요한 개발자, 연구원, 데이터 과학자에게 적합합니다.

주요 사양#

DGX OS#

NVIDIA DGX OS는 DGX 시스템에서 AI, 머신 러닝, 분석 애플리케이션을 실행하기 위한 안정적이고 검증 및 지원이 제공되는 운영 체제 기반을 제공하는 맞춤형 Linux 배포판입니다. 다음을 포함합니다:

• AI 워크로드에 최적화된 견고한 Linux 기반
• NVIDIA 하드웨어용으로 사전 구성된 드라이버 및 시스템 설정
• 보안 업데이트 및 시스템 유지 관리 기능
• 광범위한 NVIDIA 소프트웨어 에코시스템과의 호환성

DGX OS는 정기적인 릴리스 일정에 따라 일반적으로 연 2회(2월과 8월경) 업데이트를 제공하며, 주요 릴리스 사이에도 추가 보안 패치를 제공합니다.

DGX Dashboard#

DGX Spark에는 다음을 제공하는 DGX Dashboard가 기본으로 포함되어 있습니다:

• 실시간 시스템 모니터링: 시스템의 현재 운영 지표 개요
• 시스템 업데이트: 대시보드에서 직접 업데이트를 적용하는 기능
• 시스템 설정: 디바이스 이름 및 기타 구성 변경
• 통합 JupyterLab: 개발을 위한 로컬 Jupyter Notebook 액세스

대시보드 액세스#

Docker로 빠르게 시작하기#

NVIDIA DGX Spark에서 Ultralytics YOLO26을 가장 빠르게 시작하려면 사전 빌드된 Docker 이미지를 실행하면 됩니다. NVIDIA ARM64 이미지는 DGX OS가 설치된 DGX Spark를 지원합니다.

t=ultralytics/ultralytics:latest-nvidia-arm64
sudo docker pull $t && sudo docker run -it --ipc=host --device nvidia.com/gpu=all $t

위의 CDI 디바이스 요청은 DGX OS를 실행하는 DGX Spark에 적용됩니다. Jetson AGX Thor의 PyTorch 워크로드는 별도의 호스트 요구 사항 및 TensorRT 제한 사항을 NVIDIA Jetson 가이드에서 확인하세요.

이 이미지는 NVIDIA PyTorch 26.08, CUDA 13.4, TensorRT 11.2를 사용합니다. DGX OS 호스트 드라이버를 NVIDIA PyTorch 26.08이 지원하는 버전으로 업데이트하고, 이미지 또는 대상 GPU를 변경한 후에는 TensorRT 엔진을 다시 빌드하세요.

이 작업을 완료한 후 NVIDIA DGX Spark에서 TensorRT 사용 섹션으로 건너뛰세요.

기본 설치 시작하기#

Docker 없이 네이티브 설치를 수행하려면 다음 단계를 따르세요.

Ultralytics 패키지 설치#

여기서는 DGX Spark에 Ultralytics 패키지를 설치합니다. 모델을 처음 내보낼 때 내보내기 종속 항목이 자동으로 설치되므로 여기서는 기본 패키지만 필요합니다. TensorRT를 사용하면 DGX Spark의 성능을 최대한 활용할 수 있으므로 주로 NVIDIA TensorRT 내보내기에 중점을 둡니다.

1. 패키지 목록을 업데이트하고 pip를 설치한 뒤 최신 버전으로 업그레이드합니다

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. ultralytics pip 패키지를 설치합니다

   pip install ultralytics

3. 장치를 재부팅합니다

   sudo reboot

PyTorch 및 Torchvision 설치#

위의 ultralytics 설치 과정에서는 Torch와 Torchvision이 설치됩니다. 하지만 pip로 설치한 이러한 패키지는 DGX Spark의 ARM64 아키텍처와 CUDA 13에 완전히 최적화되어 있지 않을 수 있습니다. 따라서 CUDA 13 호환 버전을 설치하는 것을 권장합니다:

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

UserWarning: Found GPU0 NVIDIA GB10 which is of cuda capability 12.1.
Minimum and Maximum cuda capability supported by this version of PyTorch is (8.0) - (12.0)

onnxruntime-gpu 설치#

현재 ONNX Runtime GPU 릴리스는 Python 3.12를 포함한 Linux ARM64 휠을 제공합니다. NVIDIA ARM64 Docker 이미지는 공식 패키지를 설치하며, 네이티브 CUDA 13 설치에서는 다음을 사용하세요:

pip install onnxruntime-gpu

NVIDIA DGX Spark에서 TensorRT 사용#

Ultralytics에서 지원하는 모든 모델 내보내기 형식 중 TensorRT는 NVIDIA DGX Spark에서 가장 높은 추론 성능을 제공하므로 배포에 가장 권장하는 형식입니다. 설정 방법 및 고급 사용법은 TensorRT 전용 통합 가이드를 참조하세요.

모델을 TensorRT로 변환하고 추론 실행하기#

PyTorch 형식의 YOLO26n 모델을 TensorRT로 변환해 내보낸 모델로 추론을 실행합니다.

from ultralytics import YOLO

# YOLO26n PyTorch 모델 로드
model = YOLO("yolo26n.pt")

# 모델을 TensorRT로 내보내기
model.export(format="engine")  # 'yolo26n.engine' 생성

# 내보낸 TensorRT 모델 로드
trt_model = YOLO("yolo26n.engine")

# 추론 실행
results = trt_model("https://ultralytics.com/images/bus.jpg")

NVIDIA DGX Spark YOLO11 벤치마크#

Ultralytics 팀은 속도와 정확도를 측정하기 위해 PyTorch, TorchScript, ONNX, OpenVINO, TensorRT, TF SavedModel, TF GraphDef, TF Lite, MNN, NCNN, ExecuTorch 등 여러 모델 형식으로 YOLO11 벤치마크를 실행했습니다. 벤치마크는 기본 입력 이미지 크기 640, FP32 정밀도로 NVIDIA DGX Spark에서 실행했습니다.

상세 비교 표#

아래 표는 5가지 모델(YOLO11n, YOLO11s, YOLO11m, YOLO11l, YOLO11x)의 여러 형식별 벤치마크 결과를 나타내며, 각 조합의 상태, 크기, mAP50-95(B) 지표 및 추론 시간을 보여줍니다.

결과 재현하기#

모든 내보내기 형식에서 위 Ultralytics 벤치마크를 재현하려면 다음 코드를 실행하세요.

from ultralytics import YOLO

# YOLO26n PyTorch 모델 로드
model = YOLO("yolo26n.pt")

# 모든 내보내기 형식에서 COCO128 데이터셋으로 YOLO26n의 속도와 정확도 벤치마크 수행
results = model.benchmark(data="coco128.yaml", imgsz=640)

NVIDIA DGX Spark 모범 사례#

NVIDIA DGX Spark에서 YOLO26을 실행할 때 성능을 최대한 발휘하려면 몇 가지 모범 사례를 따라야 합니다.

1. 시스템 성능 모니터링

   NVIDIA의 모니터링 도구를 사용하여 GPU 및 CPU 사용률을 추적하세요:

   nvidia-smi

2. 메모리 사용량 최적화

   128GB 통합 메모리를 갖춘 DGX Spark는 대규모 배치 크기와 모델을 처리할 수 있습니다. 처리량을 높이려면 배치 크기를 늘려 보세요:

   from ultralytics import YOLO
   
   model = YOLO("yolo26n.engine")
   results = model.predict(source="path/to/images", batch=16)

3. FP16 또는 INT8로 TensorRT 사용

   최상의 성능을 얻으려면 FP16 또는 INT8 정밀도로 모델을 내보내세요:

   yolo export model=yolo26n.pt format=engine quantize=16 # FP16
   yolo export model=yolo26n.pt format=engine quantize=8  # INT8

시스템 업데이트(Founders Edition)#

성능과 보안을 위해 DGX Spark Founders Edition을 최신 상태로 유지하는 것이 중요합니다. NVIDIA는 시스템 OS, 드라이버, 펌웨어를 업데이트하는 두 가지 주요 방법을 제공합니다.

DGX Dashboard 사용(권장)#

호환성을 보장하는 시스템 업데이트 방법으로 DGX Dashboard를 권장합니다. 다음 작업을 수행할 수 있습니다:

• 사용 가능한 시스템 업데이트 확인
• 보안 패치 및 시스템 업데이트 설치
• NVIDIA 드라이버 및 펌웨어 업데이트 관리

수동 시스템 업데이트#

고급 사용자는 터미널에서 수동으로 업데이트를 수행할 수 있습니다:

sudo apt update
sudo apt dist-upgrade
sudo fwupdmgr refresh
sudo fwupdmgr upgrade
sudo reboot

다음 단계#

추가 학습 자료와 지원은 Ultralytics YOLO26 문서를 참조하세요.

자주 묻는 질문#