빠른 시작 가이드: Ultralytics YOLO26을 NVIDIA DGX Spark에서 사용하기#

이 종합 가이드에서는 소형 데스크톱 AI 슈퍼컴퓨터인 NVIDIA DGX Spark에 Ultralytics YOLO26을 배포하는 과정을 자세히 안내합니다. 또한 이 강력한 시스템에서 YOLO26의 성능을 입증하기 위한 성능 벤치마크도 제공합니다.

NVIDIA DGX Spark란 무엇인가요?#

NVIDIA DGX Spark는 NVIDIA GB10 Grace Blackwell Superchip으로 구동되는 소형 데스크톱 AI 슈퍼컴퓨터입니다. FP4 정밀도에서 최대 1 petaFLOP의 AI 컴퓨팅 성능을 제공하므로, 데스크톱 폼 팩터에서 강력한 AI 기능이 필요한 개발자, 연구자 및 데이터 과학자에게 적합합니다.

주요 사양#

DGX OS#

NVIDIA DGX OS는 DGX 시스템에서 AI, 머신 러닝 및 분석 애플리케이션을 실행하기 위한 안정적이고 테스트되었으며 지원되는 운영 체제 기반을 제공하는 맞춤형 Linux 배포판입니다. 다음을 포함합니다:

• AI 워크로드에 최적화된 강력한 Linux 기반
• NVIDIA 하드웨어용으로 사전 구성된 드라이버 및 시스템 설정
• 보안 업데이트 및 시스템 유지 관리 기능
• 더 광범위한 NVIDIA 소프트웨어 생태계와의 호환성

DGX OS는 정기적인 릴리스 일정을 따르며, 일반적으로 연 2회(2월과 8월경) 업데이트가 제공되고 주요 릴리스 사이에는 추가 보안 패치가 제공됩니다.

DGX Dashboard#

DGX Spark에는 다음 기능을 제공하는 내장 DGX Dashboard가 포함되어 있습니다:

• 실시간 시스템 모니터링: 시스템의 현재 운영 지표 개요
• 시스템 업데이트: 대시보드에서 직접 업데이트를 적용하는 기능
• 시스템 설정: 장치 이름 및 기타 구성 변경
• 통합 JupyterLab: 개발을 위한 로컬 Jupyter Notebook 액세스

대시보드 액세스#

Docker로 빠르게 시작하기#

NVIDIA DGX Spark에서 Ultralytics YOLO26을 가장 빠르게 시작하는 방법은 미리 빌드된 도커 이미지를 실행하는 것입니다. NVIDIA ARM64 이미지는 DGX OS가 탑재된 DGX Spark를 지원합니다.

t=ultralytics/ultralytics:latest-nvidia-arm64
sudo docker pull $t && sudo docker run -it --ipc=host --device nvidia.com/gpu=all $t

위의 CDI 장치 요청은 DGX OS를 실행하는 DGX Spark에 적용됩니다. Jetson AGX Thor에서의 PyTorch 워크로드에 대해서는 NVIDIA Jetson 가이드의 별도 호스트 요구 사항 및 TensorRT 제한 사항을 참조하십시오.

이 이미지는 NVIDIA PyTorch 26.08, CUDA 13.4, TensorRT 11을 사용합니다. DGX OS 호스트 드라이버를 NVIDIA PyTorch 26.08에서 지원하는 버전으로 업데이트하고, 이미지나 타겟 GPU를 변경한 후 TensorRT 엔진을 다시 빌드하십시오.

이 작업을 완료한 후 NVIDIA DGX Spark에서 TensorRT 사용 섹션으로 이동합니다.

네이티브 설치로 시작하기#

Docker 없이 네이티브 설치를 수행하려면 다음 단계를 따릅니다.

Ultralytics 패키지 설치#

여기서는 DGX Spark에 Ultralytics 패키지를 설치합니다. 모델을 처음 export할 때 export 종속성이 자동으로 설치되므로 여기서는 기본 패키지만 필요합니다. TensorRT를 사용하면 DGX Spark에서 최고의 성능을 얻을 수 있으므로 주로 NVIDIA TensorRT export에 중점을 둡니다.

1. 패키지 목록을 업데이트하고 pip를 설치한 후 최신 버전으로 업그레이드하기

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. ultralytics pip 패키지 설치

   pip install ultralytics

3. 디바이스 재부팅

   sudo reboot

PyTorch 및 Torchvision 설치#

위의 ultralytics 설치 과정에서 Torch와 Torchvision이 설치됩니다. 그러나 pip를 통해 설치되는 이러한 패키지는 CUDA 13을 사용하는 DGX Spark의 ARM64 아키텍처에 완전히 최적화되지 않을 수 있습니다. 따라서 다음 CUDA 13 호환 버전을 설치하는 것이 좋습니다:

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

UserWarning: Found GPU0 NVIDIA GB10 which is of cuda capability 12.1.
Minimum and Maximum cuda capability supported by this version of PyTorch is (8.0) - (12.0)

onnxruntime-gpu 설치#

현재 ONNX Runtime GPU 릴리스는 Python 3.12를 포함하여 Linux ARM64 휠을 제공합니다. NVIDIA ARM64 도커 이미지는 공식 패키지를 설치하며, 네이티브 CUDA 13 설치를 위해서는 다음을 사용하십시오:

pip install onnxruntime-gpu

NVIDIA DGX Spark에서 TensorRT 사용#

Ultralytics가 지원하는 모든 모델 export 형식 중 TensorRT는 NVIDIA DGX Spark에서 가장 높은 inference 성능을 제공하므로 배포에 가장 권장되는 형식입니다. 설정 지침과 고급 사용법은 TensorRT 전용 통합 가이드를 참조하세요.

모델을 TensorRT로 변환하고 inference 실행#

PyTorch 형식의 YOLO26n 모델을 TensorRT로 변환하여 export된 모델로 inference를 실행합니다.

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT
model.export(format="engine")  # creates 'yolo26n.engine'

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

NVIDIA DGX Spark YOLO11 벤치마크#

Ultralytics 팀은 여러 모델 형식에서 속도와 정확도를 측정하는 YOLO11 벤치마크를 실행했습니다: PyTorch, TorchScript, ONNX, OpenVINO, TensorRT, TF SavedModel, TF GraphDef, TF Lite, MNN, NCNN, ExecuTorch. 벤치마크는 기본 입력 이미지 크기 640, FP32 정밀도로 NVIDIA DGX Spark에서 실행되었습니다.

상세 비교 표#

아래 표는 여러 형식에 걸쳐 5가지 모델(YOLO11n, YOLO11s, YOLO11m, YOLO11l, YOLO11x)의 벤치마크 결과를 보여주며, 각 조합의 상태, 크기, mAP50-95(B) metric 및 inference 시간을 제공합니다.

결과 재현#

위의 Ultralytics 벤치마크를 모든 export 형식에서 재현하려면 다음 코드를 실행합니다:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml", imgsz=640)

NVIDIA DGX Spark 모범 사례#

NVIDIA DGX Spark에서 YOLO26을 실행할 때 최고의 성능을 달성하려면 몇 가지 모범 사례를 따라야 합니다.

1. 시스템 성능 모니터링

   NVIDIA의 모니터링 도구를 사용하여 GPU 및 CPU 사용률을 추적합니다:

   nvidia-smi

2. 메모리 사용량 최적화

   128GB의 통합 메모리를 갖춘 DGX Spark는 대규모 batch size와 모델을 처리할 수 있습니다. 처리량을 향상하려면 batch size를 늘리는 것을 고려하세요:

   from ultralytics import YOLO
   
   model = YOLO("yolo26n.engine")
   results = model.predict(source="path/to/images", batch=16)

3. FP16 또는 INT8과 함께 TensorRT 사용

   최상의 성능을 위해 FP16 또는 INT8 정밀도로 모델을 export합니다:

   yolo export model=yolo26n.pt format=engine quantize=16 # FP16
   yolo export model=yolo26n.pt format=engine quantize=8  # INT8

시스템 업데이트(Founders Edition)#

성능과 보안을 위해 DGX Spark Founders Edition을 최신 상태로 유지하는 것이 중요합니다. NVIDIA는 시스템 OS, 드라이버 및 펌웨어를 업데이트하는 두 가지 주요 방법을 제공합니다.

DGX Dashboard 사용(권장)#

DGX Dashboard는 호환성을 보장하면서 시스템 업데이트를 수행하는 권장 방법입니다. 다음 작업을 수행할 수 있습니다:

• 사용 가능한 시스템 업데이트 확인
• 보안 패치 및 시스템 업데이트 설치
• NVIDIA 드라이버 및 펌웨어 업데이트 관리

수동 시스템 업데이트#

고급 사용자는 터미널을 통해 수동으로 업데이트를 수행할 수 있습니다:

sudo apt update
sudo apt dist-upgrade
sudo fwupdmgr refresh
sudo fwupdmgr upgrade
sudo reboot

다음 단계#

추가 학습 및 지원은 Ultralytics YOLO26 Docs를 참조하세요.

FAQ#