クイックスタートガイド:NVIDIA DGX SparkでUltralytics YOLO26を使用する
このガイドでは、NVIDIAの小型デスクトップAIスーパーコンピューターであるNVIDIA DGX SparkにUltralytics YOLO26をデプロイする方法を説明し、このシステムで複数のエクスポート形式を使用して測定したYOLO11のベンチマークも掲載しています。
このガイドは、UbuntuベースのDGX OSを実行するNVIDIA DGX Spark Founders Editionでテストされています。最新のDGX OSリリースでも動作する見込みです。
NVIDIA DGX Sparkとは何ですか?#
NVIDIA DGX Sparkは、NVIDIA GB10 Grace Blackwell Superchipを搭載した小型デスクトップAIスーパーコンピューターです。FP4精度で最大1 petaFLOPのAI演算性能を発揮し、デスクトップサイズの強力なAI性能を必要とする開発者、研究者、データサイエンティスト向けに設計されています。
視聴: Ultralytics YOLO26をNVIDIA DGX Sparkで最大1000 FPSで実行する方法 | TensorRTとバッチ推論
主な仕様#
| 仕様 | 詳細 |
|---|---|
| AI性能 | 最大1 PFLOP(FP4) |
| GPU | 第5世代Tensor Coreと第4世代RT Coreを備えたNVIDIA Blackwellアーキテクチャ |
| CPU | 20コアArmプロセッサー(Cortex-X925×10 + Cortex-A725×10) |
| メモリ | 128 GB LPDDR5xユニファイドシステムメモリ、256-bitインターフェース、4266 MHz、273 GB/sの帯域幅 |
| ストレージ | 自己暗号化機能を備えた1 TBまたは4 TBのNVMe M.2 |
| ネットワーク | RJ-45(10 GbE)×1、ConnectX-7 Smart NIC、Wi-Fi 7、Bluetooth 5.4 |
| 接続性 | USB Type-C×4、HDMI 2.1a×1、HDMIマルチチャンネルオーディオ |
| ビデオ処理 | NVENC×1、NVDEC×1 |
DGX OS#
NVIDIA DGX OSは、DGXシステムでAI、機械学習、分析アプリケーションを実行するための、安定性と検証済みのサポートを備えたOS基盤を提供する、カスタマイズされたLinuxディストリビューションです。次の機能が含まれています:
- AIワークロード向けに最適化された堅牢なLinux基盤
- NVIDIAハードウェア向けに事前設定されたドライバーとシステム設定
- セキュリティアップデートとシステムメンテナンス機能
- NVIDIAの幅広いソフトウェアエコシステムとの互換性
DGX OSは定期的なリリーススケジュールに従っており、通常は年2回(2月頃と8月頃)アップデートが提供されます。また、メジャーリリースの間にも追加のセキュリティパッチが提供されます。
DGX Dashboard#
DGX Sparkには、次の機能を提供するDGX Dashboardが組み込まれています:
- リアルタイムのシステム監視: システムの現在の稼働状況を示すメトリクスの概要
- システムアップデート: ダッシュボードから直接アップデートを適用できます
- システム設定: デバイス名やその他の設定を変更できます
- JupyterLabの統合: 開発用のローカルJupyter Notebookにアクセスできます
ダッシュボードへのアクセス#
Ubuntuデスクトップの左下にある「Show Apps」ボタンをクリックし、「DGX Dashboard」を選択すると、ブラウザーで開きます。
ダッシュボードにはJupyterLabが統合されており、起動時に仮想環境を自動的に作成し、推奨パッケージをインストールします。各ユーザーアカウントには、JupyterLabへのアクセス専用ポートが割り当てられます。
Dockerでクイックスタート#
NVIDIA DGX SparkでUltralytics YOLO26をすぐに使い始めるには、ビルド済みのDockerイメージを実行するのが最も簡単です。NVIDIA ARM64イメージは、DGX OSを搭載したDGX Sparkに対応しています。
t=ultralytics/ultralytics:latest-nvidia-arm64
sudo docker pull $t && sudo docker run -it --ipc=host --device nvidia.com/gpu=all $t上記のCDIデバイスリクエストは、DGX OSを実行するDGX Sparkに適用されます。Jetson AGX ThorでPyTorchワークロードを実行する場合は、ホスト要件とTensorRTの制限について、NVIDIA Jetsonガイドを参照してください。
このイメージはNVIDIA PyTorch 26.10、CUDA 13.4、TensorRT 11.4を使用します。DGX OSホストのドライバーをNVIDIA PyTorch 26.10でサポートされているバージョンに更新し、イメージまたは対象のGPUを変更した後にTensorRTエンジンを再ビルドしてください。
完了したら、NVIDIA DGX SparkでTensorRTを使用するに進んでください。
ネイティブインストールを開始する#
Dockerを使わずにネイティブインストールする場合は、次の手順に従ってください。
Ultralyticsパッケージをインストールする#
ここでは、DGX SparkにUltralyticsパッケージをインストールします。モデルを初めてエクスポートする際にエクスポート用の依存関係が自動でインストールされるため、ここでは基本パッケージのみが必要です。このガイドでは、DGX Sparkで最高の性能を発揮するNVIDIA TensorRTへのエクスポートに焦点を当てます。
-
パッケージリストを更新してpipをインストールし、最新バージョンにアップグレードします。
sudo apt update sudo apt install python3-pip -y pip install -U pip -
ultralyticspipパッケージをインストールするpip install ultralytics -
デバイスを再起動する
sudo reboot
PyTorchとTorchvisionをインストールする#
上記のultralyticsのインストールでは、PyTorchとTorchvisionがインストールされます。ただし、pipでインストールされるこれらのパッケージは、CUDA 13を搭載したDGX SparkのARM64アーキテクチャ向けに十分最適化されていない場合があります。そのため、CUDA 13互換バージョンのインストールを推奨します。
pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130NVIDIA DGX SparkでPyTorch 2.9.1を実行すると、CUDAの初期化時(たとえば、yolo checksやyolo predictなどの実行時)に、次のUserWarningが発生する場合があります:
UserWarning: Found GPU0 NVIDIA GB10 which is of cuda capability 12.1.
Minimum and Maximum cuda capability supported by this version of PyTorch is (8.0) - (12.0)この警告は無視して問題ありません。
onnxruntime-gpuをインストールする#
現在のONNX Runtime GPUリリースでは、Python 3.12を含むLinux ARM64用wheelが提供されています。NVIDIA ARM64 Dockerイメージでは公式パッケージがインストールされます。ネイティブ環境にCUDA 13をインストールする場合は、次を使用してください:
pip install onnxruntime-gpuNVIDIA DGX SparkでTensorRTを使用する#
Ultralyticsがサポートするすべてのモデルエクスポート形式の中で、TensorRTはNVIDIA DGX Sparkで最も高い推論性能を発揮するため、デプロイに最も推奨される形式です。
モデルをTensorRTに変換して推論を実行する#
YOLO26nのPyTorchモデルをTensorRTに変換し、エクスポートしたモデルで推論を実行します。
from ultralytics import YOLO
# YOLO26n PyTorchモデルを読み込む
model = YOLO("yolo26n.pt")
# モデルをTensorRT FP16にエクスポートします
model.export(format="engine", quantize=16) # 'yolo26n.engine'を作成します
# エクスポートしたTensorRTモデルを読み込む
trt_model = YOLO("yolo26n.engine")
# 推論を実行
results = trt_model("https://ultralytics.com/images/bus.jpg")NVIDIA DGX SparkでのYOLO11ベンチマーク#
Ultralyticsチームは、PyTorch、TorchScript、ONNX、OpenVINO、TensorRT、TF SavedModel、TF GraphDef、TF Lite、MNN、NCNN、ExecuTorchなど複数のモデル形式について、速度と精度を測定するYOLO11のベンチマークを実施しました。ベンチマークは、NVIDIA DGX SparkでFP32精度、デフォルトの入力画像サイズ640を使用して実施しました。
詳細比較表#
次の表は、5種類のモデル(YOLO11n、YOLO11s、YOLO11m、YOLO11l、YOLO11x)を複数の形式でベンチマークした結果を示しています。各組み合わせのステータス、サイズ、mAP50-95(B)指標、推論時間を掲載しています。
| 形式 | ステータス | ディスク上のサイズ(MB) | mAP50-95(B) | 推論時間(ms/im) |
|---|---|---|---|---|
| PyTorch | ✅ | 5.4 | 0.5071 | 2.67 |
| TorchScript | ✅ | 10.5 | 0.5083 | 2.62 |
| ONNX | ✅ | 10.2 | 0.5074 | 5.92 |
| OpenVINO | ✅ | 10.4 | 0.5058 | 14.95 |
| TensorRT(FP32) | ✅ | 12.8 | 0.5085 | 1.95 |
| TensorRT(FP16) | ✅ | 7.0 | 0.5068 | 1.01 |
| TensorRT(INT8) | ✅ | 18.6 | 0.4880 | 1.62 |
| TF SavedModel | ✅ | 25.7 | 0.5076 | 36.39 |
| TF GraphDef | ✅ | 10.3 | 0.5076 | 41.06 |
| TF Lite | ✅ | 10.3 | 0.5075 | 64.36 |
| MNN | ✅ | 10.1 | 0.5075 | 12.14 |
| NCNN | ✅ | 10.2 | 0.5041 | 12.31 |
| ExecuTorch | ✅ | 10.2 | 0.5075 | 27.61 |
Ultralytics 8.3.249でベンチマークを実施
結果を再現する#
上記のUltralyticsベンチマークをすべてのエクスポート形式で再現するには、次のコードを実行します。
from ultralytics import YOLO
# YOLO26n PyTorchモデルを読み込む
model = YOLO("yolo26n.pt")
# すべてのエクスポート形式でCOCO128データセットを使用してYOLO26nの速度と精度をベンチマークします
results = model.benchmark(data="coco128.yaml", imgsz=640)ベンチマーク結果は、システムのハードウェアとソフトウェアの構成や、ベンチマーク実行時のシステムの負荷によって異なる場合があります。最も信頼性の高い結果を得るには、data='coco.yaml'(検証画像5000枚)のような、画像数の多いデータセットを使用してください。
DGX SparkでのYOLO26 TensorRT精度#
DGX Sparkでバッチサイズ1の場合、TensorRT INT8はYOLO26nとYOLO26sでFP16より遅く、YOLO26mではほぼ同等です(検証時間とtrtexecのGPU計算時間の両方で差は2%以内です)。INT8ではmAPも1.1~1.8低下するため、これらのモデルにはFP16が適しています。上のYOLO11の表でも同じ傾向が見られ、TensorRT (INT8)は5つすべてのモデルでTensorRT (FP16)より遅くなっています。
| モデル | 形式 | ディスク上のサイズ(MB) | mAP50-95(B) | 推論時間(ms/im) |
|---|---|---|---|---|
| YOLO26n | TensorRT(FP16) | 6.7 | 0.4032 | 0.79 |
| YOLO26n | TensorRT(INT8) | 28.4 | 0.3849 | 1.43 |
| YOLO26s | TensorRT(FP16) | 20.3 | 0.4793 | 1.49 |
| YOLO26s | TensorRT(INT8) | 34.4 | 0.4644 | 1.73 |
| YOLO26m | TensorRT(FP16) | 41.1 | 0.5266 | 2.70 |
| YOLO26m | TensorRT(INT8) | 45.0 | 0.5156 | 2.74 |
精度と速度は、画像サイズ640、バッチサイズ1でCOCO val2017(5000枚)を検証して測定しています。INT8エンジンはCOCO128でキャリブレーションしています。Ultralytics 8.4.192を使用し、ultralytics/ultralytics:latest-nvidia-arm64(NVIDIA PyTorch 26.08、TensorRT 11.2.1.2、ModelOpt 0.45.0)でベンチマークを実施しました。
NVIDIA DGX Sparkのベストプラクティス#
NVIDIA DGX SparkでYOLO26を実行する際に最高の性能を得るには、以下のベストプラクティスに従ってください。
-
システム性能を監視する
NVIDIAの監視ツールを使って、GPUとCPUの使用率を追跡します:
nvidia-smi -
メモリ使用量を最適化する
128 GBのユニファイドメモリを搭載するDGX Sparkでは、大きなバッチサイズとモデルを処理できます。スループットの向上を目指して、バッチサイズを大きくすることを検討してください。
from ultralytics import YOLO model = YOLO("yolo26n.engine") results = model.predict(source="path/to/images", batch=16) -
TensorRT FP16を使用してください
DGX Sparkでバッチサイズ1の場合、INT8はYOLO26nとYOLO26sでFP16より遅く、YOLO26mでも速くならず、精度も低下します(DGX SparkでのYOLO26 TensorRT精度を参照してください)。
yolo export model=yolo26n.pt format=engine quantize=16 # FP16
システムアップデート(Founders Edition)#
DGX Spark Founders Editionを最新の状態に保つことは、性能とセキュリティのために重要です。NVIDIAは、システムOS、ドライバー、ファームウェアをアップデートする主な方法を2つ提供しています。
DGX Dashboardを使用する(推奨)#
互換性を確保してシステムをアップデートするには、DGX Dashboardの使用が推奨されます。次の操作ができます:
- 利用可能なシステムアップデートの確認
- セキュリティパッチとシステムアップデートのインストール
- NVIDIAドライバーとファームウェアのアップデート管理
システムを手動でアップデートする#
上級ユーザーは、ターミナルから手動でアップデートできます:
sudo apt update
sudo apt dist-upgrade
sudo fwupdmgr refresh
sudo fwupdmgr upgrade
sudo rebootアップデートを実施する前に、システムが安定した電源に接続されていることを確認し、重要なデータをバックアップしてください。
次のステップ#
詳しい情報やサポートについては、Ultralytics YOLO26ドキュメントをご覧ください。
よくある質問#
NVIDIA DGX SparkへのUltralytics YOLO26のデプロイは簡単です。すばやくセットアップするには事前構築済みのDockerイメージを使用するか、必要なパッケージを手動でインストールできます。それぞれの方法の詳しい手順については、Dockerでクイックスタートとネイティブインストールで開始の各セクションを参照してください。
GB10 Grace Blackwellスーパーチップにより、YOLOモデルはDGX Spark上で高速に動作します。TensorRT形式は最高の推論性能を提供します。DGX SparkでのYOLO11のベンチマーク結果をモデルサイズおよび形式別に確認するには、詳細比較表のセクションを、YOLO26 FP16およびINT8の結果を確認するには、DGX SparkでのYOLO26 TensorRT精度のセクションをご覧ください。
DGX SparkでYOLO26モデルをデプロイする場合は、TensorRTを推奨します。Blackwell GPUのTensor CoreをFP16またはINT8精度で使用し、対応するエクスポート形式の中で最速の推論を実現します。
DGX Sparkは最大1 PFLOPのAI性能と128 GBのユニファイドメモリを備えています。一方、Jetson AGX Thorは2070 TFLOPSと128 GBのメモリを備えています。DGX SparkはデスクトップAIスーパーコンピューターとして設計されているのに対し、Jetsonデバイスはエッジへのデプロイに最適化された組み込みシステムです。
PyTorchのワークロードでは、
ultralytics/ultralytics:latest-nvidia-arm64はDGX OS搭載のDGX Sparkと、JetPack 7.1搭載のThorをサポートします。バンドルされているTensorRT 11.4はJetPackをサポートしていないため、JetsonでTensorRTのワークフローを実行する場合は、使用するJetPackリリースでサポートされているTensorRT 10.xランタイムを使う必要があります。Jetson Dockerの要件を参照してください。
コメント
質問したり、結果を共有したり、ほかの人をサポートしたりできます。
