クイックスタートガイド: NVIDIA DGX SparkとUltralytics YOLO26

この包括的なガイドでは、NVIDIAのコンパクトなデスクトップAIスーパーコンピューターであるNVIDIA DGX SparkにUltralytics YOLO26をデプロイするための詳細な手順を説明します。さらに、この強力なシステム上でのYOLO26の能力を示すパフォーマンスベンチマークも紹介しています。

NVIDIA DGX Sparkとは？

NVIDIA DGX Sparkは、NVIDIA GB10 Grace Blackwell Superchipを搭載したコンパクトなデスクトップAIスーパーコンピューターです。FP4精度で最大1 petaFLOPのAIコンピューティング性能を提供し、デスクトップフォームファクターで強力なAI機能を必要とする開発者、研究者、データサイエンティストにとって理想的です。

主な仕様

DGX OS

NVIDIA DGX OSは、DGXシステム上でAI、機械学習、および分析アプリケーションを実行するための、安定した、テスト済みでサポートされているオペレーティングシステム基盤を提供するカスタマイズされたLinuxディストリビューションです。以下が含まれます：

• AIワークロード向けに最適化された堅牢なLinux基盤
• NVIDIAハードウェア向けに事前設定されたドライバーとシステム設定
• セキュリティアップデートとシステムメンテナンス機能
• 広範なNVIDIAソフトウェアエコシステムとの互換性

DGX OSは定期的なリリーススケジュールに従い、通常、年に2回（2月と8月頃）アップデートが提供され、メジャーリリース間には追加のセキュリティパッチが提供されます。

DGXダッシュボード

DGX Sparkには、以下の機能を提供する組み込みのDGX Dashboardが付属しています：

• リアルタイムシステム監視：システムの現在の運用メトリクスの概要
• システムアップデート：ダッシュボードから直接アップデートを適用する機能
• システム設定：デバイス名やその他の設定を変更
• 統合JupyterLab：開発用のローカルJupyter Notebookにアクセス

ダッシュボードへのアクセス

# Open an SSH tunnel
ssh -L 11000:localhost:11000 username@spark-abcd.local

# Then open in browser
# http://localhost:11000

Dockerを使ったクイックスタート

NVIDIA DGX SparkでUltralytics YOLO26を始める最も速い方法は、ビルド済みのDockerイメージを使用することです。Jetson AGX Thor (JetPack 7.0)をサポートするのと同じDockerイメージが、DGX OSを搭載したDGX Sparkで動作します。

t=ultralytics/ultralytics:latest-nvidia-arm64
sudo docker pull $t && sudo docker run -it --ipc=host --runtime=nvidia --gpus all $t

これが完了したら、NVIDIA DGX SparkでのTensorRTの使用セクションにスキップしてください。

ネイティブインストールから開始

Dockerを使用しないネイティブインストールの場合、以下の手順に従ってください。

Ultralyticsパッケージのインストール

ここでは、オプションの依存関係と共にDGX SparkにUltralyticsパッケージをインストールし、PyTorchモデルを他の異なる形式にエクスポートできるようにします。主にNVIDIA TensorRTエクスポートに焦点を当てます。これは、TensorRTを使用することでDGX Sparkから最大限のパフォーマンスを引き出すことができるためです。

1. パッケージリストの更新、pipのインストール、および最新バージョンへのアップグレード

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip
   

2. インストール ultralytics オプションの依存関係を含む pip パッケージ

   pip install ultralytics[export]
   

3. デバイスを再起動

   sudo reboot
   

PyTorchとTorchvisionのインストール

上記のUltralyticsのインストールでは、torchとTorchvisionがインストールされます。しかし、pip経由でインストールされたこれらのパッケージは、CUDA 13を搭載したDGX SparkのARM64アーキテクチャに完全に最適化されていない可能性があります。そのため、CUDA 13互換バージョンをインストールすることをお勧めします。

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

UserWarning: Found GPU0 NVIDIA GB10 which is of cuda capability 12.1.
Minimum and Maximum cuda capability supported by this version of PyTorch is (8.0) - (12.0)

インストール onnxruntime-gpu

The onnxruntime-gpu PyPIでホストされているパッケージには aarch64 ARM64システム用のバイナリです。そのため、このパッケージを手動でインストールする必要があります。このパッケージは一部のエクスポートに必要です。

ここでは、ダウンロードしてインストールします onnxruntime-gpu 1.24.0 with Python3.12 サポート。

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.24.0-cp312-cp312-linux_aarch64.whl

NVIDIA DGX SparkでTensorRTを使用する

Ultralyticsがサポートするすべてのモデルエクスポート形式の中で、TensorRTはNVIDIA DGX Spark上で最高の推論パフォーマンスを提供するため、デプロイメントにはTensorRTを強く推奨します。セットアップ手順と高度な使用法については、専用のTensorRT統合ガイドを参照してください。

モデルをTensorRTに変換して推論を実行

PyTorch形式のYOLO26nモデルは、エクスポートされたモデルで推論を実行するためにTensorRTに変換されます。

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT
model.export(format="engine")  # creates 'yolo26n.engine'

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO26n PyTorch model to TensorRT format
yolo export model=yolo26n.pt format=engine # creates 'yolo26n.engine'

# Run inference with the exported model
yolo predict model=yolo26n.engine source='https://ultralytics.com/images/bus.jpg'

NVIDIA DGX Spark YOLO11ベンチマーク

Ultralyticsチームは、YOLO11のベンチマークを複数のモデル形式で実行し、速度と精度を測定しました。対象形式はPyTorch、TorchScript、ONNX、OpenVINO、TensorRT、TF SavedModel、TF GraphDef、TF Lite、MNN、NCNN、ExecuTorchです。ベンチマークはNVIDIA DGX Spark上で、FP32 精度、デフォルトの入力画像サイズ640で実行されました。

詳細な比較表

以下の表は、5つの異なるモデル（YOLO11n、YOLO11s、YOLO11m、YOLO11l、YOLO11x）について、複数の形式でのベンチマーク結果を示しており、各組み合わせにおけるステータス、サイズ、mAP50-95(B)メトリック、および推論時間を提供します。

結果の再現

上記Ultralyticsのベンチマークをすべてのエクスポート形式で再現するには、次のコードを実行します:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml", imgsz=640)

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
yolo benchmark model=yolo26n.pt data=coco128.yaml imgsz=640

NVIDIA DGX Sparkのベストプラクティス

NVIDIA DGX Sparkを使用する際には、YOLO26を最大限のパフォーマンスで実行するために、いくつかのベストプラクティスに従う必要があります。

1. システムパフォーマンスの監視

   NVIDIAの監視ツールを使用してGPUとCPUの使用率をtrackします：

   nvidia-smi
   

2. メモリ使用量の最適化

   128GBのユニファイドメモリを搭載したDGX Sparkは、大規模なバッチサイズとモデルを処理できます。スループット向上のため、バッチサイズの増加を検討してください：

   from ultralytics import YOLO
   
   model = YOLO("yolo26n.engine")
   results = model.predict(source="path/to/images", batch=16)
   

3. FP16またはINT8でTensorRTを使用

   最高のパフォーマンスを得るには、FP16またはINT8精度でモデルをエクスポートします：

   yolo export model=yolo26n.pt format=engine half=True # FP16
   yolo export model=yolo26n.pt format=engine int8=True # INT8
   

システムアップデート（Founders Edition）

DGX Spark Founders Editionを最新の状態に保つことは、パフォーマンスとセキュリティにとって非常に重要です。NVIDIAは、システムOS、ドライバー、およびファームウェアを更新するための2つの主要な方法を提供しています。

DGX Dashboardの使用（推奨）

DGX Dashboardは、互換性を確保しながらシステムアップデートを実行するための推奨される方法です。これにより、以下のことが可能になります：

• 利用可能なシステムアップデートの表示
• セキュリティパッチとシステムアップデートのインストール
• NVIDIAドライバーとファームウェアのアップデートの管理

手動システムアップデート

上級ユーザーの場合、ターミナル経由で手動でアップデートを実行できます：

sudo apt update
sudo apt dist-upgrade
sudo fwupdmgr refresh
sudo fwupdmgr upgrade
sudo reboot

次のステップ

さらなる学習とサポートについては、Ultralytics YOLO26 ドキュメントを参照してください。

よくある質問

NVIDIA DGX SparkにUltralytics YOLO26をどのようにデプロイしますか？

NVIDIA DGX SparkへのUltralytics YOLO26のデプロイは簡単です。迅速なセットアップのためにビルド済みのDockerイメージを使用するか、必要なパッケージを手動でインストールすることができます。各アプローチの詳細な手順は、Quick Start with DockerおよびStart with Native Installationのセクションで確認できます。

NVIDIA DGX Spark上でYOLO26からどのようなパフォーマンスを期待できますか？

GB10 Grace Blackwell Superchipのおかげで、YOLO26モデルはDGX Spark上で優れたパフォーマンスを発揮します。TensorRT形式は最高の推論パフォーマンスを提供します。異なるモデルサイズと形式における具体的なベンチマーク結果については、Detailed Comparison Tableセクションをご確認ください。

DGX Spark上でYOLO26にTensorRTを使用すべき理由は何ですか？

TensorRTは、その最適なパフォーマンスにより、DGX Spark上にYOLO26モデルをデプロイする上で強く推奨されます。Blackwell GPUの機能を活用して推論を高速化し、最大の効率と速度を保証します。詳細については、Use TensorRT on NVIDIA DGX Sparkセクションをご覧ください。

YOLO26に関して、DGX SparkはJetsonデバイスと比較してどうですか？

DGX Sparkは、Jetson AGX Thorの2070 TFLOPSおよび128GBメモリと比較して、最大1 PFLOPのAI性能と128GBのユニファイドメモリを備え、Jetsonデバイスよりも大幅に高い計算能力を提供します。DGX SparkはデスクトップAIスーパーコンピューターとして設計されており、Jetsonデバイスはエッジデプロイメント向けに最適化された組み込みシステムです。

DGX SparkとJetson AGX Thorで同じDockerイメージを使用できますか？

はい！その ultralytics/ultralytics:latest-nvidia-arm64 Dockerイメージは、NVIDIA DGX Spark (DGX OS搭載) と Jetson AGX Thor (JetPack 7.0搭載) の両方をサポートしています。これは、どちらもCUDA 13と類似のソフトウェアスタックを備えたARM64アーキテクチャを使用しているためです。

📅 21日前に作成✏️ 9日前に更新

コメント