Ultralytics YOLO27:

クイックスタートガイド: NVIDIA DGX SparkでUltralytics YOLO26を使用する#

この包括的なガイドでは、コンパクトなデスクトップAIスーパーコンピューターであるNVIDIA DGX SparkにUltralytics YOLO26をデプロイする手順を詳しく説明します。また、この高性能システム上でのYOLO26の性能を示すベンチマークも紹介します。

NVIDIA DGX Spark AI workstation overview

注記

このガイドは、UbuntuベースのDGX OSを実行するNVIDIA DGX Spark Founders Editionでテストされています。最新のDGX OSリリースでも動作することが見込まれます。

NVIDIA DGX Sparkとは何ですか?#

NVIDIA DGX Sparkは、NVIDIA GB10 Grace Blackwell Superchipを搭載したコンパクトなデスクトップAIスーパーコンピューターです。FP4精度で最大1ペタフロップスのAIコンピューティング性能を実現し、デスクトップフォームファクターで高いAI性能を必要とする開発者、研究者、データサイエンティストに適しています。



Watch: How to Get up to 1000 FPS with Ultralytics YOLO26 on NVIDIA DGX Spark | TensorRT & Batch Inference

主な仕様#

仕様詳細
AI性能最大1 PFLOP(FP4)
GPU第5世代Tensor Coresおよび第4世代RT Coresを備えたNVIDIA Blackwellアーキテクチャ
CPU20コアArmプロセッサー(10 Cortex-X925 + 10 Cortex-A725)
メモリ128 GB LPDDR5xユニファイドシステムメモリ、256ビットインターフェース、4266 MHz、273 GB/sの帯域幅
ストレージ自己暗号化対応の1 TBまたは4 TB NVMe M.2
ネットワーク1x RJ-45(10 GbE)、ConnectX-7 Smart NIC、Wi-Fi 7、Bluetooth 5.4
接続性4x USB Type-C、1x HDMI 2.1a、HDMIマルチチャネルオーディオ
ビデオ処理1x NVENC、1x NVDEC

DGX OS#

NVIDIA DGX OSは、DGXシステム上でAI、機械学習、分析アプリケーションを実行するための、安定性、テスト、サポートを備えたOS基盤を提供するカスタマイズ済みLinuxディストリビューションです。次の機能が含まれています:

  • AIワークロード向けに最適化された堅牢なLinux基盤
  • NVIDIAハードウェア向けに事前構成されたドライバーとシステム設定
  • セキュリティ更新とシステムメンテナンス機能
  • 幅広いNVIDIAソフトウェアエコシステムとの互換性

DGX OSは定期的なリリーススケジュールに従っており、通常は年2回(2月頃と8月頃)更新が提供され、メジャーリリースの間には追加のセキュリティパッチが提供されます。

DGX Dashboard#

DGX Sparkには、次の機能を提供するDGX Dashboardが組み込まれています:

  • リアルタイムシステム監視: システムの現在の稼働メトリクスの概要
  • システム更新: ダッシュボードから直接更新を適用する機能
  • システム設定: デバイス名やその他の設定を変更する機能
  • 統合JupyterLab: 開発用のローカルJupyter Notebookへのアクセス

NVIDIA DGX management dashboard interface

ダッシュボードへのアクセス#

Ubuntuデスクトップの左下隅にある「Show Apps」ボタンをクリックし、「DGX Dashboard」を選択してブラウザーで開きます。

統合JupyterLab

ダッシュボードには統合JupyterLabインスタンスが含まれており、起動時に仮想環境を自動的に作成して推奨パッケージをインストールします。各ユーザーアカウントには、JupyterLabアクセス用の専用ポートが割り当てられます。

Dockerでのクイックスタート#

NVIDIA DGX Spark上でUltralytics YOLO26を迅速に開始する方法は、ビルド済みDockerイメージを実行することです。NVIDIA ARM64イメージは、DGX OSを搭載したDGX Sparkをサポートしています。

t=ultralytics/ultralytics:latest-nvidia-arm64
sudo docker pull $t && sudo docker run -it --ipc=host --device nvidia.com/gpu=all $t

上記のCDIデバイスリクエストは、DGX OSを実行するDGX Sparkに適用されます。Jetson AGX ThorでのPyTorchワークロードについては、NVIDIA Jetson guideにある個別のホスト要件とTensorRTの制限事項を参照してください。

このイメージはNVIDIA PyTorch 26.08、CUDA 13.4、およびTensorRT 11を使用します。NVIDIA PyTorch 26.08がサポートするバージョンにDGX OSのホストドライバを更新し、イメージまたはターゲットGPUを変更した後にTensorRTエンジンを再ビルドしてください。

完了したら、NVIDIA DGX SparkでTensorRTを使用するセクションに進んでください。

ネイティブインストールを開始する#

Dockerを使用しないネイティブインストールの場合は、次の手順に従ってください。

Ultralyticsパッケージをインストールする#

ここでは、DGX SparkにUltralyticsパッケージをインストールします。エクスポート用の依存関係は、モデルを初めてエクスポートするときに自動的にインストールされるため、ここではベースパッケージのみが必要です。主にNVIDIA TensorRTエクスポートに焦点を当てます。TensorRTにより、DGX Sparkから最大限の性能を引き出せます。

  1. パッケージリストを更新し、pipをインストールして最新バージョンにアップグレードする

    sudo apt update
    sudo apt install python3-pip -y
    pip install -U pip
  2. ultralytics pipパッケージをインストールする

    pip install ultralytics
  3. デバイスを再起動する

    sudo reboot

PyTorchとTorchvisionをインストールする#

上記のultralyticsのインストールにより、TorchとTorchvisionがインストールされます。ただし、pip経由でインストールされるこれらのパッケージは、CUDA 13を搭載したDGX SparkのARM64アーキテクチャ向けに十分最適化されていない可能性があります。そのため、CUDA 13互換バージョンのインストールを推奨します:

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130
情報

NVIDIA DGX SparkでPyTorch 2.9.1を実行する場合、CUDAの初期化時(例: yolo checksyolo predictなどの実行時)に次のUserWarningが発生することがあります:

UserWarning: Found GPU0 NVIDIA GB10 which is of cuda capability 12.1.
Minimum and Maximum cuda capability supported by this version of PyTorch is (8.0) - (12.0)

この警告は安全に無視できます。恒久的に対処するため、PyTorch PR #164590で修正が提出されており、PyTorch 2.10リリースに含まれる予定です。

onnxruntime-gpuをインストールする#

現在のONNX Runtime GPU releasesは、Python 3.12を含むLinux ARM64用ホイールを提供しています。NVIDIA ARM64 Dockerイメージは公式パッケージをインストールします。ネイティブなCUDA 13のインストールには以下を使用してください:

pip install onnxruntime-gpu

NVIDIA DGX SparkでTensorRTを使用する#

Ultralyticsがサポートするすべてのモデルエクスポート形式の中で、TensorRTはNVIDIA DGX Spark上で最高の推論性能を提供するため、デプロイには最も推奨される形式です。セットアップ手順と高度な使用方法については、TensorRT専用インテグレーションガイドをご覧ください。

モデルをTensorRTに変換して推論を実行する#

PyTorch形式のYOLO26nモデルをTensorRTに変換し、エクスポートしたモデルで推論を実行します。

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT
model.export(format="engine")  # creates 'yolo26n.engine'

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")
注記

モデルを異なる形式にエクスポートする際に追加の引数を利用するには、Exportページをご覧ください。

NVIDIA DGX SparkでのYOLO11ベンチマーク#

YOLO11のベンチマークは、Ultralyticsチームが複数のモデル形式を対象に、速度と精度を測定して実施しました。対象形式はPyTorch、TorchScript、ONNX、OpenVINO、TensorRT、TF SavedModel、TF GraphDef、TF Lite、MNN、NCNN、ExecuTorchです。ベンチマークは、入力画像サイズをデフォルトの640とし、FP32精度でNVIDIA DGX Spark上にて実施しました。

詳細比較表#

以下の表は、5種類のモデル(YOLO11n、YOLO11s、YOLO11m、YOLO11l、YOLO11x)について、複数の形式にわたるベンチマーク結果を示しています。各組み合わせのステータス、サイズ、mAP50-95(B)メトリクス、推論時間が記載されています。

性能
形式ステータスディスク上のサイズ(MB)mAP50-95(B)推論時間(ms/画像)
PyTorch5.40.50712.67
TorchScript10.50.50832.62
ONNX10.20.50745.92
OpenVINO10.40.505814.95
TensorRT(FP32)12.80.50851.95
TensorRT(FP16)7.00.50681.01
TensorRT(INT8)18.60.48801.62
TF SavedModel25.70.507636.39
TF GraphDef10.30.507641.06
TF Lite10.30.507564.36
MNN10.10.507512.14
NCNN10.20.504112.31
ExecuTorch10.20.507527.61

Ultralytics 8.3.249でベンチマークを実施

結果を再現する#

上記のUltralyticsベンチマークをすべてのエクスポート形式で再現するには、次のコードを実行します:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml", imgsz=640)

ベンチマーク結果は、システムの正確なハードウェアおよびソフトウェア構成と、ベンチマーク実行時のシステムの現在のワークロードによって異なる場合があります。最も信頼性の高い結果を得るには、data='coco.yaml'(検証画像5000枚)など、画像数の多いデータセットを使用してください。

NVIDIA DGX Sparkのベストプラクティス#

NVIDIA DGX Sparkを使用する際は、YOLO26の実行時に最大性能を実現するため、いくつかのベストプラクティスに従ってください。

  1. システム性能を監視する

    NVIDIAの監視ツールを使用して、GPUとCPUの使用率を追跡します:

    nvidia-smi
  2. メモリ使用量を最適化する

    128GBのユニファイドメモリにより、DGX Sparkでは大きなバッチサイズとモデルを処理できます。スループットを向上させるため、バッチサイズの増加を検討してください:

    from ultralytics import YOLO
    
    model = YOLO("yolo26n.engine")
    results = model.predict(source="path/to/images", batch=16)
  3. FP16またはINT8でTensorRTを使用する

    最高の性能を得るには、FP16またはINT8精度でモデルをエクスポートします:

    yolo export model=yolo26n.pt format=engine quantize=16 # FP16
    yolo export model=yolo26n.pt format=engine quantize=8  # INT8

システム更新(Founders Edition)#

DGX Spark Founders Editionを最新の状態に保つことは、性能とセキュリティにとって重要です。NVIDIAは、システムOS、ドライバー、ファームウェアを更新するための主な方法を2つ提供しています。

DGX Dashboardを使用する(推奨)#

DGX Dashboardは、互換性を確保しながらシステム更新を実行する推奨方法です。次の操作が可能です:

  • 利用可能なシステム更新を表示する
  • セキュリティパッチとシステム更新をインストールする
  • NVIDIAドライバーとファームウェアの更新を管理する

システムを手動で更新する#

上級ユーザーは、ターミナルから手動で更新できます:

sudo apt update
sudo apt dist-upgrade
sudo fwupdmgr refresh
sudo fwupdmgr upgrade
sudo reboot
警告

更新を実行する前に、システムが安定した電源に接続され、重要なデータがバックアップされていることを確認してください。

次のステップ#

さらに学習やサポートが必要な場合は、Ultralytics YOLO26 Docsをご覧ください。

FAQ#

  • NVIDIA DGX SparkへのUltralytics YOLO26のデプロイは簡単です。迅速にセットアップするにはビルド済みのDockerイメージを使用するか、必要なパッケージを手動でインストールできます。それぞれの方法の詳細な手順は、Dockerでクイックスタートおよびネイティブインストールを開始するの各セクションに記載されています。

  • YOLO26モデルは、GB10 Grace Blackwell Superchipにより、DGX Spark上で優れた性能を発揮します。TensorRT形式が最高の推論性能を提供します。異なるモデルサイズと形式での具体的なベンチマーク結果については、詳細比較表のセクションをご確認ください。

  • TensorRTは最適な性能を提供するため、DGX SparkへのYOLO26モデルのデプロイに強く推奨されます。Blackwell GPUの性能を活用して推論を高速化し、最大限の効率と速度を実現します。詳しくは、NVIDIA DGX SparkでTensorRTを使用するセクションをご覧ください。

  • DGX Sparkは最大1 PFLOPのAI性能と128GBのユニファイドメモリを提供します。一方、Jetson AGX Thorは2070 TFLOPSの性能と128GBのメモリを備えています。DGX SparkはデスクトップAIスーパーコンピューターとして設計されているのに対し、Jetsonデバイスはエッジデプロイ向けに最適化された組み込みシステムです。

  • PyTorchワークロードの場合、ultralytics/ultralytics:latest-nvidia-arm64はDGX OSを搭載したDGX SparkとJetPack 7.1を搭載したThorをサポートしています。同梱されているTensorRT 11.2はJetPackをサポートしていないため、JetsonのTensorRTワークロードでは、JetPackのリリースに対応するサポート対象のTensorRT 10.xランタイムを使用する必要があります。Jetson Docker requirementsを参照してください。

コメント