クイックスタートガイド:NVIDIA Spark withUltralytics YOLO11

この包括的なガイドでは、NVIDIAデスクトップAIスーパーコンピュータNVIDIA NVIDIA SparkへのUltralYOLO11 デプロイに関する詳細な手順を解説します。さらに、この高性能YOLO11 能力を示すパフォーマンスベンチマーク結果も紹介しています。

NVIDIA Sparkとは何ですか？

NVIDIA Sparkは、NVIDIA Grace Blackwell Superchipを搭載したコンパクトなデスクトップAIスーパーコンピュータです。FP4精度で最大1ペタFLOPSのAI演算性能を発揮し、デスクトップフォームファクターで強力なAI機能を求める開発者、研究者、データサイエンティストに最適です。

主要仕様

DGX OS

NVIDIA OSは、DGXシステム上でAI、機械学習、分析アプリケーションを実行するための安定した、テスト済みでサポート対象のオペレーティングシステム基盤を提供するカスタマイズされたLinuxディストリビューションです。以下を含みます：

• AIワークロード向けに最適化された堅牢なLinux基盤
• NVIDIA 事前設定済みドライバーおよびシステム設定
• セキュリティ更新プログラムとシステム保守機能
• NVIDIA 広範なNVIDIA エコシステムとの互換性

DGX OSは定期的なリリーススケジュールに従い、通常は年2回（2月と8月頃）に更新が提供されます。主要リリース間には追加のセキュリティパッチが提供されます。

DGXダッシュボード

DGX Sparkには組み込みのDGXダッシュボードが付属し、以下を提供します：

• リアルタイムシステム監視：システムの現在の運用指標の概要
• システム更新：ダッシュボードから直接更新を適用する機能
• システム設定：デバイス名やその他の設定を変更する
• 統合JupyterLab：開発用にローカルのJupyter Notebookにアクセス

ダッシュボードへのアクセス

# Open an SSH tunnel
ssh -L 11000:localhost:11000 <username>@<IP or spark-abcd.local>

# Then open in browser
# http://localhost:11000

Dockerを使ったクイックスタート

NVIDIA YOLO11 迅速に開始する方法は、事前構築済みのDockerイメージを実行することです。Jetson AGX Thor（JetPack 7.0）をサポートする同一のDockerイメージが、DGX OSを搭載したDGX Sparkでも動作します。

t=ultralytics/ultralytics:latest-nvidia-arm64
sudo docker pull $t && sudo docker run -it --ipc=host --runtime=nvidia --gpus all $t

この作業が完了したら、「 NVIDIA SparkTensorRT を使用する」セクションに進んでください。

ネイティブインストールから開始

Dockerを使用しないネイティブインストールの場合、以下の手順に従ってください。

Ultralyticsパッケージのインストール

ここでは、DGX SparkにUltralytics オプションの依存関係と共にインストールし、エクスポートできるようにします。 PyTorch モデルを他の異なる形式にエクスポートできるようにします。NVIDIA TensorRT に焦点を当てます。TensorRT DGX Sparkから最大限のパフォーマンスを引き出すことを保証TensorRT 。

1. パッケージリストの更新、pipのインストール、および最新バージョンへのアップグレード

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip
   

2. インストール ultralytics オプションの依存関係を含む pip パッケージ

   pip install ultralytics[export]
   

3. デバイスを再起動

   sudo reboot
   

PyTorchとTorchvisionのインストール

ultralytics Torch インストールされます。ただし、pip経由でインストールされたこれらのパッケージは、CUDA を搭載したDGX SparkのARM64アーキテクチャ向けに完全に最適化されていない可能性があります。そのため、CUDA 互換バージョンをインストールすることを推奨します：

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

UserWarning: Found GPU0 NVIDIA GB10 which is of cuda capability 12.1.
Minimum and Maximum cuda capability supported by this version of PyTorch is (8.0) - (12.0)

インストール onnxruntime-gpu

The onnxruntime-gpu PyPI ホストされているパッケージには aarch64 ARM64システム用のバイナリ。そのため、このパッケージを手動でインストールする必要があります。このパッケージは、一部のエクスポートに必要なものです。

ここでは onnxruntime-gpu 1.24.0 with Python3.12 サポート。

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.24.0-cp312-cp312-linux_aarch64.whl

NVIDIA SparkTensorRT を使用する

Ultralyticsサポートするすべてのモデル出力形式の中で、NVIDIA Spark上で最高の推論性能TensorRT 、デプロイメントにおける最優先推奨ソリューションです。設定手順および高度な使用方法については、 TensorRT をご参照ください。

モデルをTensorRTに変換して推論を実行

PyTorch形式のYOLO11nモデルは、エクスポートされたモデルで推論を実行するためにTensorRTに変換されます。

from ultralytics import YOLO

# Load a YOLO11n PyTorch model
model = YOLO("yolo11n.pt")

# Export the model to TensorRT
model.export(format="engine")  # creates 'yolo11n.engine'

# Load the exported TensorRT model
trt_model = YOLO("yolo11n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to TensorRT format
yolo export model=yolo11n.pt format=engine # creates 'yolo11n.engine'

# Run inference with the exported model
yolo predict model=yolo11n.engine source='https://ultralytics.com/images/bus.jpg'

NVIDIA SparkYOLO11

Ultralytics は、複数のモデル形式（PyTorch、TorchScript、ONNX、OpenVINO、TensorRT、TF SavedModel、TF GraphDef、TF 、MNN、NCNN、ExecuTorch）で速度と精度を測定するYOLO11 を実行しました。ベンチマークNVIDIA Spark上でFP32精度、デフォルト入力画像サイズ640で実行されました。

詳細な比較表

以下の表は、5つの異なるモデル（YOLO11n、YOLO11s、YOLO11m、YOLO11l、YOLO11x）における複数フォーマットのベンチマーク結果を示しており、各組み合わせの状態、サイズ、mAP50(B)指標、推論時間を確認できます。

結果の再現

上記Ultralyticsのベンチマークをすべてのエクスポート形式で再現するには、次のコードを実行します:

from ultralytics import YOLO

# Load a YOLO11n PyTorch model
model = YOLO("yolo11n.pt")

# Benchmark YOLO11n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml", imgsz=640)

# Benchmark YOLO11n speed and accuracy on the COCO128 dataset for all export formats
yolo benchmark model=yolo11n.pt data=coco128.yaml imgsz=640

NVIDIA Spark のベストプラクティス

NVIDIA Sparkを使用する際、YOLO11最高のパフォーマンスを発揮させるために従うべきベストプラクティスがいくつかあります。

1. システムパフォーマンスの監視

   NVIDIA監視ツールを使用して、CPU track ：

   nvidia-smi
   

2. メモリ使用量の最適化

   128GBの統合メモリを搭載したDGX Sparkは、大規模なバッチサイズとモデルを処理できます。スループット向上のためにバッチサイズの拡大をご検討ください：

   from ultralytics import YOLO
   
   model = YOLO("yolo11n.engine")
   results = model.predict(source="path/to/images", batch=16)
   

3. TensorRT 使用する

   最高のパフォーマンスを得るには、FP16またはINT8精度でモデルをエクスポートしてください：

   yolo export model=yolo11n.pt format=engine half=True # FP16
   yolo export model=yolo11n.pt format=engine int8=True # INT8
   

システム更新 (ファウンダーズエディション)

DGX Spark Founders Editionを最新の状態に保つことは、パフォーマンスとセキュリティの観点から極めて重要です。NVIDIA 、システムOS、ドライバー、ファームウェアを更新するための主に2つのNVIDIA 。

DGXダッシュボードの使用（推奨）

DGXダッシュボードは、互換性を確保したシステム更新を実行するための推奨方法です。これにより以下のことが可能になります：

• 利用可能なシステム更新を表示する
• セキュリティパッチとシステム更新プログラムをインストールする
• NVIDIA およびファームウェアの更新を管理する

手動システム更新

上級ユーザー向けには、ターミナル経由で手動で更新を実行できます：

sudo apt update
sudo apt dist-upgrade
sudo fwupdmgr refresh
sudo fwupdmgr upgrade
sudo reboot

次のステップ

詳細な学習とサポートについては、Ultralytics YOLO11 を参照してください。

よくある質問

NVIDIA SparkYOLO11 Ultralytics YOLO11 をデプロイするにはどうすればよいですか？

NVIDIA SparkYOLO11 Ultralytics YOLO11 のデプロイは簡単です。迅速なセットアップには事前構築済みの Docker イメージを使用するか、必要なパッケージを手動でインストールできます。各方法の詳細な手順は、「Docker によるクイックスタート」および「ネイティブインストールによる開始」セクションに記載されています。

NVIDIA YOLO11 、どの程度の性能が期待できますか？

YOLO11 、GB10 Grace Blackwell Superchipを搭載したDGX Spark上で優れた性能を発揮します。TensorRT 最高の推論性能を提供します。異なるモデルサイズと形式における具体的なベンチマーク結果については、詳細比較表セクションをご確認ください。

なぜDGXYOLO11 TensorRT を使用すべきですか？

TensorRT 、最適なパフォーマンスを実現するため、DGX SparkYOLO11 に強くTensorRT 。BlackwellGPU を活用して推論を高速化し、最大限の効率と速度を確保します。詳細は「 NVIDIA TensorRT の使用」セクションをご覧ください。

YOLO11において、DGX SparkとJetsonデバイスはどのように比較されますか？

DGX Sparkは、Jetsonデバイスよりも大幅に高い演算能力を提供します。最大1PFLOPSのAI性能と128GBの統合メモリを備え、Jetson AGX Thorの2070 TFLOPSおよび128GBメモリと比較されます。DGX SparkはデスクトップAIスーパーコンピュータとして設計されているのに対し、Jetsonデバイスはエッジ展開向けに最適化された組み込みシステムです。

DGX SparkとJetson AGX Thorで同じDockerイメージを使用できますか？

はい！ ultralytics/ultralytics:latest-nvidia-arm64 Dockerイメージは、NVIDIA Spark（DGX OS搭載）とJetson AGX Thor（JetPack 7.0搭載）の両方をサポートします。いずれもARM64アーキテクチャを採用し、CUDA 類似のソフトウェアスタックを備えているためです。

📅 0日前に作成 ✏️ 0日前に更新

コメント