クイックスタートガイドNVIDIAジェットソンUltralytics YOLOv8

この包括的なガイドでは、Ultralytics YOLOv8 をNVIDIA Jetsonデバイス上に展開するための詳細なウォークスルーを提供します。さらに、これらの小型で強力なデバイス上のYOLOv8 の機能を実証するためのパフォーマンスベンチマークを紹介しています。

NVIDIA Jetsonとは？

NVIDIA Jetsonは、エッジデバイスに加速されたAI（人工知能）コンピューティングをもたらすように設計された一連の組み込みコンピューティングボードです。これらのコンパクトで強力なデバイスは、NVIDIAのGPUアーキテクチャを中心に構築されており、クラウドコンピューティングリソースに依存することなく、デバイス上で複雑なAIアルゴリズムやディープラーニングモデルを直接実行することができます。Jetsonボードは、ロボット工学、自律走行車、産業オートメーション、およびAI推論を低レイテンシかつ高効率でローカルに実行する必要があるその他のアプリケーションでよく使用される。さらに、これらのボードはARM64アーキテクチャをベースとしており、従来のGPUコンピューティングデバイスと比較して低消費電力で動作します。

NVIDIA Jetsonシリーズの比較

Jetson Orinは、NVIDIA Ampereアーキテクチャに基づくNVIDIA Jetsonファミリーの最新版で、前世代と比較してAI性能が飛躍的に向上している。下の表は、エコシステムにおけるJetsonデバイスのいくつかを比較したものである。

より詳細な比較表については、NVIDIA Jetson公式ページの 技術仕様セクションをご覧ください。

NVIDIA JetPackとは何ですか？

Jetsonモジュールを駆動するNVIDIA JetPack SDKは、最も包括的なソリューションであり、エンドツーエンドの高速化AIアプリケーションを構築するための完全な開発環境を提供し、市場投入までの時間を短縮します。JetPackには、ブートローダ、Linuxカーネル、Ubuntuデスクトップ環境を備えたJetson Linuxと、GPUコンピューティング、マルチメディア、グラフィックス、コンピュータビジョンの高速化のためのライブラリ一式が含まれています。また、ホスト・コンピュータと開発者キットの両方に対応したサンプル、ドキュメント、開発者ツールも含まれており、ストリーミング・ビデオ解析用のDeepStream、ロボット工学用のIsaac、会話AI用のRivaなど、より高度なSDKもサポートしています。

NVIDIAジェットソンへのFlash JetPack

NVIDIA Jetsonデバイスを手に入れた後の最初のステップは、NVIDIA JetPackをデバイスにフラッシュすることです。NVIDIA Jetsonデバイスをフラッシュする方法はいくつかあります。

1. Jetson Orin Nano Developer Kitなどの公式NVIDIA開発キットをお持ちの場合は、このリンクからイメージをダウンロードし、JetPackを入れたSDカードを用意してデバイスを起動することができます。
2. 他のNVIDIA Development Kitをお持ちの場合は、こちらのリンクから SDK Managerを使ってJetPackをデバイスにフラッシュすることができます。
3. Seeed Studio reComputer J4012デバイスをお持ちの場合は、このリンクからJetPackを付属のSSDにフラッシュすることができます。
4. NVIDIA Jetsonモジュールを搭載した他のサードパーティ製デバイスをお持ちの場合は、このリンクからコマンドライン・フラッシュを実行することをお勧めします。

セットアップUltralytics

次のComputer Visionプロジェクトを構築するために、NVIDIA Jetson上でUltralytics パッケージをセットアップする方法は2つあります。どちらを使っても構いません。

• Dockerで始める
• Dockerなしで始める

Dockerで始める

Ultralytics YOLOv8 をNVIDIA Jetson上で使い始める最速の方法は、Jetson用にビルド済みのdockerイメージを使って実行することです。

以下のコマンドを実行すると、DockerコンテナがJetson上で実行されます。これは、PyTorch と Torchvision が Python3 環境に含まれるl4t-pytorchdocker イメージに基づいています。

t=ultralytics/ultralytics:latest-jetson && sudo docker pull $t && sudo docker run -it --ipc=host --runtime=nvidia $t

これが完了したら、NVIDIA JetsonでTensorRT 。

Dockerなしで始める

Ultralytics パッケージのインストール

ここでは、Jetsonにultralyicsパッケージをインストールし、オプションの依存関係を追加して、PyTorch モデルを他の異なるフォーマットにエクスポートできるようにします。TensoRTは、Jetsonデバイスから最大限のパフォーマンスを引き出せるようにするため、主にNVIDIATensorRT エクスポートに焦点を当てます。

1. パッケージリストの更新、pipのインストール、最新版へのアップグレード

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip
   

2. インストール ultralytics pip パッケージと依存関係のあるオプション

   pip install ultralytics[export]
   

3. デバイスを再起動する

   sudo reboot
   

PyTorch とトーチビジョンをインストールする

上記のultralytics をインストールすると、Torch と Torchvision がインストールされます。しかし、pip経由でインストールされたこれら2つのパッケージは、ARM64アーキテクチャをベースとするJetsonプラットフォーム上で動作する互換性がない。そのため、ビルド済みのPyTorch pip wheelを手動でインストールし、ソースからTorchvisionをコンパイル/インストールする必要がある。

1. 現在インストールされているPyTorch と Torchvision をアンインストールする。

   pip uninstall torch torchvision
   

2. JP5.1.3 に従ってPyTorch 2.1.0 をインストールする。

   sudo apt-get install -y libopenblas-base libopenmpi-dev
   wget https://developer.download.nvidia.com/compute/redist/jp/v512/pytorch/torch-2.1.0a0+41361538.nv23.06-cp38-cp38-linux_aarch64.whl -O torch-2.1.0a0+41361538.nv23.06-cp38-cp38-linux_aarch64.whl
   pip install torch-2.1.0a0+41361538.nv23.06-cp38-cp38-linux_aarch64.whl
   

3. PyTorch v2.1.0に従ってTorchvision v0.16.2をインストールしてください。

   sudo apt install -y libjpeg-dev zlib1g-dev
   git clone https://github.com/pytorch/vision torchvision
   cd torchvision
   git checkout v0.16.2
   python3 setup.py install --user
   

PyTorch for Jetsonのページで、異なるJetPackのバージョンに対応したPyTorch 。PyTorch, Torchvisionの互換性についての詳細なリストは、PyTorch and Torchvision compatibilityページをご覧ください。

インストール onnxruntime-gpu

について onnxruntime-gpu PyPIでホストされているパッケージには aarch64 バイナリをインストールする必要がある。そのため、このパッケージを手動でインストールする必要がある。このパッケージはいくつかのエクスポートに必要です。

すべて異なる onnxruntime-gpu JetPack とPython の異なるバージョンに対応するパッケージがリストされている。 これ.しかし、ここでは onnxruntime-gpu 1.17.0 と Python3.8 このガイドで使用しているJetPackをサポートしています。

wget https://nvidia.box.com/shared/static/zostg6agm00fb6t5uisw51qi6kpcuwzd.whl -O onnxruntime_gpu-1.17.0-cp38-cp38-linux_aarch64.whl
pip install onnxruntime_gpu-1.17.0-cp38-cp38-linux_aarch64.whl

NVIDIA JetsonでTensorRT 。

Ultralytics TensorRT でサポートされているすべてのモデルエクスポートフォーマットの中で、 は、NVIDIA Jetsonデバイスで動作するときに最高の推論パフォーマンスを提供します。また、TensorRT TensorRT についての詳細なドキュメントもあります。

モデルをTensorRT に変換し、推論を実行する。

PyTorch フォーマットのYOLOv8n モデルは、エクスポートされたモデルで推論を実行するためにTensorRT に変換されます。

from ultralytics import YOLO

# Load a YOLOv8n PyTorch model
model = YOLO('yolov8n.pt')

# Export the model
model.export(format='engine')  # creates 'yolov8n.engine'

# Load the exported TensorRT model
trt_model = YOLO('yolov8n.engine')

# Run inference
results = trt_model('https://ultralytics.com/images/bus.jpg')

# Export a YOLOv8n PyTorch model to TensorRT format
yolo export model=yolov8n.pt format=engine  # creates 'yolov8n.engine'

# Run inference with the exported model
yolo predict model=yolov8n.engine source='https://ultralytics.com/images/bus.jpg'

NVIDIA Jetson OrinYOLOv8 ベンチマーク

YOLOv8 ベンチマークは、Ultralytics チームにより、速度と精度を測定する 10 種類のモデルフォーマットで実行されました:PyTorch,TorchScript,ONNX,OpenVINO,TensorRT,TF SavedModel ,TF Graphdef ,TF ,PaddlePaddle,NCNN 。ベンチマークは、Jetson Orin NX 16GBデバイスを搭載したSeeed Studio reComputer J4012で、FP32の精度で、デフォルトの入力画像サイズ640で実行した。

比較表

すべてのエクスポートモデルがNVIDIA Jetsonで動作していますが、以下の比較表では、PyTorch 、TorchScript、 TensorRT、JetsonのGPUを使用し、最良の結果が得られることが保証されているため、これらのモデルのみを取り上げました。なぜなら、これらはJetsonのGPUを利用し、最高の結果を出すことが保証されているからです。他のすべてのエクスポートはCPUのみを利用し、パフォーマンスは上記の3つほど良くありません。このグラフの後のセクションで、すべてのエクスポートのベンチマークを見ることができます。

詳細比較表

以下の表は、5つの異なるモデル(YOLOv8n,YOLOv8s,YOLOv8m,YOLOv8l,YOLOv8x)を10種類のフォーマット(PyTorch,TorchScript,ONNX,OpenVINO,TensorRT,TF SavedModel ,TF Graphdef ,TF Lite,PaddlePaddle,NCNN)でベンチマークした結果であり、各組み合わせのステータス、サイズ、mAP50-95(B)メトリック、推論時間を示している。

さまざまなバージョンのNVIDIA Jetsonハードウェア上で実行されるSeeed Studioによるベンチマークの詳細については、このリンクをご覧ください。

結果を再現する

上記のUltralytics のベンチマークをすべてのエクスポートフォーマットで再現するには、以下のコードを実行してください：

from ultralytics import YOLO

# Load a YOLOv8n PyTorch model
model = YOLO('yolov8n.pt')

# Benchmark YOLOv8n speed and accuracy on the COCO8 dataset for all all export formats
results = model.benchmarks(data='coco8.yaml', imgsz=640)

# Benchmark YOLOv8n speed and accuracy on the COCO8 dataset for all all export formats
yolo benchmark model=yolov8n.pt data=coco8.yaml imgsz=640

NVIDIA Jetson使用時のベストプラクティス

NVIDIA Jetsonを使用する場合、YOLOv8 を実行するNVIDIA Jetsonで最大限のパフォーマンスを発揮するために、従うべきベストプラクティスがいくつかあります。

1. MAXパワーモードを有効にする

   ジェットソンのMAXパワーモードを有効にすると、すべてのCPU、GPUコアがオンになります。

   sudo nvpmodel -m 0
   

2. ジェットソン・クロックを有効にする

   Jetson Clocksを有効にすると、すべてのCPU、GPUコアが最大周波数で動作するようになります。

   sudo jetson_clocks
   

3. Jetson Statsアプリケーションのインストール

   jetson statsアプリケーションを使用して、システムコンポーネントの温度を監視し、CPU、GPU、RAMの使用率の表示、電源モードの変更、最大クロックへの設定、JetPack情報の確認など、その他のシステムの詳細を確認することができます。

   sudo apt update
   sudo pip install jetson-stats
   sudo reboot
   jtop
   

次のステップ

NVIDIA Jetson でYOLOv8 のセットアップに成功しました！さらなる学習とサポートについては、Ultralytics YOLOv8 Docsのガイドをご覧ください！

コメント