YOLOv8 配備のためのTFLiteへのモデルエクスポートガイド

コンピュータビジョンモデルをエッジデバイスや組み込みデバイスに展開するには、シームレスなパフォーマンスを保証できるフォーマットが必要です。

TensorFlow LiteまたはTFLiteのエクスポート・フォーマットにより、エッジ・デバイス・ベースのアプリケーションのようなタスクで、モデルを最適化することができます。 Ultralytics YOLOv8モデルを最適化することができます。このガイドでは、モデルをTFLite形式に変換する手順を説明し、モデルがさまざまなエッジデバイスでうまく動作するようにします。

なぜTFLiteにエクスポートする必要があるのですか？

TensorFlow frameworkの一部として2017年5月にGoogle によって発表されたTensorFlow Lite、略してTFLiteは、エッジコンピューティングとしても知られるオンデバイス推論用に設計されたオープンソースのディープラーニングフレームワークである。TFLiteは、従来のコンピュータだけでなく、モバイル、組み込み、IoTデバイス上で学習済みモデルを実行するために必要なツールを開発者に提供する。

TensorFlow Liteは、組み込みLinux、Android 、iOS 、MCUを含む幅広いプラットフォームと互換性があります。モデルをTFLiteにエクスポートすることで、アプリケーションを高速化し、信頼性を高め、オフラインで実行できるようになります。

TFLiteモデルの主な特徴

TFLiteモデルは、開発者がモバイル、組み込み、エッジデバイス上でモデルを実行できるようにすることで、オンデバイス機械学習を可能にする広範な主要機能を提供します：

• オンデバイス最適化：TFLiteはオンデバイスMLに最適化し、データをローカルに処理することで待ち時間を短縮し、個人データを送信しないことでプライバシーを強化し、モデルサイズを最小化することでスペースを節約します。

• マルチプラットフォームのサポート：TFLiteは、Android 、iOS 、組み込みLinux、マイクロコントローラーをサポートし、広範なプラットフォーム互換性を提供します。

• 多様な言語に対応：TFLiteは、Java、Swift、Objective-C、C++、Python など、さまざまなプログラミング言語に対応しています。

• 高性能：ハードウェアアクセラレーションとモデルの最適化により、優れたパフォーマンスを実現。

TFLiteの展開オプション

エクスポートのコードを見る前に YOLOv8 モデルをTFLite形式に変換するには、TFLiteモデルが通常どのように使用されるかを理解しましょう。

TFLiteは、機械学習モデルのためのさまざまなオンデバイス展開オプションを提供している：

• Android 、iOS: TFLiteのAndroid 、iOS アプリケーションは、エッジベースのカメラフィードやセンサーを分析し、オブジェクトを検出、識別することができます。TFLiteは、Swiftと Objective-Cで書かれたネイティブのiOS ライブラリも提供している。以下のアーキテクチャ図は、TensorFlow Lite を使用して、Android およびiOS プラットフォームに学習済みモデルをデプロイするプロセスを示しています。

• Embedded Linuxでの実装：Ultralytics ガイドを使用してRaspberry Pi上で推論を実行してもユースケースの速度要件を満たさない場合は、エクスポートされたTFLiteモデルを使用して推論時間を高速化することができます。さらに、Coral EdgeTPU 。

• マイクロコントローラでの展開：TFLiteモデルは、数キロバイトのメモリしか持たないマイクロコントローラやその他のデバイスにも展開できます。コアのランタイムはArm Cortex M3の16KBに収まるだけで、多くの基本的なモデルを実行できます。オペレーティング・システムのサポート、標準的なCまたはC++ライブラリ、動的メモリ割り当てを必要としない。

TFLiteへのエクスポート：YOLOv8 モデルの変換

TFLite形式に変換することで、デバイス上でのモデル実行効率を向上させ、パフォーマンスを最適化することができます。

インストール

必要なパッケージをインストールするには

# Install the required package for YOLOv8
pip install ultralytics

インストールプロセスに関する詳細な説明とベストプラクティスについては、Ultralytics インストールガイドをご覧ください。YOLOv8 に必要なパッケージをインストールする際に、何らかの問題が発生した場合は、解決策やヒントについて、よくある問題ガイドを参照してください。

使用方法

使い方の説明に入る前に、Ultralytics YOLOv8 の全モデルでエクスポートが可能ですが、 ここで選択したモデルがエクスポート機能をサポートしているかどうかを確認することができます。

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO("yolov8n.pt")

# Export the model to TFLite format
model.export(format="tflite")  # creates 'yolov8n_float32.tflite'

# Load the exported TFLite model
tflite_model = YOLO("yolov8n_float32.tflite")

# Run inference
results = tflite_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLOv8n PyTorch model to TFLite format
yolo export model=yolov8n.pt format=tflite  # creates 'yolov8n_float32.tflite'

# Run inference with the exported model
yolo predict model='yolov8n_float32.tflite' source='https://ultralytics.com/images/bus.jpg'

エクスポートプロセスの詳細については、Ultralytics ドキュメントのエクスポートに関するページをご覧ください。

エクスポートされたYOLOv8 TFLite モデルの展開

Ultralytics YOLOv8 モデルのTFLiteフォーマットへのエクスポートに成功したら、それらをデプロイすることができます。TFLiteモデルを実行するための最初のステップとして推奨されるのは、YOLO （"model.tflite"）メソッドを利用することです。しかし、他の様々な設定でのTFLiteモデルのデプロイに関する詳細な説明は、以下のリソースをご覧ください：

• Android:Android アプリケーションにTensorFlow Lite を統合するためのクイック・スタート・ガイドで、機械学習モデルをセットアップして実行するための簡単な手順を提供する。

• iOS:iOS アプリケーションにTensorFlow Lite モデルを統合して展開するための開発者向け詳細ガイドをご覧ください。

• エンドツーエンドの例:このページでは、TensorFlow Lite の様々な例の概要を提供します。開発者がモバイルやエッジデバイス上の機械学習プロジェクトにTensorFlow Lite を実装するのに役立つように設計された、実用的なアプリケーションやチュートリアルを紹介しています。

概要

このガイドでは、TFLite フォーマットにエクスポートする方法に焦点を当てました。Ultralytics YOLOv8 モデルをTFLiteモデル形式に変換することで、YOLOv8 モデルの効率とスピードを向上させ、より効果的でエッジコンピューティング環境に適したものにすることができます。

使用方法の詳細については、TFLite公式ドキュメントをご覧ください。

また、その他のUltralytics YOLOv8 の統合についてご興味のある方は、統合ガイドページをぜひご覧ください。役立つ情報や洞察が満載です。

よくあるご質問

YOLOv8 モデルを TFLite フォーマットにエクスポートするには？

YOLOv8 モデルを TFLite フォーマットにエクスポートするには、Ultralytics ライブラリを使用します。まず、必要なパッケージをインストールしてください：

pip install ultralytics

次に、以下のコード・スニペットを使ってモデルをエクスポートします：

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO("yolov8n.pt")

# Export the model to TFLite format
model.export(format="tflite")  # creates 'yolov8n_float32.tflite'

CLI ：

yolo export model=yolov8n.pt format=tflite  # creates 'yolov8n_float32.tflite'

詳しくは、Ultralytics エクスポート・ガイドをご覧ください。

YOLOv8 モデルの展開にTensorFlow Lite を使用するメリットは何ですか？

TensorFlow Lite（TFLite）は、オンデバイス推論用に設計されたオープンソースのディープラーニングフレームワークで、モバイル、組み込み、IoTデバイスへのYOLOv8 モデルの展開に最適です。主な利点は以下の通り：

• デバイス上での最適化：ローカルでデータを処理することで、待ち時間を最小化し、プライバシーを強化します。
• プラットフォーム互換性：Android,iOS, 組み込みLinux, MCUをサポート。
• パフォーマンスハードウェアアクセラレーションを活用し、モデルの速度と効率を最適化。

詳しくは、TFLiteガイドをご覧ください。

YOLOv8 TFLiteモデルをRaspberry Piで動かすことは可能ですか？

はい、YOLOv8 TFLiteモデルをRaspberry Pi上で実行し、推論速度を向上させることができます。まず、ここで説明されているように、モデルをTFLiteフォーマットにエクスポートします。次に、TensorFlow Lite Interpreterのようなツールを使って、Raspberry Pi上でモデルを実行します。

さらなる最適化のためには、Coral EdgeTPU の使用を検討するとよいでしょう。詳細な手順については、Raspberry Piデプロイメントガイドを参照してください。

YOLOv8 、マイクロコントローラ上でTFLiteモデルを使用できますか？

はい、TFLiteは限られたリソースのマイクロコントローラへの展開をサポートしています。TFLiteのコアランタイムは、Arm Cortex M3上でわずか16KBのメモリしか必要とせず、基本的なYOLOv8 モデルを実行できます。このため、計算能力とメモリが最小限のデバイスへの展開に適しています。

まずは、TFLite Micro for Microcontrollersガイドをご覧ください。

TFLiteYOLOv8 にエクスポートされたモデルと互換性のあるプラットフォームは？

TensorFlow Liteは広範なプラットフォームとの互換性を提供し、YOLOv8 のモデルを以下のような幅広いデバイスに展開することができます：

• Android およびiOS: TFLiteAndroid およびiOS ライブラリによるネイティブサポート。
• 組み込みLinux：Raspberry Piなどのシングルボードコンピュータに最適。
• マイクロコントローラー：リソースに制約のあるMCUに適しています。

展開オプションの詳細については、詳細な展開ガイドを参照してください。

YOLOv8 モデルをTFLiteにエクスポートする際によくある問題のトラブルシューティング方法を教えてください。

YOLOv8 モデルをTFLiteにエクスポートする際にエラーが発生した場合、一般的な解決方法は以下の通りです：

• パッケージの互換性をチェックする：互換性のあるバージョンのUltralytics とTensorFlow を使用していることを確認してください。インストールガイドを参照してください。
• モデルのサポート：特定のYOLOv8 モデルが TFLite エクスポートをサポートしているかどうかを確認します。

その他のトラブルシューティングのヒントについては、「よくある問題」ガイドをご覧ください。

コメント