デプロイ用TFLiteモデルのエクスポート（非推奨）#

コンピュータービジョンモデルをエッジデバイスまたは組み込みデバイスにデプロイするには、安定したパフォーマンスを確保できる形式が必要です。

以前のTensorFlow LiteまたはTFLiteエクスポート形式は、エッジアプリケーションでの物体検出や画像分類などのタスク向けにUltralytics YOLO26モデルを最適化していました。このガイドでは従来のTFLiteデプロイ環境を維持しています。新しいエクスポートにはLiteRTを使用してください。

TFLiteがエクスポートに使用された理由#

TensorFlow Lite、略してTFLiteは、Googleが2017年5月にTensorFlowフレームワークの一部として導入したオープンソースのディープラーニングフレームワークです。オンデバイス推論向けに設計されており、エッジコンピューティングとしても知られています。開発者はこれを使って、モバイル、組み込み、IoTデバイスだけでなく、従来型のコンピューターでも学習済みモデルを実行できました。

TensorFlow Liteは、組み込みLinux、Android、iOS、マイクロコントローラー（MCU）など、幅広いプラットフォームをサポートしていました。TFLiteエクスポートにより、アプリケーションはモデルをローカルかつオフラインで実行できました。

TFLiteモデルの主な特徴#

TFLiteモデルは、開発者がモバイル、組み込み、エッジデバイスでモデルを実行できるようにすることで、オンデバイス機械学習を実現する幅広い主要機能を提供します。

• オンデバイス最適化: TFLiteはオンデバイスML向けに最適化されており、データをローカルで処理してレイテンシを削減し、個人データを送信しないことでプライバシーを強化し、モデルサイズを最小化して必要な容量を節約します。

• 複数プラットフォームのサポート: TFLiteは高いプラットフォーム互換性を備え、Android、iOS、組み込みLinux、マイクロコントローラーをサポートします。

• 多様な言語のサポート: TFLiteは、Java、Swift、Objective-C、C++、Pythonなど、さまざまなプログラミング言語と互換性があります。

• 高パフォーマンス: ハードウェアアクセラレーションとモデル最適化により、優れたパフォーマンスを実現します。

測定パフォーマンス（過去の記録）#

両形式は、表示されている入力サイズで同じ連続GPUスイープを実行しました。各セルは合計時間（前処理 + 推論 + 後処理）を示し、その下にステージごとの内訳を記載しています。ネイティブログにより、両形式がAdreno GPU上のLiteRT OpenCL（LITERT_CL）に完全なグラフを委譲したことが確認されました。

同じ移行実行では、YOLO26n detectの量子化形式も比較しました。推論は、形式に依存する比較可能な指標です。

今回の実行では、w8a16は合計約660 msでCPUにフォールバックしました。一方、GPU形式では約17 msでした。これらの結果を受けてw8a32の提供が決まりましたが、デリゲートの互換性とパフォーマンスはデバイスおよびランタイムのバージョンによって異なります。対象デバイスでベンチマークを実行し、ランタイムログでアクセラレーターへの配置を確認してください。

TFLiteでのデプロイオプション#

LiteRTの置き換えエクスポート例を見る前に、TFLiteモデルが通常どのように使用されるかを理解しましょう。

TFLiteは、機械学習モデル向けに次のようなさまざまなオンデバイスデプロイオプションを提供します。

• AndroidおよびiOSでのデプロイ: TFLiteを使用するAndroidおよびiOSアプリケーションでは、エッジベースのカメラフィードやセンサーを分析して、物体を検出および識別できます。TFLiteは、SwiftおよびObjective-Cで記述されたネイティブiOSライブラリも提供します。以下のアーキテクチャ図は、TensorFlow Liteを使用して学習済みモデルをAndroidおよびiOSプラットフォームにデプロイするプロセスを示しています。

• 組み込みLinuxでの実装: Ultralyticsガイドを使用してRaspberry Pi上で推論を実行してもユースケースの速度要件を満たせない場合は、エクスポートしたTFLiteモデルを使用して推論時間を短縮できます。さらに、Coral Edge TPUデバイスを利用してパフォーマンスをさらに向上させることも可能です。

• マイクロコントローラーでのデプロイ: TFLiteモデルは、マイクロコントローラーや数キロバイトのメモリしか持たないその他のデバイスにもデプロイできます。コアランタイムはArm Cortex M3上でわずか16 KBに収まり、多くの基本的なモデルを実行できます。オペレーティングシステムのサポート、標準CまたはC++ライブラリ、動的メモリ割り当ては必要ありません。

TFLiteエクスポートをLiteRTに置き換える#

新しいエクスポートでは、モデルをLiteRTに変換してください。生成されるモデルのファイル拡張子は.tfliteのままです。

インストール#

必要なパッケージをインストールするには、次を実行します。

# Install the required package for YOLO26
pip install ultralytics

インストールプロセスの詳細な手順とベストプラクティスについては、Ultralyticsインストールガイドをご確認ください。YOLO26に必要なパッケージのインストール中に問題が発生した場合は、解決策とヒントについて一般的な問題のガイドを参照してください。

使用方法#

すべてのUltralytics YOLO26モデルは、すぐにエクスポートできるよう設計されているため、任意のデプロイワークフローに簡単に統合できます。アプリケーションに最適な設定を選択するには、サポートされているエクスポート形式と設定オプションの全一覧を確認してください。

置き換え後のLiteRT形式は、Export、Predict、Validateモードをサポートします。モデルをエクスポートした後、エクスポートされた.tfliteモデルを読み込んで推論を実行するか、精度を検証してください。

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to LiteRT format
model.export(format="litert", imgsz=640)  # use imgsz=224 for classification

from ultralytics import YOLO

# Load the exported TFLite model
model = YOLO("yolo26n.tflite")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported TFLite model
model = YOLO("yolo26n.tflite")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

エクスポート引数#

エクスポートプロセスの詳細については、エクスポートに関するUltralyticsドキュメントページをご覧ください。

エクスポートしたYOLO26 TFLiteモデルのデプロイ#

Ultralytics YOLO26モデルをLiteRT形式にエクスポートした後、生成された.tfliteモデルをデプロイできます。TFLiteモデルを実行する際の主な推奨手順は、前述の使用例コードに示されているYOLO("model.tflite")メソッドを使用することです。ただし、さまざまな環境でTFLiteモデルをデプロイする詳細な手順については、次のリソースを参照してください。

• Android: TensorFlow LiteをAndroidアプリケーションに統合するためのクイックスタートガイドです。セットアップと機械学習モデルの実行手順を分かりやすく説明しています。

• iOS: TensorFlow LiteモデルをiOSアプリケーションに統合およびデプロイするための、開発者向けの詳細なガイドです。手順とリソースを段階的に説明しています。

• エンドツーエンドの例: さまざまなTensorFlow Liteの例を概説するページです。モバイルおよびエッジデバイス上の機械学習プロジェクトにTensorFlow Liteを実装するための実践的なアプリケーションとチュートリアルを紹介しています。

まとめ#

このガイドでは従来のTFLiteデプロイワークフローを維持しています。新しいエクスポートでは、LiteRTを使用してエッジコンピューティング環境向けの.tfliteモデルを作成してください。

使用方法の詳細については、TFLite公式ドキュメントを参照してください。

また、その他のUltralytics YOLO26統合に関心がある場合は、統合ガイドページをご覧ください。役立つ情報や知見が掲載されています。

FAQ#