デプロイ用TFLiteモデルのエクスポート（非推奨）#

エッジデバイスや組み込みデバイスにコンピュータービジョンモデルをデプロイするには、シームレスなパフォーマンスを実現できる形式が必要です。

従来のTensorFlow LiteまたはTFLiteエクスポート形式は、エッジアプリケーションでの物体検出や画像分類などのタスク向けに、Ultralytics YOLO26モデルを最適化していました。このガイドでは従来のTFLiteデプロイ環境について説明します。新しいエクスポートにはLiteRTを使用してください。

エクスポートにTFLiteが使われていた理由#

2017年5月にGoogleがTensorFlowフレームワークの一部として発表したTensorFlow Lite、略してTFLiteは、エッジコンピューティングとも呼ばれるオンデバイス推論向けのオープンソース深層学習フレームワークでした。開発者はこのフレームワークのツールを使って、学習済みモデルをモバイル、組み込み、IoTデバイス、および従来型のコンピューターで実行できました。

TensorFlow Liteは、組み込みLinux、Android、iOS、マイクロコントローラー（MCU）など、幅広いプラットフォームに対応していました。TFLiteにエクスポートすると、アプリケーションでモデルをローカルかつオフラインで実行できました。

TFLiteモデルの主な機能#

TFLiteモデルには、開発者がモバイル、組み込み、エッジデバイスでモデルを実行できるようにし、オンデバイス機械学習を可能にするさまざまな主要機能があります。

• オンデバイス最適化: TFLiteはオンデバイスML向けに最適化されており、データをローカルで処理してレイテンシを低減し、個人データを送信しないことでプライバシーを強化し、モデルサイズを最小限に抑えてストレージを節約します。

• 複数プラットフォームへの対応: TFLiteは幅広いプラットフォームとの互換性を備え、Android、iOS、組み込みLinux、マイクロコントローラーをサポートしています。

• 多様な言語への対応: TFLiteは、Java、Swift、Objective-C、C++、Pythonなど、さまざまなプログラミング言語と互換性があります。

• 高いパフォーマンス: ハードウェアアクセラレーションとモデル最適化により、優れたパフォーマンスを実現します。

実測パフォーマンス（過去の記録）#

両形式は、表示された入力サイズで同じ連続GPUスイープを実行しました。各セルは合計時間（前処理 + 推論 + 後処理）を示し、その下に各ステージの内訳を記載しています。ネイティブログにより、どちらの形式もAdreno GPU上でLiteRT OpenCL（LITERT_CL）にグラフ全体の処理を委譲したことが確認されました。

同じ移行テストでは、YOLO26n detectの量子化形式も比較しました。形式に依存する指標として比較できるのは推論時間です。

このテストでは、w8a16はCPUにフォールバックし、合計時間は約660 msでした。一方、GPU形式では約17 msでした。これらの結果を受けてw8a32の出荷が決まりましたが、デリゲートの互換性とパフォーマンスはデバイスおよびランタイムのバージョンによって異なります。対象デバイスでベンチマークを実施し、ランタイムログでアクセラレーターの配置を確認してください。

TFLiteのデプロイオプション#

LiteRTへの置き換えとなるエクスポート例を見る前に、TFLiteモデルの一般的な使い方を確認しましょう。

TFLiteには、機械学習モデル向けのさまざまなオンデバイスデプロイオプションがあります。

• AndroidおよびiOSへのデプロイ: TFLiteを使用するAndroidおよびiOSアプリケーションは、エッジカメラの映像やセンサーのデータを分析して、物体を検出・識別できます。TFLiteは、SwiftおよびObjective-Cで記述されたiOSネイティブライブラリも提供しています。以下のアーキテクチャ図は、TensorFlow Liteを使用して学習済みモデルをAndroidおよびiOSプラットフォームにデプロイするプロセスを示しています。

• 組み込みLinuxでの実装: Ultralyticsガイドを使用して Raspberry Piで推論を実行しても、ユースケースの速度要件を満たせない場合は、エクスポート済みTFLiteモデルを使用して推論時間を短縮できます。さらに、Coral Edge TPUデバイスを利用すると、パフォーマンスを一段と向上させることができます。

• マイクロコントローラーへのデプロイ: TFLiteモデルは、マイクロコントローラーや数キロバイトのメモリしか持たない他のデバイスにもデプロイできます。コアランタイムはArm Cortex M3上でわずか16 KBに収まり、多くの基本的なモデルを実行できます。オペレーティングシステムのサポート、標準CまたはC++ライブラリ、動的メモリ割り当ては必要ありません。

TFLiteエクスポートをLiteRTに置き換える#

新しいエクスポートでは、モデルをLiteRTに変換してください。生成されるモデルのファイル拡張子は.tfliteのままです。

インストール#

必要なパッケージをインストールするには、次を実行します。

# Install the required package for YOLO26
pip install ultralytics

インストール手順の詳細とベストプラクティスについては、Ultralyticsのインストールガイドをご覧ください。YOLO26に必要なパッケージのインストールで問題が発生した場合は、解決策とヒントが記載されたよくある問題のガイドをご確認ください。

使用方法#

すべてのUltralytics YOLO26モデルは、追加設定なしでエクスポートできるように設計されているため、希望するデプロイワークフローに簡単に統合できます。アプリケーションに最適な設定を選ぶには、対応するエクスポート形式と設定オプションの一覧をご覧ください。

置き換え後のLiteRT形式は、エクスポート、予測、検証の各モードをサポートしています。モデルをエクスポートし、エクスポート済みの.tfliteモデルを読み込んで、推論を実行するか精度を検証してください。

from ultralytics import YOLO

# YOLO26モデルを読み込みます
model = YOLO("yolo26n.pt")

# モデルをLiteRT形式にエクスポートします
model.export(format="litert", imgsz=640)  # 分類ではimgsz=224を使用します

from ultralytics import YOLO

# エクスポート済みTFLiteモデルを読み込みます
model = YOLO("yolo26n.tflite")

# 推論を実行
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# エクスポート済みTFLiteモデルを読み込みます
model = YOLO("yolo26n.tflite")

# COCO8データセットで精度を検証します
metrics = model.val(data="coco8.yaml")

エクスポート引数#

エクスポートプロセスの詳細については、Ultralyticsのエクスポートに関するドキュメントページをご覧ください。

エクスポート済みYOLO26 TFLiteモデルのデプロイ#

Ultralytics YOLO26モデルをLiteRT形式にエクスポートした後、生成された.tfliteモデルをデプロイできます。TFLiteモデルを実行する際の主な推奨ステップは、前述の使用例コードに示すYOLO("model.tflite")メソッドを使うことです。TFLiteモデルをさまざまな環境にデプロイする詳しい手順については、以下のリソースをご覧ください。

• Android: TensorFlow LiteをAndroidアプリケーションに統合するクイックスタートガイドです。機械学習モデルのセットアップと実行手順を分かりやすく説明しています。

• iOS: TensorFlow LiteモデルをiOSアプリケーションに統合してデプロイするための、開発者向け詳細ガイドをご覧ください。手順とリソースを段階的に説明しています。

• エンドツーエンドの例: TensorFlow Liteのさまざまな例を概説し、開発者がモバイルやエッジデバイスでの機械学習プロジェクトにTensorFlow Liteを実装するのに役立つ実用的なアプリケーションとチュートリアルを紹介しています。

概要#

このガイドでは、従来のTFLiteデプロイワークフローについて説明します。新しいエクスポートでは、LiteRTを使用してエッジコンピューティング環境向けの.tfliteモデルを作成してください。

使い方の詳細については、TFLite公式ドキュメントをご覧ください。

ほかのUltralytics YOLO26インテグレーションに関心がある場合は、インテグレーションガイドページもご覧ください。役立つ情報や知見を多数掲載しています。

よくある質問#