用于部署的 TFLite 模型导出（已弃用）#

在边缘设备或嵌入式设备上部署 计算机视觉 模型，需要一种能够确保无缝性能的格式。

旧版的 TensorFlow Lite 或 TFLite 导出格式针对 Ultralytics YOLO26 模型进行了优化，适用于边缘应用中的 目标检测 和 图像分类 等任务。本指南保留了传统的 TFLite 部署背景；对于新的导出任务，请使用 LiteRT。

为什么过去使用 TFLite 进行导出？#

TensorFlow Lite（简称 TFLite）由 Google 于 2017 年 5 月作为其 TensorFlow 框架的一部分引入，是一个开源的深度学习框架，专为设备端推理（也称为 边缘计算）而设计。它为开发者提供了在移动设备、嵌入式设备、IoT 设备以及传统计算机上执行训练后模型的工具。

TensorFlow Lite 支持多种平台，包括嵌入式 Linux、Android、iOS 和微控制器 (MCU)。通过 TFLite 导出，应用程序可以在本地和离线状态下运行模型。

TFLite 模型的主要特性#

TFLite 模型提供了广泛的关键特性，通过帮助开发者在移动、嵌入式和边缘设备上运行模型，从而实现设备端机器学习：

• 设备端优化：TFLite 针对设备端 ML 进行了优化，通过本地处理数据来减少延迟，通过不传输个人数据来增强隐私，并最小化模型大小以节省空间。

• 多平台支持：TFLite 提供广泛的平台兼容性，支持 Android、iOS、嵌入式 Linux 和微控制器。

• 多样化的语言支持：TFLite 与多种编程语言兼容，包括 Java、Swift、Objective-C、C++ 和 Python。

• 高性能：通过硬件加速和模型优化实现卓越的性能。

性能实测（历史数据）#

这两种格式在所示输入尺寸下于同一次连续的 GPU 扫描中运行。每个单元格是总时间（预处理 + 推理 + 后处理），下方附有各阶段的耗时拆分；原生日志确认这两种格式均将完整的计算图委托给 Adreno GPU 上的 LiteRT OpenCL (LITERT_CL)。

同一次迁移运行还比较了 YOLO26n 检测量化格式。推理是可比的、与格式相关的指标：

在此次运行中，w8a16 回退到 CPU 的总时间约为 660 ms，而 GPU 格式约为 17 ms。这些结果促成了 w8a32 的发布，但委托兼容性和性能取决于设备和运行时版本。请对目标设备进行基准测试，并在其运行时日志中确认加速器位置。

TFLite 中的部署选项#

在查看 LiteRT 替代导出示例之前，让我们先了解一下 TFLite 模型通常是如何使用的。

TFLite 为机器学习模型提供了各种设备端部署选项，包括：

• 在 Android 和 iOS 上部署：搭载 TFLite 的 Android 和 iOS 应用程序可以分析基于边缘的摄像头馈送和传感器，以检测和识别对象。TFLite 还提供由 Swift 和 Objective-C 编写的原生 iOS 库。下方的架构图展示了使用 TensorFlow Lite 将训练好的模型部署到 Android 和 iOS 平台的过程。

• 在嵌入式 Linux 上实现：如果在 Raspberry Pi 上运行推理且按照 Ultralytics Guide 的操作无法满足你的用例速度需求，你可以使用导出的 TFLite 模型来加速推理时间。此外，你还可以通过使用 Coral Edge TPU 设备 来进一步提升性能。

• 在微控制器上部署：TFLite 模型也可以部署在只有几千字节内存的微控制器和其他设备上。其核心运行时在 Arm Cortex M3 上仅占 16 KB，并可运行许多基础模型。它不需要操作系统支持、任何标准的 C 或 C++ 库，也不需要动态内存分配。

使用 LiteRT 替换 TFLite 导出#

对于新的导出任务，请将模型转换为 LiteRT。生成的模型将保留 .tflite 文件扩展名。

安装#

要安装所需的软件包，请运行：

# Install the required package for YOLO26
pip install ultralytics

有关安装过程的详细说明和最佳实践，请查阅我们的 Ultralytics 安装指南。在为 YOLO26 安装所需软件包时，如果遇到任何困难，请参考我们的 常见问题指南 获取解决方案和提示。

用法#

所有 Ultralytics YOLO26 模型 都设计为开箱即用支持导出，这使得将它们集成到你首选的部署工作流中变得非常容易。你可以 查看支持的导出格式和配置选项的完整列表，为你的应用选择最佳设置。

替换后的 LiteRT 格式支持 导出、预测 和 验证 模式。导出你的模型，然后加载导出的 .tflite 模型以运行推理或验证其准确性。

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to LiteRT format
model.export(format="litert", imgsz=640)  # use imgsz=224 for classification

from ultralytics import YOLO

# Load the exported TFLite model
model = YOLO("yolo26n.tflite")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported TFLite model
model = YOLO("yolo26n.tflite")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

导出参数#

有关导出过程的更多详细信息，请访问 Ultralytics 导出文档页面。

部署导出的 YOLO26 TFLite 模型#

将你的 Ultralytics YOLO26 模型导出为 LiteRT 格式后，你可以部署生成的 .tflite 模型。运行 TFLite 模型最主要且推荐的首选步骤是使用 YOLO("model.tflite") 方法，如前文代码片段所示。但是，如需了解在其他各种环境中部署 TFLite 模型的详细说明，请查看以下资源：

• Android：一份将 TensorFlow Lite 集成到 Android 应用程序中的快速入门指南，提供了设置和运行 机器学习 模型的简单易懂步骤。

• iOS：查看这份为开发者准备的详细指南，了解如何在 iOS 应用程序中集成和部署 TensorFlow Lite 模型，其中提供了分步说明和资源。

• 端到端示例：此页面概述了各种 TensorFlow Lite 示例，展示了旨在帮助开发者在移动设备和边缘设备上实现机器学习项目中的 TensorFlow Lite 的实际应用和教程。

总结#

本指南保留了传统的 TFLite 部署工作流程。对于新的导出任务，请使用 LiteRT 为边缘计算环境创建 .tflite 模型。

有关用法的更多详细信息，请访问 TFLite 官方文档。

此外，如果你对其他 Ultralytics YOLO26 集成感兴趣，请查看我们的 集成指南页面。你会在那里找到许多有用的信息和见解。

常见问题解答#

如何用 LiteRT 替换 TFLite 导出？#

对于新的导出任务，请使用 LiteRT 格式。首先，使用以下命令安装所需的包：

pip install ultralytics

然后，使用以下代码片段导出你的模型：

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to LiteRT format
model.export(format="litert", imgsz=640)  # use imgsz=224 for classification

对于 CLI 用户，你可以通过以下命令实现：

yolo export model=yolo26n.pt format=litert imgsz=640 # use imgsz=224 for classification

有关更多详细信息，请访问 Ultralytics 导出指南。

使用 TensorFlow Lite 进行 YOLO26 模型部署有什么好处？#

TensorFlow Lite (TFLite) 是一个开源 深度学习 框架，专为设备端推理而设计，非常适合在移动、嵌入式和物联网设备上部署 YOLO26 模型。主要好处包括：

• 设备端优化：通过本地处理数据来最小化延迟并增强隐私。
• 平台兼容性：支持 Android、iOS、嵌入式 Linux 和 MCU。
• 性能：利用硬件加速来优化模型速度和效率。

要了解更多信息，请查看 TFLite 指南。

可以在 Raspberry Pi 上运行 YOLO26 TFLite 模型吗？#

是的，你可以在 Raspberry Pi 上运行 YOLO26 TFLite 模型以提高推理速度。首先，按照上述说明将模型导出为 LiteRT 格式。然后，使用诸如 TensorFlow Lite Interpreter 之类的工具在你的 Raspberry Pi 上执行模型。

如需进一步优化，你可以考虑使用 Coral Edge TPU。有关详细步骤，请参阅我们的 Raspberry Pi 部署指南 和 Edge TPU 集成指南。

我可以在微控制器上使用 TFLite 模型进行 YOLO26 预测吗？#

可以，TFLite 支持在资源受限的微控制器上进行部署。TFLite 的核心运行时在 Arm Cortex M3 上仅需要 16 KB 的内存，并且可以运行基本的 YOLO26 模型。这使得它非常适合部署在计算能力和内存有限的设备上。

要开始使用，请访问 TFLite 微控制器指南。

哪些平台与 TFLite 导出的 YOLO26 模型兼容？#

TensorFlow Lite 提供广泛的平台兼容性，允许你在各种设备上部署 YOLO26 模型，包括：

• Android 和 iOS：通过 TFLite Android 和 iOS 库提供原生支持。
• 嵌入式 Linux：非常适合 Raspberry Pi 等单板计算机。
• 微控制器：适用于资源受限的 MCU。

有关部署选项的更多信息，请参阅我们详细的 部署指南。

在将 YOLO26 模型导出到 LiteRT 的过程中，如何排查常见问题？#

如果在将 YOLO26 模型导出到 LiteRT 时遇到错误，常见的解决方法包括：

• 检查包兼容性：确保你使用的是兼容版本的 Ultralytics、litert-torch 和 ai-edge-litert。请参阅我们的 安装指南。
• 模型支持：通过查看 Ultralytics 导出文档页面，验证特定的 YOLO26 模型是否支持 LiteRT 导出。
• 量化问题：在使用 INT8 量化时，请确保在 data 参数中正确指定了你的数据集路径。

有关其他排查技巧，请访问我们的 常见问题指南。