Meet YOLO26: next-gen vision AI.

Link to this section了解如何将 YOLO26 模型导出为 TFLite Edge TPU 格式#

在计算能力受限的设备（例如移动设备或嵌入式系统）上部署计算机视觉模型可能会很棘手。使用针对更高性能优化的模型格式可以简化这一过程。TensorFlow Lite Edge TPU 或 TFLite Edge TPU 模型格式旨在以最小的功耗为神经网络提供快速的性能。

导出为 TFLite Edge TPU 格式的功能使你能够优化 Ultralytics YOLO26 模型，以实现高速和低功耗的推理。在本指南中，我们将指导你完成将模型转换为 TFLite Edge TPU 格式的过程，使你的模型更容易在各种移动和嵌入式设备上出色运行。

Link to this section为什么要导出为 TFLite Edge TPU？#

将模型导出为 TensorFlow Edge TPU 可以让 机器学习 任务变得快速且高效。这项技术适用于功率、计算资源和连接性受限的应用场景。Edge TPU 是 Google 开发的一种硬件加速器。它可以在边缘设备上加速 TensorFlow Lite 模型。下图展示了该过程的一个示例。

TensorFlow Lite Edge TPU compilation workflow

Edge TPU 与量化模型配合使用。量化可以在不损失太多 精度 的情况下使模型变得更小、更快。这非常适合边缘计算的有限资源，通过降低延迟和允许在本地快速处理数据（无需依赖云端）来实现应用程序的快速响应。本地处理还可以确保用户数据的私密性和安全性，因为数据不会发送到远程服务器。

Link to this sectionTFLite Edge TPU 的主要特性#

以下是使 TFLite Edge TPU 成为开发人员理想模型格式的关键特性：

  • 在边缘设备上的优化性能：TFLite Edge TPU 通过量化、模型优化、硬件加速和编译器优化实现了高速神经网络性能。其极简的架构有助于减小体积并提高成本效益。

  • 高计算吞吐量：TFLite Edge TPU 结合了专门的硬件加速和高效的运行时执行，以实现高计算吞吐量。它非常适合在边缘设备上部署对性能要求严格的机器学习模型。

  • 高效的矩阵计算：TensorFlow Edge TPU 针对矩阵运算进行了优化，这对于 神经网络 计算至关重要。这种效率是机器学习模型的关键，特别是那些需要大量复杂矩阵乘法和变换的模型。

Link to this sectionTFLite Edge TPU 的部署选项#

在深入探讨如何将 YOLO26 模型导出为 TFLite Edge TPU 格式之前，让我们先了解 TFLite Edge TPU 模型通常的使用场景。

TFLite Edge TPU 为机器学习模型提供了多种部署选项，包括：

  • 设备端部署：TensorFlow Edge TPU 模型可以直接部署在移动和嵌入式设备上。设备端部署允许模型直接在硬件上执行，消除了对云连接的需求，无论是通过将模型嵌入到应用程序包中还是按需下载。

  • 结合云端 TensorFlow TPU 的边缘计算：在边缘设备处理能力有限的场景下，TensorFlow Edge TPU 可以将推理任务卸载到配备有 TPU 的云服务器上。

  • 混合部署：混合方法结合了设备端和云端部署，为部署机器学习模型提供了一种通用且可扩展的解决方案。其优势包括用于快速响应的设备端处理，以及用于处理更复杂计算的 云计算 能力。

Link to this section将 YOLO26 模型导出为 TFLite Edge TPU#

通过将 YOLO26 模型转换为 TensorFlow Edge TPU，你可以扩展模型的兼容性和部署灵活性。

Link to this section安装#

要安装所需的软件包，请运行：

安装
# Install the required package for YOLO26
pip install ultralytics

有关安装过程的详细说明和最佳实践，请查阅我们的 Ultralytics 安装指南。在为 YOLO26 安装所需软件包时，如果遇到任何困难，请参考我们的 常见问题指南 获取解决方案和提示。

Link to this section用法#

所有 Ultralytics YOLO26 模型 都设计为开箱即用支持导出，这使得将它们集成到你首选的部署工作流中变得非常容易。你可以 查看支持的导出格式和配置选项的完整列表，为你的应用选择最佳设置。

TFLite Edge TPU 格式支持 导出、预测 和 验证 模式。推理和验证在 Coral Edge TPU 硬件上运行。导出你的模型，然后加载导出的模型来运行推理或验证其精度。

导出
from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'
预测
from ultralytics import YOLO

# Load the exported TFLite Edge TPU model
model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")
验证
from ultralytics import YOLO

# Load the exported TFLite Edge TPU model
model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this section导出参数#

参数类型默认值描述
formatstr'edgetpu'导出模型的目标格式，定义了与各种部署环境的兼容性。
imgszint 或 tuple640模型输入的期望图像尺寸。可以是一个用于正方形图像的整数，或者是一个用于特定尺寸的元组 (height, width)。
quantizeint 或 str8/auto量化精度。Edge TPU 要求并自动启用 8 (INT8)，以在边缘设备上压缩模型并加速推理，同时将 accuracy 损失降至最低。此设置取代了已弃用的 half/int8 标志。
datastr'coco8.yaml'指向 dataset 配置文件的路径（默认值：coco8.yaml），这对量化至关重要。
fractionfloat1.0指定用于 INT8 量化校准的数据集比例。允许在完整数据集的一个子集上进行校准，这对实验或资源受限时非常有用。如果启用 INT8 但未指定，将使用完整数据集。
devicestrNone指定导出设备：CPU (device=cpu)。
提示

请确保在导出到 EdgeTPU 时使用 x86 Linux 机器。

有关导出过程的更多详细信息，请访问 Ultralytics 导出文档页面。

Link to this section部署导出的 YOLO26 TFLite Edge TPU 模型#

在成功将 Ultralytics YOLO26 模型导出为 TFLite Edge TPU 格式后，你现在可以部署它们了。运行 TFLite Edge TPU 模型的首选且推荐的步骤是使用 YOLO("model_edgetpu.tflite") 方法，如之前的代码片段所示。

不过，有关部署 TFLite Edge TPU 模型的深入说明，请查看以下资源：

Link to this section总结#

在本指南中，我们学习了如何将 Ultralytics YOLO26 模型导出为 TFLite Edge TPU 格式。按照上述步骤，你可以提高 计算机视觉 应用程序的速度和能力。

有关用法的更多详细信息，请访问 Edge TPU 官方网站。

此外，欲了解更多关于其他 Ultralytics YOLO26 集成的信息，请访问我们的 集成指南页面。在那里，你将发现宝贵的资源和见解。

Link to this section常见问题解答#

Link to this section如何将 YOLO26 模型导出为 TFLite Edge TPU 格式？#

要将 YOLO26 模型导出为 TFLite Edge TPU 格式，你可以按照以下步骤操作：

用法
from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

关于将模型导出为其他格式的完整详细信息，请参考我们的 导出指南。

Link to this section将 YOLO26 模型导出为 TFLite Edge TPU 有什么好处？#

将 YOLO26 模型导出为 TFLite Edge TPU 具有多项好处：

  • 优化性能：以最小的功耗实现高速神经网络性能。
  • 降低延迟：无需依赖云端，实现本地快速处理数据。
  • 增强隐私：本地处理确保用户数据的私密性和安全性。

这使其成为 边缘计算 应用的理想选择，因为这些应用中的设备功率和计算资源有限。详细了解 为什么要导出为 TFLite Edge TPU。

Link to this section我可以在移动和嵌入式设备上部署 TFLite Edge TPU 模型吗？#

可以，TensorFlow Lite Edge TPU 模型可以直接部署在移动和嵌入式设备上。这种部署方法允许模型直接在硬件上执行，从而提供更快、更高效的推理。有关集成示例，请查看我们关于 在 Raspberry Pi 上部署 Coral Edge TPU 的指南。

Link to this sectionTFLite Edge TPU 模型有哪些常见的应用场景？#

TFLite Edge TPU 模型的常见应用场景包括：

  • 智能相机：增强实时图像和视频分析。
  • 物联网 (IoT) 设备：实现智能家居和工业自动化。
  • 医疗保健：加速医学成像和诊断。
  • 零售业：改善库存管理和客户行为分析。

这些应用从 TFLite Edge TPU 模型的高性能和低功耗中受益。发现更多关于 使用场景 的信息。

Link to this section在导出或部署 TFLite Edge TPU 模型时，如何排查问题？#

如果你在导出或部署 TFLite Edge TPU 模型时遇到问题，请参考我们的 Common Issues guide 获取故障排查建议。本指南涵盖了常见问题及其解决方案，帮助你确保模型运行顺畅。如需更多支持，请访问我们的 Help Center。

贡献者
GLglenn-jocher19LAlakshanthad4ONonuralpszr1RAraimbekovm1MAMatthewNoyce1RIRizwanMunawar1BUBurhan-Q1ABabirami-vina1

评论