跳至内容

Ultralytics iOS 应用程序:利用YOLO 模型实时检测物体

Ultralytics HUB 预览图像

Ultralytics iOS 应用程序是一款功能强大的工具,可让您直接在 iPhone 或 iPad 上运行YOLO 模型,进行实时物体检测。该应用程序利用 Apple 神经引擎和 Core ML 对模型进行优化和加速,从而实现快速高效的物体检测。



观看: 开始使用Ultralytics HUB 应用程序(IOS 和 Android)

量化和加速度

为了在 iOS 设备上实现实时性能,YOLO 模型被量化为 FP16 或 INT8 精度。量化是一个降低模型weights and biases 数值精度的过程,从而减小模型的大小和所需的计算量。这样可以加快推理时间,而不会明显影响模型的精度。

FP16 量化

FP16(或半精度)量化将模型的 32 位浮点数转换为 16 位浮点数。这将模型的大小减少了一半,并加快了推理过程,同时在精度和性能之间保持了良好的平衡。

INT8 量化

INT8(或 8 位整数)量化通过将 32 位浮点数转换为 8 位整数,进一步减小了模型的大小和计算要求。这种量化方法可以显著提高速度,但可能会导致精度略有下降。

苹果神经引擎

Apple 神经引擎 (ANE) 是集成在 Apple A 系列和 M 系列芯片中的专用硬件组件。它旨在加速机器学习任务,尤其是神经网络,从而更快、更高效地执行YOLO 模型。

通过将量化的YOLO 模型与苹果神经引擎相结合,Ultralytics iOS 应用程序可在 iOS 设备上实现实时物体检测,而不会降低精度或性能。

发布年份 iPhone 名称 芯片组名称 节点大小 ANE TOPs
2017 iPhone X A11 仿生 10 纳米 0.6
2018 iPhone XS A12 仿生 7 纳米 5
2019 iPhone 11 A13 仿生 7 纳米 6
2020 iPhone 12 A14 仿生 5 纳米 11
2021 iPhone 13 A15 仿生 5 纳米 15.8
2022 iPhone 14 A16 仿生 4 纳米 17.0

请注意,此列表仅包括 2017 年以后的 iPhone 机型,且 ANE TOPs 值为近似值。

开始使用Ultralytics iOS 应用程序

要开始使用Ultralytics iOS 应用程序,请按照以下步骤操作:

  1. App Store 下载Ultralytics App。

  2. 在 iOS 设备上启动应用程序,然后使用Ultralytics 账户登录。如果您还没有账户,请在此处创建一个。

  3. 登录后,您将看到训练有素的YOLO 模型列表。选择一个用于物体检测的模型。

  4. 授予应用程序访问设备摄像头的权限。

  5. 将设备的摄像头对准要检测的对象。应用在检测物体时会实时显示边界框和类标签。

  6. 探索应用程序的设置,以调整检测阈值、启用或禁用特定对象类别等。

通过Ultralytics iOS 应用程序,您现在可以在 iPhone 或 iPad 上利用YOLO 模型的强大功能进行实时物体检测,该程序由 Apple 神经引擎提供支持,并采用 FP16 或 INT8 量化技术进行了优化。



Created 2023-11-12, Updated 2024-06-21
Authors: glenn-jocher (6), sergiuwaxmann (2), RizwanMunawar (1)

评论