跳至内容

Ultralytics iOS 应用程序:利用YOLO 模型实时检测物体

Ultralytics HUB 预览图像

Ultralytics iOS 应用程序是一款功能强大的工具,可让您直接在 iPhone 或 iPad 上运行YOLO 模型,进行实时物体检测。该应用程序利用 Apple 神经引擎和 Core ML 对模型进行优化和加速,从而实现快速高效的物体检测。



观看: Ultralytics HUB 应用程序入门 (IOS &Android)

量化和加速度

为了在iOS 设备上实现实时性能,YOLO 模型被量化为 FP16 或 INT8精度。量化是一个降低模型weights and biases 数值精度的过程,从而减少模型的大小和所需的计算量。这样可以加快推理时间,而不会明显影响模型的精度

FP16 量化

FP16(或半精度)量化将模型的 32 位浮点数转换为 16 位浮点数。这将模型的大小减少了一半,并加快了推理过程,同时在精度和性能之间保持了良好的平衡。

INT8 量化

INT8(或 8 位整数)量化通过将 32 位浮点数转换为 8 位整数,进一步减小了模型的大小和计算要求。这种量化方法可以显著提高速度,但可能会导致精度略有下降。

苹果神经引擎

Apple 神经引擎 (ANE) 是集成在 Apple A 系列和 M 系列芯片中的专用硬件组件。它旨在加速机器学习任务,尤其是神经网络,从而更快、更高效地执行YOLO 模型。

通过将量化的YOLO 模型与苹果神经引擎相结合,Ultralytics iOS App 可在iOS 设备上实现实时物体检测,而不会降低精度或性能。

发布年份 iPhone 名称 芯片组名称 节点大小 ANE TOPs
2017 iPhone X A11 仿生 10 纳米 0.6
2018 iPhone XS A12 仿生 7 纳米 5
2019 iPhone 11 A13 仿生 7 纳米 6
2020 iPhone 12 A14 仿生 5 纳米 11
2021 iPhone 13 A15 仿生 5 纳米 15.8
2022 iPhone 14 A16 仿生 4 纳米 17.0
2023 iPhone 15 A17 Pro 3 纳米 35.0

请注意,本列表包括 2017 年以后的 iPhone 机型,ANE TOPs 值为近似值。

CoreML 集成

Ultralytics iOS 应用程序利用了 CoreML苹果公司的基础机器学习框架,为iOS 设备优化YOLO 模型。CoreML 有以下几个优势

  • 设备处理:所有推理均在设备本地进行,确保数据隐私,无需连接互联网
  • 硬件加速自动利用 Apple 神经引擎、CPU 和GPU ,实现最佳性能
  • 无缝集成:与iOS 摄像头和系统框架原生兼容

CoreML 可将YOLO 模型转换为针对苹果设备优化的格式,从而在保持检测准确性的同时提高执行效率。

开始使用Ultralytics iOS 应用程序

要开始使用Ultralytics iOS 应用程序,请按照以下步骤操作:

  1. App Store 下载Ultralytics App。

  2. 在iOS 设备上启动应用程序,并使用Ultralytics 账户登录。如果您还没有账户,请在Ultralytics HUB 创建一个。

  3. 登录后,您将看到训练有素的YOLO 模型列表。选择一个用于物体检测的模型。

  4. 授予应用程序访问设备摄像头的权限。

  5. 将设备的摄像头对准要检测的对象。应用在检测物体时会实时显示边界框和类标签。

  6. 探索应用程序的设置,以调整检测阈值、启用或禁用特定对象类别等。

通过Ultralytics iOS 应用程序,您现在可以在 iPhone 或 iPad 上利用YOLO 模型的强大功能进行实时物体检测,该程序由 Apple 神经引擎提供支持,并采用 FP16 或 INT8 量化技术进行了优化。

📅创建于 1 年前 ✏️已更新 3 天前

评论