Ultralytics iOS 应用程序:使用 YOLO 模型进行实时对象检测
Ultralytics iOS App 是一款强大的工具,可让您直接在 iPhone 或 iPad 上运行 YOLO 模型,以进行实时对象检测。此应用程序利用 Apple 神经引擎和 Core ML 进行模型优化和加速,从而实现快速高效的对象检测。
观看: Ultralytics HUB App (IOS & Android) 入门指南
量化和加速
为了在您的 iOS 设备上实现实时性能,YOLO 模型被量化为 FP16 或 INT8 精度。量化是一个降低模型权重和偏置的数值精度的过程,从而减小模型的大小并减少所需的计算量。这可以加快推理速度,而不会显着影响模型的准确性。
FP16 量化
FP16(或半精度)量化将模型的 32 位浮点数转换为 16 位浮点数。这可以将模型的大小减少一半,并加快推理过程,同时在准确性和性能之间保持良好的平衡。
INT8 量化
INT8(或 8 位整数)量化通过将其 32 位浮点数转换为 8 位整数,进一步降低了模型的大小和计算需求。这种量化方法可以显著提高速度,但可能会导致精度略有下降。
Apple 神经网络引擎
Apple 神经网络引擎 (ANE) 是一种专用硬件组件,集成到 Apple 的 A 系列和 M 系列芯片中。它旨在加速机器学习任务,特别是神经网络,从而可以更快、更高效地执行 YOLO 模型。
通过将量化的 YOLO 模型与 Apple 神经引擎相结合,Ultralytics iOS App 在您的 iOS 设备上实现了实时的目标检测,而不会影响准确性或性能。
发布年份 | iPhone 名称 | 芯片组名称 | 节点大小 | ANE TOPs |
---|---|---|---|---|
2017 | iPhone X | A11 仿生芯片 | 10 纳米 | 0.6 |
2018 | iPhone XS | A12 仿生芯片 | 7 纳米 | 5 |
2019 | iPhone 11 | A13 仿生芯片 | 7 纳米 | 6 |
2020 | iPhone 12 | A14 仿生芯片 | 5 纳米 | 11 |
2021 | iPhone 13 | A15 仿生芯片 | 5 纳米 | 15.8 |
2022 | iPhone 14 | A16 仿生芯片 | 4 纳米 | 17.0 |
2023 | iPhone 15 | A17 Pro | 3 纳米 | 35.0 |
请注意,此列表包括 2017 年及之后的 iPhone 型号,ANE TOPs 值是近似值。
CoreML 集成
Ultralytics iOS App 利用 Apple 的基础机器学习框架 CoreML 来优化 iOS 设备上的 YOLO 模型。CoreML 提供了以下几个优势:
- 设备端处理:所有推理都在您的设备本地进行,确保数据隐私并消除对互联网连接的需求
- 硬件加速:自动利用Apple神经引擎、CPU和GPU来实现最佳性能
- 无缝集成: 与 iOS 相机和系统框架原生协作
CoreML 将 YOLO 模型转换为针对 Apple 设备优化的格式,从而在保持检测精度的同时实现高效执行。
Ultralytics iOS App 入门指南
要开始使用 Ultralytics iOS 应用程序,请按照以下步骤操作:
-
从 App Store 下载 Ultralytics 应用程序。
-
在您的 iOS 设备上启动应用程序,并使用您的 Ultralytics 帐户登录。如果您还没有帐户,请在 Ultralytics HUB 上创建一个。
-
登录后,您将看到已训练的 YOLO 模型列表。选择一个模型用于对象检测。
-
授予应用访问您设备相机的权限。
-
将设备的摄像头对准要检测的物体。应用程序将在检测到物体时实时显示边界框和类别标签。
-
探索应用程序的设置,以调整检测阈值、启用或禁用特定的对象类别等。
有了 Ultralytics iOS 应用程序,您现在可以利用 YOLO 模型在 iPhone 或 iPad 上进行实时对象检测,该应用程序由 Apple 神经引擎驱动,并使用 FP16 或 INT8 量化进行优化。