Приложение Ultralytics дляiOS : Обнаружение объектов в реальном времени с помощью моделей YOLO
Приложение Ultralytics iOS - это мощный инструмент, позволяющий запускать модели YOLO непосредственно на iPhone или iPad для обнаружения объектов в режиме реального времени. Это приложение использует нейронный движок Apple и Core ML для оптимизации и ускорения модели, что позволяет быстро и эффективно обнаруживать объекты.
Смотреть: Начало работы с приложением Ultralytics HUB (IOS и Android)
Квантование и ускорение
Для достижения производительности в реальном времени на устройстве iOS модели YOLO квантуются до точности FP16 или INT8. Квантование - это процесс, который снижает точность вычислений в модели weights and biases, тем самым уменьшая размер модели и объем необходимых вычислений. Это приводит к ускорению вычислений без существенного влияния на точность модели.
Квантование FP16
Квантование FP16 (или квантование с половинной точностью) преобразует 32-битные числа модели с плавающей точкой в 16-битные числа с плавающей точкой. Это уменьшает размер модели в два раза и ускоряет процесс вывода, сохраняя при этом хороший баланс между точностью и производительностью.
INT8 Квантование
Квантование INT8 (или 8-битное целое число) еще больше уменьшает размер модели и требования к вычислениям, преобразуя 32-битные числа с плавающей точкой в 8-битные целые числа. Этот метод квантования может привести к значительному ускорению, но может привести к небольшому снижению точности.
Нейронный движок Apple
Apple Neural Engine (ANE) - это специализированный аппаратный компонент, интегрированный в чипы Apple серий A и M. Он предназначен для ускорения задач машинного обучения, в частности для нейронных сетей, позволяя быстрее и эффективнее выполнять модели YOLO .
Благодаря сочетанию квантованных YOLO моделей с нейронным движком Apple, приложение Ultralytics iOS App обеспечивает обнаружение объектов в реальном времени на вашем iOS устройстве без ущерба для точности и производительности.
Год выпуска | Имя iPhone | Название чипсета | Размер узла | ANE TOPs |
---|---|---|---|---|
2017 | iPhone X | A11 Bionic | 10 нм | 0.6 |
2018 | iPhone XS | A12 Bionic | 7 нм | 5 |
2019 | iPhone 11 | A13 Bionic | 7 нм | 6 |
2020 | iPhone 12 | A14 Bionic | 5 нм | 11 |
2021 | iPhone 13 | A15 Bionic | 5 нм | 15.8 |
2022 | iPhone 14 | A16 Bionic | 4 нм | 17.0 |
2023 | iPhone 15 | A17 Pro | 3 нм | 35.0 |
Обратите внимание, что в этот список включены модели iPhone, начиная с 2017 года, а значения ANE TOPs являются приблизительными.
Интеграция с CoreML
Приложение Ultralytics дляiOS использует CoreMLосновополагающий фреймворк машинного обучения Apple, чтобы оптимизировать модели YOLO для iOS . CoreML обеспечивает ряд преимуществ:
- Обработка данных на устройстве: Все выводы делаются локально на вашем устройстве, что обеспечивает конфиденциальность данных и устраняет необходимость в подключении к Интернету
- Аппаратное ускорение: Автоматическое использование нейронного движка Apple, CPU и GPU для оптимальной производительности
- Бесшовная интеграция: Работает с камерой и системными фреймворками iOS
CoreML преобразует модели YOLO в формат, оптимизированный для устройств Apple, что обеспечивает эффективное исполнение при сохранении точности обнаружения.
Начало работы с приложением Ultralytics iOS
Чтобы начать работу с приложением Ultralytics iOS , выполните следующие действия:
-
Загрузите приложение Ultralytics из App Store.
-
Запустите приложение на устройстве iOS и войдите в систему, используя свою учетную запись Ultralytics . Если у вас еще нет учетной записи, создайте ее на Ultralytics HUB.
-
После входа в систему вы увидите список обученных моделей YOLO . Выберите модель, которая будет использоваться для обнаружения объектов.
-
Предоставьте приложению разрешение на доступ к камере вашего устройства.
-
Наведите камеру вашего устройства на объекты, которые вы хотите обнаружить. Приложение будет отображать ограничительные рамки и метки классов в режиме реального времени по мере обнаружения объектов.
-
Изучите настройки приложения, чтобы настроить порог обнаружения, включить или отключить определенные классы объектов и многое другое.
С помощью приложения Ultralytics iOS вы можете использовать возможности моделей YOLO для обнаружения объектов в реальном времени на iPhone или iPad, которые работают на нейронном движке Apple и оптимизированы с квантованием FP16 или INT8.