Ultralytics Приложение для Android: Обнаружение объектов в реальном времени с помощью моделей YOLO

 

Приложение Ultralytics для Android - это мощный инструмент, который позволяет запускать модели YOLO прямо на твоем Android-устройстве для обнаружения объектов в режиме реального времени. Это приложение использует TensorFlow Lite для оптимизации модели и различные аппаратные делегаты для ускорения, обеспечивая быстрое и эффективное обнаружение объектов.

Смотри: Начало работы с приложением Ultralytics HUB (IOS и Android)

Квантование и ускорение

Чтобы добиться производительности в реальном времени на твоем Android-устройстве, модели YOLO квантуются до точности FP16 или INT8. Квантование - это процесс, который уменьшает числовую точность весов и смещений модели, тем самым уменьшая размер модели и объем необходимых вычислений. Это приводит к ускорению вычислений без существенного влияния на точность модели.

Квантование FP16

Квантование FP16 (или квантование с половинной точностью) преобразует 32-битные числа модели с плавающей точкой в 16-битные числа с плавающей точкой. Это уменьшает размер модели в два раза и ускоряет процесс вывода, сохраняя при этом хороший баланс между точностью и производительностью.

INT8 Квантование

Квантование INT8 (или 8-битное целое число) еще больше уменьшает размер модели и требования к вычислениям, преобразуя ее 32-битные числа с плавающей точкой в 8-битные целые числа. Этот метод квантования может привести к значительному ускорению, но может привести к небольшому снижению средней точности (mAP) из-за более низкой точности вычислений.

Делегаты и изменчивость производительности

На Android-устройствах доступны различные делегаты для ускорения вывода модели. К таким делегатам относятся CPU, GPU, Hexagon и NNAPI. Производительность этих делегатов варьируется в зависимости от производителя оборудования, линейки продуктов и конкретных чипсетов, используемых в устройстве.

1. ПРОЦЕССОР: Вариант по умолчанию, с приемлемой производительностью на большинстве устройств.
2. GPU: Использует графический процессор устройства для ускорения вычислений. Это может обеспечить значительный прирост производительности на устройствах с мощными графическими процессорами.
3. Hexagon: Использует DSP Hexagon от Qualcomm для более быстрой и эффективной обработки данных. Эта опция доступна на устройствах с процессорами Qualcomm Snapdragon.
4. NNAPI: Android Neural Networks API (NNAPI) служит уровнем абстракции для запуска ML-моделей на Android-устройствах. NNAPI может использовать различные аппаратные ускорители, такие как CPU, GPU и специализированные чипы ИИ (например, Google's Edge TPU или Pixel Neural Core).

Вот таблица, в которой указаны основные производители, их линейки продуктов, популярные устройства и поддерживаемые делегаты:

Обрати внимание, что приведенный список устройств не является исчерпывающим и может меняться в зависимости от конкретных чипсетов и моделей устройств. Всегда тестируй свои модели на целевых устройствах, чтобы убедиться в совместимости и оптимальной производительности.

Имей в виду, что выбор делегата может повлиять на производительность и совместимость моделей. Например, некоторые модели могут не работать с определенными делегатами, или делегат может быть недоступен на конкретном устройстве. Поэтому для достижения наилучших результатов необходимо протестировать свою модель и выбранный делегат на целевых устройствах.

Начало работы с приложением Ultralytics для Android

Чтобы начать работу с приложением Ultralytics для Android, выполни следующие шаги:

1. Загрузи приложение Ultralytics из магазина Google Play.

2. Запусти приложение на своем Android-устройстве и войди под своим аккаунтом Ultralytics . Если у тебя еще нет аккаунта, создай его здесь.

3. Войдя в систему, ты увидишь список своих обученных моделей YOLO. Выбери модель, которая будет использоваться для обнаружения объектов.

4. Предоставь приложению разрешение на доступ к камере твоего устройства.

5. Наведи камеру своего устройства на объекты, которые ты хочешь обнаружить. Приложение будет отображать ограничительные рамки и метки классов в режиме реального времени по мере обнаружения объектов.

6. Изучи настройки приложения, чтобы настроить порог обнаружения, включить или отключить определенные классы объектов и многое другое.

Благодаря приложению Ultralytics для Android у тебя теперь есть возможность обнаруживать объекты в реальном времени с помощью моделей YOLO прямо под рукой. Наслаждайся изучением возможностей приложения и оптимизируй его настройки под свои конкретные случаи использования.

Комментарии