Link to this sectionУзнай, как экспортировать модели в формат TFLite Edge TPU из YOLO26#

Развертывание моделей компьютерного зрения на устройствах с ограниченной вычислительной мощностью, таких как мобильные или встроенные системы, может быть непростой задачей. Использование формата модели, оптимизированного для более быстрого выполнения, упрощает этот процесс. Формат модели TensorFlow Lite Edge TPU или TFLite Edge TPU разработан для минимального энергопотребления при обеспечении высокой скорости работы нейронных сетей.

Функция экспорта в формат TFLite Edge TPU позволяет оптимизировать модели Ultralytics YOLO26 для высокоскоростного и энергоэффективного вывода. В этом руководстве мы покажем тебе, как преобразовать твои модели в формат TFLite Edge TPU, чтобы упростить их эффективную работу на различных мобильных и встроенных устройствах.

Link to this sectionЗачем экспортировать в TFLite Edge TPU?#

Экспорт моделей в TensorFlow Edge TPU делает задачи машинного обучения быстрыми и эффективными. Эта технология подходит для приложений с ограниченным питанием, вычислительными ресурсами и подключением к сети. Edge TPU — это аппаратный ускоритель от Google. Он ускоряет модели TensorFlow Lite на периферийных устройствах (edge devices). На изображении ниже показан пример этого процесса.

Edge TPU работает с квантованными моделями. Квантование делает модели меньше и быстрее без существенной потери точности. Это идеально подходит для ограниченных ресурсов периферийных вычислений (edge computing), позволяя приложениям быстро реагировать за счет снижения задержек и обеспечивая быструю обработку данных локально, без зависимости от облака. Локальная обработка также обеспечивает конфиденциальность и безопасность пользовательских данных, так как они не отправляются на удаленный сервер.

Link to this sectionКлючевые особенности TFLite Edge TPU#

Вот ключевые особенности, которые делают TFLite Edge TPU отличным выбором формата моделей для разработчиков:

• Оптимизированная производительность на периферийных устройствах: TFLite Edge TPU обеспечивает высокую скорость работы нейронных сетей благодаря квантованию, оптимизации модели, аппаратному ускорению и оптимизации компилятора. Минималистичная архитектура способствует меньшему размеру и экономической эффективности.

• Высокая вычислительная пропускная способность: TFLite Edge TPU сочетает в себе специализированное аппаратное ускорение и эффективное выполнение среды исполнения для достижения высокой вычислительной пропускной способности. Он хорошо подходит для развертывания моделей машинного обучения со строгими требованиями к производительности на периферийных устройствах.

• Эффективные матричные вычисления: TensorFlow Edge TPU оптимизирован для матричных операций, которые критически важны для вычислений нейронных сетей. Эта эффективность является ключевой для моделей машинного обучения, особенно для тех, которые требуют множества сложных матричных умножений и преобразований.

Link to this sectionВарианты развертывания с TFLite Edge TPU#

Прежде чем мы перейдем к экспорту моделей YOLO26 в формат TFLite Edge TPU, давай разберемся, где обычно используются модели TFLite Edge TPU.

TFLite Edge TPU предлагает различные варианты развертывания моделей машинного обучения, включая:

• Развертывание на устройстве: Модели TensorFlow Edge TPU могут быть развернуты непосредственно на мобильных и встроенных устройствах. Развертывание на устройстве позволяет моделям выполняться прямо на «железе», исключая необходимость облачного соединения, путем внедрения модели в пакет приложения или загрузки по требованию.

• Периферийные вычисления с облачными TensorFlow TPU: В сценариях, где периферийные устройства имеют ограниченные вычислительные возможности, TensorFlow Edge TPU могут перекладывать задачи вывода на облачные серверы, оснащенные TPU.

• Гибридное развертывание: Гибридный подход сочетает развертывание на устройстве и в облаке, предлагая гибкое и масштабируемое решение для развертывания моделей машинного обучения. Преимущества включают обработку на устройстве для быстрых ответов и облачные вычисления для более сложных расчетов.

Link to this sectionЭкспорт моделей YOLO26 в TFLite Edge TPU#

Ты можешь расширить совместимость моделей и гибкость развертывания, конвертируя модели YOLO26 в TensorFlow Edge TPU.

Link to this sectionУстановка#

Чтобы установить необходимый пакет, выполни:

# Install the required package for YOLO26
pip install ultralytics

Для получения подробных инструкций и рекомендаций по процессу установки ознакомься с нашим руководством по установке Ultralytics. Если при установке необходимых пакетов для YOLO26 возникнут трудности, обратись к нашему руководству по распространенным проблемам за решениями и советами.

Link to this sectionИспользование#

Все модели Ultralytics YOLO26 разработаны с поддержкой экспорта «из коробки», что упрощает их интеграцию в твой рабочий процесс развертывания. Ты можешь просмотреть полный список поддерживаемых форматов экспорта и параметров конфигурации, чтобы выбрать лучшую настройку для своего приложения.

Формат TFLite Edge TPU поддерживает режимы Export, Predict и Validate. Вывод (inference) и проверка (validation) запускаются на оборудовании Coral Edge TPU. Экспортируй модель, а затем загрузи ее для запуска вывода или проверки точности.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'

from ultralytics import YOLO

# Load the exported TFLite Edge TPU model
model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported TFLite Edge TPU model
model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this sectionАргументы экспорта#

Для получения дополнительной информации о процессе экспорта посети страницу документации Ultralytics по экспорту.

Link to this sectionРазвертывание экспортированных моделей YOLO26 TFLite Edge TPU#

После успешного экспорта твоих моделей Ultralytics YOLO26 в формат TFLite Edge TPU ты можешь их развернуть. Основным и рекомендуемым первым шагом для запуска модели TFLite Edge TPU является использование метода YOLO("model_edgetpu.tflite"), как показано в предыдущем фрагменте кода.

Однако для получения подробных инструкций по развертыванию твоих моделей TFLite Edge TPU ознакомься со следующими ресурсами:

• Coral Edge TPU на Raspberry Pi с Ultralytics YOLO26: Узнай, как интегрировать Coral Edge TPU с Raspberry Pi для расширения возможностей машинного обучения.

• Примеры кода: Получи доступ к практическим примерам развертывания TensorFlow Edge TPU, чтобы начать свои проекты.

• Запуск вывода на Edge TPU с помощью Python: Изучи, как использовать Python API TensorFlow Lite для приложений Edge TPU, включая настройку и рекомендации по использованию.

Link to this sectionРезюме#

В этом руководстве мы научились экспортировать модели Ultralytics YOLO26 в формат TFLite Edge TPU. Следуя указанным выше шагам, ты сможешь повысить скорость и эффективность своих приложений компьютерного зрения.

Для получения дополнительной информации об использовании посети официальный сайт Edge TPU.

Также для получения дополнительной информации о других интеграциях Ultralytics YOLO26 посети нашу страницу руководства по интеграции. Там ты найдешь ценные ресурсы и идеи.

Link to this sectionFAQ#

Link to this sectionКак экспортировать модель YOLO26 в формат TFLite Edge TPU?#

Чтобы экспортировать модель YOLO26 в формат TFLite Edge TPU, ты можешь выполнить следующие шаги:

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

Для получения полной информации об экспорте моделей в другие форматы обратись к нашему руководству по экспорту.

Link to this sectionКаковы преимущества экспорта моделей YOLO26 в TFLite Edge TPU?#

Экспорт моделей YOLO26 в TFLite Edge TPU дает несколько преимуществ:

• Оптимизированная производительность: Достижение высокой скорости работы нейронной сети при минимальном энергопотреблении.
• Снижение задержек: Быстрая локальная обработка данных без зависимости от облака.
• Повышенная конфиденциальность: Локальная обработка сохраняет данные пользователей приватными и защищенными.

Это делает его идеальным для приложений в периферийных вычислениях, где устройства имеют ограниченное питание и вычислительные ресурсы. Узнай больше о том, почему стоит выполнять экспорт.

Link to this sectionМожно ли развертывать модели TFLite Edge TPU на мобильных и встроенных устройствах?#

Да, модели TensorFlow Lite Edge TPU можно развертывать непосредственно на мобильных и встроенных устройствах. Этот подход позволяет моделям исполняться прямо на «железе», предлагая более быстрый и эффективный вывод. Примеры интеграции можно найти в нашем руководстве по развертыванию Coral Edge TPU на Raspberry Pi.

Link to this sectionКаковы некоторые типичные варианты использования моделей TFLite Edge TPU?#

Типичные варианты использования моделей TFLite Edge TPU включают:

• Умные камеры: Улучшение анализа изображений и видео в реальном времени.
• Устройства IoT: Обеспечение автоматизации «умного дома» и промышленной автоматизации.
• Здравоохранение: Ускорение медицинской визуализации и диагностики.
• Розничная торговля: Улучшение управления запасами и анализа поведения клиентов.

Эти приложения выигрывают от высокой производительности и низкого энергопотребления моделей TFLite Edge TPU. Узнай больше о сценариях использования.

Link to this sectionКак устранить неполадки при экспорте или развертывании моделей TFLite Edge TPU?#

Если ты столкнулся с проблемами при экспорте или развертывании моделей TFLite Edge TPU, обратись к нашему руководству по распространенным проблемам за советами по устранению. Это руководство охватывает типичные проблемы и решения, которые помогут тебе обеспечить бесперебойную работу. Для получения дополнительной поддержки посети наш Справочный центр.