Link to this sectionКак запустить Ultralytics YOLO26 на Raspberry Pi с Coral Edge TPU#

Raspberry Pi — это энергоэффективная и доступная платформа для выполнения компьютерного зрения на периферии, однако вывод (inference) на самом устройстве работает медленно даже при использовании оптимизированных форматов, таких как ONNX или OpenVINO. Использование Pi в паре с сопроцессором Coral Edge TPU перекладывает выполнение вывода на выделенное оборудование, значительно ускоряя процесс. В этом руководстве показано, как установить среду выполнения (runtime), экспортировать модель Ultralytics YOLO26 в формат Edge TPU и запустить ускоренный вывод.

Link to this sectionЗачем использовать Coral Edge TPU?#

Coral Edge TPU — это компактное устройство, которое добавляет сопроцессор Edge TPU в твою систему, обеспечивая низкое энергопотребление и высокую производительность машинного обучения при работе с моделями TensorFlow Lite. Оно отлично подходит для встроенных и мобильных систем, где возможностей одного CPU недостаточно:

• Более быстрый вывод — Edge TPU ускоряет квантованные модели намного эффективнее, чем это может сделать CPU Raspberry Pi в одиночку.
• Низкое энергопотребление — обеспечивает высокую пропускную способность на ватт, что идеально для систем с питанием от аккумуляторов или солнечных батарей.
• Подключи и работай — USB Accelerator подключается через USB 3.0, поэтому не требуется интеграция дополнительного оборудования.

Link to this sectionПредварительные требования#

• Raspberry Pi 4B (рекомендуется 2 ГБ или больше) или Raspberry Pi 5 (рекомендуется)
• Raspberry Pi OS Bullseye/Bookworm (64-бит) с рабочим столом (рекомендуется)
• Coral USB Accelerator
• Платформа, отличная от ARM (Google Colab, компьютер с Linux x86_64 или Docker-контейнер Ultralytics), для экспорта модели, так как компилятор Edge TPU недоступен на ARM

Это руководство предполагает, что у тебя уже установлена рабочая ОС Raspberry Pi с ultralytics и его зависимостями. Если нет, сначала изучи руководство по быстрому старту.

Когда все необходимое готово, рабочий процесс состоит из трех шагов: установка среды выполнения Edge TPU на Pi, экспорт твоей модели на машине не на базе ARM и запуск вывода обратно на Pi.

Link to this sectionУстановка среды выполнения Edge TPU#

Среда выполнения поставляется в нескольких сборках, поэтому выбери ту, которая соответствует твоей операционной системе. Сборка с высокой частотой запускает Edge TPU на более высокой тактовой частоте для лучшей производительности, но это может вызвать троттлинг из-за перегрева — используй какое-либо охлаждение, если выберешь её.

Загрузи последнюю версию отсюда, затем установи пакет .deb:

sudo dpkg -i path/to/package.deb

После установки среды выполнения подключи Coral Edge TPU к порту USB 3.0 на Raspberry Pi, чтобы новое правило udev вступило в силу.

# If you installed the standard version
sudo apt remove libedgetpu1-std

# If you installed the high-frequency version
sudo apt remove libedgetpu1-max

Link to this sectionЭкспорт модели в формат Edge TPU#

Чтобы использовать Edge TPU, преобразуй свою модель в совместимый формат. Выполняй экспорт на платформе не на базе ARM — Google Colab, компьютере Linux x86_64, официальном Docker-контейнере Ultralytics или платформе Ultralytics — так как компилятор Edge TPU недоступен на ARM. Смотри режим экспорта для получения списка доступных аргументов.

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/model.pt")  # Load an official model or custom model

# Export the model
model.export(format="edgetpu")

Экспортированная модель сохраняется в папке <model_name>_saved_model/ как <model_name>_full_integer_quant_edgetpu.tflite.

Link to this sectionЗапуск вывода на Edge TPU#

Перед запуском модели установи нужные библиотеки на Raspberry Pi. Если TensorFlow уже установлен, сначала удали его:

pip uninstall tensorflow tensorflow-aarch64

Затем установи или обнови tflite-runtime:

pip install -U tflite-runtime

Теперь ты можешь запустить вывод:

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/<model_name>_full_integer_quant_edgetpu.tflite")  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")

Полную информацию о режиме предсказания можно найти на странице Predict.

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/<model_name>_full_integer_quant_edgetpu.tflite")  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")  # Inference defaults to the first TPU

model.predict("path/to/source.png", device="tpu:0")  # Select the first TPU

model.predict("path/to/source.png", device="tpu:1")  # Select the second TPU

Link to this sectionБенчмарки#

Приведенные ниже цифры были измерены на Raspberry Pi OS Bookworm 64-бит и USB Coral Edge TPU. Они показывают только время вывода (пре-/постобработка исключены) и служат относительным ориентиром для ускорения, которое обеспечивает Edge TPU на различных моделях Pi и режимах.

В среднем:

• Raspberry Pi 5 на 22% быстрее в стандартном режиме, чем Raspberry Pi 4B.
• Raspberry Pi 5 на 30.2% быстрее в режиме высокой частоты, чем Raspberry Pi 4B.
• Режим высокой частоты на 28.4% быстрее стандартного режима.

Link to this sectionЗаключение#

Coral Edge TPU превращает Raspberry Pi в эффективное устройство с низким энергопотреблением для выполнения вывода Ultralytics YOLO26. Экспортируй свою модель на машине не на базе ARM, сохрани суффикс _edgetpu.tflite и запусти её с помощью tflite-runtime на Pi, чтобы получить ускоренный периферийный вывод. Для получения дополнительных вариантов развертывания изучи руководство Raspberry Pi.

Link to this sectionFAQ#

Link to this sectionЧто такое Coral Edge TPU и как он улучшает производительность Raspberry Pi с Ultralytics YOLO26?#

Coral Edge TPU — это компактное устройство, которое добавляет сопроцессор Edge TPU в твою систему. Этот сопроцессор обеспечивает низкое энергопотребление и высокую производительность ML-вывода, особенно оптимизированного для моделей TensorFlow Lite. На Raspberry Pi он ускоряет вывод гораздо сильнее, чем может сделать CPU в одиночку, что значительно повышает производительность для моделей Ultralytics YOLO26.

Link to this sectionКак установить среду выполнения Coral Edge TPU на Raspberry Pi?#

Загрузи соответствующий пакет .deb для твоей версии Raspberry Pi OS по этой ссылке, затем установи его:

sudo dpkg -i path/to/package.deb

Убедись, что удалил все предыдущие версии среды выполнения Coral Edge TPU, следуя инструкциям в разделе Установка среды выполнения Edge TPU.

Link to this sectionМожно ли экспортировать мою модель Ultralytics YOLO26 для совместимости с Coral Edge TPU?#

Да. Запусти экспорт в Google Colab, на компьютере с Linux x86_64 или в Docker-контейнере Ultralytics; также ты можешь использовать платформу Ultralytics. Вот как выполнить экспорт через Python и CLI:

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/model.pt")  # Load an official model or custom model

# Export the model
model.export(format="edgetpu")

Для получения дополнительной информации обратись к документации режима экспорта.

Link to this sectionЧто делать, если TensorFlow уже установлен на моем Raspberry Pi, но я хочу использовать tflite-runtime?#

Если у тебя установлен TensorFlow и нужно переключиться на tflite-runtime, сначала удали TensorFlow:

pip uninstall tensorflow tensorflow-aarch64

Затем установи или обнови tflite-runtime:

pip install -U tflite-runtime

Для получения подробных инструкций обратись к разделу Запуск вывода на Edge TPU.

Link to this sectionКак запустить вывод с экспортированной моделью YOLO26 на Raspberry Pi с помощью Coral Edge TPU?#

После экспорта твоей модели YOLO26 в формат, совместимый с Edge TPU, запусти вывод с помощью следующих фрагментов кода. Имя файла модели должно сохранять суффикс _edgetpu.tflite, чтобы Ultralytics загрузила её на Edge TPU:

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/<model_name>_full_integer_quant_edgetpu.tflite")  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")

Подробную информацию о режиме предсказания можно найти на странице Predict.