Como executar Ultralytics YOLO26 em um Raspberry Pi com um Coral Edge TPU#

Um Raspberry Pi é uma plataforma acessível e eficiente em termos de energia para executar visão computacional na borda, mas a inferência no dispositivo é lenta, mesmo com formatos otimizados como ONNX ou OpenVINO. Emparelhar o Pi com um coprocessador Coral Edge TPU transfere a inferência para hardware dedicado e aumenta drasticamente a velocidade. Este guia mostra como instalar o runtime, exportar um modelo Ultralytics YOLO26 para o formato Edge TPU e executar inferência acelerada.

Por que usar um Coral Edge TPU?#

O Coral Edge TPU é um dispositivo compacto que adiciona um coprocessador Edge TPU ao teu sistema, permitindo inferência de ML de alto desempenho e baixo consumo de energia para modelos TensorFlow Lite. É uma ótima opção para implementações embarcadas e móveis, nas quais apenas uma CPU não consegue acompanhar:

• Inferência mais rápida — o Edge TPU acelera modelos quantizados muito além do que a CPU do Raspberry Pi consegue alcançar sozinha.
• Baixo consumo de energia — oferece alto desempenho por watt, ideal para implementações alimentadas por bateria ou energia solar.
• Pronto para usar — o Acelerador USB conecta-se via USB 3.0, sem exigir integração de hardware adicional.

Pré-requisitos#

• Raspberry Pi 4B (recomenda-se 2 GB ou mais) ou Raspberry Pi 5 (recomendado)
• Raspberry Pi OS Bullseye/Bookworm (64 bits) com ambiente de trabalho (recomendado)
• Acelerador USB Coral
• Uma plataforma Linux x86_64 (Google Colab, uma máquina Linux x86_64 ou o contêiner Docker da Ultralytics num host x86_64) para exportar o modelo, já que o compilador Edge TPU só está disponível no Linux x86_64

Este guia pressupõe que já tens uma instalação funcional do Raspberry Pi OS com ultralytics e as dependências instaladas. Se não for esse o caso, segue primeiro o guia de início rápido.

Com os pré-requisitos prontos, o fluxo de trabalho tem três etapas: instalar o runtime Edge TPU no Pi, exportar o modelo numa máquina Linux x86_64 e executar a inferência novamente no Pi.

Instalar o runtime Edge TPU#

O runtime está disponível em várias compilações; escolhe a que corresponde ao teu sistema operativo. A compilação de alta frequência executa o Edge TPU a uma velocidade de clock superior para oferecer melhor desempenho, mas pode causar limitação térmica — usa algum tipo de refrigeração se a escolheres.

Transfere a versão mais recente aqui e, em seguida, instala o pacote .deb:

sudo dpkg -i path/to/package.deb

Depois de instalar o runtime, liga o Coral Edge TPU a uma porta USB 3.0 do Raspberry Pi para que a nova regra udev entre em vigor.

# If you installed the standard version
sudo apt remove libedgetpu1-std

# If you installed the high-frequency version
sudo apt remove libedgetpu1-max

Exportar o modelo para o formato Edge TPU#

Para usar o Edge TPU, converte o modelo para um formato compatível. Executa a exportação no Linux x86_64 — Google Colab, uma máquina Linux x86_64, o contêiner Docker oficial da Ultralytics num host x86_64 ou a Plataforma Ultralytics — já que o compilador Edge TPU só está disponível no Linux x86_64. Consulta o modo de exportação para ver os argumentos disponíveis.

from ultralytics import YOLO

# Carregar um modelo
model = YOLO("path/to/model.pt")  # Carrega um modelo oficial ou um modelo personalizado

# Exporta o modelo
model.export(format="edgetpu")

O modelo exportado é guardado na pasta <model_name>_saved_model/ como <model_name>_full_integer_quant_edgetpu.tflite.

Executar inferência no Edge TPU#

Antes de executar o modelo, instala as bibliotecas corretas no Raspberry Pi. Se o TensorFlow já estiver instalado, desinstala-o primeiro:

pip uninstall tensorflow tensorflow-aarch64

Em seguida, instala ou atualiza tflite-runtime:

pip install -U tflite-runtime

Agora podes executar a inferência:

from ultralytics import YOLO

# Carregar um modelo
model = YOLO("path/to/yolo26n_full_integer_quant_edgetpu.tflite")  # Carrega um modelo oficial ou um modelo personalizado

# Executa a predição
model.predict("path/to/source.png")

Encontra todos os detalhes sobre o modo de predição na página Predict.

from ultralytics import YOLO

# Carregar um modelo
model = YOLO("path/to/yolo26n_full_integer_quant_edgetpu.tflite")  # Carrega um modelo oficial ou um modelo personalizado

# Executa a predição
model.predict("path/to/source.png")  # A inferência usa o primeiro TPU por predefinição

model.predict("path/to/source.png", device="tpu:0")  # Seleciona o primeiro TPU

model.predict("path/to/source.png", device="tpu:1")  # Seleciona o segundo TPU

Benchmarks#

Os valores abaixo foram medidos com Raspberry Pi OS Bookworm de 64 bits e um Coral Edge TPU USB. Mostram apenas o tempo de inferência (excluindo o pré-processamento e o pós-processamento) e servem como referência relativa para a aceleração proporcionada pelo Edge TPU nos diferentes modelos de Pi e modos.

Em média:

• O Raspberry Pi 5 é 22% mais rápido do que o Raspberry Pi 4B no modo padrão.
• O Raspberry Pi 5 é 30,2% mais rápido do que o Raspberry Pi 4B no modo de alta frequência.
• O modo de alta frequência é 28,4% mais rápido do que o modo padrão.

Conclusão#

Um Coral Edge TPU transforma um Raspberry Pi num dispositivo de inferência capaz e de baixo consumo de energia para Ultralytics YOLO26. Exporta o modelo numa máquina Linux x86_64, mantém o sufixo _edgetpu.tflite e executa-o com tflite-runtime no Pi para obter inferência acelerada na borda. Para mais opções de implementação, consulta o guia Raspberry Pi.

Perguntas frequentes#