Como executar o Ultralytics YOLO26 num Raspberry Pi com um Coral Edge TPU#

Um Raspberry Pi é uma plataforma económica e eficiente em termos energéticos para executar visão computacional na periferia da rede, mas a inferência no dispositivo é lenta mesmo com formatos otimizados como ONNX ou OpenVINO. Associar o Pi a um coprocessador Coral Edge TPU transfere a inferência para hardware dedicado e acelera-a significativamente. Este guia mostra como instalar o runtime, exportar um modelo Ultralytics YOLO26 para o formato Edge TPU e executar inferência acelerada.

Porquê utilizar um Coral Edge TPU?#

O Coral Edge TPU é um dispositivo compacto que adiciona um coprocessador Edge TPU ao teu sistema, permitindo inferência de ML de baixo consumo e alto desempenho para modelos TensorFlow Lite. É uma excelente opção para implementações incorporadas e móveis em que apenas a CPU não consegue acompanhar:

• Inferência mais rápida — o Edge TPU acelera modelos quantizados muito além do que a CPU do Raspberry Pi consegue alcançar sozinha.
• Baixo consumo energético — oferece um elevado débito por watt, sendo ideal para implementações alimentadas por bateria ou energia solar.
• Plug and play — o USB Accelerator liga-se através de USB 3.0, pelo que não é necessária integração de hardware adicional.

Pré-requisitos#

• Raspberry Pi 4B (recomenda-se 2 GB ou mais) ou Raspberry Pi 5 (Recomendado)
• Raspberry Pi OS Bullseye/Bookworm (64 bits) com ambiente de trabalho (Recomendado)
• Coral USB Accelerator
• Uma plataforma não ARM (Google Colab, uma máquina Linux x86_64 ou o contentor Docker do Ultralytics) para exportar o modelo, uma vez que o compilador Edge TPU não está disponível em ARM

Este guia pressupõe que já tens uma instalação funcional do Raspberry Pi OS com ultralytics e as respetivas dependências instaladas. Caso contrário, segue primeiro o guia de início rápido.

Com os pré-requisitos prontos, o fluxo de trabalho tem três passos: instalar o runtime Edge TPU no Pi, exportar o teu modelo numa máquina não ARM e executar a inferência novamente no Pi.

Instalar o runtime Edge TPU#

O runtime é disponibilizado em várias versões, por isso escolhe a que corresponde ao teu sistema operativo. A versão de alta frequência executa o Edge TPU a uma velocidade de relógio superior para obter melhor desempenho, mas pode causar redução térmica da frequência — utiliza algum tipo de arrefecimento se a escolheres.

Transfere a versão mais recente a partir daqui e instala o pacote .deb:

sudo dpkg -i path/to/package.deb

Depois de instalares o runtime, liga o Coral Edge TPU a uma porta USB 3.0 do Raspberry Pi para que a nova regra udev possa ser aplicada.

# If you installed the standard version
sudo apt remove libedgetpu1-std

# If you installed the high-frequency version
sudo apt remove libedgetpu1-max

Exportar o teu modelo para o formato Edge TPU#

Para utilizar o Edge TPU, converte o teu modelo para um formato compatível. Executa a exportação numa plataforma não ARM — Google Colab, uma máquina Linux x86_64, o contentor Docker oficial do Ultralytics ou a Ultralytics Platform — uma vez que o compilador Edge TPU não está disponível em ARM. Consulta o modo Export para veres os argumentos disponíveis.

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/model.pt")  # Load an official model or custom model

# Export the model
model.export(format="edgetpu")

O modelo exportado é guardado na pasta <model_name>_saved_model/ como <model_name>_full_integer_quant_edgetpu.tflite.

Executar inferência no Edge TPU#

Antes de executares o modelo, instala as bibliotecas corretas no Raspberry Pi. Se o TensorFlow já estiver instalado, desinstala-o primeiro:

pip uninstall tensorflow tensorflow-aarch64

Em seguida, instala ou atualiza tflite-runtime:

pip install -U tflite-runtime

Agora podes executar a inferência:

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/yolo26n_full_integer_quant_edgetpu.tflite")  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")

Encontra todos os detalhes sobre o modo de predição na página Predict.

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/yolo26n_full_integer_quant_edgetpu.tflite")  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")  # Inference defaults to the first TPU

model.predict("path/to/source.png", device="tpu:0")  # Select the first TPU

model.predict("path/to/source.png", device="tpu:1")  # Select the second TPU

Benchmarks#

Os valores abaixo foram medidos com o Raspberry Pi OS Bookworm de 64 bits e um Coral Edge TPU USB. Mostram apenas o tempo de inferência (excluindo o pré-processamento e o pós-processamento) e servem como referência relativa para a aceleração proporcionada pelo Edge TPU nos diferentes modelos e modos do Pi.

Em média:

• O Raspberry Pi 5 é 22% mais rápido no modo padrão do que o Raspberry Pi 4B.
• O Raspberry Pi 5 é 30,2% mais rápido no modo de alta frequência do que o Raspberry Pi 4B.
• O modo de alta frequência é 28,4% mais rápido do que o modo padrão.

Conclusão#

Um Coral Edge TPU transforma um Raspberry Pi num dispositivo de inferência competente e de baixo consumo para o Ultralytics YOLO26. Exporta o teu modelo numa máquina não ARM, mantém o sufixo _edgetpu.tflite e executa-o com tflite-runtime no Pi para obter inferência acelerada na periferia da rede. Para veres mais opções de implementação, consulta o guia do Raspberry Pi.

Perguntas frequentes#