Como executar o Ultralytics YOLO26 num Raspberry Pi com um Coral Edge TPU#

Um Raspberry Pi é uma plataforma econômica e energeticamente eficiente para executar visão computacional no edge, mas a inferência no dispositivo é lenta mesmo com formatos otimizados como ONNX ou OpenVINO. Emparelhar o Pi com um coprocessador Coral Edge TPU descarrega a inferência para hardware dedicado e a acelera drasticamente. Este guia mostra como instalar o tempo de execução, exportar um modelo Ultralytics YOLO26 para o formato Edge TPU e executar inferência acelerada.

Por que usar um Coral Edge TPU?#

O Coral Edge TPU é um dispositivo compacto que adiciona um coprocessador Edge TPU ao teu sistema, permitindo inferência de ML de alto desempenho e baixo consumo para modelos TensorFlow Lite. É uma ótima opção para implementações embarcadas e móveis onde um CPU sozinho não consegue acompanhar:

• Inferência mais rápida — o Edge TPU acelera modelos quantizados muito além do que o CPU do Raspberry Pi alcança por conta própria.
• Baixo consumo de energia — oferece alto rendimento por watt, ideal para implementações movidas a bateria ou energia solar.
• Plug-and-play — o USB Accelerator se conecta via USB 3.0, portanto, nenhuma integração de hardware adicional é necessária.

Pré-requisitos#

• Raspberry Pi 4B (2 GB ou mais recomendado) ou Raspberry Pi 5 (Recomendado)
• Raspberry Pi OS Bullseye/Bookworm (64 bits) com desktop (Recomendado)
• Coral USB Accelerator
• Uma plataforma não ARM (Google Colab, uma máquina Linux x86_64 ou o contêiner Docker da Ultralytics) para exportar o modelo, já que o compilador do Edge TPU não está disponível em ARM

Este guia pressupõe que você já tenha uma instalação funcional do Raspberry Pi OS com o ultralytics e suas dependências instaladas. Caso contrário, siga o guia de início rápido primeiro.

Com os pré-requisitos prontos, o fluxo de trabalho tem três etapas: instalar o tempo de execução do Edge TPU no Pi, exportar seu modelo em uma máquina não ARM e executar a inferência de volta no Pi.

Instalar o Runtime do Edge TPU#

O runtime é disponibilizado em várias compilações, por isso escolhe a que corresponde ao teu sistema operativo. A compilação de alta frequência executa o Edge TPU a uma velocidade de clock superior para melhor desempenho, mas pode causar thermal throttling — usa algum tipo de refrigeração se a escolheres.

Baixe a versão mais recente daqui e, em seguida, instale o pacote .deb:

sudo dpkg -i path/to/package.deb

Após instalar o tempo de execução, conecte seu Coral Edge TPU a uma porta USB 3.0 no Raspberry Pi para que a nova regra udev possa entrar em vigor.

# If you installed the standard version
sudo apt remove libedgetpu1-std

# If you installed the high-frequency version
sudo apt remove libedgetpu1-max

Exportar o teu modelo para o formato Edge TPU#

Para usar o Edge TPU, converta seu modelo para um formato compatível. Execute a exportação em uma plataforma não ARM — Google Colab, uma máquina Linux x86_64, o contêiner Docker oficial da Ultralytics ou a Ultralytics Platform — já que o compilador do Edge TPU não está disponível em ARM. Consulte o modo Export para ver os argumentos disponíveis.

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/model.pt")  # Load an official model or custom model

# Export the model
model.export(format="edgetpu")

O modelo exportado é salvo na pasta <model_name>_saved_model/ como <model_name>_full_integer_quant_edgetpu.tflite.

Executar inferência no Edge TPU#

Antes de executar o modelo, instala as bibliotecas corretas no Raspberry Pi. Se o TensorFlow já estiver instalado, desinstala-o primeiro:

pip uninstall tensorflow tensorflow-aarch64

Em seguida, instale ou atualize o tflite-runtime:

pip install -U tflite-runtime

Agora podes executar a inferência:

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/<model_name>_full_integer_quant_edgetpu.tflite")  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")

Encontre detalhes completos do modo de previsão na página Predict.

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/<model_name>_full_integer_quant_edgetpu.tflite")  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")  # Inference defaults to the first TPU

model.predict("path/to/source.png", device="tpu:0")  # Select the first TPU

model.predict("path/to/source.png", device="tpu:1")  # Select the second TPU

Benchmarks#

Os números abaixo foram medidos com Raspberry Pi OS Bookworm de 64 bits e um USB Coral Edge TPU. Eles mostram apenas o tempo de inferência (pré/pós-processamento excluído) e servem como referência relativa para a aceleração que o Edge TPU proporciona entre modelos e modos do Pi.

Em média:

• O Raspberry Pi 5 é 22% mais rápido com o modo padrão do que o Raspberry Pi 4B.
• O Raspberry Pi 5 é 30,2% mais rápido com o modo de alta frequência do que o Raspberry Pi 4B.
• O modo de alta frequência é 28,4% mais rápido do que o modo padrão.

Conclusão#

Um Coral Edge TPU transforma um Raspberry Pi em um dispositivo de inferência capaz e de baixo consumo de energia para o Ultralytics YOLO26. Exporte seu modelo em uma máquina não ARM, mantenha o sufixo _edgetpu.tflite e execute-o com tflite-runtime no Pi para obter inferência acelerada no edge. Para mais opções de implantação, consulte o guia do Raspberry Pi.

FAQ#