Aprende a exportar um modelo YOLO26 para o formato TFLite Edge TPU#

A implantação de modelos de visão computacional em dispositivos com poder de computação limitado, como sistemas móveis ou embarcados, pode ser complicada. Usar um formato de modelo otimizado para um desempenho mais rápido simplifica o processo. O formato de modelo Edge TPU do TensorFlow Lite, ou TFLite Edge TPU, foi concebido para consumir o mínimo de energia e, ao mesmo tempo, oferecer alto desempenho para redes neuronais.

A funcionalidade de exportação para o formato TFLite Edge TPU permite otimizar os teus modelos Ultralytics YOLO26 para inferências rápidas e de baixo consumo. Neste guia, explicamos como converter os modelos para o formato TFLite Edge TPU, facilitando a obtenção de um bom desempenho em vários dispositivos móveis e embarcados.

Por que exportar para TFLite Edge TPU?#

Exportar modelos para o Edge TPU do TensorFlow torna as tarefas de aprendizagem automática rápidas e eficientes. Esta tecnologia é adequada para aplicações com limitações de energia, recursos computacionais e conectividade. O Edge TPU é um acelerador de hardware da Google. Acelera modelos TensorFlow Lite em dispositivos edge. A imagem abaixo mostra um exemplo do processo.

O Edge TPU funciona com modelos quantizados. A quantização torna os modelos menores e mais rápidos sem perder muita precisão. É ideal para os recursos limitados da computação edge, permitindo que as aplicações respondam rapidamente ao reduzir a latência e processar os dados localmente, sem depender da nuvem. O processamento local também mantém os dados dos utilizadores privados e seguros, pois não são enviados para um servidor remoto.

Principais funcionalidades do TFLite Edge TPU#

Estas são as principais funcionalidades que fazem do TFLite Edge TPU uma excelente escolha de formato de modelo para programadores:

• Desempenho otimizado em dispositivos edge: o TFLite Edge TPU alcança alto desempenho em redes neuronais por meio da quantização, otimização de modelos, aceleração por hardware e otimização do compilador. A sua arquitetura minimalista contribui para o tamanho reduzido e a eficiência de custos.

• Alto rendimento computacional: o TFLite Edge TPU combina aceleração de hardware especializada e execução eficiente em tempo de execução para alcançar alto rendimento computacional. É ideal para implantar modelos de machine learning com requisitos rigorosos de desempenho em dispositivos de borda.

• Cálculos matriciais eficientes: o TensorFlow Edge TPU é otimizado para operações matriciais, fundamentais para os cálculos de redes neurais. Essa eficiência é essencial em modelos de machine learning, sobretudo nos que exigem numerosas e complexas multiplicações e transformações matriciais.

Opções de implantação com TFLite Edge TPU#

Antes de vermos como exportar modelos YOLO26 para o formato TFLite Edge TPU, vamos entender onde os modelos TFLite Edge TPU costumam ser usados.

O TFLite Edge TPU oferece várias opções para implantar modelos de machine learning, incluindo:

• Implantação no dispositivo: os modelos TensorFlow Edge TPU podem ser implantados diretamente em dispositivos móveis e integrados. A implantação no dispositivo permite que os modelos sejam executados diretamente no hardware, eliminando a necessidade de conexão à nuvem, seja incorporando o modelo ao pacote do aplicativo, seja baixando-o sob demanda.

• Implantação híbrida: uma abordagem híbrida combina a implantação no dispositivo e na nuvem, oferecendo uma solução versátil e escalável para implantar modelos de machine learning. Entre as vantagens estão o processamento no dispositivo para respostas rápidas e a computação em nuvem para cálculos mais complexos.

Tarefas suportadas#

A exportação para Edge TPU oferece suporte a seis das sete tarefas da Ultralytics. A segmentação semântica está disponível apenas com YOLO26, a única família que inclui essa cabeça. A estimativa de profundidade não é compatível porque o modelo INT8 gera um operador EXP v2 que o compilador Edge TPU não consegue analisar.

O compilador Edge TPU mapeia as operações compatíveis para o acelerador e deixa as demais na CPU; portanto, o suporte à tarefa não significa que todas as operações sejam executadas na TPU.

Exportar modelos YOLO26 para TFLite Edge TPU#

Você pode ampliar a compatibilidade dos modelos e a flexibilidade de implantação convertendo modelos YOLO26 para TensorFlow Edge TPU.

Instalação#

Para instalar o pacote necessário, executa:

# Install the required package for YOLO26
pip install ultralytics

Para obter instruções detalhadas e boas práticas relacionadas ao processo de instalação, consulte nosso guia de instalação da Ultralytics. Se tiver dificuldades ao instalar os pacotes necessários para YOLO26, consulte nosso guia de problemas comuns para ver soluções e dicas.

Uso#

Todos os modelos Ultralytics YOLO26 foram concebidos para suportar a exportação de origem, o que facilita a integração no fluxo de trabalho de implementação que preferires. Podes consultar a lista completa de formatos de exportação suportados e opções de configuração para escolheres a melhor configuração para a tua aplicação.

O formato TFLite Edge TPU é compatível com os modos Export, Predict e Validate. A inferência e a validação são executadas no hardware Coral Edge TPU. Exporte o modelo e, em seguida, carregue o modelo exportado para executar inferências ou validar a precisão.

from ultralytics import YOLO

# Carrega um modelo YOLO26
model = YOLO("yolo26n.pt")

# Exporte o modelo para o formato TFLite Edge TPU
model.export(format="edgetpu")  # cria 'yolo26n_saved_model/yolo26n_full_integer_quant_edgetpu.tflite'

from ultralytics import YOLO

# Carregue o modelo TFLite Edge TPU exportado
model = YOLO("yolo26n_saved_model/yolo26n_full_integer_quant_edgetpu.tflite")

# Executar inferência
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Carregue o modelo TFLite Edge TPU exportado
model = YOLO("yolo26n_saved_model/yolo26n_full_integer_quant_edgetpu.tflite")

# Validar a precisão no conjunto de dados COCO8
metrics = model.val(data="coco8.yaml")

Argumentos de exportação#

Para mais detalhes sobre o processo de exportação, visita a página da documentação da Ultralytics sobre exportação.

Implantar modelos YOLO26 TFLite Edge TPU exportados#

Depois de exportar com sucesso os modelos Ultralytics YOLO26 para o formato TFLite Edge TPU, você já pode implantá-los. A primeira etapa recomendada para executar um modelo TFLite Edge TPU é usar o método YOLO("model_edgetpu.tflite"), conforme mostrado no trecho de código de uso anterior.

No entanto, para ver instruções detalhadas sobre como implantar seus modelos TFLite Edge TPU, consulte os seguintes recursos:

• Coral Edge TPU em um Raspberry Pi com Ultralytics YOLO26: descubra como integrar Coral Edge TPUs com Raspberry Pi para aprimorar os recursos de machine learning.

• Exemplos de código: consulte exemplos práticos de implantação do TensorFlow Edge TPU para dar início aos seus projetos.

• Executar inferência na Edge TPU com Python: saiba como usar a API Python do TensorFlow Lite em aplicações com Edge TPU, incluindo orientações de configuração e uso.

Resumo#

Neste guia, aprendemos a exportar modelos Ultralytics YOLO26 para o formato TFLite Edge TPU. Seguindo as etapas acima, você pode aumentar a velocidade e a capacidade das suas aplicações de visão computacional.

Para mais detalhes sobre o uso, acesse o site oficial da Coral Edge TPU.

Além disso, para saber mais sobre outras integrações da Ultralytics YOLO26, acesse nossa página do guia de integrações. Lá, você encontrará recursos e informações valiosos.

Perguntas frequentes#