Link to this sectionAprende a exportar para o formato TFLite Edge TPU a partir de um modelo YOLO26#
Implantar modelos de visão computacional em dispositivos com poder computacional limitado, como sistemas móveis ou embarcados, pode ser complicado. Usar um formato de modelo otimizado para um desempenho mais rápido simplifica o processo. O formato de modelo TensorFlow Lite Edge TPU ou TFLite Edge TPU foi projetado para consumir o mínimo de energia enquanto oferece alto desempenho para redes neurais.
O recurso de exportação para o formato TFLite Edge TPU permite otimizar seus modelos Ultralytics YOLO26 para inferência de alta velocidade e baixo consumo de energia. Neste guia, mostraremos como converter seus modelos para o formato TFLite Edge TPU, facilitando o desempenho dos seus modelos em vários dispositivos móveis e embarcados.
Link to this sectionPor que deves exportar para TFLite Edge TPU?#
Exportar modelos para o Edge TPU do TensorFlow torna as tarefas de machine learning rápidas e eficientes. Esta tecnologia é adequada para aplicações com recursos limitados de energia, computação e conectividade. O Edge TPU é um acelerador de hardware da Google. Ele acelera modelos TensorFlow Lite em dispositivos de borda. A imagem abaixo mostra um exemplo do processo envolvido.
O Edge TPU trabalha com modelos quantizados. A quantização torna os modelos menores e mais rápidos sem perder muita precisão. É ideal para os recursos limitados da computação de borda, permitindo que as aplicações respondam rapidamente ao reduzir a latência e permitir o processamento rápido de dados localmente, sem dependência da nuvem. O processamento local também mantém os dados do usuário privados e seguros, já que não são enviados para um servidor remoto.
Link to this sectionPrincipais recursos do TFLite Edge TPU#
Aqui estão os principais recursos que tornam o TFLite Edge TPU uma ótima escolha de formato de modelo para desenvolvedores:
-
Desempenho otimizado em dispositivos de borda: O TFLite Edge TPU alcança um desempenho de rede neural de alta velocidade através de quantização, otimização de modelo, aceleração de hardware e otimização de compilador. Sua arquitetura minimalista contribui para seu tamanho reduzido e eficiência de custo.
-
Alto rendimento computacional: O TFLite Edge TPU combina aceleração de hardware especializada e execução em tempo de execução eficiente para atingir um alto rendimento computacional. É muito adequado para implantar modelos de machine learning com requisitos de desempenho rigorosos em dispositivos de borda.
-
Cálculos de matriz eficientes: O TensorFlow Edge TPU é otimizado para operações de matriz, que são cruciais para cálculos de redes neurais. Essa eficiência é fundamental em modelos de machine learning, particularmente naqueles que exigem numerosas e complexas multiplicações e transformações de matrizes.
Link to this sectionOpções de implantação com TFLite Edge TPU#
Antes de passarmos a como exportar modelos YOLO26 para o formato TFLite Edge TPU, vamos entender onde os modelos TFLite Edge TPU são geralmente usados.
O TFLite Edge TPU oferece várias opções de implantação para modelos de machine learning, incluindo:
-
Implantação no dispositivo: Modelos TensorFlow Edge TPU podem ser implantados diretamente em dispositivos móveis e embarcados. A implantação no dispositivo permite que os modelos sejam executados diretamente no hardware, eliminando a necessidade de conectividade com a nuvem, seja incorporando o modelo no pacote da aplicação ou baixando-o sob demanda.
-
Computação de borda com TPUs do TensorFlow na nuvem: Em cenários onde os dispositivos de borda têm capacidades de processamento limitadas, os TensorFlow Edge TPUs podem descarregar tarefas de inferência para servidores em nuvem equipados com TPUs.
-
Implantação híbrida: Uma abordagem híbrida combina a implantação no dispositivo e na nuvem, oferecendo uma solução versátil e escalável para implantar modelos de machine learning. As vantagens incluem processamento no dispositivo para respostas rápidas e computação em nuvem para cálculos mais complexos.
Link to this sectionExportando modelos YOLO26 para TFLite Edge TPU#
Podes expandir a compatibilidade e a flexibilidade de implantação do modelo convertendo modelos YOLO26 para TensorFlow Edge TPU.
Link to this sectionInstalação#
Para instalar o pacote necessário, execute:
# Install the required package for YOLO26
pip install ultralyticsPara obter instruções detalhadas e práticas recomendadas relacionadas ao processo de instalação, consulte nosso Guia de Instalação do Ultralytics. Ao instalar os pacotes necessários para o YOLO26, se você encontrar alguma dificuldade, consulte nosso Guia de Problemas Comuns para obter soluções e dicas.
Link to this sectionUso#
Todos os modelos Ultralytics YOLO26 são projetados para suportar exportação pronta para uso, tornando fácil integrá-los ao seu fluxo de trabalho de implantação preferido. Você pode ver a lista completa de formatos de exportação suportados e opções de configuração para escolher a melhor configuração para sua aplicação.
O formato TFLite Edge TPU suporta os modos Exportar, Prever e Validar. A inferência e a validação são executadas no hardware Coral Edge TPU. Exporta o teu modelo e, em seguida, carrega o modelo exportado para executar a inferência ou validar a sua precisão.
from ultralytics import YOLO
# Load a YOLO26 model
model = YOLO("yolo26n.pt")
# Export the model to TFLite Edge TPU format
model.export(format="edgetpu") # creates 'yolo26n_full_integer_quant_edgetpu.tflite'from ultralytics import YOLO
# Load the exported TFLite Edge TPU model
model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")
# Run inference
results = model("https://ultralytics.com/images/bus.jpg")from ultralytics import YOLO
# Load the exported TFLite Edge TPU model
model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")
# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")Link to this sectionArgumentos de Exportação#
| Argumento | Tipo | Predefinição | Descrição |
|---|---|---|---|
format | str | 'edgetpu' | Formato de destino para o modelo exportado, definindo a compatibilidade com vários ambientes de implementação. |
imgsz | int ou tuple | 640 | Tamanho de imagem desejado para a entrada do modelo. Pode ser um número inteiro para imagens quadradas ou uma tupla (height, width) para dimensões específicas. |
quantize | int ou str | 8/auto | Precisão de quantização. 8 (INT8) é obrigatório e ativado automaticamente para o Edge TPU, comprimindo o modelo e acelerando a inferência com perda mínima de accuracy em dispositivos de borda. Substitui as flags obsoletas half/int8. |
data | str | 'coco8.yaml' | Caminho para o arquivo de configuração do dataset (padrão: coco8.yaml), essencial para quantização. |
fraction | float | 1.0 | Especifica a fração do conjunto de dados a ser usada para calibração de quantização INT8. Permite calibrar em um subconjunto do conjunto de dados completo, útil para experimentos ou quando os recursos são limitados. Se não especificado com INT8 ativado, o conjunto de dados completo será usado. |
device | str | None | Especifica o dispositivo para exportar: CPU (device=cpu). |
Certifica-te de usar uma máquina Linux x86 ao exportar para o EdgeTPU.
Para mais detalhes sobre o processo de exportação, visite a página de documentação do Ultralytics sobre exportação.
Link to this sectionImplantando modelos YOLO26 TFLite Edge TPU exportados#
Após exportar com sucesso os teus modelos Ultralytics YOLO26 para o formato TFLite Edge TPU, podes agora implantá-los. O primeiro passo principal e recomendado para executar um modelo TFLite Edge TPU é usar o método YOLO("model_edgetpu.tflite"), conforme descrito no trecho de código de uso anterior.
No entanto, para instruções detalhadas sobre como implantar os teus modelos TFLite Edge TPU, dá uma olhada nos seguintes recursos:
-
Coral Edge TPU num Raspberry Pi com Ultralytics YOLO26: Descobre como integrar Coral Edge TPUs com Raspberry Pi para capacidades aprimoradas de machine learning.
-
Exemplos de código: Acede a exemplos práticos de implantação do TensorFlow Edge TPU para iniciar os teus projetos.
-
Executar inferência no Edge TPU com Python: Explora como usar a API Python do TensorFlow Lite para aplicações Edge TPU, incluindo diretrizes de configuração e uso.
Link to this sectionResumo#
Neste guia, aprendemos como exportar modelos Ultralytics YOLO26 para o formato TFLite Edge TPU. Ao seguir os passos mencionados acima, podes aumentar a velocidade e o poder das tuas aplicações de visão computacional.
Para mais detalhes sobre o uso, visita o site oficial do Edge TPU.
Além disso, para mais informações sobre outras integrações do Ultralytics YOLO26, visita a nossa página de guia de integração. Lá, descobrirás recursos e insights valiosos.
Link to this sectionFAQ#
Link to this sectionComo exportar um modelo YOLO26 para o formato TFLite Edge TPU?#
Para exportar um modelo YOLO26 para o formato TFLite Edge TPU, podes seguir estes passos:
from ultralytics import YOLO
# Load a YOLO26 model
model = YOLO("yolo26n.pt")
# Export the model to TFLite Edge TPU format
model.export(format="edgetpu") # creates 'yolo26n_full_integer_quant_edgetpu.tflite'
# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")
# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")Para detalhes completos sobre a exportação de modelos para outros formatos, consulta o nosso guia de exportação.
Link to this sectionQuais são os benefícios de exportar modelos YOLO26 para TFLite Edge TPU?#
Exportar modelos YOLO26 para TFLite Edge TPU oferece vários benefícios:
- Desempenho Otimizado: Alcança um desempenho de rede neural de alta velocidade com consumo mínimo de energia.
- Latência Reduzida: Processamento rápido de dados local sem a necessidade de dependência da nuvem.
- Privacidade Aprimorada: O processamento local mantém os dados do usuário privados e seguros.
Isso torna-o ideal para aplicações em computação de borda, onde os dispositivos têm energia e recursos computacionais limitados. Sabe mais sobre porque deves exportar.
Link to this sectionPosso implantar modelos TFLite Edge TPU em dispositivos móveis e embarcados?#
Sim, os modelos TensorFlow Lite Edge TPU podem ser implantados diretamente em dispositivos móveis e embarcados. Esta abordagem de implantação permite que os modelos sejam executados diretamente no hardware, oferecendo uma inferência mais rápida e eficiente. Para exemplos de integração, confere o nosso guia sobre a implantação do Coral Edge TPU no Raspberry Pi.
Link to this sectionQuais são alguns casos de uso comuns para modelos TFLite Edge TPU?#
Casos de uso comuns para modelos TFLite Edge TPU incluem:
- Câmaras Inteligentes: Melhorando a análise de imagem e vídeo em tempo real.
- Dispositivos IoT: Possibilitando automação residencial e industrial inteligente.
- Saúde: Acelerando imagens médicas e diagnósticos.
- Varejo: Melhorando a gestão de inventário e análise de comportamento do cliente.
Estas aplicações beneficiam do alto desempenho e baixo consumo de energia dos modelos TFLite Edge TPU. Descobre mais sobre cenários de uso.
Link to this sectionComo posso solucionar problemas ao exportar ou implantar modelos TFLite Edge TPU?#
Se encontrares problemas ao exportar ou implementar modelos TFLite Edge TPU, consulta o nosso guia de problemas comuns para obteres dicas de resolução. Este guia aborda problemas comuns e soluções para te ajudar a garantir um funcionamento fluido. Para suporte adicional, visita o nosso Centro de Ajuda.