Aprende a exportar para o formato TFLite Edge TPU a partir do modelo YOLO26
Implementar modelos de visão computacional em dispositivos com poder computacional limitado, como sistemas móveis ou integrados, pode ser difícil. Usar um formato de modelo otimizado para um desempenho mais rápido simplifica o processo. O formato de modelo TensorFlow Lite Edge TPU ou TFLite Edge TPU foi concebido para usar energia mínima enquanto oferece um desempenho rápido para redes neurais.
A funcionalidade de exportação para o formato TFLite Edge TPU permite que otimizes os teus modelos Ultralytics YOLO26 para inferência de alta velocidade e baixo consumo de energia. Neste guia, vamos orientar-te na conversão dos teus modelos para o formato TFLite Edge TPU, tornando mais fácil para os teus modelos terem um bom desempenho em vários dispositivos móveis e integrados.
Por que deves exportar para TFLite Edge TPU?
Exportar modelos para TensorFlow Edge TPU torna as tarefas de machine learning rápidas e eficientes. Esta tecnologia adequa-se a aplicações com energia, recursos computacionais e conectividade limitados. O Edge TPU é um acelerador de hardware da Google. Ele acelera modelos TensorFlow Lite em dispositivos de borda. A imagem abaixo mostra um exemplo do processo envolvido.
O Edge TPU funciona com modelos quantizados. A quantização torna os modelos mais pequenos e rápidos sem perder muita precisão. É ideal para os recursos limitados da computação de borda, permitindo que as aplicações respondam rapidamente ao reduzir a latência e permitindo um processamento de dados rápido localmente, sem dependência da nuvem. O processamento local também mantém os dados do utilizador privados e seguros, uma vez que não são enviados para um servidor remoto.
Principais características do TFLite Edge TPU
Aqui estão as principais características que fazem do TFLite Edge TPU uma ótima escolha de formato de modelo para programadores:
-
Desempenho otimizado em dispositivos de borda: O TFLite Edge TPU alcança um desempenho de rede neural de alta velocidade através de quantização, otimização de modelo, aceleração de hardware e otimização de compilador. A sua arquitetura minimalista contribui para o seu tamanho reduzido e eficiência de custos.
-
Alto débito computacional: O TFLite Edge TPU combina aceleração de hardware especializada e execução de runtime eficiente para alcançar um alto débito computacional. É muito adequado para implementar modelos de machine learning com requisitos de desempenho rigorosos em dispositivos de borda.
-
Computações de matriz eficientes: O TensorFlow Edge TPU está otimizado para operações de matriz, que são cruciais para computações de redes neurais. Esta eficiência é fundamental em modelos de machine learning, particularmente aqueles que exigem inúmeras e complexas multiplicações e transformações de matrizes.
Opções de implementação com TFLite Edge TPU
Antes de avançarmos para como exportar modelos YOLO26 para o formato TFLite Edge TPU, vamos entender onde os modelos TFLite Edge TPU são habitualmente usados.
O TFLite Edge TPU oferece várias opções de implementação para modelos de machine learning, incluindo:
-
Implementação no dispositivo: Os modelos TensorFlow Edge TPU podem ser diretamente implementados em dispositivos móveis e integrados. A implementação no dispositivo permite que os modelos executem diretamente no hardware, eliminando a necessidade de conectividade com a nuvem, quer incorporando o modelo no pacote da aplicação ou descarregando-o sob demanda.
-
Computação de borda com TPUs Cloud TensorFlow: Em cenários onde os dispositivos de borda têm capacidades de processamento limitadas, os TensorFlow Edge TPUs podem descarregar tarefas de inferência para servidores na nuvem equipados com TPUs.
-
Implementação híbrida: Uma abordagem híbrida combina implementação no dispositivo e na nuvem e oferece uma solução versátil e escalável para implementar modelos de machine learning. As vantagens incluem processamento no dispositivo para respostas rápidas e computação em nuvem para computações mais complexas.
Exportar modelos YOLO26 para TFLite Edge TPU
Podes expandir a compatibilidade do modelo e a flexibilidade de implementação convertendo modelos YOLO26 para TensorFlow Edge TPU.
Instalação
Para instalar o pacote necessário, execute:
# Install the required package for YOLO26
pip install ultralyticsPara instruções detalhadas e práticas recomendadas relacionadas ao processo de instalação, consulte nosso guia de instalação da Ultralytics. Ao instalar os pacotes necessários para o YOLO26, se você encontrar alguma dificuldade, consulte nosso guia de problemas comuns para obter soluções e dicas.
Utilização
Todos os modelos Ultralytics YOLO26 foram concebidos para suportar a exportação imediata, facilitando a sua integração no teu fluxo de trabalho de implementação preferido. Podes ver a lista completa de formatos de exportação suportados e opções de configuração para escolheres a melhor configuração para a tua aplicação.
from ultralytics import YOLO
# Load the YOLO26 model
model = YOLO("yolo26n.pt")
# Export the model to TFLite Edge TPU format
model.export(format="edgetpu") # creates 'yolo26n_full_integer_quant_edgetpu.tflite'
# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")
# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")Argumentos de Exportação
| Argumento | Tipo | Predefinição | Descrição |
|---|---|---|---|
format | str | 'edgetpu' | Formato de destino para o modelo exportado, definindo a compatibilidade com vários ambientes de implantação. |
imgsz | int ou tuple | 640 | Desired image size for the model input. Can be an integer for square images or a tuple (height, width) for specific dimensions. |
int8 | bool | True | Ativa a quantização INT8, comprimindo ainda mais o modelo e acelerando a inferência com perda mínima de precisão, principalmente para dispositivos de borda. |
data | str | 'coco8.yaml' | Caminho para o arquivo de configuração do dataset (padrão: coco8.yaml), essencial para a quantização. |
fraction | float | 1.0 | Especifica a fração do dataset a ser usada para calibração de quantização INT8. Permite calibrar em um subconjunto do dataset completo, útil para experimentos ou quando os recursos são limitados. Se não for especificado com INT8 ativado, o dataset completo será usado. |
device | str | None | Especifica o dispositivo para exportação: CPU (device=cpu). |
Por favor, assegura-te de usar uma máquina Linux x86 ao exportar para EdgeTPU.
Para mais detalhes sobre o processo de exportação, visite a página de documentação da Ultralytics sobre exportação.
Implementar modelos exportados YOLO26 TFLite Edge TPU
Após exportares com sucesso os teus modelos Ultralytics YOLO26 para o formato TFLite Edge TPU, podes agora implementá-los. O primeiro passo principal e recomendado para executar um modelo TFLite Edge TPU é usar o método YOLO("model_edgetpu.tflite"), conforme descrito no trecho de código de utilização anterior.
No entanto, para instruções detalhadas sobre a implementação dos teus modelos TFLite Edge TPU, dá uma vista de olhos nos seguintes recursos:
-
Coral Edge TPU num Raspberry Pi com Ultralytics YOLO26: Descobre como integrar Coral Edge TPUs com Raspberry Pi para capacidades de machine learning melhoradas.
-
Exemplos de código: Acede a exemplos práticos de implementação do TensorFlow Edge TPU para dar início aos teus projetos.
-
Executar inferência no Edge TPU com Python: Explora como usar a API Python do TensorFlow Lite para aplicações Edge TPU, incluindo diretrizes de configuração e utilização.
Resumo
Neste guia, aprendemos como exportar modelos Ultralytics YOLO26 para o formato TFLite Edge TPU. Ao seguires os passos mencionados acima, podes aumentar a velocidade e o poder das tuas aplicações de visão computacional.
Para mais detalhes sobre a utilização, visita o site oficial do Edge TPU.
Além disso, para mais informações sobre outras integrações do Ultralytics YOLO26, por favor visita a nossa página de guia de integração. Lá, descobrirás recursos e insights valiosos.
FAQ
Como exporto um modelo YOLO26 para o formato TFLite Edge TPU?
Para exportar um modelo YOLO26 para o formato TFLite Edge TPU, podes seguir estes passos:
from ultralytics import YOLO
# Load the YOLO26 model
model = YOLO("yolo26n.pt")
# Export the model to TFLite Edge TPU format
model.export(format="edgetpu") # creates 'yolo26n_full_integer_quant_edgetpu.tflite'
# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")
# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")Para detalhes completos sobre a exportação de modelos para outros formatos, consulta o nosso guia de exportação.
Quais são os benefícios de exportar modelos YOLO26 para TFLite Edge TPU?
Exportar modelos YOLO26 para TFLite Edge TPU oferece vários benefícios:
- Desempenho otimizado: Alcança um desempenho de rede neural de alta velocidade com um consumo mínimo de energia.
- Latência reduzida: Processamento local rápido de dados sem a necessidade de dependência da nuvem.
- Privacidade melhorada: O processamento local mantém os dados do utilizador privados e seguros.
Isto torna-o ideal para aplicações em computação de borda, onde os dispositivos têm energia e recursos computacionais limitados. Sabe mais sobre por que deves exportar.
Posso implementar modelos TFLite Edge TPU em dispositivos móveis e integrados?
Sim, os modelos TensorFlow Lite Edge TPU podem ser implementados diretamente em dispositivos móveis e integrados. Esta abordagem de implementação permite que os modelos executem diretamente no hardware, oferecendo uma inferência mais rápida e eficiente. Para exemplos de integração, consulta o nosso guia sobre implementação de Coral Edge TPU no Raspberry Pi.
Quais são alguns casos de uso comuns para modelos TFLite Edge TPU?
Casos de uso comuns para modelos TFLite Edge TPU incluem:
- Câmaras inteligentes: Melhorar a análise de imagem e vídeo em tempo real.
- Dispositivos IoT: Permitir casas inteligentes e automação industrial.
- Saúde: Acelerar imagens e diagnósticos médicos.
- Varejo: Melhorar a gestão de inventário e a análise de comportamento do cliente.
Estas aplicações beneficiam do alto desempenho e baixo consumo de energia dos modelos TFLite Edge TPU. Descobre mais sobre cenários de utilização.
Como posso solucionar problemas durante a exportação ou implementação de modelos TFLite Edge TPU?
Se encontrares problemas ao exportar ou implementar modelos TFLite Edge TPU, consulta o nosso guia de Problemas Comuns para obter dicas de resolução de problemas. Este guia cobre problemas comuns e soluções para te ajudar a garantir uma operação sem problemas. Para suporte adicional, visita o nosso Centro de Ajuda.