Aprenda a exportar para o formato TFLite Edge TPU a partir do modelo YOLO11

A implementação de modelos de visão computacional em dispositivos com poder computacional limitado, como sistemas móveis ou incorporados, pode ser complicada. A utilização de um formato de modelo optimizado para um desempenho mais rápido simplifica o processo. O formato de modelo TensorFlow LiteEdge TPU ou TFLite Edge TPU foi projetado para usar o mínimo de energia e, ao mesmo tempo, oferecer desempenho rápido para redes neurais.

A funcionalidade de exportação para o formato TFLite Edge TPU permite-lhe otimizar o seu Ultralytics YOLO11 para inferências de alta velocidade e baixo consumo de energia. Neste guia, vamos orientá-lo na conversão dos seus modelos para o formato TPU do TFLite Edge, facilitando o desempenho dos seus modelos em vários dispositivos móveis e incorporados.

Por que exportar para o TFLite Edge TPU?

Exportar modelos para TensorFlow Edge TPU torna as tarefas de machine learning rápidas e eficientes. Esta tecnologia é adequada para aplicações com energia, recursos computacionais e conectividade limitados. O Edge TPU é um acelerador de hardware da Google. Ele acelera os modelos TensorFlow Lite em dispositivos de borda. A imagem abaixo mostra um exemplo do processo envolvido.

O Edge TPU funciona com modelos quantizados. A quantização torna os modelos menores e mais rápidos sem perder muita precisão. É ideal para os recursos limitados da computação de borda, permitindo que os aplicativos respondam rapidamente, reduzindo a latência e permitindo o processamento rápido de dados localmente, sem dependência da nuvem. O processamento local também mantém os dados do usuário privados e seguros, pois não são enviados para um servidor remoto.

Principais caraterísticas do TFLite Edge TPU

Eis as principais caraterísticas que fazem do TFLite Edge TPU uma excelente escolha de formato de modelo para os programadores:

• Desempenho otimizado em dispositivos de borda: A TPU TFLite Edge atinge um desempenho de rede neural de alta velocidade através de quantização, otimização de modelos, aceleração de hardware e otimização de compiladores. A sua arquitetura minimalista contribui para o seu tamanho mais pequeno e eficiência de custos.

• Alto rendimento computacional: TFLite Edge TPU combina aceleração de hardware especializada e execução eficiente em tempo de execução para obter alta taxa de transferência computacional. É adequado para a implantação de modelos de aprendizado de máquina com requisitos rigorosos de desempenho em dispositivos de borda.

• Computações de Matriz Eficientes: O TensorFlow Edge TPU é otimizado para operações de matriz, que são cruciais para computações de redes neurais. Essa eficiência é fundamental em modelos de aprendizado de máquina, particularmente aqueles que exigem inúmeras e complexas multiplicações e transformações de matrizes.

Opções de implantação com TFLite Edge TPU

Antes de falarmos sobre como exportar modelos YOLO11 para o formato TPU do TFLite Edge, vamos entender onde os modelos TPU do TFLite Edge são normalmente usados.

TFLite Edge TPU oferece várias opções de implantação para modelos de aprendizado de máquina, incluindo:

• Implementação no dispositivo: Os modelos de TPU do TensorFlow Edge podem ser implantados diretamente em dispositivos móveis e incorporados. A implantação no dispositivo permite que os modelos sejam executados diretamente no hardware, eliminando a necessidade de conetividade com a nuvem, seja incorporando o modelo no pacote de aplicativos ou baixando-o sob demanda.

• Computação Edge com Cloud TensorFlow TPUs: Em cenários onde os dispositivos edge têm capacidades de processamento limitadas, os TensorFlow Edge TPUs podem descarregar tarefas de inferência para servidores em nuvem equipados com TPUs.

• Implantação Híbrida: Uma abordagem híbrida combina a implantação no dispositivo e na nuvem, oferecendo uma solução versátil e escalável para implementar modelos de machine learning. As vantagens incluem o processamento no dispositivo para respostas rápidas e a computação em nuvem para cálculos mais complexos.

Exportação de modelos YOLO11 para o TFLite Edge TPU

Você pode expandir a compatibilidade do modelo e a flexibilidade de implantação convertendo modelos YOLO11 para TensorFlow Edge TPU.

Instalação

Para instalar o pacote necessário, execute:

# Install the required package for YOLO11
pip install ultralytics

Para obter instruções detalhadas e melhores práticas relacionadas ao processo de instalação, consulte nosso guia de instalação do Ultralytics. Ao instalar os pacotes necessários para o YOLO11, se você encontrar alguma dificuldade, consulte nosso guia de problemas comuns para obter soluções e dicas.

Utilização

Todos os modelos Ultralytics YOLO11 são projetados para suportar a exportação, facilitando a integração em seu fluxo de trabalho de implantação preferido. Você pode visualizar a lista completa de formatos de exportação e opções de configuração suportados para escolher a melhor configuração para sua aplicação.

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Argumentos de Exportação

Para mais detalhes sobre o processo de exportação, visite a página de documentação da Ultralytics sobre exportação.

Implantação de modelos exportados de TPU YOLO11 TFLite Edge

Depois de exportar com sucesso seus modelosYOLO11 do Ultralytics para o formato TPU do TFLite Edge, agora é possível implantá-los. A primeira etapa principal e recomendada para executar um modelo TPU do TFLite Edge é usar o método YOLO("model_edgetpu.tflite"), conforme descrito no trecho de código de uso anterior.

No entanto, para obter instruções detalhadas sobre a implantação de seus modelos TFLite Edge TPU , consulte os seguintes recursos:

• Coral Edge TPU em um Raspberry Pi com Ultralytics YOLO11: Descubra como integrar Coral Edge TPUs com Raspberry Pi para recursos aprimorados de aprendizado de máquina.

• Exemplos de Código: Acesse exemplos práticos de implantação do TensorFlow Edge TPU para dar o pontapé inicial em seus projetos.

• Executar Inferência na Edge TPU com Python: Explore como usar a API Python do TensorFlow Lite para aplicações Edge TPU, incluindo diretrizes de configuração e uso.

Resumo

Neste guia, aprendemos a exportar modelos Ultralytics YOLO11 para o formato TFLite Edge TPU . Seguindo os passos mencionados acima, pode aumentar a velocidade e a potência das suas aplicações de visão computacional.

Para obter mais detalhes sobre o uso, visite o site oficial do Edge TPU.

Além disso, para obter mais informações sobre outras integrações do Ultralytics YOLO11, visite nossa página do guia de integração. Lá, você descobrirá recursos e insights valiosos.

FAQ

Como é que exporto um modelo YOLO11 para o formato TPU do TFLite Edge?

Para exportar um modelo YOLO11 para o formato TFLite Edge TPU , pode seguir estes passos:

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Para detalhes completos sobre como exportar modelos para outros formatos, consulte nosso guia de exportação.

Quais são as vantagens de exportar modelos YOLO11 para o TFLite Edge TPU?

A exportação de modelos YOLO11 para o TFLite Edge TPU oferece várias vantagens:

• Desempenho Otimizado: Alcance desempenho de rede neural de alta velocidade com consumo mínimo de energia.
• Latência Reduzida: Processamento rápido de dados locais sem necessidade de dependência da nuvem.
• Privacidade Aprimorada: O processamento local mantém os dados do usuário privados e seguros.

Isto torna-o ideal para aplicações em edge computing, onde os dispositivos têm energia e recursos computacionais limitados. Saiba mais sobre por que você deve exportar.

Posso implementar modelos TFLite Edge TPU em dispositivos móveis e incorporados?

Sim, os modelos TensorFlow Lite Edge TPU podem ser implantados diretamente em dispositivos móveis e embarcados. Essa abordagem de implantação permite que os modelos sejam executados diretamente no hardware, oferecendo uma inferência mais rápida e eficiente. Para exemplos de integração, consulte nosso guia sobre como implantar o Coral Edge TPU no Raspberry Pi.

Quais são alguns casos de uso comuns para os modelos TFLite Edge TPU ?

Casos de uso comuns para os modelos TFLite Edge TPU incluem:

• Câmeras Inteligentes: Aprimorando a análise de imagem e vídeo em tempo real.
• Dispositivos IoT: Habilitando casas inteligentes e automação industrial.
• Assistência Médica: Aceleração de imagens e diagnósticos médicos.
• Varejo: Melhorando o gerenciamento de estoque e a análise do comportamento do cliente.

Estas aplicações beneficiam do elevado desempenho e do baixo consumo de energia dos modelos TFLite Edge TPU . Saiba mais sobre os cenários de utilização.

Como posso solucionar problemas ao exportar ou implantar modelos TFLite Edge TPU ?

Se você encontrar problemas ao exportar ou implantar modelos TFLite Edge TPU , consulte nosso guia de Problemas comuns para obter dicas de solução de problemas. Este guia abrange problemas e soluções comuns para ajudá-lo a garantir uma operação tranqüila. Para obter suporte adicional, visite nossa Central de Ajuda.

📅C riado há 1 ano ✏️ Atualizado há 8 dias

Comentários