Saltar para o conteúdo

Aprenda a exportar para o formato TFLite Edge TPU a partir do modelo YOLO11

A implementação de modelos de visão computacional em dispositivos com poder computacional limitado, como sistemas móveis ou incorporados, pode ser complicada. A utilização de um formato de modelo optimizado para um desempenho mais rápido simplifica o processo. O formato de modelo TensorFlow Lite Edge TPU ou TFLite Edge TPU foi concebido para utilizar o mínimo de energia e proporcionar um desempenho rápido para redes neurais.

A função de exportação para o formato TFLite Edge TPU permite-lhe otimizar os seus Ultralytics YOLO11 modelos para inferências de alta velocidade e baixo consumo de energia. Neste guia, vamos orientá-lo na conversão dos seus modelos para o formato TFLite Edge TPU , facilitando o desempenho dos seus modelos em vários dispositivos móveis e incorporados.

Por que deve exportar para o TFLite Edge TPU?

A exportação de modelos para o TensorFlow Edge TPU torna as tarefas de aprendizagem automática rápidas e eficientes. Esta tecnologia adequa-se a aplicações com potência, recursos de computação e conetividade limitados. O Edge TPU é um acelerador de hardware da Google. Acelera os modelos TensorFlow Lite em dispositivos periféricos. A imagem abaixo mostra um exemplo do processo envolvido.

TFLite Edge TPU

O Edge TPU funciona com modelos quantizados. A quantização torna os modelos mais pequenos e mais rápidos sem perder muita precisão. É ideal para os recursos limitados da computação periférica, permitindo que as aplicações respondam rapidamente, reduzindo a latência e permitindo um processamento rápido dos dados localmente, sem dependência da nuvem. O processamento local também mantém os dados do utilizador privados e seguros, uma vez que não são enviados para um servidor remoto.

Principais caraterísticas do TFLite Edge TPU

Eis as principais caraterísticas que fazem do TFLite Edge TPU uma excelente escolha de formato de modelo para os programadores:

  • Desempenho otimizado em dispositivos de borda: O TFLite Edge TPU atinge um desempenho de rede neural de alta velocidade através da quantização, otimização de modelos, aceleração de hardware e otimização do compilador. A sua arquitetura minimalista contribui para o seu tamanho mais pequeno e para a sua relação custo-eficácia.

  • Alto rendimento computacional: O TFLite Edge TPU combina aceleração de hardware especializada e execução eficiente em tempo de execução para obter alta taxa de transferência computacional. É adequado para a implantação de modelos de aprendizado de máquina com requisitos rigorosos de desempenho em dispositivos de borda.

  • Cálculos matriciais eficientes: O TensorFlow Edge TPU está optimizado para operações de matriz, que são cruciais para os cálculos de redes neurais. Essa eficiência é fundamental em modelos de aprendizado de máquina, particularmente aqueles que exigem numerosas e complexas multiplicações e transformações de matrizes.

Opções de implantação com o TFLite Edge TPU

Antes de falarmos sobre como exportar modelos do YOLO11 para o formato TFLite Edge TPU , vamos entender onde os modelos do TFLite Edge TPU são normalmente usados.

O TFLite Edge TPU oferece várias opções de implantação para modelos de aprendizado de máquina, incluindo:

  • Implementação no dispositivo: TensorFlow Os modelos Edge TPU podem ser implementados diretamente em dispositivos móveis e incorporados. A implementação no dispositivo permite que os modelos sejam executados diretamente no hardware, eliminando a necessidade de conetividade com a nuvem.

  • Computação periférica com TPUs na nuvem TensorFlow : Em cenários em que os dispositivos de borda têm capacidades de processamento limitadas, as TPUs de borda TensorFlow podem descarregar tarefas de inferência para servidores de nuvem equipados com TPUs.

  • Implantação híbrida: Uma abordagem híbrida combina a implementação no dispositivo e na nuvem e oferece uma solução versátil e escalável para a implementação de modelos de aprendizagem automática. As vantagens incluem o processamento no dispositivo para respostas rápidas e a computação em nuvem para cálculos mais complexos.

Exportando YOLO11 Models para o TFLite Edge TPU

Pode expandir a compatibilidade de modelos e a flexibilidade de implementação convertendo os modelos YOLO11 para TensorFlow Edge TPU.

Instalação

Para instalar o pacote necessário, execute:

Instalação

# Install the required package for YOLO11
pip install ultralytics

Para obter instruções detalhadas e melhores práticas relacionadas com o processo de instalação, consulte o nosso guia de instalaçãoUltralytics . Ao instalar os pacotes necessários para YOLO11, se encontrar alguma dificuldade, consulte o nosso guia de Problemas comuns para obter soluções e dicas.

Utilização

Antes de se debruçar sobre as instruções de utilização, é importante notar que, embora todos os modelos deUltralytics YOLO11 estejam disponíveis para exportação, pode certificar-se de que o modelo selecionado suporta a funcionalidade de exportação aqui.

Utilização

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Para obter mais detalhes sobre as opções de exportação suportadas, visite a página de documentaçãoUltralytics sobre opções de implantação.

Implementação de modelos exportados YOLO11 TFLite Edge TPU

Depois de exportar com sucesso os modelos Ultralytics YOLO11 para o formato TPU do TFLite Edge, agora é possível implantá-los. A primeira etapa principal e recomendada para executar um modelo do TFLite Edge TPU é usar o método YOLO("model_edgetpu.tflite"), conforme descrito no trecho de código de uso anterior.

No entanto, para obter instruções detalhadas sobre a implantação dos modelos do TFLite Edge TPU , consulte os seguintes recursos:

Resumo

Neste guia, aprendemos a exportar modelos Ultralytics YOLO11 para o formato TFLite Edge TPU . Seguindo os passos mencionados acima, pode aumentar a velocidade e a potência das suas aplicações de visão por computador.

Para mais informações sobre a utilização, visite o sítio Web oficial do Edge TPU .

Além disso, para obter mais informações sobre outras integrações do Ultralytics YOLO11 , visite a nossa página de guia de integração. Aí, descobrirá recursos e informações valiosos.

FAQ

Como é que exporto um modelo YOLO11 para o formato TFLite Edge TPU ?

Para exportar um modelo YOLO11 para o formato TFLite Edge TPU , siga estes passos:

Utilização

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Para obter informações completas sobre a exportação de modelos para outros formatos, consulte o nosso guia de exportação.

Quais são as vantagens de exportar modelos YOLO11 para o TFLite Edge TPU?

A exportação de modelos do YOLO11 para o TFLite Edge TPU oferece vários benefícios:

  • Desempenho optimizado: Obtenha um desempenho de rede neural de alta velocidade com um consumo mínimo de energia.
  • Latência reduzida: Processamento local rápido de dados sem a necessidade de dependência da nuvem.
  • Privacidade melhorada: O processamento local mantém os dados do utilizador privados e seguros.

Isto torna-o ideal para aplicações em computação periférica, onde os dispositivos têm potência e recursos computacionais limitados. Saiba mais sobre o motivo pelo qual deve exportar.

Posso implementar os modelos do TFLite Edge TPU em dispositivos móveis e incorporados?

Sim, os modelos do TensorFlow Lite Edge TPU podem ser implementados diretamente em dispositivos móveis e incorporados. Essa abordagem de implantação permite que os modelos sejam executados diretamente no hardware, oferecendo inferências mais rápidas e eficientes. Para exemplos de integração, consulte nosso guia sobre a implantação do Coral Edge TPU no Raspberry Pi.

Quais são alguns casos de uso comuns para os modelos TFLite Edge TPU ?

Casos de uso comuns para os modelos TFLite Edge TPU incluem:

  • Câmaras inteligentes: Melhorar a análise de imagem e vídeo em tempo real.
  • Dispositivos IoT: Possibilitando a automação doméstica e industrial inteligente.
  • Cuidados de saúde: Acelerar a imagiologia e o diagnóstico médicos.
  • Retalho: Melhorar a gestão de stocks e a análise do comportamento dos clientes.

Estas aplicações beneficiam do elevado desempenho e do baixo consumo de energia dos modelos TFLite Edge TPU . Saiba mais sobre os cenários de utilização.

Como posso solucionar problemas ao exportar ou implantar modelos do TFLite Edge TPU ?

Se você encontrar problemas ao exportar ou implantar modelos do TFLite Edge TPU , consulte nosso guia de Problemas comuns para obter dicas de solução de problemas. Este guia abrange problemas e soluções comuns para ajudá-lo a garantir uma operação tranqüila. Para obter suporte adicional, visite nossa Central de Ajuda.

📅C riado há 9 meses ✏️ Atualizado há 2 meses
UltralyticsAssistant glenn-jocher MatthewNoyce RizwanMunawar Burhan-Q abirami-vina

Comentários