Exportação de modelos TFLite para implantação (descontinuado)#

A implantação de modelos de visão computacional em dispositivos edge ou embarcados exige um formato que garanta um desempenho consistente.

O antigo formato de exportação TensorFlow Lite ou TFLite otimizava modelos Ultralytics YOLO26 para tarefas como deteção de objetos e classificação de imagens em aplicações edge. Este guia preserva o contexto de implantação legado do TFLite; usa o LiteRT para novas exportações.

Por que se usava TFLite para exportação?#

Lançado pela Google em maio de 2017 como parte da framework TensorFlow, o TensorFlow Lite, ou TFLite, para abreviar, era uma framework de aprendizagem profunda de código aberto concebida para inferência no dispositivo, também conhecida como computação edge. Oferecia aos programadores ferramentas para executar modelos treinados em dispositivos móveis, embarcados e IoT, bem como em computadores convencionais.

O TensorFlow Lite era compatível com uma ampla gama de plataformas, incluindo Linux embarcado, Android, iOS e microcontroladores (MCUs). As exportações TFLite permitiam que as aplicações executassem modelos localmente e offline.

Principais funcionalidades dos modelos TFLite#

Os modelos TFLite oferecem várias funcionalidades importantes que permitem a aprendizagem automática no dispositivo, ajudando os programadores a executar os modelos em dispositivos móveis, embarcados e edge:

• Otimização no dispositivo: o TFLite otimiza a aprendizagem automática no dispositivo, reduzindo a latência ao processar os dados localmente, reforçando a privacidade ao não transmitir dados pessoais e minimizando o tamanho do modelo para poupar espaço.

• Compatibilidade com várias plataformas: o TFLite oferece ampla compatibilidade com plataformas, incluindo Android, iOS, Linux embarcado e microcontroladores.

• Compatibilidade com diversas linguagens: o TFLite é compatível com várias linguagens de programação, incluindo Java, Swift, Objective-C, C++ e Python.

• Alto desempenho: alcança um desempenho superior por meio da aceleração por hardware e da otimização do modelo.

Desempenho medido (histórico)#

Ambos os formatos foram executados na mesma sequência de testes de GPU, com os tamanhos de entrada indicados. Cada célula mostra o tempo total (pré-processamento + inferência + pós-processamento), com a divisão por etapa abaixo; os registos nativos confirmaram que ambos os formatos delegaram o grafo completo ao LiteRT OpenCL (LITERT_CL) na GPU Adreno.

A mesma execução de migração também comparou formatos de quantização para deteção YOLO26n. A inferência é a métrica comparável, dependente do formato:

Nesta execução, o w8a16 recorreu à CPU, com cerca de 660 ms no total, em comparação com cerca de 17 ms para os formatos de GPU. Estes resultados motivaram a distribuição de w8a32, mas a compatibilidade com delegados e o desempenho dependem do dispositivo e da versão do runtime. Testa o dispositivo de destino e confirma, nos registos do runtime, onde o acelerador está a ser usado.

Opções de implantação no TFLite#

Antes de vermos o exemplo de exportação que substitui o LiteRT, vamos entender como os modelos TFLite são normalmente utilizados.

O TFLite oferece várias opções de implantação de modelos de aprendizagem automática no dispositivo, incluindo:

• Implantação com Android e iOS: as aplicações Android e iOS com TFLite podem analisar imagens de câmaras e dados de sensores captados em dispositivos edge para detetar e identificar objetos. O TFLite também oferece bibliotecas nativas para iOS escritas em Swift e Objective-C. O diagrama de arquitetura abaixo mostra o processo de implantação de um modelo treinado nas plataformas Android e iOS com o TensorFlow Lite.

• Implementação com Linux embarcado: se a execução de inferências numa Raspberry Pi com o guia da Ultralytics não cumprir os requisitos de velocidade do teu caso de uso, podes usar um modelo TFLite exportado para acelerar a inferência. Também é possível melhorar ainda mais o desempenho usando um dispositivo Coral Edge TPU.

• Implantação em microcontroladores: os modelos TFLite também podem ser implantados em microcontroladores e noutros dispositivos com apenas alguns quilobytes de memória. O runtime principal ocupa apenas 16 KB num Arm Cortex M3 e consegue executar muitos modelos básicos. Não requer suporte de sistema operativo, bibliotecas C ou C++ padrão nem alocação dinâmica de memória.

Substituir a exportação TFLite por LiteRT#

Para novas exportações, converte o teu modelo para LiteRT. O modelo resultante mantém a extensão de ficheiro .tflite.

Instalação#

Para instalar os pacotes necessários, executa:

# Install the required package for YOLO26
pip install ultralytics

Para obter instruções detalhadas e boas práticas relacionadas ao processo de instalação, consulte nosso guia de instalação da Ultralytics. Se tiver dificuldades ao instalar os pacotes necessários para YOLO26, consulte nosso guia de problemas comuns para ver soluções e dicas.

Uso#

Todos os modelos Ultralytics YOLO26 foram concebidos para suportar a exportação de origem, o que facilita a integração no fluxo de trabalho de implementação que preferires. Podes consultar a lista completa de formatos de exportação suportados e opções de configuração para escolheres a melhor configuração para a tua aplicação.

O formato LiteRT substituto é compatível com os modos Exportar, Prever e Validar. Exporta o teu modelo e, em seguida, carrega o modelo .tflite exportado para executar inferências ou validar a sua precisão.

from ultralytics import YOLO

# Carrega um modelo YOLO26
model = YOLO("yolo26n.pt")

# Exporte o modelo para o formato LiteRT
model.export(format="litert", imgsz=640)  # usar imgsz=224 para classificação

from ultralytics import YOLO

# Carregar o modelo TFLite exportado
model = YOLO("yolo26n.tflite")

# Executar inferência
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Carregar o modelo TFLite exportado
model = YOLO("yolo26n.tflite")

# Validar a precisão no conjunto de dados COCO8
metrics = model.val(data="coco8.yaml")

Argumentos de exportação#

Para mais detalhes sobre o processo de exportação, visita a página da documentação da Ultralytics sobre exportação.

Implantar modelos YOLO26 TFLite exportados#

Depois de exportares o teu modelo Ultralytics YOLO26 para o formato LiteRT, podes implantar o modelo .tflite resultante. O primeiro passo recomendado para executar um modelo TFLite é usar o método YOLO("model.tflite"), conforme descrito no excerto de código de utilização anterior. No entanto, para instruções detalhadas sobre a implantação dos modelos TFLite noutros contextos, consulta os seguintes recursos:

• Android: um guia de início rápido para integrar o TensorFlow Lite em aplicações Android, com instruções fáceis de seguir para configurar e executar modelos de aprendizagem automática.

• iOS: consulta este guia detalhado para programadores sobre a integração e implantação de modelos TensorFlow Lite em aplicações iOS, com instruções passo a passo e recursos.

• Exemplos de ponta a ponta: esta página apresenta vários exemplos de TensorFlow Lite, com aplicações práticas e tutoriais que ajudam os programadores a implementar o TensorFlow Lite em projetos de aprendizagem automática para dispositivos móveis e edge.

Resumo#

Este guia preserva o fluxo de trabalho legado de implantação do TFLite. Para novas exportações, usa o LiteRT para criar modelos .tflite destinados a ambientes de computação edge.

Para mais detalhes sobre a utilização, consulta a documentação oficial do TFLite.

Além disso, se quiseres conhecer outras integrações da Ultralytics YOLO26, consulta a nossa página do guia de integrações. Vais encontrar lá muitas informações e dicas úteis.

Perguntas frequentes#