Exportação de modelos TFLite para implementação (obsoleta)#

A implementação de modelos de visão computacional em dispositivos edge ou dispositivos incorporados requer um formato que garanta um desempenho fluido.

O antigo formato de exportação TensorFlow Lite ou TFLite otimizava modelos Ultralytics YOLO26 para tarefas como deteção de objetos e classificação de imagens em aplicações edge. Este guia preserva o contexto de implementação do TFLite legado; usa o LiteRT para novas exportações.

Por que motivo o TFLite era usado para exportação?#

Introduzido pela Google em maio de 2017 como parte da sua framework TensorFlow, o TensorFlow Lite, ou TFLite, como é abreviado, era uma framework de deep learning de código aberto concebida para inferência no dispositivo, também conhecida como computação edge. Fornecia aos programadores ferramentas para executar modelos treinados em dispositivos móveis, incorporados e IoT, bem como em computadores tradicionais.

O TensorFlow Lite suportava uma vasta gama de plataformas, incluindo Linux incorporado, Android, iOS e microcontroladores (MCUs). As exportações TFLite permitiam que as aplicações executassem modelos localmente e offline.

Principais funcionalidades dos modelos TFLite#

Os modelos TFLite oferecem uma vasta gama de funcionalidades essenciais que permitem a aprendizagem automática no dispositivo, ajudando os programadores a executar os seus modelos em dispositivos móveis, incorporados e edge:

• Otimização no dispositivo: o TFLite é otimizado para ML no dispositivo, reduzindo a latência ao processar os dados localmente, aumentando a privacidade ao não transmitir dados pessoais e minimizando o tamanho do modelo para poupar espaço.

• Suporte para várias plataformas: o TFLite oferece ampla compatibilidade entre plataformas, com suporte para Android, iOS, Linux incorporado e microcontroladores.

• Suporte para diversas linguagens: o TFLite é compatível com várias linguagens de programação, incluindo Java, Swift, Objective-C, C++ e Python.

• Alto desempenho: alcança um desempenho superior através da aceleração por hardware e da otimização do modelo.

Desempenho medido (histórico)#

Ambos os formatos foram executados na mesma medição consecutiva da GPU, nos tamanhos de entrada apresentados. Cada célula corresponde ao tempo total (pré-processamento + inferência + pós-processamento), com a divisão por etapa abaixo; os registos nativos confirmaram que ambos os formatos delegaram o grafo completo no LiteRT OpenCL (LITERT_CL) na GPU Adreno.

A mesma execução de migração também comparou os formatos de quantização de deteção do YOLO26n. A inferência é a métrica comparável e dependente do formato:

Nesta execução, w8a16 recorreu à CPU, com cerca de 660 ms no total, contra cerca de 17 ms nos formatos de GPU. Estes resultados motivaram o lançamento de w8a32, mas a compatibilidade e o desempenho do delegado dependem do dispositivo e da versão do runtime. Faz um benchmark no dispositivo-alvo e confirma a utilização do acelerador nos registos do runtime.

Opções de implementação no TFLite#

Antes de analisarmos o exemplo de exportação de substituição do LiteRT, vamos compreender como os modelos TFLite são normalmente utilizados.

O TFLite oferece várias opções de implementação no dispositivo para modelos de aprendizagem automática, incluindo:

• Implementação com Android e iOS: tanto as aplicações Android como as iOS com TFLite podem analisar transmissões de câmaras e sensores baseados em edge para detetar e identificar objetos. O TFLite também oferece bibliotecas nativas para iOS escritas em Swift e Objective-C. O diagrama de arquitetura abaixo mostra o processo de implementação de um modelo treinado em plataformas Android e iOS utilizando TensorFlow Lite.

• Implementação com Linux incorporado: se executar inferências num Raspberry Pi utilizando o Guia da Ultralytics não cumprir os requisitos de velocidade do seu caso de utilização, pode utilizar um modelo TFLite exportado para acelerar os tempos de inferência. Além disso, é possível melhorar ainda mais o desempenho utilizando um dispositivo Coral Edge TPU.

• Implementação com microcontroladores: os modelos TFLite também podem ser implementados em microcontroladores e noutros dispositivos com apenas alguns quilobytes de memória. O runtime principal cabe em apenas 16 KB num Arm Cortex M3 e pode executar muitos modelos básicos. Não requer suporte de sistema operativo, bibliotecas C ou C++ padrão, nem alocação dinâmica de memória.

Substituir a exportação TFLite pelo LiteRT#

Para novas exportações, converte o teu modelo para LiteRT. O modelo resultante mantém a extensão de ficheiro .tflite.

Instalação#

Para instalares os pacotes necessários, executa:

# Install the required package for YOLO26
pip install ultralytics

Para obter instruções detalhadas e boas práticas relacionadas com o processo de instalação, consulte o nosso guia de instalação do Ultralytics. Ao instalar os pacotes necessários para YOLO26, se encontrar alguma dificuldade, consulte o nosso guia de problemas comuns para obter soluções e dicas.

Utilização#

Todos os modelos Ultralytics YOLO26 foram concebidos para suportar a exportação imediatamente, facilitando a sua integração no teu fluxo de trabalho de implementação preferido. Podes consultar a lista completa de formatos de exportação e opções de configuração compatíveis para escolher a melhor configuração para a tua aplicação.

O formato LiteRT de substituição suporta os modos Exportar, Prever e Validar. Exporta o teu modelo e, em seguida, carrega o modelo .tflite exportado para executar inferência ou validar a sua precisão.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to LiteRT format
model.export(format="litert", imgsz=640)  # use imgsz=224 for classification

from ultralytics import YOLO

# Load the exported TFLite model
model = YOLO("yolo26n.tflite")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported TFLite model
model = YOLO("yolo26n.tflite")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Argumentos de Exportação#

Para obter mais detalhes sobre o processo de exportação, visita a página da documentação da Ultralytics sobre exportação.

Implementação de modelos YOLO26 TFLite exportados#

Depois de exportares o teu modelo Ultralytics YOLO26 para o formato LiteRT, podes implementar o modelo .tflite resultante. O primeiro passo principal e recomendado para executar um modelo TFLite é utilizar o método YOLO("model.tflite"), conforme descrito no fragmento de código de utilização anterior. No entanto, para obter instruções detalhadas sobre a implementação dos teus modelos TFLite noutros contextos, consulta os seguintes recursos:

• Android: um guia de início rápido para integrar o TensorFlow Lite em aplicações Android, com passos fáceis de seguir para configurar e executar modelos de aprendizagem automática.

• iOS: consulta este guia detalhado para programadores sobre a integração e implementação de modelos TensorFlow Lite em aplicações iOS, com instruções passo a passo e recursos.

• Exemplos de ponta a ponta: esta página apresenta uma visão geral de vários exemplos do TensorFlow Lite, demonstrando aplicações práticas e tutoriais concebidos para ajudar os programadores a implementar o TensorFlow Lite nos seus projetos de aprendizagem automática em dispositivos móveis e edge.

Resumo#

Este guia preserva o fluxo de trabalho de implementação do TFLite legado. Para novas exportações, utiliza o LiteRT para criar modelos .tflite destinados a ambientes de computação edge.

Para obter mais informações sobre a utilização, visita a documentação oficial do TFLite.

Além disso, se tiveres curiosidade sobre outras integrações do Ultralytics YOLO26, consulta a nossa página do guia de integrações. Encontrarás aí muitas informações e conhecimentos úteis.

Perguntas frequentes#