Como exportar para TF GraphDef a partir de YOLOv8 para implementação

Quando implementas modelos de visão computacional de ponta, como YOLOv8, em diferentes ambientes, podes deparar-te com problemas de compatibilidade. O Google TensorFlow GraphDef , ou TF GraphDef , oferece uma solução ao fornecer uma representação serializada e independente de plataforma do seu modelo. Utilizando o formato de modelo TF GraphDef , podes implementar o teu modelo YOLOv8 em ambientes onde o ecossistema TensorFlow completo pode não estar disponível, como dispositivos móveis ou hardware especializado.

Neste guia, vamos mostrar-te, passo a passo, como exportar os teus Ultralytics YOLOv8 modelos para o formato de modelo TF GraphDef . Ao converter o teu modelo, podes simplificar a implementação e utilizar as capacidades de visão por computador do YOLOv8 numa gama mais vasta de aplicações e plataformas.

Por que razão deves exportar para TF GraphDef ?

TF GraphDef é um componente poderoso do ecossistema TensorFlow que foi desenvolvido pela Google. Pode ser utilizado para otimizar e implementar modelos como YOLOv8. Exportar para TF GraphDef permite-nos passar os modelos da investigação para aplicações reais. Permite que os modelos sejam executados em ambientes sem a estrutura TensorFlow completa.

O formato GraphDef representa o modelo como um gráfico de computação serializado. Isto permite várias técnicas de otimização, como a dobragem de constantes, a quantização e as transformações de gráficos. Estas optimizações garantem uma execução eficiente, uma utilização reduzida da memória e velocidades de inferência mais rápidas.

GraphDef podem utilizar aceleradores de hardware, como GPUs, TPUs e chips de IA, desbloqueando ganhos de desempenho significativos para o pipeline de inferência YOLOv8 . O formato TF GraphDef cria um pacote autónomo com o modelo e as suas dependências, simplificando a implementação e a integração em diversos sistemas.

Principais características dos modelos TF GraphDef

TF GraphDef oferece funcionalidades distintas para simplificar a implementação e otimização de modelos.

Vê aqui as suas principais características:

• Serialização de modelos: TF GraphDef fornece uma maneira de serializar e armazenar modelos TensorFlow em um formato independente de plataforma. Essa representação serializada permite carregar e executar seus modelos sem a base de código Python original, facilitando a implantação.

• Otimização de gráficos: TF GraphDef permite a otimização de gráficos computacionais. Essas otimizações podem aumentar o desempenho, simplificando o fluxo de execução, reduzindo redundâncias e adaptando as operações para atender a um hardware específico.

• Flexibilidade de implantação: Os modelos exportados para o formato GraphDef podem ser usados em vários ambientes, incluindo dispositivos com recursos limitados, navegadores da Web e sistemas com hardware especializado. Isto abre possibilidades para uma implementação mais ampla dos teus modelos TensorFlow .

• Foco na produção: GraphDef foi concebido para a implementação na produção. Suporta execução eficiente, recursos de serialização e otimizações que se alinham com casos de uso do mundo real.

Opções de implantação com TF GraphDef

Antes de nos debruçarmos sobre o processo de exportação dos modelos YOLOv8 para TF GraphDef , vamos analisar algumas situações típicas de implementação em que este formato é utilizado.

Eis como podes implementar com TF GraphDef de forma eficiente em várias plataformas.

• TensorFlow Servir: Esta estrutura foi concebida para implementar modelos TensorFlow em ambientes de produção. TensorFlow O Serving oferece gerenciamento de modelos, controle de versão e a infraestrutura para o fornecimento eficiente de modelos em escala. É uma maneira perfeita de integrar seus modelos baseados em GraphDef em serviços Web ou APIs de produção.

• Dispositivos móveis e incorporados: Com ferramentas como TensorFlow Lite, podes converter modelos TF GraphDef em formatos optimizados para smartphones, tablets e vários dispositivos incorporados. Os teus modelos podem então ser utilizados para inferência no dispositivo, onde a execução é feita localmente, proporcionando frequentemente ganhos de desempenho e capacidades offline.

• Navegadores Web: TensorFlow.js permite a implementação de modelos TF GraphDef diretamente nos navegadores Web. Abre caminho para aplicações de deteção de objectos em tempo real executadas no lado do cliente, utilizando as capacidades do YOLOv8 através do JavaScript.

• Hardware especializado: TF A natureza agnóstica da plataforma doGraphDef permite-lhe utilizar hardware personalizado, como aceleradores e TPUs (Tensor Processing Units). Estes dispositivos podem proporcionar vantagens de desempenho para modelos computacionalmente intensivos.

Exportação de modelos YOLOv8 para TF GraphDef

Podes converter o teu modelo de deteção de objectos YOLOv8 para o formato TF GraphDef , que é compatível com vários sistemas, para melhorar o seu desempenho em várias plataformas.

Instalação

Para instalar o pacote necessário, executa:

# Install the required package for YOLOv8
pip install ultralytics

Para obter instruções detalhadas e melhores práticas relacionadas com o processo de instalação, consulta o nosso guia de instalaçãoUltralytics . Durante a instalação dos pacotes necessários para YOLOv8, se tiveres alguma dificuldade, consulta o nosso guia de Problemas comuns para obteres soluções e sugestões.

Utilização

Antes de seguir as instruções de utilização, é importante notar que, embora todos os modelosUltralytics YOLOv8 estejam disponíveis para exportação, podes garantir que o modelo que seleccionaste suporta a funcionalidade de exportação aqui.

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO('yolov8n.pt')

# Export the model to TF GraphDef format
model.export(format='pb')  # creates 'yolov8n.pb'

# Load the exported TF GraphDef model
tf_graphdef_model = YOLO('yolov8n.pb')

# Run inference
results = tf_graphdef_model('https://ultralytics.com/images/bus.jpg')

# Export a YOLOv8n PyTorch model to TF GraphDef format
yolo export model=yolov8n.pt format=pb  # creates 'yolov8n.pb'

# Run inference with the exported model
yolo predict model='yolov8n.pb' source='https://ultralytics.com/images/bus.jpg'

Para obter mais detalhes sobre as opções de exportação suportadas, visita a página de documentaçãoUltralytics sobre opções de implementação.

Implantação de modelos exportados YOLOv8 TF GraphDef

Depois de exportar o modelo YOLOv8 para o formato TF GraphDef , a próxima etapa é a implantação. A primeira etapa principal e recomendada para executar um modelo TF GraphDef é usar o método YOLO("model.pb"), como mostrado anteriormente no trecho de código de uso.

No entanto, para obter mais informações sobre a implementação dos modelos TF GraphDef , consulta os seguintes recursos:

• TensorFlow Servir: Um guia sobre TensorFlow Serving que ensina como implementar e servir modelos de aprendizagem automática de forma eficiente em ambientes de produção.

• TensorFlow Lite: Esta página descreve como converter modelos de aprendizagem automática num formato optimizado para inferência no dispositivo com TensorFlow Lite.

• TensorFlow.js: Um guia sobre conversão de modelos que ensina como converter modelos TensorFlow ou Keras para o formato TensorFlow.js para utilização em aplicações Web.

Resumo

Neste guia, exploramos como exportar modelos Ultralytics YOLOv8 para o formato TF GraphDef . Ao fazer isso, podes implementar de forma flexível os teus modelos YOLOv8 optimizados em diferentes ambientes.

Para mais informações sobre a utilização, visita a documentação oficialTF GraphDef .

Para obter mais informações sobre a integração do Ultralytics YOLOv8 com outras plataformas e estruturas, não te esqueças de consultar a nossa página do guia de integração. Ela tem ótimos recursos e insights para ajudá-lo a aproveitar ao máximo o YOLOv8 em seus projetos.

Comentários