Exportação de Modelo YOLO26 para TorchScript para Implantação Rápida

A implementação de modelos de visão computacional em diferentes ambientes, incluindo sistemas embarcados, navegadores da web ou plataformas com suporte limitado a python, requer uma solução flexível e portátil. O TorchScript se concentra na portabilidade e na capacidade de executar modelos em ambientes onde toda a estrutura python não está disponível. Isso o torna ideal para cenários em que você precisa implementar seus recursos de visão computacional em vários dispositivos ou plataformas.

Exporte para TorchScript para serializar seus modelos Ultralytics YOLO26 para compatibilidade multiplataforma e implantação otimizada. Neste guia, mostraremos como exportar seus modelos YOLO26 para o formato TorchScript, facilitando o uso em uma gama mais ampla de aplicações.

Por que você deve exportar para TorchScript?

Desenvolvido pelos criadores do PyTorch, o TorchScript é uma ferramenta poderosa para otimizar e implantar modelos PyTorch em diversas plataformas. Exportar modelos YOLO26 para TorchScript é crucial para a transição da pesquisa para aplicações no mundo real. O TorchScript, parte da estrutura PyTorch, ajuda a tornar essa transição mais suave, permitindo que os modelos PyTorch sejam usados em ambientes que não suportam Python.

O processo envolve duas técnicas: tracing e scripting. Tracing registra operações durante a execução do modelo, enquanto scripting permite a definição de modelos usando um subconjunto de Python. Essas técnicas garantem que modelos como o YOLO26 ainda possam funcionar mesmo fora de seu ambiente Python usual.

Os modelos TorchScript também podem ser otimizados através de técnicas como a fusão de operadores e refinamentos no uso de memória, garantindo uma execução eficiente. Outra vantagem de exportar para TorchScript é o seu potencial para acelerar a execução do modelo em várias plataformas de hardware. Ele cria uma representação autónoma e pronta para produção do seu modelo PyTorch que pode ser integrada em ambientes C++, sistemas embarcados ou implementada em aplicações web ou móveis.

Principais Características dos Modelos TorchScript

TorchScript, uma parte fundamental do ecossistema PyTorch, oferece recursos poderosos para otimizar e implementar modelos de aprendizado profundo.

Aqui estão os principais recursos que tornam o TorchScript uma ferramenta valiosa para desenvolvedores:

• Execução de Gráfico Estático: TorchScript usa uma representação de gráfico estático da computação do modelo, que é diferente da execução de gráfico dinâmico do PyTorch. Na execução de gráfico estático, o gráfico computacional é definido e compilado uma vez antes da execução real, resultando em melhor desempenho durante a inferência.

• Serialização de Modelo: O TorchScript permite que você serialize modelos PyTorch em um formato independente de plataforma. Modelos serializados podem ser carregados sem exigir o código python original, permitindo a implantação em diferentes ambientes de tempo de execução.

• Compilação JIT: TorchScript usa a compilação Just-In-Time (JIT) para converter modelos PyTorch em uma representação intermediária otimizada. O JIT compila o gráfico computacional do modelo, permitindo a execução eficiente em dispositivos de destino.

• Integração entre Linguagens: Com o TorchScript, pode exportar modelos PyTorch para outras linguagens, como C++, Java e JavaScript. Isto facilita a integração de modelos PyTorch em sistemas de software existentes escritos em diferentes linguagens.

• Conversão Gradual: TorchScript fornece uma abordagem de conversão gradual, permitindo que você converta incrementalmente partes do seu modelo PyTorch em TorchScript. Essa flexibilidade é particularmente útil ao lidar com modelos complexos ou quando você deseja otimizar porções específicas do código.

Opções de Implementação em TorchScript

Antes de analisarmos o código para exportar modelos YOLO26 para o formato TorchScript, vamos entender onde os modelos TorchScript são normalmente utilizados.

O TorchScript oferece várias opções de implementação para modelos de aprendizagem automática, tais como:

• API C++: O caso de uso mais comum para TorchScript é sua API C++, que permite carregar e executar modelos TorchScript otimizados diretamente em aplicações C++. Isso é ideal para ambientes de produção onde python pode não ser adequado ou disponível. A API C++ oferece baixo overhead e execução eficiente de modelos TorchScript, maximizando o potencial de desempenho.

• Implementação Móvel: O TorchScript oferece ferramentas para converter modelos em formatos facilmente implementáveis em dispositivos móveis. O PyTorch Mobile fornece um runtime para executar estes modelos dentro de aplicações iOS e Android. Isto permite capacidades de inferência offline e de baixa latência, melhorando a experiência do utilizador e a privacidade de dados.

• Implantação na Nuvem: Os modelos TorchScript podem ser implantados em servidores baseados em nuvem usando soluções como o TorchServe. Ele fornece recursos como versionamento de modelo, loteamento e monitoramento de métricas para implantação escalável em ambientes de produção. A implantação na nuvem com TorchScript pode tornar seus modelos acessíveis por meio de APIs ou outros serviços da web.

Exportar para TorchScript: Convertendo Seu Modelo YOLO26

Exportar modelos YOLO26 para TorchScript facilita o uso em diferentes ambientes e os ajuda a rodar mais rápido e de forma mais eficiente. Isso é ótimo para quem busca usar modelos de deep learning de forma mais eficaz em aplicações do mundo real.

Instalação

Para instalar o pacote necessário, execute:

# Install the required package for YOLO26
pip install ultralytics

Para instruções detalhadas e melhores práticas relacionadas ao processo de instalação, confira nosso guia de Instalação do Ultralytics. Ao instalar os pacotes necessários para o YOLO26, se você encontrar alguma dificuldade, consulte nosso guia de Problemas Comuns para soluções e dicas.

Utilização

Todos os modelos Ultralytics YOLO26 são projetados para suportar a exportação pronta para uso, facilitando a integração deles em seu fluxo de trabalho de deploy preferido. Você pode visualizar a lista completa de formatos de exportação e opções de configuração suportados para escolher a melhor configuração para sua aplicação.

from ultralytics import YOLO

# Load the YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TorchScript format
model.export(format="torchscript")  # creates 'yolo26n.torchscript'

# Load the exported TorchScript model
torchscript_model = YOLO("yolo26n.torchscript")

# Run inference
results = torchscript_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO26n PyTorch model to TorchScript format
yolo export model=yolo26n.pt format=torchscript # creates 'yolo26n.torchscript'

# Run inference with the exported model
yolo predict model=yolo26n.torchscript source='https://ultralytics.com/images/bus.jpg'

Argumentos de Exportação

Para mais detalhes sobre o processo de exportação, visite a página de documentação da Ultralytics sobre exportação.

Implantando Modelos YOLO26 TorchScript Exportados

Após exportar com sucesso seus modelos Ultralytics YOLO26 para o formato TorchScript, você pode agora implantá-los. O primeiro passo principal e recomendado para executar um modelo TorchScript é usar o YOLO("model.torchscript") método, conforme descrito no trecho de código de uso anterior. Para instruções detalhadas sobre a implantação de seus modelos TorchScript em outras configurações, consulte os seguintes recursos:

• Explorar a Implementação Móvel: A Documentação Móvel do PyTorch fornece diretrizes abrangentes para implementar modelos em dispositivos móveis, garantindo que as suas aplicações sejam eficientes e responsivas.

• Domine a Implantação do Lado do Servidor: Aprenda como implantar modelos no lado do servidor com o TorchServe, oferecendo um tutorial passo a passo para um serviço de modelo escalável e eficiente.

• Implementar a Implantação em C++: Explore o Tutorial sobre como Carregar um Modelo TorchScript em C++, facilitando a integração de seus modelos TorchScript em aplicações C++ para desempenho e versatilidade aprimorados.

Resumo

Neste guia, exploramos o processo de exportação de modelos Ultralytics YOLO26 para o formato TorchScript. Seguindo as instruções fornecidas, você pode otimizar os modelos YOLO26 para desempenho e obter a flexibilidade de implantá-los em diversas plataformas e ambientes.

Para obter mais detalhes sobre o uso, visite a documentação oficial do TorchScript.

Além disso, se você quiser saber mais sobre outras integrações do Ultralytics YOLO26, visite nossa página do guia de integração. Você encontrará muitos recursos úteis e insights lá.

FAQ

O que é a exportação de modelo Ultralytics YOLO26 para TorchScript?

Exportar um modelo Ultralytics YOLO26 para TorchScript permite uma implantação flexível e multiplataforma. TorchScript, parte do ecossistema PyTorch, facilita a serialização de modelos, que podem então ser executados em ambientes que não possuem suporte a Python. Isso o torna ideal para implantar modelos em sistemas embarcados, ambientes C++, aplicações móveis e até mesmo navegadores web. A exportação para TorchScript permite um desempenho eficiente e uma aplicabilidade mais ampla de seus modelos YOLO26 em diversas plataformas.

Como posso exportar meu modelo YOLO26 para TorchScript usando Ultralytics?

Para exportar um modelo YOLO26 para TorchScript, você pode usar o seguinte exemplo de código:

from ultralytics import YOLO

# Load the YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TorchScript format
model.export(format="torchscript")  # creates 'yolo26n.torchscript'

# Load the exported TorchScript model
torchscript_model = YOLO("yolo26n.torchscript")

# Run inference
results = torchscript_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO26n PyTorch model to TorchScript format
yolo export model=yolo26n.pt format=torchscript # creates 'yolo26n.torchscript'

# Run inference with the exported model
yolo predict model=yolo26n.torchscript source='https://ultralytics.com/images/bus.jpg'

Para obter mais detalhes sobre o processo de exportação, consulte a documentação da Ultralytics sobre exportação.

Por que devo usar TorchScript para implantar modelos YOLO26?

O uso de TorchScript para implantar modelos YOLO26 oferece diversas vantagens:

• Portabilidade: Os modelos exportados podem ser executados em ambientes sem a necessidade de python, como aplicações C++, sistemas embarcados ou dispositivos móveis.
• Otimização: O TorchScript oferece suporte à execução de grafo estático e à compilação Just-In-Time (JIT), o que pode otimizar o desempenho do modelo.
• Integração entre Linguagens: Os modelos TorchScript podem ser integrados noutras linguagens de programação, aumentando a flexibilidade e a capacidade de expansão.
• Serialização: Os modelos podem ser serializados, permitindo o carregamento e a inferência independentes da plataforma.

Para obter mais informações sobre a implantação, visite a Documentação do PyTorch Mobile, a Documentação do TorchServe e o Guia de Implantação em C++.

Quais são as etapas de instalação para exportar modelos YOLO26 para TorchScript?

Para instalar o pacote necessário para exportar modelos YOLO26, use o seguinte comando:

# Install the required package for YOLO26
pip install ultralytics

Para instruções detalhadas, visite o guia de instalação da Ultralytics. Se surgir algum problema durante a instalação, consulte o guia de problemas comuns.

Como faço para implantar meus modelos YOLO26 exportados para TorchScript?

Após exportar modelos YOLO26 para o formato TorchScript, você pode implantá-los em diversas plataformas:

• API C++: Ideal para ambientes de produção de baixo overhead e altamente eficientes.
• Implementação Móvel: Utilize o PyTorch Mobile para aplicações iOS e Android.
• Implantação na Nuvem: Utilize serviços como o TorchServe para implantação escalável do lado do servidor.

Explore as diretrizes abrangentes para implantar modelos nessas configurações para aproveitar ao máximo os recursos do TorchScript.

📅 Criado há 1 ano ✏️ Atualizado há 4 dias

Comentários