Exportação do modelo YOLO26 para TorchScript para implantação rápida

A implantação de modelos de visão computacional em diferentes ambientes, incluindo sistemas embarcados, navegadores web ou plataformas com suporte limitado a Python, exige uma solução flexível e portátil. O TorchScript foca na portabilidade e na capacidade de executar modelos em ambientes onde todo o framework Python não está disponível. Isso o torna ideal para cenários onde você precisa implantar suas capacidades de visão computacional em vários dispositivos ou plataformas.

Exporte para TorchScript para serializar seus modelos Ultralytics YOLO26 para compatibilidade entre plataformas e uma implantação simplificada. Neste guia, mostraremos como exportar seus modelos YOLO26 para o formato TorchScript, facilitando o uso deles em uma gama mais ampla de aplicações.

Por que você deve exportar para TorchScript?

Desenvolvido pelos criadores do PyTorch, o TorchScript é uma ferramenta poderosa para otimizar e implantar modelos PyTorch em uma variedade de plataformas. Exportar modelos YOLO26 para TorchScript é crucial para migrar da pesquisa para aplicações do mundo real. O TorchScript, parte do framework PyTorch, ajuda a tornar essa transição mais suave, permitindo que modelos PyTorch sejam usados em ambientes que não suportam Python.

O processo envolve duas técnicas: tracing e scripting. O tracing registra operações durante a execução do modelo, enquanto o scripting permite a definição de modelos usando um subconjunto de Python. Essas técnicas garantem que modelos como o YOLO26 ainda possam realizar sua mágica mesmo fora do seu ambiente Python habitual.

Modelos TorchScript também podem ser otimizados através de técnicas como fusão de operadores e refinamentos no uso de memória, garantindo uma execução eficiente. Outra vantagem de exportar para TorchScript é seu potencial para acelerar a execução do modelo em várias plataformas de hardware. Ele cria uma representação independente e pronta para produção do seu modelo PyTorch que pode ser integrada em ambientes C++, sistemas embarcados ou implantada em aplicações web ou móveis.

Principais recursos dos modelos TorchScript

O TorchScript, uma parte fundamental do ecossistema PyTorch, oferece recursos poderosos para otimizar e implantar modelos de deep learning.

Aqui estão os principais recursos que tornam o TorchScript uma ferramenta valiosa para desenvolvedores:

• Execução de Grafo Estático: O TorchScript usa uma representação de grafo estático da computação do modelo, o que é diferente da execução de grafo dinâmico do PyTorch. Na execução de grafo estático, o grafo computacional é definido e compilado uma vez antes da execução real, resultando em desempenho aprimorado durante a inferência.

• Serialização de Modelo: O TorchScript permite serializar modelos PyTorch em um formato independente de plataforma. Modelos serializados podem ser carregados sem a necessidade do código Python original, permitindo a implantação em diferentes ambientes de tempo de execução.

• Compilação JIT: O TorchScript usa compilação Just-In-Time (JIT) para converter modelos PyTorch em uma representação intermediária otimizada. O JIT compila o grafo computacional do modelo, permitindo uma execução eficiente em dispositivos de destino.

• Integração entre Linguagens: Com o TorchScript, você pode exportar modelos PyTorch para outras linguagens como C++, Java e JavaScript. Isso facilita a integração de modelos PyTorch em sistemas de software existentes escritos em linguagens diferentes.

• Conversão Gradual: O TorchScript oferece uma abordagem de conversão gradual, permitindo que você converta incrementalmente partes do seu modelo PyTorch para TorchScript. Essa flexibilidade é particularmente útil ao lidar com modelos complexos ou quando você deseja otimizar partes específicas do código.

Opções de implantação no TorchScript

Antes de analisarmos o código para exportar modelos YOLO26 para o formato TorchScript, vamos entender onde os modelos TorchScript são normalmente usados.

O TorchScript oferece várias opções de implantação para modelos de machine learning, como:

• API C++: O caso de uso mais comum para o TorchScript é sua API C++, que permite carregar e executar modelos TorchScript otimizados diretamente dentro de aplicações C++. Isso é ideal para ambientes de produção onde o Python pode não ser adequado ou disponível. A API C++ oferece execução de baixa sobrecarga e eficiente dos modelos TorchScript, maximizando o potencial de desempenho.

• Implantação Móvel: O TorchScript oferece ferramentas para converter modelos em formatos facilmente implantáveis em dispositivos móveis. O PyTorch Mobile fornece um runtime para executar esses modelos dentro de aplicativos iOS e Android. Isso permite recursos de inferência offline e de baixa latência, melhorando a experiência do usuário e a privacidade de dados.

• Implantação na Nuvem: Modelos TorchScript podem ser implantados em servidores baseados em nuvem usando soluções como o TorchServe. Ele oferece recursos como versionamento de modelo, processamento em lote e monitoramento de métricas para implantação escalável em ambientes de produção. A implantação na nuvem com o TorchScript pode tornar seus modelos acessíveis via APIs ou outros serviços web.

Exportar para TorchScript: Convertendo seu modelo YOLO26

Exportar modelos YOLO26 para TorchScript torna mais fácil usá-los em lugares diferentes e ajuda-os a rodar mais rápido e de forma mais eficiente. Isso é excelente para qualquer pessoa que queira usar modelos de deep learning de forma mais eficaz em aplicações do mundo real.

Instalação

Para instalar o pacote necessário, execute:

# Install the required package for YOLO26
pip install ultralytics

Para instruções detalhadas e práticas recomendadas relacionadas ao processo de instalação, consulte nosso guia de instalação da Ultralytics. Ao instalar os pacotes necessários para o YOLO26, se você encontrar alguma dificuldade, consulte nosso guia de problemas comuns para obter soluções e dicas.

Utilização

Todos os modelos Ultralytics YOLO26 foram concebidos para suportar a exportação imediata, facilitando a sua integração no teu fluxo de trabalho de implementação preferido. Podes ver a lista completa de formatos de exportação suportados e opções de configuração para escolheres a melhor configuração para a tua aplicação.

from ultralytics import YOLO

# Load the YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TorchScript format
model.export(format="torchscript")  # creates 'yolo26n.torchscript'

# Load the exported TorchScript model
torchscript_model = YOLO("yolo26n.torchscript")

# Run inference
results = torchscript_model("https://ultralytics.com/images/bus.jpg")

Argumentos de Exportação

Para mais detalhes sobre o processo de exportação, visite a página de documentação da Ultralytics sobre exportação.

Implantando modelos YOLO26 TorchScript exportados

Após exportar com sucesso seus modelos Ultralytics YOLO26 para o formato TorchScript, você já pode implantá-los. O primeiro passo principal e recomendado para executar um modelo TorchScript é usar o método YOLO("model.torchscript"), conforme descrito no snippet de código de uso anterior. Para instruções detalhadas sobre como implantar seus modelos TorchScript em outros ambientes, confira os seguintes recursos:

• Explorar Implantação Móvel: A documentação do PyTorch Mobile fornece diretrizes abrangentes para a implantação de modelos em dispositivos móveis, garantindo que seus aplicativos sejam eficientes e responsivos.

• Dominar a Implantação no Lado do Servidor: Aprenda como implantar modelos no lado do servidor com o TorchServe, oferecendo um tutorial passo a passo para um serviço de modelos escalável e eficiente.

• Implementar Implantação em C++: Mergulhe no tutorial sobre como carregar um modelo TorchScript em C++, facilitando a integração de seus modelos TorchScript em aplicações C++ para maior desempenho e versatilidade.

Resumo

Neste guia, exploramos o processo de exportação de modelos Ultralytics YOLO26 para o formato TorchScript. Ao seguir as instruções fornecidas, você pode otimizar modelos YOLO26 para desempenho e ganhar a flexibilidade de implantá-los em várias plataformas e ambientes.

Para mais detalhes sobre o uso, visite a documentação oficial do TorchScript.

Além disso, se você quiser saber mais sobre outras integrações do Ultralytics YOLO26, visite nossa página de guia de integração. Você encontrará muitos recursos úteis e insights lá.

FAQ

O que é a exportação do modelo Ultralytics YOLO26 para TorchScript?

Exportar um modelo Ultralytics YOLO26 para TorchScript permite uma implantação flexível e entre plataformas. O TorchScript, parte do ecossistema PyTorch, facilita a serialização de modelos, que podem então ser executados em ambientes que carecem de suporte a Python. Isso o torna ideal para implantar modelos em sistemas embarcados, ambientes C++, aplicativos móveis e até navegadores web. Exportar para TorchScript possibilita um desempenho eficiente e maior aplicabilidade de seus modelos YOLO26 em diversas plataformas.

Como posso exportar meu modelo YOLO26 para TorchScript usando a Ultralytics?

Para exportar um modelo YOLO26 para TorchScript, você pode usar o seguinte código de exemplo:

from ultralytics import YOLO

# Load the YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TorchScript format
model.export(format="torchscript")  # creates 'yolo26n.torchscript'

# Load the exported TorchScript model
torchscript_model = YOLO("yolo26n.torchscript")

# Run inference
results = torchscript_model("https://ultralytics.com/images/bus.jpg")

Para mais detalhes sobre o processo de exportação, consulte a documentação da Ultralytics sobre exportação.

Por que devo usar TorchScript para implantar modelos YOLO26?

Usar o TorchScript para implantar modelos YOLO26 oferece várias vantagens:

• Portabilidade: Modelos exportados podem rodar em ambientes sem a necessidade de Python, como aplicativos C++, sistemas embarcados ou dispositivos móveis.
• Otimização: O TorchScript suporta execução de grafo estático e compilação Just-In-Time (JIT), o que pode otimizar o desempenho do modelo.
• Integração entre Linguagens: Modelos TorchScript podem ser integrados em outras linguagens de programação, aumentando a flexibilidade e a expansibilidade.
• Serialização: Modelos podem ser serializados, permitindo o carregamento e a inferência independentes de plataforma.

Para mais insights sobre implantação, visite a documentação do PyTorch Mobile, documentação do TorchServe e o Guia de Implantação em C++.

Quais são os passos de instalação para exportar modelos YOLO26 para TorchScript?

Para instalar o pacote necessário para exportar modelos YOLO26, use o seguinte comando:

# Install the required package for YOLO26
pip install ultralytics

Para instruções detalhadas, visite o guia de instalação da Ultralytics. Se surgir algum problema durante a instalação, consulte o guia de Problemas Comuns.

Como implanto meus modelos TorchScript YOLO26 exportados?

Após exportar os modelos YOLO26 para o formato TorchScript, você pode implantá-los em uma variedade de plataformas:

• API C++: Ideal para ambientes de produção de baixa sobrecarga e altamente eficientes.
• Implantação Móvel: Use PyTorch Mobile para aplicativos iOS e Android.
• Implantação na Nuvem: Utilize serviços como TorchServe para implantação escalável no lado do servidor.

Explore diretrizes abrangentes para implantar modelos nesses ambientes para aproveitar ao máximo os recursos do TorchScript.