Exportação de modelos com Ultralytics YOLO

Introdução

O objetivo final da formação de um modelo é implementá-lo em aplicações do mundo real. O modo de exportação em Ultralytics YOLO11 oferece uma gama versátil de opções para exportar o seu modelo treinado para diferentes formatos, tornando-o implementável em várias plataformas e dispositivos. Este guia completo tem como objetivo guiá-lo através das nuances da exportação de modelos, mostrando como obter a máxima compatibilidade e desempenho.

Ver: Como exportar o modelo Ultralytics YOLO personalizado treinado e executar a inferência em direto na Webcam.

Porquê escolher o modo de exportação do YOLO11?

• Versatilidade: Exportação para vários formatos, incluindo ONNX, TensorRT, CoreML, entre outros.
• Desempenho: Ganhe até 5x mais velocidade em GPU com TensorRT e 3x mais velocidade em CPU com ONNX ou OpenVINO.
• Compatibilidade: Torne o seu modelo universalmente implementável em vários ambientes de hardware e software.
• Facilidade de utilização: CLI simples e Python API para exportação rápida e direta de modelos.

Principais caraterísticas do modo de exportação

Eis algumas das funcionalidades que se destacam:

• Exportação com um clique: Comandos simples para exportar para diferentes formatos.
• Exportação em lote: Exportar modelos com capacidade de inferência em lote.
• Inferência optimizada: Os modelos exportados são optimizados para tempos de inferência mais rápidos.
• Vídeos tutoriais: Guias e tutoriais detalhados para uma experiência de exportação sem problemas.

Exemplos de utilização

Exportar um modelo YOLO11n para um formato diferente, como ONNX ou TensorRT. Ver a secção Argumentos abaixo para obter uma lista completa dos argumentos de exportação.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo11n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom trained model

# Export the model
model.export(format="onnx")

yolo export model=yolo11n.pt format=onnx  # export official model
yolo export model=path/to/best.pt format=onnx  # export custom trained model

Argumentos

Esta tabela detalha as configurações e opções disponíveis para exportar modelos do YOLO para diferentes formatos. Essas configurações são essenciais para otimizar o desempenho, o tamanho e a compatibilidade do modelo exportado em várias plataformas e ambientes. A configuração adequada garante que o modelo esteja pronto para ser implantado na aplicação pretendida com eficiência ideal.

O ajuste desses parâmetros permite a personalização do processo de exportação para atender a requisitos específicos, como ambiente de implantação, restrições de hardware e metas de desempenho. A seleção do formato e das definições adequadas é essencial para obter o melhor equilíbrio entre o tamanho do modelo, a velocidade e a precisão.

Formatos de exportação

Os formatos de exportação disponíveis em YOLO11 encontram-se na tabela abaixo. É possível exportar para qualquer formato utilizando o botão format argumento, ou seja format='onnx' ou format='engine'. É possível prever ou validar diretamente nos modelos exportados, ou seja yolo predict model=yolo11n.onnx. São apresentados exemplos de utilização para o seu modelo após a conclusão da exportação.

FAQ

Como é que exporto um modelo YOLO11 para o formato ONNX ?

A exportação de um modelo YOLO11 para o formato ONNX é simples com Ultralytics. Fornece os métodos Python e CLI para exportar modelos.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo11n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom trained model

# Export the model
model.export(format="onnx")

yolo export model=yolo11n.pt format=onnx  # export official model
yolo export model=path/to/best.pt format=onnx  # export custom trained model

Para obter mais detalhes sobre o processo, incluindo opções avançadas como o tratamento de diferentes tamanhos de entrada, consulte a secçãoONNX .

Quais são as vantagens de utilizar TensorRT para a exportação de modelos?

A utilização de TensorRT para a exportação de modelos oferece melhorias significativas de desempenho. Os modelos YOLO11 exportados para TensorRT podem atingir um aumento de velocidade de até 5x em GPU , tornando-o ideal para aplicações de inferência em tempo real.

• Versatilidade: Otimizar modelos para uma configuração de hardware específica.
• Velocidade: Obtenha uma inferência mais rápida através de optimizações avançadas.
• Compatibilidade: Integra-se sem problemas com o hardware NVIDIA .

Para saber mais sobre a integração de TensorRT, consulte o guia de integração deTensorRT .

Como posso ativar a quantização INT8 ao exportar o meu modelo YOLO11 ?

A quantização INT8 é uma excelente maneira de compactar o modelo e acelerar a inferência, especialmente em dispositivos de borda. Veja como pode ativar a quantização INT8:

from ultralytics import YOLO

model = YOLO("yolo11n.pt")  # Load a model
model.export(format="engine", int8=True)

yolo export model=yolo11n.pt format=engine int8=True   # export TensorRT model with INT8 quantization

A quantização INT8 pode ser aplicada a vários formatos, como TensorRT e CoreML. Para mais informações, consulte a secção Exportação.

Porque é que o tamanho da entrada dinâmica é importante quando se exportam modelos?

O tamanho de entrada dinâmico permite que o modelo exportado lide com dimensões de imagem variáveis, proporcionando flexibilidade e optimizando a eficiência de processamento para diferentes casos de utilização. Ao exportar para formatos como ONNX ou TensorRT, a ativação do tamanho de entrada dinâmico garante que o modelo pode adaptar-se a diferentes formas de entrada sem problemas.

Para ativar esta funcionalidade, utilize a opção dynamic=True durante a exportação:

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="onnx", dynamic=True)

yolo export model=yolo11n.pt format=onnx dynamic=True

Para um contexto adicional, consulte a configuração do tamanho da entrada dinâmica.

Quais são os principais argumentos de exportação a considerar para otimizar o desempenho do modelo?

Compreender e configurar os argumentos de exportação é crucial para otimizar o desempenho do modelo:

• format: O formato de destino para o modelo exportado (por exemplo, onnx, torchscript, tensorflow).
• imgsz: Tamanho de imagem pretendido para a entrada do modelo (por exemplo, 640 ou (height, width)).
• half: Permite a quantização FP16, reduzindo o tamanho do modelo e potencialmente acelerando a inferência.
• optimize: Aplica optimizações específicas para ambientes móveis ou com restrições.
• int8: Permite a quantização INT8, altamente benéfica para implantações de ponta.

Para obter uma lista detalhada e explicações de todos os argumentos de exportação, visite a secção Argumentos de exportação.

📅C riado há 1 ano ✏️ Atualizado há 1 mês

Comentários