Link to this sectionGuia de Início Rápido: NVIDIA Jetson com Ultralytics YOLO26#

Este guia abrangente oferece um passo a passo detalhado para implantar o Ultralytics YOLO26 em dispositivos NVIDIA Jetson. Além disso, ele apresenta benchmarks de desempenho para demonstrar as capacidades do YOLO26 nesses dispositivos pequenos e poderosos.

Link to this sectionO que é NVIDIA Jetson?#

O NVIDIA Jetson é uma série de placas de computação embarcada projetadas para levar a computação de IA (inteligência artificial) acelerada para dispositivos de borda. Esses dispositivos compactos e potentes são construídos em torno da arquitetura de GPU da NVIDIA e podem executar algoritmos complexos de IA e modelos de deep learning diretamente no dispositivo, sem depender de recursos de cloud computing. As placas Jetson são frequentemente usadas em robótica, veículos autônomos, automação industrial e outras aplicações onde a inferência de IA precisa ser realizada localmente com baixa latência e alta eficiência. Além disso, essas placas são baseadas na arquitetura ARM64 e operam com menor consumo de energia em comparação aos dispositivos tradicionais de computação em GPU.

Link to this sectionComparação da série NVIDIA Jetson#

O NVIDIA Jetson AGX Thor é a iteração mais recente da família NVIDIA Jetson baseada na arquitetura NVIDIA Blackwell, que traz um desempenho de IA drasticamente melhorado em comparação com as gerações anteriores. A tabela abaixo compara alguns dos dispositivos Jetson no ecossistema.

Para uma tabela de comparação mais detalhada, visite a seção Compare Specifications na página oficial do NVIDIA Jetson.

Link to this sectionO que é o NVIDIA JetPack?#

O NVIDIA JetPack SDK, que alimenta os módulos Jetson, é a solução mais abrangente e oferece um ambiente de desenvolvimento completo para criar aplicações de IA aceleradas de ponta a ponta, reduzindo o tempo de lançamento no mercado. O JetPack inclui o Jetson Linux com bootloader, kernel Linux, ambiente de desktop Ubuntu e um conjunto completo de bibliotecas para aceleração de computação em GPU, multimídia, gráficos e computer vision. Ele também inclui exemplos, documentação e ferramentas de desenvolvedor tanto para o computador host quanto para o kit de desenvolvimento, e oferece suporte a SDKs de alto nível como o DeepStream para análise de vídeo em tempo real, Isaac para robótica e Riva para IA conversacional.

Link to this sectionInstalar o JetPack no NVIDIA Jetson#

O primeiro passo após adquirir um dispositivo NVIDIA Jetson é instalar o NVIDIA JetPack no dispositivo. Existem várias formas diferentes de instalar o software em dispositivos NVIDIA Jetson.

1. Se você possui um kit de desenvolvimento oficial da NVIDIA, como o Jetson AGX Thor Developer Kit, você pode fazer download de uma imagem e preparar um pendrive bootável para instalar o JetPack no SSD incluído.
2. Se você possui um kit de desenvolvimento oficial da NVIDIA, como o Jetson Orin Nano Developer Kit, você pode fazer download de uma imagem e preparar um cartão SD com o JetPack para iniciar o dispositivo.
3. Se você possui qualquer outro kit de desenvolvimento da NVIDIA, você pode instalar o JetPack no dispositivo usando o SDK Manager.
4. Se você possui um dispositivo Seeed Studio reComputer J4012, você pode instalar o JetPack no SSD incluído e, se possui um dispositivo Seeed Studio reComputer J1020 v2, você pode instalar o JetPack no eMMC/SSD.
5. Se você possui qualquer outro dispositivo de terceiros alimentado pelo módulo NVIDIA Jetson, recomendamos seguir a instalação via linha de comando.

Link to this sectionSuporte ao JetPack por dispositivo Jetson#

A tabela abaixo destaca as versões do NVIDIA JetPack suportadas por diferentes dispositivos NVIDIA Jetson.

Link to this sectionInício rápido com Docker#

A maneira mais rápida de começar a usar o Ultralytics YOLO26 no NVIDIA Jetson é executar com imagens Docker pré-construídas para Jetson. Consulte a tabela acima e escolha a versão do JetPack de acordo com o dispositivo Jetson que você possui.

t=ultralytics/ultralytics:latest-jetson-jetpack4
sudo docker pull $t && sudo docker run -it --ipc=host --runtime=nvidia $t

Após concluir, pule para a seção Use TensorRT on NVIDIA Jetson.

Link to this sectionComeçar com a instalação nativa#

Para uma instalação nativa sem Docker, consulte as etapas abaixo.

Link to this sectionExecutar no JetPack 7.0#

Link to this sectionInstalar o pacote Ultralytics#

Aqui, instalaremos o pacote Ultralytics no Jetson com dependências opcionais para que possamos exportar os modelos PyTorch para outros formatos diferentes. Focaremos principalmente nas exportações NVIDIA TensorRT, pois o TensorRT garantirá que possamos obter o desempenho máximo dos dispositivos Jetson.

1. Atualizar a lista de pacotes, instalar o pip e atualizar para a versão mais recente

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. Instalar o pacote pip ultralytics com dependências opcionais

   pip install ultralytics[export]

3. Reinicializar o dispositivo

   sudo reboot

Link to this sectionInstalar PyTorch e Torchvision#

A instalação do ultralytics acima instalará o Torch e a Torchvision. No entanto, esses 2 pacotes instalados via pip não são compatíveis para rodar no Jetson AGX Thor, que vem com o JetPack 7.0 e CUDA 13. Portanto, precisamos instalá-los manualmente.

Instalar torch e torchvision de acordo com o JP7.0

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

Link to this sectionInstalar onnxruntime-gpu#

O pacote onnxruntime-gpu hospedado no PyPI não possui binários aarch64 para o Jetson. Por isso, precisamos instalar este pacote manualmente. Este pacote é necessário para algumas das exportações.

Aqui vamos baixar e instalar o onnxruntime-gpu 1.24.0 com suporte a Python3.12.

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.24.0-cp312-cp312-linux_aarch64.whl

Link to this sectionExecute no JetPack 6.1#

Link to this sectionInstalar o pacote Ultralytics#

Aqui, instalaremos o pacote Ultralytics no Jetson com dependências opcionais para que possamos exportar os modelos PyTorch para outros formatos diferentes. Focaremos principalmente nas exportações NVIDIA TensorRT, pois o TensorRT garantirá que possamos obter o desempenho máximo dos dispositivos Jetson.

1. Atualizar a lista de pacotes, instalar o pip e atualizar para a versão mais recente

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. Instalar o pacote pip ultralytics com dependências opcionais

   pip install ultralytics[export]

3. Reinicializar o dispositivo

   sudo reboot

Link to this sectionInstalar PyTorch e Torchvision#

A instalação do Ultralytics acima instalará o Torch e o Torchvision. No entanto, esses dois pacotes instalados via pip não são compatíveis com a plataforma Jetson, que é baseada na arquitetura ARM64. Portanto, precisamos instalar manualmente um wheel PyTorch pré-compilado via pip e compilar ou instalar o Torchvision a partir do código-fonte.

Instale o torch 2.10.0 e o torchvision 0.25.0 de acordo com o JP6.1

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torch-2.10.0-cp310-cp310-linux_aarch64.whl
pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torchvision-0.25.0-cp310-cp310-linux_aarch64.whl

Instale o cuDSS para corrigir um problema de dependência com o torch 2.10.0

wget https://developer.download.nvidia.com/compute/cudss/0.7.1/local_installers/cudss-local-tegra-repo-ubuntu2204-0.7.1_0.7.1-1_arm64.deb
sudo dpkg -i cudss-local-tegra-repo-ubuntu2204-0.7.1_0.7.1-1_arm64.deb
sudo cp /var/cudss-local-tegra-repo-ubuntu2204-0.7.1/cudss-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cudss

Link to this sectionInstalar onnxruntime-gpu#

O pacote onnxruntime-gpu hospedado no PyPI não possui binários aarch64 para o Jetson. Por isso, precisamos instalar este pacote manualmente. Este pacote é necessário para algumas das exportações.

Você pode encontrar todos os pacotes onnxruntime-gpu disponíveis—organizados por versão do JetPack, versão do Python e outros detalhes de compatibilidade—na matriz de compatibilidade do ONNX Runtime do Jetson Zoo.

Para o JetPack 6 com suporte a Python 3.10, você pode instalar o onnxruntime-gpu 1.23.0:

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.23.0-cp310-cp310-linux_aarch64.whl

Alternativamente, para o onnxruntime-gpu 1.20.0:

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.20.0-cp310-cp310-linux_aarch64.whl

Link to this sectionExecute no JetPack 5.1.2#

Link to this sectionInstalar o pacote Ultralytics#

Aqui vamos instalar o pacote Ultralytics no Jetson com dependências opcionais para que possamos exportar os modelos PyTorch para outros formatos diferentes. Focaremos principalmente nas exportações do NVIDIA TensorRT, porque o TensorRT garantirá que possamos obter o desempenho máximo dos dispositivos Jetson.

1. Atualizar a lista de pacotes, instalar o pip e atualizar para a versão mais recente

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. Instalar o pacote pip ultralytics com dependências opcionais

   pip install ultralytics[export]

3. Reinicializar o dispositivo

   sudo reboot

Link to this sectionInstalar PyTorch e Torchvision#

A instalação do Ultralytics acima instalará o Torch e o Torchvision. No entanto, esses dois pacotes instalados via pip não são compatíveis com a plataforma Jetson, que é baseada na arquitetura ARM64. Portanto, precisamos instalar manualmente um wheel PyTorch pré-compilado via pip e compilar ou instalar o Torchvision a partir do código-fonte.

1. Desinstale o PyTorch e o Torchvision instalados atualmente

   pip uninstall torch torchvision

2. Instale o torch 2.1.0 e o torchvision 0.16.2 de acordo com o JP5.1.2

   pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torch-2.1.0a0+41361538.nv23.06-cp38-cp38-linux_aarch64.whl
   pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torchvision-0.16.2+c6f3977-cp38-cp38-linux_aarch64.whl

Link to this sectionInstalar onnxruntime-gpu#

O pacote onnxruntime-gpu hospedado no PyPI não possui binários aarch64 para o Jetson. Por isso, precisamos instalar este pacote manualmente. Este pacote é necessário para algumas das exportações.

Você pode encontrar todos os pacotes onnxruntime-gpu disponíveis—organizados por versão do JetPack, versão do Python e outros detalhes de compatibilidade—na matriz de compatibilidade do ONNX Runtime do Jetson Zoo. Aqui vamos baixar e instalar o onnxruntime-gpu 1.17.0 com suporte a Python3.8.

wget https://nvidia.box.com/shared/static/zostg6agm00fb6t5uisw51qi6kpcuwzd.whl -O onnxruntime_gpu-1.17.0-cp38-cp38-linux_aarch64.whl
pip install onnxruntime_gpu-1.17.0-cp38-cp38-linux_aarch64.whl

Link to this sectionUse o TensorRT no NVIDIA Jetson#

Entre todos os formatos de exportação de modelo suportados pelo Ultralytics, o TensorRT oferece o maior desempenho de inferência em dispositivos NVIDIA Jetson, tornando-o nossa recomendação principal para implantações no Jetson. Para instruções de configuração e uso avançado, veja nosso guia de integração dedicado do TensorRT.

Link to this sectionConverta o modelo para TensorRT e execute a inferência#

O modelo YOLO26n em formato PyTorch é convertido para TensorRT para executar a inferência com o modelo exportado.

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT
model.export(format="engine")  # creates 'yolo26n.engine'

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

Link to this sectionUse o NVIDIA Deep Learning Accelerator (DLA)#

NVIDIA Deep Learning Accelerator (DLA) é um componente de hardware especializado integrado aos dispositivos NVIDIA Jetson que otimiza a inferência de aprendizado profundo para eficiência energética e desempenho. Ao descarregar tarefas da GPU (liberando-a para processos mais intensivos), o DLA permite que os modelos sejam executados com menor consumo de energia enquanto mantêm alto rendimento, ideal para sistemas embarcados e aplicações de IA em tempo real.

Os seguintes dispositivos Jetson estão equipados com hardware DLA:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT with DLA enabled (only works with FP16 or INT8)
model.export(format="engine", device="dla:0", half=True)  # dla:0 or dla:1 corresponds to the DLA cores

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

Link to this sectionBenchmarks do NVIDIA Jetson YOLO11/ YOLO26#

Os benchmarks do YOLO11/ YOLO26 foram executados pela equipe da Ultralytics em 11 formatos de modelo diferentes, medindo velocidade e precisão: PyTorch, TorchScript, ONNX, OpenVINO, TensorRT, TF SavedModel, TF GraphDef, TF Lite, MNN, NCNN, ExecuTorch. Os benchmarks foram executados no NVIDIA Jetson AGX Thor Developer Kit, NVIDIA Jetson AGX Orin Developer Kit (64GB), NVIDIA Jetson Orin Nano Super Developer Kit e no dispositivo Seeed Studio reComputer J4012 equipado com Jetson Orin NX 16GB em precisão FP32 com tamanho de imagem de entrada padrão de 640.

Link to this sectionGráficos de Comparação#

Embora todas as exportações de modelo funcionem no NVIDIA Jetson, incluímos apenas PyTorch, TorchScript, TensorRT no gráfico de comparação abaixo, pois eles fazem uso da GPU no Jetson e garantem os melhores resultados. Todas as outras exportações utilizam apenas a CPU e o desempenho não é tão bom quanto o dos três acima. Você pode encontrar benchmarks para todas as exportações na seção após este gráfico.

Link to this sectionNVIDIA Jetson AGX Thor Developer Kit#

Link to this sectionNVIDIA Jetson AGX Orin Developer Kit (64GB)#

Link to this sectionNVIDIA Jetson Orin Nano Super Developer Kit#

Link to this sectionNVIDIA Jetson Orin NX 16GB#

Link to this sectionTabelas de Comparação Detalhadas#

A tabela abaixo representa os resultados de benchmark para cinco modelos diferentes (YOLO11n, YOLO11s, YOLO11m, YOLO11l, YOLO11x) em 11 formatos diferentes (PyTorch, TorchScript, ONNX, OpenVINO, TensorRT, TF SavedModel, TF GraphDef, TF Lite, MNN, NCNN, ExecuTorch), nos dando o status, tamanho, métrica mAP50-95(B) e tempo de inferência para cada combinação.

Link to this sectionNVIDIA Jetson AGX Thor Developer Kit#

Link to this sectionNVIDIA Jetson AGX Orin Developer Kit (64GB)#

Link to this sectionNVIDIA Jetson Orin Nano Super Developer Kit#

Link to this sectionNVIDIA Jetson Orin NX 16GB#

Explora mais esforços de benchmarking pela Seeed Studio executando em diferentes versões do hardware NVIDIA Jetson.

Link to this sectionReproduza os Nossos Resultados#

Para reproduzir os benchmarks da Ultralytics acima em todos os formatos de exportação, executa este código:

from ultralytics import YOLO

# Load a YOLO11n PyTorch model
model = YOLO("yolo11n.pt")

# Benchmark YOLO11n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml", imgsz=640)

Link to this sectionMelhores Práticas ao utilizar o NVIDIA Jetson#

Ao utilizar o NVIDIA Jetson, existem algumas melhores práticas a seguir para permitir o desempenho máximo no NVIDIA Jetson ao executar o YOLO26.

1. Ativa o Modo de Energia MAX

   Ativar o Modo de Energia MAX no Jetson garantirá que todos os núcleos de CPU e GPU estejam ligados.

   sudo nvpmodel -m 0

2. Ativa os Clocks do Jetson

   Ativar os Clocks do Jetson garantirá que todos os núcleos de CPU e GPU funcionem à sua frequência máxima.

   sudo jetson_clocks

3. Instala a Aplicação Jetson Stats

   Podemos utilizar a aplicação jetson stats para monitorizar as temperaturas dos componentes do sistema e verificar outros detalhes do sistema, como ver a utilização de CPU, GPU, RAM, alterar modos de energia, definir os clocks máximos e verificar informações do JetPack

   sudo apt update
   sudo pip install jetson-stats
   sudo reboot
   jtop

Link to this sectionDicas de Otimização de Memória para NVIDIA Jetson#

A memória disponível é muitas vezes o fator limitante em dispositivos Jetson, particularmente em variantes com menos memória, como o Jetson Orin Nano (8 GB) ou o Orin NX 8 GB. As dicas abaixo são alterações práticas e de baixo risco que podem, coletivamente, libertar várias centenas de megabytes e permitir-te executar modelos YOLO maiores ou suportar cargas de trabalho paralelas adicionais. Para um tratamento abrangente, vê o blog da NVIDIA sobre como maximizar a eficiência da memória no Jetson.

Link to this section1. Muda para Boot Headless (Sem GUI)#

Se o teu Jetson estiver ligado via SSH ou a funcionar como um dispositivo de produção sem um monitor ligado, eliminar o ambiente de trabalho e o servidor de visualização pode recuperar até 865 MB de RAM:

sudo systemctl set-default multi-user.target
sudo reboot

Para restaurar o ambiente de trabalho mais tarde:

sudo systemctl set-default graphical.target
sudo reboot

Link to this section2. Desativa Serviços de Sistema Não Utilizados#

Serviços em segundo plano não essenciais (Bluetooth, gestores de conectividade, daemons de hardware não utilizados) consomem cerca de 32 MB no total. Lista os serviços ativos e desativa tudo o que a tua implementação não necessite:

# List running services
systemctl list-units --type=service --state=running

# Disable a service
sudo systemctl disable SERVICE_NAME

Link to this section3. Perfil de Utilização de Memória#

Antes de otimizar, identifica quais os processos que estão realmente a consumir RAM. O procrank ordena os processos por PSS (Proportional Set Size), que reflete a verdadeira pegada de memória por processo de forma mais precisa do que o RSS (Resident Set Size, o total de páginas de RAM física mapeadas por um processo, incluindo páginas partilhadas com outros processos):

git clone https://github.com/csimmonds/procrank_linux.git
cd procrank_linux && make
sudo ./procrank

Para ver as alocações de GPU e NvMap (pipeline CUDA/vídeo) por processo:

sudo cat /sys/kernel/debug/nvmap/iovmm/clients

Link to this section4. Executa a Inferência Sem Monitor em Produção#

Para pipelines de inferência que não têm requisitos de visualização em tempo real, desativar componentes relacionados com o ecrã (Tiler, OSD, DisplaySink) pode poupar 200+ MB apenas do pipeline. Com a Ultralytics YOLO, suprime o visualizador e escreve os resultados no disco:

from ultralytics import YOLO

model = YOLO("yolo11n.engine")

# show=False prevents any display window; save=True writes annotated output to disk
results = model.predict(source="video.mp4", show=False, save=True)

Link to this sectionImpacto Acumulado#

Combinar estas alterações é especialmente valioso ao direcionar modelos TensorRT INT8 em dispositivos com limitações de memória — pode ser a diferença entre conseguir ou não adaptar uma variante de modelo maior na memória.

Link to this sectionPróximos Passos#

Para mais aprendizado e suporte, consulte a Documentação do Ultralytics YOLO26.

Link to this sectionFAQ#

Link to this sectionComo faço para implantar o Ultralytics YOLO26 em dispositivos NVIDIA Jetson?#

Implantar o Ultralytics YOLO26 em dispositivos NVIDIA Jetson é um processo simples. Primeiro, grave a imagem no seu dispositivo Jetson com o NVIDIA JetPack SDK. Em seguida, use uma imagem Docker pré-construída para uma configuração rápida ou instale manualmente os pacotes necessários. Etapas detalhadas para cada abordagem podem ser encontradas nas seções Início rápido com Docker e Começar com a instalação nativa.

Link to this sectionQuais benchmarks de desempenho posso esperar dos modelos YOLO11 em dispositivos NVIDIA Jetson?#

Os modelos YOLO11 foram testados em vários dispositivos NVIDIA Jetson, mostrando melhorias significativas de desempenho. Por exemplo, o formato TensorRT oferece o melhor desempenho de inferência. A tabela na seção Tabelas de comparação detalhadas fornece uma visão abrangente de métricas de desempenho como mAP50-95 e tempo de inferência entre diferentes formatos de modelo.

Link to this sectionPor que devo usar TensorRT para implantar o YOLO26 no NVIDIA Jetson?#

O TensorRT é altamente recomendado para implantar modelos YOLO26 no NVIDIA Jetson devido ao seu desempenho ideal. Ele acelera a inferência aproveitando os recursos da GPU do Jetson, garantindo máxima eficiência e velocidade. Saiba mais sobre como converter para TensorRT e executar a inferência na seção Use TensorRT no NVIDIA Jetson.

Link to this sectionComo posso instalar PyTorch e Torchvision no NVIDIA Jetson?#

Para instalar o PyTorch e o Torchvision no NVIDIA Jetson, primeiro desinstale quaisquer versões existentes que possam ter sido instaladas via pip. Em seguida, instale manualmente as versões compatíveis do PyTorch e do Torchvision para a arquitetura ARM64 do Jetson. Instruções detalhadas para este processo são fornecidas na seção Instalar PyTorch e Torchvision.

Link to this sectionQuais são as melhores práticas para maximizar o desempenho no NVIDIA Jetson ao usar YOLO26?#

Para maximizar o desempenho no NVIDIA Jetson com o YOLO26, siga estas melhores práticas:

1. Ative o modo MAX Power para utilizar todos os núcleos de CPU e GPU.
2. Ative os Jetson Clocks para executar todos os núcleos em sua frequência máxima.
3. Instale o aplicativo Jetson Stats para monitorar métricas do sistema.

Para comandos e detalhes adicionais, consulte a seção Melhores práticas ao usar o NVIDIA Jetson.

Link to this sectionComo libero memória no NVIDIA Jetson para executar modelos YOLO maiores?#

A RAM disponível costuma ser o gargalo em dispositivos Jetson com menos memória. Três vitórias fáceis que juntas podem recuperar mais de 1 GB:

1. Mude para inicialização sem interface (headless) (sudo systemctl set-default multi-user.target) para eliminar a GUI da área de trabalho (~865 MB economizados).
2. Desative serviços não utilizados, como Bluetooth ou gerenciadores de conectividade (~32 MB economizados).
3. Execute a inferência sem um monitor definindo show=False em sua chamada de predict do YOLO, o que evita a alocação de memória do pipeline de exibição (~200+ MB economizados).

Use procrank para analisar o uso de RAM por processo e sudo cat /sys/kernel/debug/nvmap/iovmm/clients para inspecionar alocações de GPU. Consulte a seção Dicas de otimização de memória para detalhes completos.

Link to this sectionPor que minha exportação TensorRT INT8 desativa o end2end no JetPack 6?#

O TensorRT 10.3.0 fornecido com o JetPack 6 tem um problema conhecido que impede a construção de mecanismos INT8 quando end2end=True está ativado. Quando o Ultralytics detecta essa combinação, ele desativa automaticamente a ramificação end2end para garantir que a exportação seja bem-sucedida.

Para restaurar as exportações INT8 end2end, atualize o TensorRT para uma versão mais recente (por exemplo, 10.7.0+):

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/arm64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt-get update
sudo apt-get install -y tensorrt

Após a atualização, execute novamente a sua exportação. Para mais detalhes, consulte a issue #23841 no GitHub.