Guia de início rápido: NVIDIA Jetson com Ultralytics YOLO26#

Este guia abrangente apresenta instruções detalhadas para implementar o Ultralytics YOLO26 em dispositivos NVIDIA Jetson. Além disso, inclui testes de desempenho que demonstram as capacidades do YOLO26 nestes dispositivos pequenos e potentes.

O que é o NVIDIA Jetson?#

NVIDIA Jetson é uma série de placas de computação incorporada concebidas para levar a computação acelerada de IA (inteligência artificial) a dispositivos de edge. Estes dispositivos compactos e potentes são construídos com base na arquitetura de GPU da NVIDIA e conseguem executar algoritmos complexos de IA e modelos de aprendizagem profunda diretamente no dispositivo, sem depender de recursos de computação na nuvem. As placas Jetson são frequentemente utilizadas em robótica, veículos autónomos, automação industrial e outras aplicações em que a inferência de IA tem de ser executada localmente, com baixa latência e elevada eficiência. Além disso, estas placas baseiam-se na arquitetura ARM64 e consomem menos energia do que os dispositivos tradicionais de computação com GPU.

Comparação das séries NVIDIA Jetson#

O NVIDIA Jetson AGX Thor é a mais recente geração da família NVIDIA Jetson, baseada na arquitetura NVIDIA Blackwell, que proporciona um desempenho de IA muito superior ao das gerações anteriores. A tabela abaixo compara alguns dos dispositivos Jetson do ecossistema.

Para ver uma tabela comparativa mais detalhada, visita a secção Compare Specifications da página oficial da NVIDIA Jetson.

O que é o NVIDIA JetPack?#

O NVIDIA JetPack SDK, que alimenta os módulos Jetson, é a solução mais abrangente e disponibiliza um ambiente de desenvolvimento completo para criar aplicações de IA aceleradas de ponta a ponta, reduzindo o tempo de chegada ao mercado. O JetPack inclui o Jetson Linux com carregador de arranque, kernel Linux, ambiente de desktop Ubuntu e um conjunto completo de bibliotecas para aceleração de computação GPU, multimédia, gráficos e visão computacional. Também inclui exemplos, documentação e ferramentas de desenvolvimento para o computador anfitrião e o kit de desenvolvimento, além de suportar SDKs de nível superior, como o DeepStream para análise de vídeo em streaming, o Isaac para robótica e o Riva para IA conversacional.

Instalar o JetPack na NVIDIA Jetson#

O primeiro passo depois de obteres um dispositivo NVIDIA Jetson é instalar o NVIDIA JetPack no dispositivo. Existem várias formas diferentes de instalar o JetPack em dispositivos NVIDIA Jetson.

1. Para o JetPack 7.2 num kit de desenvolvimento oficial Jetson AGX Thor, AGX Orin ou Orin Nano, transfere a ISO unificada do Jetson, grava-a numa unidade USB e segue o guia de início rápido específico do dispositivo para AGX Thor, AGX Orin ou Orin Nano. A partir do JetPack 7.2, o Orin Nano já não utiliza uma imagem transferível para cartão SD; a instalação da ISO por USB instala o Jetson Linux no cartão microSD ou SSD NVMe do dispositivo.
2. Se optares intencionalmente por usar o JetPack 6 num kit de desenvolvimento Jetson Orin Nano, segue as instruções da NVIDIA para atualizar o JetPack 6.x e usar o cartão SD.
3. Se tiveres qualquer outro kit de desenvolvimento NVIDIA, podes instalar o JetPack no dispositivo com o SDK Manager.
4. Se tiveres um dispositivo Seeed Studio reComputer J4012, podes instalar o JetPack no SSD incluído; se tiveres um dispositivo Seeed Studio reComputer J1020 v2, podes instalar o JetPack na eMMC/ SSD.
5. Se tiveres qualquer outro dispositivo de terceiros equipado com um módulo NVIDIA Jetson, recomenda-se que sigas as instruções de instalação pela linha de comandos.

Suporte do JetPack por dispositivo Jetson#

A tabela abaixo destaca as versões do NVIDIA JetPack suportadas pelos diferentes dispositivos NVIDIA Jetson.

Início rápido com Docker#

A forma mais rápida de começar a usar o Ultralytics YOLO26 na NVIDIA Jetson é executar imagens Docker pré-compiladas para Jetson. Consulta a tabela acima e escolhe a versão do JetPack de acordo com o dispositivo Jetson que tens.

t=ultralytics/ultralytics:latest-jetson-jetpack4
sudo docker pull $t && sudo docker run -it --ipc=host --runtime=nvidia $t

Para imagens do JetPack 4, 5 e 6, continua para Utilizar o TensorRT na NVIDIA Jetson. A imagem do JetPack 7.1 acima destina-se apenas a cargas de trabalho PyTorch.

Começar com a instalação nativa#

Para uma instalação nativa sem Docker, consulta os passos abaixo.

Executar no JetPack 7.2#

Instalar o pacote Ultralytics#

Aqui vamos instalar o pacote Ultralytics na Jetson. As dependências de exportação são instaladas automaticamente na primeira vez que exportas um modelo, por isso, aqui só é necessário instalar o pacote base. Vamos concentrar-nos sobretudo nas exportações NVIDIA TensorRT, porque o TensorRT permite obter o máximo desempenho dos dispositivos Jetson.

1. Atualizar a lista de pacotes, instalar o pip e atualizá-lo para a versão mais recente

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. Instalar o pacote pip ultralytics

   pip install ultralytics

3. Reiniciar o dispositivo

   sudo reboot

Instalar o PyTorch e o Torchvision#

A instalação do Ultralytics acima instala o Torch e o Torchvision. No entanto, estes dois pacotes instalados através do pip não são compatíveis com dispositivos JetPack 7.2 que utilizam CUDA 13. Por isso, temos de os instalar manualmente.

Instalar torch e torchvision de acordo com o JP7.2

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

Instalar onnxruntime-gpu#

Utiliza uma wheel de ONNX Runtime GPU compatível com as versões do JetPack, Python e CUDA. As versões atuais no PyPI incluem wheels ARM64, mas não substituem os pacotes específicos do dispositivo em todas as versões do JetPack.

Aqui vamos transferir e instalar onnxruntime-gpu 1.24.0 com suporte para Python3.12.

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.24.0-cp312-cp312-linux_aarch64.whl

Executar no JetPack 6.1#

Instalar o pacote Ultralytics#

Aqui vamos instalar o pacote Ultralytics na Jetson. As dependências de exportação são instaladas automaticamente na primeira vez que exportas um modelo, por isso, aqui só é necessário instalar o pacote base. Vamos concentrar-nos sobretudo nas exportações NVIDIA TensorRT, porque o TensorRT permite obter o máximo desempenho dos dispositivos Jetson.

1. Atualizar a lista de pacotes, instalar o pip e atualizá-lo para a versão mais recente

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. Instalar o pacote pip ultralytics

   pip install ultralytics

3. Reiniciar o dispositivo

   sudo reboot

Instalar o PyTorch e o Torchvision#

A instalação do Ultralytics acima instala o Torch e o Torchvision. No entanto, estes dois pacotes instalados através do pip não são compatíveis com a plataforma Jetson, baseada na arquitetura ARM64. Por isso, temos de instalar manualmente uma wheel pip pré-compilada do PyTorch e compilar o Torchvision a partir do código-fonte ou instalá-lo a partir do código-fonte.

Instalar torch 2.10.0 e torchvision 0.25.0 de acordo com o JP6.1

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torch-2.10.0-cp310-cp310-linux_aarch64.whl
pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torchvision-0.25.0-cp310-cp310-linux_aarch64.whl

Instala cuDSS para corrigir um problema de dependências com torch 2.10.0

wget https://developer.download.nvidia.com/compute/cudss/0.7.1/local_installers/cudss-local-tegra-repo-ubuntu2204-0.7.1_0.7.1-1_arm64.deb
sudo dpkg -i cudss-local-tegra-repo-ubuntu2204-0.7.1_0.7.1-1_arm64.deb
sudo cp /var/cudss-local-tegra-repo-ubuntu2204-0.7.1/cudss-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cudss

Instalar onnxruntime-gpu#

Utiliza uma wheel de ONNX Runtime GPU compatível com as versões do JetPack, Python e CUDA. As versões atuais no PyPI incluem wheels ARM64, mas não substituem os pacotes específicos do dispositivo em todas as versões do JetPack.

Podes encontrar todos os pacotes onnxruntime-gpu disponíveis — organizados por versão do JetPack, versão do Python e outros detalhes de compatibilidade — na matriz de compatibilidade do ONNX Runtime do Jetson Zoo.

Para o JetPack 6 com suporte para Python 3.10, podes instalar onnxruntime-gpu 1.23.0:

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.23.0-cp310-cp310-linux_aarch64.whl

Em alternativa, para onnxruntime-gpu 1.20.0:

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.20.0-cp310-cp310-linux_aarch64.whl

Executar no JetPack 5.1.2#

Instalar o pacote Ultralytics#

Aqui vamos instalar o pacote Ultralytics na Jetson. As dependências de exportação são instaladas automaticamente na primeira vez que exportas um modelo, por isso, aqui só é necessário instalar o pacote base. Vamos concentrar-nos sobretudo nas exportações NVIDIA TensorRT, porque o TensorRT permite obter o máximo desempenho dos dispositivos Jetson.

1. Atualizar a lista de pacotes, instalar o pip e atualizá-lo para a versão mais recente

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. Instalar o pacote pip ultralytics

   pip install ultralytics

3. Reiniciar o dispositivo

   sudo reboot

Instalar o PyTorch e o Torchvision#

A instalação do Ultralytics acima instala o Torch e o Torchvision. No entanto, estes dois pacotes instalados através do pip não são compatíveis com a plataforma Jetson, baseada na arquitetura ARM64. Por isso, temos de instalar manualmente uma wheel pip pré-compilada do PyTorch e compilar o Torchvision a partir do código-fonte ou instalá-lo a partir do código-fonte.

1. Desinstalar o PyTorch e o Torchvision atualmente instalados

   pip uninstall torch torchvision

2. Instalar torch 2.1.0 e torchvision 0.16.2 de acordo com o JP5.1.2

   pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torch-2.1.0a0+41361538.nv23.06-cp38-cp38-linux_aarch64.whl
   pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torchvision-0.16.2+c6f3977-cp38-cp38-linux_aarch64.whl

Instalar onnxruntime-gpu#

Utiliza uma wheel de ONNX Runtime GPU compatível com as versões do JetPack, Python e CUDA. As versões atuais no PyPI incluem wheels ARM64, mas não substituem os pacotes específicos do dispositivo em todas as versões do JetPack.

Podes encontrar todos os pacotes onnxruntime-gpu disponíveis — organizados por versão do JetPack, versão do Python e outros detalhes de compatibilidade — na matriz de compatibilidade do ONNX Runtime do Jetson Zoo. Aqui vamos transferir e instalar onnxruntime-gpu 1.17.0 com suporte para Python3.8.

wget https://nvidia.box.com/shared/static/zostg6agm00fb6t5uisw51qi6kpcuwzd.whl -O onnxruntime_gpu-1.17.0-cp38-cp38-linux_aarch64.whl
pip install onnxruntime_gpu-1.17.0-cp38-cp38-linux_aarch64.whl

Utilizar o TensorRT na NVIDIA Jetson#

Entre todos os formatos de exportação de modelos suportados pelo Ultralytics, o TensorRT oferece o melhor desempenho de inferência nos dispositivos NVIDIA Jetson, sendo a nossa principal recomendação para implementações em Jetson. Antes de exportar, instala os bindings Python do TensorRT fornecidos para a tua versão do JetPack e verifica-os com python3 -c "import tensorrt; print(tensorrt.__version__)". Mantém o runtime TensorRT 10.x suportado no JetPack 6/7; não o substituas pelo TensorRT 11.2.1. Para instruções de configuração e utilização avançada, consulta o nosso guia dedicado à integração do TensorRT.

Também podes exportar a partir do browser sem configurar localmente o ambiente de compilação. No separador Export do modelo na Ultralytics Platform, seleciona TensorRT e o dispositivo Jetson de destino. As seleções Thor são validadas em hardware Thor físico. As seis seleções Orin geram atualmente engines candidatos compilados para AGX-Orin; valida-os no modelo Orin pretendido antes da implementação.

Converter o modelo para TensorRT e executar a inferência#

O modelo YOLO26n no formato PyTorch é convertido para TensorRT para executar a inferência com o modelo exportado.

from ultralytics import YOLO

# Carregar um modelo YOLO26n PyTorch
model = YOLO("yolo26n.pt")

# Exportar o modelo para TensorRT
model.export(format="engine")  # cria 'yolo26n.engine'

# Carregar o modelo TensorRT exportado
trt_model = YOLO("yolo26n.engine")

# Executar inferência
results = trt_model("https://ultralytics.com/images/bus.jpg")

Utilizar o NVIDIA Deep Learning Accelerator (DLA)#

O NVIDIA Deep Learning Accelerator (DLA) é um componente de hardware especializado integrado nos dispositivos NVIDIA Jetson que otimiza a inferência de aprendizagem profunda para eficiência energética e desempenho. Ao transferir tarefas da GPU (libertando-a para processos mais exigentes), o DLA permite executar modelos com menor consumo de energia e, ao mesmo tempo, manter um elevado débito, algo ideal para sistemas integrados e aplicações de IA em tempo real.

Os seguintes dispositivos Jetson estão equipados com hardware DLA:

from ultralytics import YOLO

# Carregar um modelo YOLO26n PyTorch
model = YOLO("yolo26n.pt")

# Exportar o modelo para TensorRT com DLA ativado (só funciona com FP16 ou INT8)
model.export(format="engine", device="dla:0", quantize=16)  # dla:0 ou dla:1 corresponde aos núcleos DLA

# Carregar o modelo TensorRT exportado
trt_model = YOLO("yolo26n.engine")

# Executar inferência
results = trt_model("https://ultralytics.com/images/bus.jpg")

Benchmarks do NVIDIA Jetson com YOLO26#

A equipa Ultralytics executou benchmarks do YOLO26 em 11 formatos de modelo diferentes, medindo a velocidade e a precisão: PyTorch, TorchScript, ONNX, OpenVINO, TensorRT, TF SavedModel, TF GraphDef, TF Lite, MNN, NCNN e ExecuTorch. Os benchmarks foram executados no kit de desenvolvimento NVIDIA Jetson AGX Thor, no kit de desenvolvimento NVIDIA Jetson AGX Orin (64GB), no kit de desenvolvimento NVIDIA Jetson Orin Nano Super e no Seeed Studio reComputer J4012 equipado com um dispositivo Jetson Orin NX 16GB, com precisão FP32 e um tamanho de imagem de entrada predefinido de 640.

Gráficos comparativos#

Embora todas as exportações de modelos funcionem na NVIDIA Jetson, incluímos apenas PyTorch, TorchScript, TensorRT no gráfico comparativo abaixo, porque utilizam a GPU da Jetson e garantem os melhores resultados. Todas as outras exportações utilizam apenas a CPU e têm um desempenho inferior ao dos três formatos acima. Podes encontrar os benchmarks de todas as exportações na secção após este gráfico.

Kit de desenvolvimento NVIDIA Jetson AGX Thor#

Kit de desenvolvimento NVIDIA Jetson AGX Orin (64GB)#

Kit de desenvolvimento NVIDIA Jetson Orin Nano Super#

NVIDIA Jetson Orin NX 16GB#

Tabelas de comparação detalhadas#

A tabela abaixo apresenta os resultados de benchmark de cinco modelos diferentes (YOLO26n, YOLO26s, YOLO26m, YOLO26l, YOLO26x) em 11 formatos diferentes (PyTorch, TorchScript, ONNX, OpenVINO, TensorRT, TF SavedModel, TF GraphDef, TF Lite, MNN, NCNN, ExecuTorch), mostrando o status, o tamanho, a métrica mAP50-95(B) e o tempo de inferência de cada combinação.

Kit de desenvolvimento NVIDIA Jetson AGX Thor#

Kit de desenvolvimento NVIDIA Jetson AGX Orin (64GB)#

Kit de desenvolvimento NVIDIA Jetson Orin Nano Super#

NVIDIA Jetson Orin NX 16GB#

Explore mais iniciativas de benchmarking da Seeed Studio executadas em diferentes versões do hardware NVIDIA Jetson.

Reproduza nossos resultados#

Para reproduzir os benchmarks da Ultralytics acima em todos os formatos de exportação, execute este código:

from ultralytics import YOLO

# Carregar um modelo YOLO26n PyTorch
model = YOLO("yolo26n.pt")

# Benchmarke a velocidade e a precisão do YOLO26n no conjunto de dados COCO128 para todos os formatos de exportação
results = model.benchmark(data="coco128.yaml", imgsz=640)

Práticas recomendadas ao usar NVIDIA Jetson#

Ao usar NVIDIA Jetson, há algumas práticas recomendadas a seguir para obter o máximo desempenho do YOLO26 em NVIDIA Jetson.

1. Ative o modo de potência MAX

   Ativar o modo de potência MAX no Jetson garante que todos os núcleos de CPU e GPU estejam ligados.

   sudo nvpmodel -m 0

2. Ative os Jetson Clocks

   Ativar os Jetson Clocks garante que todos os núcleos de CPU e GPU operem na frequência máxima.

   sudo jetson_clocks

3. Instale o aplicativo Jetson Stats

   Podemos usar o aplicativo jetson stats para monitorar as temperaturas dos componentes do sistema e verificar outros detalhes, como o uso de CPU, GPU e RAM, alterar modos de energia, definir as frequências máximas e consultar informações do JetPack.

   sudo apt update
   sudo pip install jetson-stats
   sudo reboot
   jtop

Dicas de otimização de memória para NVIDIA Jetson#

A memória disponível costuma ser o fator limitante nos dispositivos Jetson, principalmente nas variantes com menos memória, como o Jetson Orin Nano (8 GB) ou o Orin NX 8 GB. As dicas abaixo são mudanças práticas e de baixo risco que, em conjunto, podem liberar várias centenas de megabytes e permitir executar modelos YOLO maiores ou oferecer suporte a mais cargas de trabalho paralelas. Para uma visão abrangente, consulte o artigo da NVIDIA sobre como maximizar a eficiência da memória no Jetson.

1. Mude para a inicialização sem interface gráfica (headless)#

Se o Jetson estiver conectado por SSH ou funcionando como um dispositivo de produção sem monitor conectado, eliminar o ambiente de desktop e o servidor de exibição pode liberar até 865 MB de RAM:

sudo systemctl set-default multi-user.target
sudo reboot

Para restaurar o ambiente de desktop mais tarde:

sudo systemctl set-default graphical.target
sudo reboot

2. Desative serviços do sistema não utilizados#

Serviços em segundo plano não essenciais (Bluetooth, gerenciadores de conectividade, daemons de hardware não utilizados) consomem cerca de 32 MB no total. Liste os serviços ativos e desative tudo de que sua implantação não precisa:

# List running services
systemctl list-units --type=service --state=running

# Disable a service
sudo systemctl disable SERVICE_NAME

3. Analise o uso de memória#

Antes de otimizar, identifique quais processos estão realmente consumindo RAM. procrank ordena os processos por PSS (Proportional Set Size), que reflete o uso de memória real de cada processo com mais precisão do que RSS (Resident Set Size, o total de páginas de RAM física mapeadas por um processo, incluindo páginas compartilhadas com outros processos):

git clone https://github.com/csimmonds/procrank_linux.git
cd procrank_linux && make
sudo ./procrank

Para ver as alocações de GPU e NvMap (pipeline CUDA/vídeo) por processo:

sudo cat /sys/kernel/debug/nvmap/iovmm/clients

4. Execute inferência sem monitor em produção#

Em pipelines de inferência que não precisam de pré-visualização ao vivo, desativar componentes relacionados à exibição (Tiler, OSD, DisplaySink) pode economizar mais de 200 MB apenas no pipeline. Com Ultralytics YOLO, desative o visualizador e grave os resultados em disco:

from ultralytics import YOLO

model = YOLO("yolo26n.engine")

# show=False impede qualquer janela de exibição; save=True grava a saída anotada em disco
results = model.predict(source="video.mp4", show=False, save=True)

Impacto acumulado#

Combinar essas mudanças é especialmente valioso ao usar modelos TensorRT INT8 em dispositivos com memória limitada — pode ser a diferença entre conseguir ou não manter na memória uma variante maior do modelo.

Próximas etapas#

Para saber mais e obter suporte, consulte a documentação do Ultralytics YOLO26.

Perguntas frequentes#