Hızlı Başlangıç Kılavuzu: Ultralytics YOLO26 ile NVIDIA Jetson#

Bu kapsamlı kılavuz, Ultralytics YOLO26 modelini NVIDIA Jetson cihazlarına kurmak için ayrıntılı bir rehber sunar. Ayrıca YOLO26'nın bu küçük ve güçlü cihazlardaki yeteneklerini göstermek için performans kıyaslamalarını sergiler.

NVIDIA Jetson nedir?#

NVIDIA Jetson, uç (edge) cihazlara hızlandırılmış yapay zeka (AI) bilişimi getirmek için tasarlanmış bir gömülü bilgi işlem kartları serisidir. Bu kompakt ve güçlü cihazlar, NVIDIA'nın GPU mimarisi etrafında kurulmuştur ve bulut bilişim kaynaklarına güvenmeden, doğrudan cihaz üzerinde karmaşık yapay zeka algoritmalarını ve derin öğrenme modellerini çalıştırabilir. Jetson kartları genellikle robotik, otonom araçlar, endüstriyel otomasyon ve yapay zeka çıkarımının düşük gecikme ve yüksek verimlilikle yerel olarak gerçekleştirilmesi gereken diğer uygulamalarda kullanılır. Ek olarak, bu kartlar ARM64 mimarisini temel alır ve geleneksel GPU bilgi işlem cihazlarına kıyasla daha düşük güçte çalışır.

NVIDIA Jetson Serisi Karşılaştırması#

NVIDIA Jetson AGX Thor, önceki nesillere kıyasla büyük ölçüde iyileştirilmiş yapay zeka performansı sunan NVIDIA Blackwell mimarisini temel alan NVIDIA Jetson ailesinin en son yinelemesidir. Aşağıdaki tablo, ekosistemdeki Jetson cihazlarından birkaçını karşılaştırmaktadır.

Daha ayrıntılı bir karşılaştırma tablosu için lütfen resmi NVIDIA Jetson sayfasının Compare Specifications bölümünü ziyaret et.

NVIDIA JetPack nedir?#

Jetson modüllerine güç sağlayan NVIDIA JetPack SDK, en kapsamlı çözümdür ve uçtan uca hızlandırılmış yapay zeka uygulamaları oluşturmak için eksiksiz bir geliştirme ortamı sağlayarak pazara sunum süresini kısaltır. JetPack; önyükleyiciye sahip Jetson Linux, Linux çekirdeği, Ubuntu masaüstü ortamı ve GPU bilişimi, multimedya, grafik ve bilgisayarlı görü hızlandırma için eksiksiz bir kitaplık seti içerir. Ayrıca hem ana bilgisayar hem de geliştirici kiti için örnekler, belgeler ve geliştirici araçları içerir ve akış video analitiği için DeepStream, robotik için Isaac ve konuşma yapay zekası için Riva gibi üst düzey SDK'ları destekler.

NVIDIA Jetson'a JetPack Flash Etme#

Bir NVIDIA Jetson cihazı edindikten sonraki ilk adım, cihaza NVIDIA JetPack'i flash etmektir. NVIDIA Jetson cihazlarını flash etmenin birkaç farklı yolu vardır.

1. Resmi bir Jetson AGX Thor, AGX Orin veya Orin Nano Geliştirici Kiti üzerinde JetPack 7.2 için birleşik Jetson ISO'sunu indir, bunu bir USB flash sürücüye yaz ve AGX Thor, AGX Orin veya Orin Nano için cihaza özel hızlı başlangıç kılavuzunu takip et. JetPack 7.2'den başlayarak, Orin Nano artık indirilebilir bir SD kart görüntüsü kullanmamaktadır; ISO USB, Jetson Linux'u cihazın microSD kartına veya NVMe SSD'sine yükler.
2. Jetson Orin Nano Developer Kit üzerinde bilinçli olarak JetPack 6 kullanıyorsan, NVIDIA'nın JetPack 6.x update and SD-card instructions kılavuzunu takip et.
3. Başka bir NVIDIA Geliştirici Kitine sahipsen, SDK Manager kullanarak JetPack'i cihaza flaş edebilirsin.
4. Bir Seeed Studio reComputer J4012 cihazına sahipsen, JetPack'i birlikte verilen SSD'ye flaş edebilirsin ve bir Seeed Studio reComputer J1020 v2 cihazına sahipsen, JetPack'i eMMC/SSD'ye flaş edebilirsin.
5. NVIDIA Jetson modülü tarafından desteklenen başka herhangi bir üçüncü taraf cihaza sahipsen, komut satırı ile flaşlama işlemini takip etmen önerilir.

Jetson Cihazına Göre JetPack Desteği#

Aşağıdaki tablo, farklı NVIDIA Jetson cihazları tarafından desteklenen NVIDIA JetPack sürümlerini vurgulamaktadır.

Docker ile Hızlı Başlangıç#

NVIDIA Jetson üzerinde Ultralytics YOLO26 ile başlamanın en hızlı yolu, Jetson için önceden oluşturulmuş docker görüntülerini çalıştırmaktır. Yukarıdaki tabloya bakın ve sahip olduğunuz Jetson cihazına uygun JetPack sürümünü seçin.

t=ultralytics/ultralytics:latest-jetson-jetpack4
sudo docker pull $t && sudo docker run -it --ipc=host --runtime=nvidia $t

Bu işlem tamamlandıktan sonra Use TensorRT on NVIDIA Jetson section bölümüne geç.

Yerel Kurulumla Başlayın#

Docker olmadan yerel bir kurulum için lütfen aşağıdaki adımları izleyin.

JetPack 7.2 üzerinde çalıştır#

Ultralytics Paketini Yükleyin#

PyTorch modellerini diğer farklı biçimlere dışarı aktarabilmemiz için burada Jetson üzerine isteğe bağlı bağımlılıklarla birlikte Ultralytics paketini kuracağız. TensorRT, Jetson cihazlarından maksimum performans alabilmemizi sağlayacağı için ağırlıklı olarak NVIDIA TensorRT exports işlemlerine odaklanacağız.

1. Paket listesini güncelleyin, pip'i kurun ve en son sürüme yükseltin

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. İsteğe bağlı bağımlılıklarla birlikte ultralytics pip paketini kur

   pip install ultralytics[export]

3. Cihazı yeniden başlatın

   sudo reboot

PyTorch ve Torchvision'ı Kurun#

Yukarıdaki ultralytics kurulumu, Torch ve Torchvision'ı yükleyecektir. Ancak, pip aracılığıyla yüklenen bu 2 paket, CUDA 13 yüklü JetPack 7.2 cihazlarında çalışmak için uyumlu değildir. Bu nedenle, bunları manuel olarak kurmamız gerekiyor.

JP7.2'ye göre torch ve torchvision paketlerini kur

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

onnxruntime-gpu paketini kur#

PyPI'da barındırılan onnxruntime-gpu paketi, Jetson için aarch64 ikililerine sahip değildir. Bu yüzden bu paketi manuel olarak kurmamız gerekiyor. Bu paket, bazı dışarı aktarma işlemleri için gereklidir.

Burada Python3.12 desteğiyle onnxruntime-gpu 1.24.0 indirip kuracağız.

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.24.0-cp312-cp312-linux_aarch64.whl

JetPack 6.1 üzerinde çalıştır#

Ultralytics Paketini Yükleyin#

PyTorch modellerini diğer farklı biçimlere dışarı aktarabilmemiz için burada Jetson üzerine isteğe bağlı bağımlılıklarla birlikte Ultralytics paketini kuracağız. TensorRT, Jetson cihazlarından maksimum performans alabilmemizi sağlayacağı için ağırlıklı olarak NVIDIA TensorRT exports işlemlerine odaklanacağız.

1. Paket listesini güncelleyin, pip'i kurun ve en son sürüme yükseltin

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. İsteğe bağlı bağımlılıklarla birlikte ultralytics pip paketini kur

   pip install ultralytics[export]

3. Cihazı yeniden başlatın

   sudo reboot

PyTorch ve Torchvision'ı Kurun#

Yukarıdaki Ultralytics kurulumu, Torch ve Torchvision paketlerini yükleyecektir. Ancak, pip aracılığıyla yüklenen bu iki paket, ARM64 mimarisine dayalı Jetson platformuyla uyumlu değildir. Bu nedenle, önceden oluşturulmuş bir PyTorch pip tekerleğini (wheel) manuel olarak kurmamız ve Torchvision'ı kaynaktan derlememiz veya kurmamız gerekiyor.

JP6.1'e göre torch 2.10.0 ve torchvision 0.25.0 paketlerini kur

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torch-2.10.0-cp310-cp310-linux_aarch64.whl
pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torchvision-0.25.0-cp310-cp310-linux_aarch64.whl

torch 2.10.0 ile ilgili bir bağımlılık sorununu çözmek için cuDSS yükle

wget https://developer.download.nvidia.com/compute/cudss/0.7.1/local_installers/cudss-local-tegra-repo-ubuntu2204-0.7.1_0.7.1-1_arm64.deb
sudo dpkg -i cudss-local-tegra-repo-ubuntu2204-0.7.1_0.7.1-1_arm64.deb
sudo cp /var/cudss-local-tegra-repo-ubuntu2204-0.7.1/cudss-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cudss

onnxruntime-gpu paketini kur#

PyPI'da barındırılan onnxruntime-gpu paketi, Jetson için aarch64 ikililerine sahip değildir. Bu yüzden bu paketi manuel olarak kurmamız gerekiyor. Bu paket, bazı dışarı aktarma işlemleri için gereklidir.

JetPack sürümü, Python sürümü ve diğer uyumluluk ayrıntılarına göre organize edilmiş tüm mevcut onnxruntime-gpu paketlerini Jetson Zoo ONNX Runtime compatibility matrix sayfasında bulabilirsin.

Python 3.10 desteğine sahip JetPack 6 için onnxruntime-gpu 1.23.0 paketini kurabilirsin:

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.23.0-cp310-cp310-linux_aarch64.whl

Alternatif olarak, onnxruntime-gpu 1.20.0 için:

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.20.0-cp310-cp310-linux_aarch64.whl

JetPack 5.1.2 üzerinde çalıştır#

Ultralytics Paketini Yükleyin#

PyTorch modellerini diğer farklı biçimlere dışarı aktarabilmemiz için burada Jetson üzerine isteğe bağlı bağımlılıklarla birlikte Ultralytics paketini kuracağız. TensorRT, Jetson cihazlarından maksimum performans alabilmemizi sağlayacağı için ağırlıklı olarak NVIDIA TensorRT exports işlemlerine odaklanacağız.

1. Paket listesini güncelleyin, pip'i kurun ve en son sürüme yükseltin

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. İsteğe bağlı bağımlılıklarla birlikte ultralytics pip paketini kur

   pip install ultralytics[export]

3. Cihazı yeniden başlatın

   sudo reboot

PyTorch ve Torchvision'ı Kurun#

Yukarıdaki Ultralytics kurulumu, Torch ve Torchvision paketlerini yükleyecektir. Ancak, pip aracılığıyla yüklenen bu iki paket, ARM64 mimarisine dayalı Jetson platformuyla uyumlu değildir. Bu nedenle, önceden oluşturulmuş bir PyTorch pip tekerleğini (wheel) manuel olarak kurmamız ve Torchvision'ı kaynaktan derlememiz veya kurmamız gerekiyor.

1. Halihazırda kurulu olan PyTorch ve Torchvision'ı kaldır

   pip uninstall torch torchvision

2. JP5.1.2'ye göre torch 2.1.0 ve torchvision 0.16.2 paketlerini kur

   pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torch-2.1.0a0+41361538.nv23.06-cp38-cp38-linux_aarch64.whl
   pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torchvision-0.16.2+c6f3977-cp38-cp38-linux_aarch64.whl

onnxruntime-gpu paketini kur#

PyPI'da barındırılan onnxruntime-gpu paketi, Jetson için aarch64 ikililerine sahip değildir. Bu yüzden bu paketi manuel olarak kurmamız gerekiyor. Bu paket, bazı dışarı aktarma işlemleri için gereklidir.

JetPack sürümüne, Python sürümüne ve diğer uyumluluk ayrıntılarına göre organize edilmiş tüm mevcut onnxruntime-gpu paketlerini Jetson Zoo ONNX Runtime uyumluluk matrisinde bulabilirsin. Burada Python3.8 desteğiyle onnxruntime-gpu 1.17.0 indirip kuracağız.

wget https://nvidia.box.com/shared/static/zostg6agm00fb6t5uisw51qi6kpcuwzd.whl -O onnxruntime_gpu-1.17.0-cp38-cp38-linux_aarch64.whl
pip install onnxruntime_gpu-1.17.0-cp38-cp38-linux_aarch64.whl

NVIDIA Jetson üzerinde TensorRT kullan#

Ultralytics tarafından desteklenen tüm model dışarı aktarma biçimleri arasında TensorRT, NVIDIA Jetson cihazlarında en yüksek çıkarım performansını sunarak Jetson dağıtımları için en iyi önerimiz olmasını sağlar. Kurulum talimatları ve gelişmiş kullanım için dedicated TensorRT integration guide kılavuzumuza göz at.

Yapılandırma ortamını yerel olarak yapılandırmadan tarayıcıdan da dışarı aktarabilirsin. Ultralytics Platform model Export tab sekmesinde TensorRT'yi ve hedeflenen Jetson hedef מר seç. Thor seçimleri fiziksel Thor donanımında doğrulanır. Altı Orin seçimi şu anda AGX-Orin ile oluşturulmuş aday motorlar üretir; dağıtımdan önce bunları amaçlanan Orin SKU'sunda doğrula.

Modeli TensorRT'ye Dönüştür ve Çıkarımı Çalıştır#

PyTorch formatındaki YOLO26n modeli, dışa aktarılan modelle çıkarım çalıştırmak üzere TensorRT'ye dönüştürülür.

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT
model.export(format="engine")  # creates 'yolo26n.engine'

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

NVIDIA Deep Learning Accelerator (DLA) kullan#

NVIDIA Deep Learning Accelerator (DLA), NVIDIA Jetson cihazlarında yerleşik olarak bulunan ve derin öğrenme çıkarımını enerji verimliliği ile performans için optimize eden özel bir donanım bileşenidir. Görevleri GPU'dan devralarak (daha yoğun işlemler için serbest bırakarak), DLA modellerin yüksek iş hacmini korurken daha düşük güç tüketimiyle çalışmasını sağlar; bu da gömülü sistemler ve gerçek zamanlı yapay zeka uygulamaları için idealdir.

Aşağıdaki Jetson cihazları DLA donanımı ile donatılmıştır:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT with DLA enabled (only works with FP16 or INT8)
model.export(format="engine", device="dla:0", quantize=16)  # dla:0 or dla:1 corresponds to the DLA cores

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

NVIDIA Jetson YOLO11/ YOLO26 Kıyaslamaları#

YOLO11/ YOLO26 kıyaslamaları, hız ve accuracy ölçen 11 farklı model formatında Ultralytics ekibi tarafından çalıştırıldı: PyTorch, TorchScript, ONNX, OpenVINO, TensorRT, TF SavedModel, TF GraphDef, TF Lite, MNN, NCNN, ExecuTorch. Kıyaslamalar; NVIDIA Jetson AGX Thor Developer Kit, NVIDIA Jetson AGX Orin Developer Kit (64GB), NVIDIA Jetson Orin Nano Super Developer Kit ve Jetson Orin NX 16GB cihazı tarafından desteklenen Seeed Studio reComputer J4012 üzerinde, varsayılan 640 giriş resmi boyutuyla FP32 precision değerinde çalıştırıldı.

Karşılaştırma Grafikleri#

Tüm model dışa aktarımları NVIDIA Jetson üzerinde çalışsa da, karşılaştırma grafiğine yalnızca PyTorch, TorchScript, TensorRT dahil edilmiştir çünkü bunlar Jetson üzerindeki GPU'dan yararlanır ve en iyi sonuçları üretmeleri garanti edilir. Diğer tüm dışa aktarımlar sadece CPU'yu kullanır ve performans yukarıdaki üçü kadar iyi değildir. Tüm dışa aktarmalara ait kıyaslamaları bu grafikten sonraki bölümde bulabilirsin.

NVIDIA Jetson AGX Thor Developer Kit#

NVIDIA Jetson AGX Orin Developer Kit (64GB)#

NVIDIA Jetson Orin Nano Super Developer Kit#

NVIDIA Jetson Orin NX 16GB#

Ayrıntılı Karşılaştırma Tabloları#

Aşağıdaki tablo, beş farklı modelin (YOLO11n, YOLO11s, YOLO11m, YOLO11l, YOLO11x) 11 farklı formatta (PyTorch, TorchScript, ONNX, OpenVINO, TensorRT, TF SavedModel, TF GraphDef, TF Lite, MNN, NCNN, ExecuTorch) kıyaslama sonuçlarını gösterir ve her kombinasyon için durum, boyut, mAP50-95(B) metriği ve çıkarım süresini verir.

NVIDIA Jetson AGX Thor Developer Kit#

NVIDIA Jetson AGX Orin Developer Kit (64GB)#

NVIDIA Jetson Orin Nano Super Developer Kit#

NVIDIA Jetson Orin NX 16GB#

NVIDIA Jetson donanımının farklı sürümlerinde çalışan Explore more benchmarking efforts by Seeed Studio incele.

Sonuçlarımızı Yeniden Oluştur#

Yukarıdaki Ultralytics kıyaslamalarını tüm dışarı aktarma formats üzerinde yeniden üretmek için şu kodu çalıştır:

from ultralytics import YOLO

# Load a YOLO11n PyTorch model
model = YOLO("yolo11n.pt")

# Benchmark YOLO11n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml", imgsz=640)

NVIDIA Jetson Kullanırken En İyi Uygulamalar#

NVIDIA Jetson kullanırken, YOLO26 çalıştıran NVIDIA Jetson üzerinde maksimum performansı sağlamak için izlemen gereken birkaç en iyi uygulama vardır.

1. MAX Güç Modunu Etkinleştir

   Jetson'da MAX Güç Modunu etkinleştirmek, tüm CPU ve GPU çekirdeklerinin açık olduğundan emin olmanı sağlar.

   sudo nvpmodel -m 0

2. Jetson Saatlerini Etkinleştir

   Jetson Saatlerini etkinleştirmek, tüm CPU ve GPU çekirdeklerinin maksimum frekansta çalışmasını sağlar.

   sudo jetson_clocks

3. Jetson Stats Uygulamasını Kur

   Sistem bileşenlerinin sıcaklıklarını izlemek ve CPU, GPU, RAM kullanımını görüntüleme, güç modlarını değiştirme, maksimum saatleri ayarlama, JetPack bilgilerini kontrol etme gibi diğer sistem ayrıntılarını görmek için jetson stats uygulamasını kullanabilirsin.

   sudo apt update
   sudo pip install jetson-stats
   sudo reboot
   jtop

NVIDIA Jetson için Bellek Optimizasyon İpuçları#

Kullanılabilir bellek, Jetson cihazlarında, özellikle Jetson Orin Nano (8 GB) veya Orin NX 8 GB gibi daha düşük belleğe sahip varyantlarda genellikle sınırlayıcı faktördür. Aşağıdaki ipuçları, toplu olarak birkaç yüz megabayt boşaltmanıza ve daha büyük YOLO modellerini çalıştırmanıza veya ek paralel iş yüklerini desteklemenize olanak tanıyan pratik, düşük riskli değişikliklerdir. Kapsamlı bir inceleme için NVIDIA blog on maximizing memory efficiency on Jetson göz at.

Başsız (GUI'siz) Önyüklemeye Geç#

Jetson'ın SSH üzerinden bağlıysa veya ekran takılı olmadan üretim cihazı olarak çalışıyorsa, masaüstü ortamını ve ekran sunucusunu ortadan kaldırmak 865 MB'a kadar RAM kazandırabilir:

sudo systemctl set-default multi-user.target
sudo reboot

Masaüstünü daha sonra geri yüklemek için:

sudo systemctl set-default graphical.target
sudo reboot

Kullanılmayan Sistem Hizmetlerini Devre Dışı Bırak#

Temel olmayan arka plan hizmetleri (Bluetooth, bağlantı yöneticileri, kullanılmayan donanım arka plan programları) toplamda yaklaşık 32 MB tüketir. Aktif hizmetleri listele ve dağıtımının gerektirmediği her şeyi devre dışı bırak:

# List running services
systemctl list-units --type=service --state=running

# Disable a service
sudo systemctl disable SERVICE_NAME

Bellek Kullanımını Profille#

Optimize etmeden önce, hangi süreçlerin gerçekte RAM tükettiğini belirle. procrank, süreçleri PSS'ye (Proportional Set Size - Orantılı Küme Boyutu) göre sıralar; bu, süreç başına düşen gerçek bellek ayak izini, RSS'den (Resident Set Size - Yerleşik Küme Boyutu, bir sürecin diğer süreçlerle paylaşılan sayfalar dahil eşlediği toplam fiziksel RAM sayfaları) çok daha doğru bir şekilde yansıtır:

git clone https://github.com/csimmonds/procrank_linux.git
cd procrank_linux && make
sudo ./procrank

Süreç başına GPU ve NvMap (CUDA/video hattı) tahsislerini görmek için:

sudo cat /sys/kernel/debug/nvmap/iovmm/clients

Üretimde Ekran Olmadan Çıkarım Çalıştır#

Canlı önizleme gereksinimi olmayan çıkarım hatları için, ekranla ilgili bileşenleri (Tiler, OSD, DisplaySink) devre dışı bırakmak yalnızca hattan 200+ MB tasarruf sağlayabilir. Ultralytics YOLO ile görüntüleyiciyi baskıla ve bunun yerine sonuçları diske yaz:

from ultralytics import YOLO

model = YOLO("yolo11n.engine")

# show=False prevents any display window; save=True writes annotated output to disk
results = model.predict(source="video.mp4", show=False, save=True)

Kümülatif Etki#

Bu değişiklikleri birleştirmek, özellikle bellek kısıtlı cihazlarda TensorRT INT8 modellerini hedeflediğinde değerlidir; daha büyük bir model varyantının belleğe sığıp sığmaması arasındaki farkı yaratabilir.

Sonraki Adımlar#

Daha fazla öğrenme ve destek için Ultralytics YOLO26 Docs sayfasına göz at.

SSS#

Ultralytics YOLO26'yı NVIDIA Jetson cihazlarında nasıl dağıtabilirim?#

Ultralytics YOLO26 modelini NVIDIA Jetson cihazlarına dağıtmak basittir. İlk olarak, Jetson cihazını NVIDIA JetPack SDK ile flaş et. Ardından, hızlı kurulum için önceden oluşturulmuş bir Docker görüntüsü kullan veya gerekli paketleri manuel olarak kur. Her yaklaşıma ilişkin ayrıntılı adımlar Quick Start with Docker ve Start with Native Installation bölümlerinde bulunabilir.

NVIDIA Jetson cihazlarında YOLO11 modellerinden nasıl performans kıyaslamaları bekleyebilirim?#

YOLO11 modelleri, önemli performans iyileştirmeleri gösteren çeşitli NVIDIA Jetson cihazlarında kıyaslanmıştır. Örneğin, TensorRT formatı en iyi çıkarım performansını sunar. Detailed Comparison Tables bölümündeki tablo, farklı model formatlarında mAP50-95 ve çıkarım süresi gibi performans metriklerinin kapsamlı bir görünümünü sağlar.

NVIDIA Jetson üzerinde YOLO26 dağıtımı için neden TensorRT kullanmalıyım?#

TensorRT, optimum performansı nedeniyle YOLO26 modellerini NVIDIA Jetson üzerine dağıtmak için şiddetle tavsiye edilir. Jetson'un GPU yeteneklerinden yararlanarak çıkarımı hızlandırır, maksimum verimlilik ve hız sağlar. TensorRT'ye nasıl dönüştürüleceği ve çıkarımın nasıl çalıştırılacağı hakkında daha fazla bilgi edinmek için Use TensorRT on NVIDIA Jetson bölümüne göz at.

NVIDIA Jetson'a PyTorch ve Torchvision'ı nasıl kurabilirim?#

PyTorch ve Torchvision'ı NVIDIA Jetson üzerine kurmak için öncelikle pip aracılığıyla yüklenmiş olabilecek mevcut sürümleri kaldır. Ardından, Jetson'un ARM64 mimarisi için uyumlu PyTorch ve Torchvision sürümlerini manuel olarak kur. Bu işlem için ayrıntılı talimatlar Install PyTorch and Torchvision bölümünde verilmiştir.

YOLO26 kullanırken NVIDIA Jetson üzerinde performansı en üst düzeye çıkarmak için en iyi uygulamalar nelerdir?#

NVIDIA Jetson ile YOLO26 kullanırken performansı en üst düzeye çıkarmak için şu en iyi uygulamaları takip et:

1. Tüm CPU ve GPU çekirdeklerini kullanmak için MAX Power Mode özelliğini etkinleştir.
2. Tüm çekirdekleri maksimum frekansta çalıştırmak için Jetson Clocks özelliğini etkinleştir.
3. Sistem metriklerini izlemek için Jetson Stats uygulamasını yükle.

Komutlar ve ek ayrıntılar için Best Practices when using NVIDIA Jetson bölümüne başvurun.

Daha büyük YOLO modellerini çalıştırmak için NVIDIA Jetson'da belleği nasıl boşaltabilirim?#

Kullanılabilir RAM, düşük bellekli Jetson cihazlarında genellikle darboğaz oluşturur. Toplamda 1 GB'tan fazla alan açabilen üç kolay yöntem:

1. Masaüstü grafik arayüzünü (GUI) ortadan kaldırmak için Hepsiz önyüklemeye geç (sudo systemctl set-default multi-user.target) (~865 MB tasarruf sağlanır).
2. Kullanılmayan hizmetleri devre dışı bırak, örneğin Bluetooth veya bağlantı yöneticileri (~32 MB kazanılır).
3. YOLO predict çağrında show=False ayarını yaparak ekran olmadan çıkarım çalıştır, bu sayede ekran işlem hattı belleği tahsis etmekten kaçınılır (yaklaşık 200+ MB tasarruf edilir).

Süreç başına RAM kullanımını profillemek için procrank kullanın ve GPU tahsislerini incelemek için sudo cat /sys/kernel/debug/nvmap/iovmm/clients kullanın. Tüm ayrıntılar için Memory Optimization Tips bölümüne bakın.

JetPack 6 üzerinde TensorRT INT8 dışa aktarımım neden end2end özelliğini devre dışı bırakıyor?#

JetPack 6 ile birlikte gelen TensorRT 10.3.0, end2end=True etkinleştirildiğinde INT8 motor derlemelerini engelleyen bilinen bir soruna sahiptir. Ultralytics bu kombinasyonu algıladığında, dışa aktarmanın başarılı olmasını sağlamak için end2end dalını otomatik olarak devre dışı bırakır.

End2end INT8 dışa aktarımlarını geri yüklemek için TensorRT sürümünü daha yeni bir sürüme (örneğin 10.7.0+) yükselt:

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/arm64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt-get update
sudo apt-get install -y tensorrt

Yükseltme yaptıktan sonra dışarı aktarma işlemini yeniden çalıştır. Daha fazla ayrıntı için GitHub issue #23841 sayfasına göz at.