دليل البدء السريع: NVIDIA Jetson مع Ultralytics YOLO26

يوفر هذا الدليل الشامل شرحاً مفصلاً لنشر Ultralytics YOLO26 على أجهزة NVIDIA Jetson. بالإضافة إلى ذلك، يعرض الدليل معايير الأداء لتوضيح إمكانيات YOLO26 على هذه الأجهزة الصغيرة والقوية.

ما هو NVIDIA Jetson؟

NVIDIA Jetson عبارة عن سلسلة من لوحات الحوسبة المدمجة المصممة لجلب حوسبة الذكاء الاصطناعي (AI) المعجلة إلى أجهزة الحافة. تم بناء هذه الأجهزة المدمجة والقوية حول معمارية GPU الخاصة بـ NVIDIA ويمكنها تشغيل خوارزميات ذكاء اصطناعي معقدة ونماذج تعلم عميق مباشرة على الجهاز، دون الاعتماد على موارد الحوسبة السحابية. تُستخدم لوحات Jetson غالباً في الروبوتات، والمركبات ذاتية القيادة، والأتمتة الصناعية، والتطبيقات الأخرى التي تتطلب تنفيذ استدلال الذكاء الاصطناعي محلياً مع زمن انتقال منخفض وكفاءة عالية. بالإضافة إلى ذلك، تعتمد هذه اللوحات على معمارية ARM64 وتعمل بطاقة أقل مقارنة بأجهزة حوسبة GPU التقليدية.

مقارنة سلسلة NVIDIA Jetson

NVIDIA Jetson AGX Thor هو أحدث إصدار من عائلة NVIDIA Jetson المعتمد على معمارية NVIDIA Blackwell، والذي يوفر أداء ذكاء اصطناعي محسناً بشكل كبير مقارنة بالأجيال السابقة. يقارن الجدول أدناه بعض أجهزة Jetson الموجودة في النظام البيئي.

للحصول على جدول مقارنة أكثر تفصيلاً، يرجى زيارة قسم مقارنة المواصفات في صفحة NVIDIA Jetson الرسمية.

ما هو NVIDIA JetPack؟

NVIDIA JetPack SDK الذي يشغل وحدات Jetson هو الحل الأكثر شمولاً ويوفر بيئة تطوير كاملة لبناء تطبيقات الذكاء الاصطناعي المعجلة الشاملة ويقلل وقت الوصول إلى السوق. يتضمن JetPack نظام Jetson Linux مع أداة تحميل التشغيل (bootloader)، ونواة Linux، وبيئة سطح مكتب Ubuntu، ومجموعة كاملة من المكتبات لتسريع حوسبة GPU، والوسائط المتعددة، والرسومات، ورؤية الحاسوب. كما يتضمن عينات ووثائق وأدوات تطوير لكل من الكمبيوتر المضيف ومجموعة التطوير، ويدعم حزم تطوير البرامج (SDKs) ذات المستوى الأعلى مثل DeepStream لتحليلات الفيديو المتدفقة، وIsaac للروبوتات، وRiva للذكاء الاصطناعي التحادثي.

تثبيت JetPack على NVIDIA Jetson

الخطوة الأولى بعد الحصول على جهاز NVIDIA Jetson هي تثبيت NVIDIA JetPack على الجهاز. توجد عدة طرق مختلفة لتثبيت البرامج على أجهزة NVIDIA Jetson.

1. إذا كنت تمتلك مجموعة تطوير NVIDIA رسمية مثل Jetson AGX Thor Developer Kit، فيمكنك تنزيل صورة وإعداد وحدة USB قابلة للتمهيد لتثبيت JetPack على SSD المرفق.
2. إذا كنت تمتلك مجموعة تطوير NVIDIA رسمية مثل Jetson Orin Nano Developer Kit، فيمكنك تنزيل صورة وإعداد بطاقة SD مع JetPack لتمهيد الجهاز.
3. إذا كنت تمتلك أي مجموعة تطوير NVIDIA أخرى، فيمكنك تثبيت JetPack على الجهاز باستخدام SDK Manager.
4. إذا كنت تمتلك جهاز Seeed Studio reComputer J4012، فيمكنك تثبيت JetPack على SSD المرفق، وإذا كنت تمتلك جهاز Seeed Studio reComputer J1020 v2، فيمكنك تثبيت JetPack على eMMC/SSD.
5. إذا كنت تمتلك أي جهاز طرف ثالث يعمل بوحدة NVIDIA Jetson، فمن المستحسن اتباع التثبيت عبر سطر الأوامر.

دعم JetPack بناءً على جهاز Jetson

يسلط الجدول أدناه الضوء على إصدارات NVIDIA JetPack المدعومة من قبل أجهزة NVIDIA Jetson المختلفة.

البدء السريع مع Docker

أسرع طريقة للبدء باستخدام Ultralytics YOLO26 على NVIDIA Jetson هي التشغيل باستخدام صور docker الجاهزة الخاصة بـ Jetson. ارجع إلى الجدول أعلاه واختر إصدار JetPack وفقاً لجهاز Jetson الذي تمتلكه.

t=ultralytics/ultralytics:latest-jetson-jetpack4
sudo docker pull $t && sudo docker run -it --ipc=host --runtime=nvidia $t

بعد القيام بذلك، انتقل إلى قسم استخدام TensorRT على NVIDIA Jetson.

البدء بالتثبيت الأصلي

للتثبيت الأصلي بدون Docker، يرجى الرجوع إلى الخطوات أدناه.

التشغيل على JetPack 7.0

تثبيت حزمة Ultralytics

هنا سنقوم بتثبيت حزمة Ultralytics على Jetson مع التبعيات الاختيارية حتى نتمكن من تصدير نماذج PyTorch إلى تنسيقات مختلفة أخرى. سنركز بشكل أساسي على تصديرات NVIDIA TensorRT لأن TensorRT سيضمن حصولنا على أقصى أداء من أجهزة Jetson.

1. تحديث قائمة الحزم، وتثبيت pip والترقية إلى الأحدث

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. تثبيت حزمة pip ultralytics مع التبعيات الاختيارية

   pip install ultralytics[export]

3. إعادة تشغيل الجهاز

   sudo reboot

تثبيت PyTorch و Torchvision

سيؤدي تثبيت ultralytics أعلاه إلى تثبيت Torch وTorchvision. ومع ذلك، فإن هاتين الحزمتين المثبتتين عبر pip غير متوافقتين للتشغيل على Jetson AGX Thor الذي يأتي مع JetPack 7.0 وCUDA 13. لذلك، نحتاج إلى تثبيتهما يدوياً.

تثبيت torch وtorchvision وفقاً لـ JP7.0

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

تثبيت onnxruntime-gpu

حزمة onnxruntime-gpu المستضافة في PyPI لا تحتوي على ملفات ثنائية aarch64 لجهاز Jetson. لذلك نحتاج إلى تثبيت هذه الحزمة يدوياً. هذه الحزمة مطلوبة لبعض عمليات التصدير.

هنا سنقوم بتنزيل وتثبيت onnxruntime-gpu 1.24.0 مع دعم Python3.12.

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.24.0-cp312-cp312-linux_aarch64.whl

التشغيل على JetPack 6.1

تثبيت حزمة Ultralytics

هنا سنقوم بتثبيت حزمة Ultralytics على Jetson مع التبعيات الاختيارية حتى نتمكن من تصدير نماذج PyTorch إلى تنسيقات مختلفة أخرى. سنركز بشكل أساسي على تصديرات NVIDIA TensorRT لأن TensorRT سيضمن حصولنا على أقصى أداء من أجهزة Jetson.

1. تحديث قائمة الحزم، وتثبيت pip والترقية إلى الأحدث

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. تثبيت حزمة pip ultralytics مع التبعيات الاختيارية

   pip install ultralytics[export]

3. إعادة تشغيل الجهاز

   sudo reboot

تثبيت PyTorch و Torchvision

سيؤدي تثبيت ultralytics أعلاه إلى تثبيت Torch وTorchvision. ومع ذلك، فإن هاتين الحزمتين المثبتتين عبر pip غير متوافقتين مع منصة Jetson، والتي تعتمد على معمارية ARM64. لذلك، نحتاج إلى تثبيت عجلة PyTorch pip جاهزة يدوياً وتجميع أو تثبيت Torchvision من المصدر.

تثبيت torch 2.10.0 وtorchvision 0.25.0 وفقاً لـ JP6.1

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torch-2.10.0-cp310-cp310-linux_aarch64.whl
pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torchvision-0.25.0-cp310-cp310-linux_aarch64.whl

تثبيت cuDSS لإصلاح مشكلة التبعية مع torch 2.10.0

wget https://developer.download.nvidia.com/compute/cudss/0.7.1/local_installers/cudss-local-tegra-repo-ubuntu2204-0.7.1_0.7.1-1_arm64.deb
sudo dpkg -i cudss-local-tegra-repo-ubuntu2204-0.7.1_0.7.1-1_arm64.deb
sudo cp /var/cudss-local-tegra-repo-ubuntu2204-0.7.1/cudss-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cudss

تثبيت onnxruntime-gpu

حزمة onnxruntime-gpu المستضافة في PyPI لا تحتوي على ملفات ثنائية aarch64 لجهاز Jetson. لذلك نحتاج إلى تثبيت هذه الحزمة يدوياً. هذه الحزمة مطلوبة لبعض عمليات التصدير.

يمكنك العثور على جميع حزم onnxruntime-gpu المتاحة—المنظمة حسب إصدار JetPack، وإصدار Python، وتفاصيل التوافق الأخرى—في مصفوفة توافق Jetson Zoo ONNX Runtime.

بالنسبة لـ JetPack 6 مع دعم Python 3.10، يمكنك تثبيت onnxruntime-gpu 1.23.0:

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.23.0-cp310-cp310-linux_aarch64.whl

بدلاً من ذلك، لـ onnxruntime-gpu 1.20.0:

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.20.0-cp310-cp310-linux_aarch64.whl

التشغيل على JetPack 5.1.2

تثبيت حزمة Ultralytics

هنا سنقوم بتثبيت حزمة Ultralytics على Jetson مع التبعيات الاختيارية حتى نتمكن من تصدير نماذج PyTorch إلى تنسيقات مختلفة أخرى. سنركز بشكل أساسي على تصديرات NVIDIA TensorRT لأن TensorRT سيضمن حصولنا على أقصى أداء من أجهزة Jetson.

1. تحديث قائمة الحزم، وتثبيت pip والترقية إلى الأحدث

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. تثبيت حزمة pip ultralytics مع التبعيات الاختيارية

   pip install ultralytics[export]

3. إعادة تشغيل الجهاز

   sudo reboot

تثبيت PyTorch و Torchvision

سيؤدي تثبيت ultralytics أعلاه إلى تثبيت Torch وTorchvision. ومع ذلك، فإن هاتين الحزمتين المثبتتين عبر pip غير متوافقتين مع منصة Jetson، والتي تعتمد على معمارية ARM64. لذلك، نحتاج إلى تثبيت عجلة PyTorch pip جاهزة يدوياً وتجميع أو تثبيت Torchvision من المصدر.

1. إلغاء تثبيت PyTorch وTorchvision المثبتين حالياً

   pip uninstall torch torchvision

2. تثبيت torch 2.1.0 وtorchvision 0.16.2 وفقاً لـ JP5.1.2

   pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torch-2.1.0a0+41361538.nv23.06-cp38-cp38-linux_aarch64.whl
   pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torchvision-0.16.2+c6f3977-cp38-cp38-linux_aarch64.whl

تثبيت onnxruntime-gpu

حزمة onnxruntime-gpu المستضافة في PyPI لا تحتوي على ملفات ثنائية aarch64 لجهاز Jetson. لذلك نحتاج إلى تثبيت هذه الحزمة يدوياً. هذه الحزمة مطلوبة لبعض عمليات التصدير.

يمكنك العثور على جميع حزم onnxruntime-gpu المتاحة—مرتبة حسب إصدار JetPack، وإصدار Python، وتفاصيل التوافق الأخرى—في مصفوفة توافق Jetson Zoo ONNX Runtime. سنقوم هنا بتنزيل وتثبيت onnxruntime-gpu 1.17.0 مع دعم Python3.8.

wget https://nvidia.box.com/shared/static/zostg6agm00fb6t5uisw51qi6kpcuwzd.whl -O onnxruntime_gpu-1.17.0-cp38-cp38-linux_aarch64.whl
pip install onnxruntime_gpu-1.17.0-cp38-cp38-linux_aarch64.whl

استخدم TensorRT على NVIDIA Jetson

من بين جميع تنسيقات تصدير النماذج المدعومة من Ultralytics، يوفر TensorRT أعلى أداء للاستنتاج على أجهزة NVIDIA Jetson، مما يجعله توصيتنا الأولى لعمليات النشر على Jetson. للحصول على تعليمات الإعداد والاستخدام المتقدم، راجع دليل تكامل TensorRT المخصص.

تحويل النموذج إلى TensorRT وتشغيل الاستدلال

تم تحويل نموذج YOLO26n بتنسيق PyTorch إلى TensorRT لتشغيل الاستدلال باستخدام النموذج المصدر.

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT
model.export(format="engine")  # creates 'yolo26n.engine'

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

استخدام مسرع التعلم العميق (DLA) من NVIDIA

مسرع التعلم العميق من NVIDIA (DLA) هو مكون أجهزة متخصص مدمج في أجهزة NVIDIA Jetson يعمل على تحسين استنتاج التعلم العميق من حيث كفاءة الطاقة والأداء. من خلال تفريغ المهام من وحدة معالجة الرسومات (GPU) (مما يحررها للعمليات الأكثر كثافة)، يتيح DLA للنماذج التشغيل باستهلاك أقل للطاقة مع الحفاظ على إنتاجية عالية، وهو مثالي للأنظمة المدمجة وتطبيقات الذكاء الاصطناعي في الوقت الفعلي.

أجهزة Jetson التالية مجهزة بأجهزة DLA:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT with DLA enabled (only works with FP16 or INT8)
model.export(format="engine", device="dla:0", half=True)  # dla:0 or dla:1 corresponds to the DLA cores

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

معايير قياس الأداء لـ NVIDIA Jetson YOLO11/ YOLO26

تم تشغيل معايير قياس الأداء لـ YOLO11/ YOLO26 بواسطة فريق Ultralytics على 11 تنسيقاً مختلفاً للنماذج لقياس السرعة والدقة: PyTorch وTorchScript وONNX وOpenVINO وTensorRT وTF SavedModel وTF GraphDef وTF Lite وMNN وNCNN وExecuTorch. تم تشغيل المعايير على NVIDIA Jetson AGX Thor Developer Kit وNVIDIA Jetson AGX Orin Developer Kit (64GB) وNVIDIA Jetson Orin Nano Super Developer Kit وSeeed Studio reComputer J4012 المدعوم بجهاز Jetson Orin NX 16GB بدقة FP32 precision مع حجم صورة إدخال افتراضي 640.

مخططات المقارنة

على الرغم من أن جميع صادرات النماذج تعمل على NVIDIA Jetson، فقد قمنا بتضمين PyTorch وTorchScript وTensorRT فقط في مخطط المقارنة أدناه لأنها تستفيد من GPU على Jetson ومضمونة لتقديم أفضل النتائج. جميع الصادرات الأخرى تستخدم وحدة المعالجة المركزية (CPU) فقط والأداء ليس جيداً مثل الثلاثة المذكورة أعلاه. يمكنك العثور على معايير قياس الأداء لجميع الصادرات في القسم الذي يلي هذا المخطط.

NVIDIA Jetson AGX Thor Developer Kit

NVIDIA Jetson AGX Orin Developer Kit (64GB)

NVIDIA Jetson Orin Nano Super Developer Kit

NVIDIA Jetson Orin NX 16GB

جداول المقارنة التفصيلية

يمثل الجدول أدناه نتائج قياس الأداء لخمسة نماذج مختلفة (YOLO11n, YOLO11s, YOLO11m, YOLO11l, YOLO11x) عبر 11 تنسيقاً مختلفاً (PyTorch, TorchScript, ONNX, OpenVINO, TensorRT, TF SavedModel, TF GraphDef, TF Lite, MNN, NCNN, ExecuTorch)، مما يعطينا الحالة، والحجم، ومقياس mAP50-95(B)، ووقت الاستنتاج لكل تركيبة.

NVIDIA Jetson AGX Thor Developer Kit

NVIDIA Jetson AGX Orin Developer Kit (64GB)

NVIDIA Jetson Orin Nano Super Developer Kit

NVIDIA Jetson Orin NX 16GB

استكشف المزيد من جهود قياس الأداء من Seeed Studio التي تعمل على إصدارات مختلفة من أجهزة NVIDIA Jetson.

إعادة إنتاج نتائجنا

لإعادة إنتاج مقاييس أداء Ultralytics المذكورة أعلاه على جميع تنسيقات التصدير، قم بتشغيل هذا الكود:

from ultralytics import YOLO

# Load a YOLO11n PyTorch model
model = YOLO("yolo11n.pt")

# Benchmark YOLO11n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml", imgsz=640)

أفضل الممارسات عند استخدام NVIDIA Jetson

عند استخدام NVIDIA Jetson، هناك بضع أفضل الممارسات التي يجب اتباعها لتمكين أقصى أداء على NVIDIA Jetson الذي يشغل YOLO26.

1. تمكين وضع الطاقة الأقصى (MAX Power Mode)

   سيضمن تمكين وضع الطاقة الأقصى على Jetson تشغيل جميع أنوية CPU و GPU.

   sudo nvpmodel -m 0

2. تمكين ساعات Jetson (Jetson Clocks)

   سيضمن تمكين ساعات Jetson ضبط جميع أنوية CPU و GPU على أقصى تردد لها.

   sudo jetson_clocks

3. تثبيت تطبيق إحصائيات Jetson (Jetson Stats)

   يمكننا استخدام تطبيق إحصائيات Jetson لمراقبة درجات حرارة مكونات النظام والتحقق من تفاصيل النظام الأخرى مثل عرض استخدام CPU و GPU و RAM، وتغيير أوضاع الطاقة، والضبط على أقصى سرعات للساعة، والتحقق من معلومات JetPack.

   sudo apt update
   sudo pip install jetson-stats
   sudo reboot
   jtop

نصائح تحسين الذاكرة لأجهزة NVIDIA Jetson

غالبًا ما تكون الذاكرة المتاحة هي العامل المحدود على أجهزة Jetson، خاصة في الإصدارات ذات الذاكرة الأقل مثل Jetson Orin Nano (8 جيجابايت) أو Orin NX 8 جيجابايت. النصائح أدناه هي تغييرات عملية ومنخفضة المخاطر يمكنها بشكل جماعي توفير عدة مئات من الميجابايت وتسمح لك بتشغيل نماذج YOLO أكبر أو دعم أعباء عمل متوازية إضافية. للحصول على معالجة شاملة، راجع مدونة NVIDIA حول زيادة كفاءة الذاكرة لتشغيل نماذج أكبر على NVIDIA Jetson.

التبديل إلى التمهيد بدون واجهة رسومية (Headless)

إذا كان جهاز Jetson الخاص بك متصلاً عبر SSH أو يعمل كجهاز إنتاج بدون شاشة متصلة، فإن التخلص من بيئة سطح المكتب وخادم العرض يمكن أن يستعيد ما يصل إلى 865 ميجابايت من ذاكرة الوصول العشوائي (RAM):

sudo systemctl set-default multi-user.target
sudo reboot

لاستعادة سطح المكتب لاحقاً:

sudo systemctl set-default graphical.target
sudo reboot

تعطيل خدمات النظام غير المستخدمة

تستهلك خدمات الخلفية غير الأساسية (Bluetooth، مديرو الاتصال، برامج الأجهزة الخفية غير المستخدمة) حوالي 32 ميجابايت مجتمعة. قم بإدراج الخدمات النشطة وعطّل أي شيء لا يتطلبه تطبيقك:

# List running services
systemctl list-units --type=service --state=running

# Disable a service
sudo systemctl disable <service-name>

تحليل استخدام الذاكرة

قبل التحسين، حدد العمليات التي تستهلك ذاكرة الوصول العشوائي بالفعل. يقوم procrank بفرز العمليات حسب PSS (Proportional Set Size)، وهو ما يعكس البصمة الحقيقية للذاكرة لكل عملية بشكل أدق من RSS (Resident Set Size، وهو إجمالي صفحات ذاكرة الوصول العشوائي المادية المعينة بواسطة عملية، بما في ذلك الصفحات المشتركة مع عمليات أخرى):

git clone https://github.com/csimmonds/procrank_linux.git
cd procrank_linux && make
sudo ./procrank

لرؤية مخصصات GPU و NvMap (خط أنابيب CUDA/الفيديو) لكل عملية:

sudo cat /sys/kernel/debug/nvmap/iovmm/clients

تشغيل الاستدلال بدون شاشة في الإنتاج

بالنسبة لخطوط أنابيب الاستدلال التي ليس لها متطلبات معاينة مباشرة، يمكن أن يوفر تعطيل المكونات المتعلقة بالعرض (Tiler, OSD, DisplaySink) أكثر من 200 ميجابايت من خط الأنابيب وحده. مع Ultralytics YOLO، قم بقمع العارض واكتب النتائج على القرص بدلاً من ذلك:

from ultralytics import YOLO

model = YOLO("yolo11n.engine")

# show=False prevents any display window; save=True writes annotated output to disk
results = model.predict(source="video.mp4", show=False, save=True)

التأثير التراكمي

يعد الجمع بين هذه التغييرات ذا قيمة خاصة عند استهداف نماذج TensorRT INT8 على الأجهزة المحدودة الذاكرة - يمكن أن يكون الفرق بين احتواء متغير نموذج أكبر في الذاكرة أو عدمه.

الخطوات التالية

لمزيد من التعلم والدعم، راجع وثائق Ultralytics YOLO26.

الأسئلة الشائعة

كيف يمكنني نشر Ultralytics YOLO26 على أجهزة NVIDIA Jetson؟

نشر Ultralytics YOLO26 على أجهزة NVIDIA Jetson هو عملية مباشرة. أولاً، قم بتثبيت NVIDIA JetPack SDK على جهاز Jetson الخاص بك. ثم، استخدم إما صورة Docker جاهزة للإعداد السريع أو قم بتثبيت الحزم المطلوبة يدوياً. يمكن العثور على خطوات مفصلة لكل نهج في أقسام البدء السريع باستخدام Docker و البدء بالتثبيت الأصلي.

ما هي مقاييس الأداء التي يمكنني توقعها من نماذج YOLO11 على أجهزة NVIDIA Jetson؟

تم قياس أداء نماذج YOLO11 على العديد من أجهزة NVIDIA Jetson مما يظهر تحسينات كبيرة في الأداء. على سبيل المثال، يوفر تنسيق TensorRT أفضل أداء للاستدلال. يوفر الجدول في قسم جداول المقارنة التفصيلية رؤية شاملة لمقاييس الأداء مثل mAP50-95 ووقت الاستدلال عبر تنسيقات النماذج المختلفة.

لماذا يجب أن أستخدم TensorRT لنشر YOLO26 على NVIDIA Jetson؟

يوصى بشدة باستخدام TensorRT لنشر نماذج YOLO26 على NVIDIA Jetson نظراً لأدائه الأمثل. فهو يسرع الاستدلال من خلال الاستفادة من قدرات GPU الخاصة بـ Jetson، مما يضمن أقصى قدر من الكفاءة والسرعة. تعرف على المزيد حول كيفية التحويل إلى TensorRT وتشغيل الاستدلال في قسم استخدام TensorRT على NVIDIA Jetson.

كيف يمكنني تثبيت PyTorch و Torchvision على NVIDIA Jetson؟

لتثبيت PyTorch و Torchvision على NVIDIA Jetson، قم أولاً بإلغاء تثبيت أي إصدارات موجودة ربما تم تثبيتها عبر pip. ثم، قم بتثبيت إصدارات PyTorch و Torchvision المتوافقة يدوياً لهندسة ARM64 الخاصة بـ Jetson. يتم توفير تعليمات مفصلة لهذه العملية في قسم تثبيت PyTorch و Torchvision.

ما هي أفضل الممارسات لزيادة الأداء على NVIDIA Jetson عند استخدام YOLO26؟

لزيادة الأداء على NVIDIA Jetson باستخدام YOLO26، اتبع أفضل الممارسات التالية:

1. تمكين وضع الطاقة الأقصى (MAX Power Mode) لاستخدام جميع أنوية CPU و GPU.
2. تمكين ساعات Jetson (Jetson Clocks) لتشغيل جميع الأنوية بأقصى تردد لها.
3. تثبيت تطبيق إحصائيات Jetson (Jetson Stats) لمراقبة مقاييس النظام.

للأوامر والتفاصيل الإضافية، راجع قسم أفضل الممارسات عند استخدام NVIDIA Jetson.

كيف يمكنني تحرير الذاكرة على NVIDIA Jetson لتشغيل نماذج YOLO أكبر؟

غالباً ما تكون ذاكرة الوصول العشوائي المتاحة هي عنق الزجاجة على أجهزة Jetson ذات الذاكرة الأقل. ثلاث مكاسب سهلة يمكنها معاً استعادة أكثر من 1 جيجابايت:

1. التبديل إلى التمهيد بدون واجهة رسومية (sudo systemctl set-default multi-user.target) للتخلص من واجهة سطح المكتب الرسومية (توفير ~865 ميجابايت).
2. تعطيل الخدمات غير المستخدمة مثل Bluetooth أو مديري الاتصال (توفير ~32 ميجابايت).
3. تشغيل الاستدلال بدون شاشة عن طريق ضبط show=False في استدعاء predict الخاص بـ YOLO، مما يتجنب تخصيص ذاكرة خط أنابيب العرض (توفير ~200+ ميجابايت).

استخدم procrank لتحليل استخدام ذاكرة الوصول العشوائي لكل عملية و sudo cat /sys/kernel/debug/nvmap/iovmm/clients لفحص مخصصات GPU. راجع قسم نصائح تحسين الذاكرة للحصول على التفاصيل الكاملة.

لماذا يعطل تصدير TensorRT INT8 خاصية end2end على JetPack 6؟

يحتوي TensorRT 10.3.0 المشحون مع JetPack 6 على مشكلة معروفة تمنع بناء محرك INT8 عند تمكين end2end=True. عندما تكتشف Ultralytics هذا المزيج، فإنها تقوم تلقائياً بتعطيل فرع end2end لضمان نجاح التصدير.

لاستعادة عمليات تصدير end2end INT8، قم بترقية TensorRT إلى إصدار أحدث (مثل 10.7.0+):

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/arm64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt-get update
sudo apt-get install -y tensorrt

بعد الترقية، أعد تشغيل التصدير الخاص بك. لمزيد من التفاصيل، راجع مشكلة GitHub رقم 23841.