دليل البدء السريع: NVIDIA Jetson مع Ultralytics YOLO26#

يوفّر هذا الدليل الشامل شرحًا تفصيليًا خطوة بخطوة لنشر Ultralytics YOLO26 على أجهزة NVIDIA Jetson. بالإضافة إلى ذلك، يعرض معايير أداء لتوضيح إمكانات YOLO26 على هذه الأجهزة الصغيرة والقوية.

ما هو NVIDIA Jetson؟#

NVIDIA Jetson هي سلسلة من لوحات الحوسبة المضمّنة المصممة لتوفير حوسبة متسارعة للذكاء الاصطناعي (AI) على الأجهزة الطرفية. صُممت هذه الأجهزة المدمجة والقوية حول بنية GPU من NVIDIA، ويمكنها تشغيل خوارزميات الذكاء الاصطناعي المعقدة ونماذج التعلم العميق مباشرةً على الجهاز، من دون الاعتماد على موارد الحوسبة السحابية. تُستخدم لوحات Jetson غالبًا في الروبوتات والمركبات ذاتية القيادة والأتمتة الصناعية وغيرها من التطبيقات التي يلزم فيها تنفيذ استدلال الذكاء الاصطناعي محليًا بزمن استجابة منخفض وكفاءة عالية. بالإضافة إلى ذلك، تستند هذه اللوحات إلى بنية ARM64 وتعمل باستهلاك طاقة أقل مقارنةً بأجهزة حوسبة GPU التقليدية.

مقارنة سلسلة NVIDIA Jetson#

تُعد NVIDIA Jetson AGX Thor أحدث إصدار من عائلة NVIDIA Jetson، وهي تستند إلى بنية NVIDIA Blackwell التي توفر أداءً محسّنًا بدرجة كبيرة للذكاء الاصطناعي مقارنةً بالأجيال السابقة. يقارن الجدول أدناه بعض أجهزة Jetson ضمن المنظومة.

للاطلاع على جدول مقارنة أكثر تفصيلًا، يُرجى زيارة قسم Compare Specifications في صفحة NVIDIA Jetson الرسمية.

ما هو NVIDIA JetPack؟#

يُعد NVIDIA JetPack SDK، الذي يشغّل وحدات Jetson، الحل الأكثر شمولًا؛ إذ يوفّر بيئة تطوير كاملة لبناء تطبيقات ذكاء اصطناعي متسارعة من البداية إلى النهاية، ويختصر الوقت اللازم للوصول إلى السوق. يتضمن JetPack نظام Jetson Linux مع محمّل الإقلاع ونواة Linux وبيئة سطح مكتب Ubuntu ومجموعة كاملة من المكتبات لتسريع حوسبة GPU والوسائط المتعددة والرسومات والرؤية الحاسوبية. كما يتضمن أمثلة ووثائق وأدوات للمطور لكل من الحاسوب المضيف وحزمة التطوير، ويدعم SDKs ذات المستوى الأعلى مثل DeepStream لتحليلات الفيديو المتدفق، وIsaac للروبوتات، وRiva للذكاء الاصطناعي الحواري.

تثبيت JetPack على NVIDIA Jetson#

تتمثل الخطوة الأولى بعد اقتناء جهاز NVIDIA Jetson في تثبيت NVIDIA JetPack على الجهاز. توجد عدة طرق مختلفة لتثبيت NVIDIA JetPack على أجهزة NVIDIA Jetson.

1. بالنسبة إلى JetPack 7.2 على حزمة تطوير Jetson AGX Thor أو AGX Orin أو Orin Nano الرسمية، نزّل ملف Jetson ISO الموحد، واكتبه على محرك أقراص USB محمول، واتبع دليل البدء السريع الخاص بالجهاز لكل من AGX Thor أو AGX Orin أو Orin Nano. بدءًا من JetPack 7.2، لم يعد Orin Nano يستخدم صورة SD قابلة للتنزيل؛ إذ يثبّت USB ISO نظام Jetson Linux على بطاقة microSD أو وحدة تخزين NVMe SSD الخاصة بالجهاز.
2. إذا كنت تستخدم JetPack 6 عمدًا على حزمة تطوير Jetson Orin Nano، فاتبع تعليمات NVIDIA لتحديث JetPack 6.x وبطاقة SD.
3. إذا كنت تمتلك أي حزمة تطوير NVIDIA أخرى، فيمكنك تثبيت JetPack على الجهاز باستخدام SDK Manager.
4. إذا كنت تمتلك جهاز Seeed Studio reComputer J4012، فيمكنك تثبيت JetPack على SSD المرفق، وإذا كنت تمتلك جهاز Seeed Studio reComputer J1020 v2، فيمكنك تثبيت JetPack على eMMC/ SSD.
5. إذا كنت تمتلك أي جهاز آخر من جهة خارجية يعمل بوحدة NVIDIA Jetson، فمن المستحسن اتباع إجراءات التثبيت عبر سطر الأوامر.

دعم JetPack حسب جهاز Jetson#

يوضح الجدول أدناه إصدارات NVIDIA JetPack التي تدعمها أجهزة NVIDIA Jetson المختلفة.

البدء السريع باستخدام Docker#

أسرع طريقة للبدء باستخدام Ultralytics YOLO26 على NVIDIA Jetson هي تشغيله باستخدام صور Docker مُنشأة مسبقًا والمخصصة لـJetson. راجع الجدول أعلاه واختر إصدار JetPack وفقًا لجهاز Jetson الذي تملكه.

t=ultralytics/ultralytics:latest-jetson-jetpack4
sudo docker pull $t && sudo docker run -it --ipc=host --runtime=nvidia $t

بالنسبة لصور JetPack 4 و 5 و 6، استمر في الانتقال إلى Use TensorRT on NVIDIA Jetson. صورة JetPack 7.1 أعلاه مخصصة لأحمال عمل PyTorch فقط.

البدء بالتثبيت الأصلي#

لإجراء تثبيت أصلي من دون Docker، يُرجى الرجوع إلى الخطوات أدناه.

التشغيل على JetPack 7.2#

تثبيت حزمة Ultralytics#

سنثبت هنا حزمة Ultralytics على Jetson. تُثبّت تبعيات التصدير تلقائيًا في المرة الأولى التي تصدّر فيها نموذجًا، لذا لا نحتاج هنا إلا إلى الحزمة الأساسية. سنركّز أساسًا على عمليات التصدير إلى NVIDIA TensorRT، لأن TensorRT يضمن الحصول على أقصى أداء ممكن من أجهزة Jetson.

1. تحديث قائمة الحزم وتثبيت pip والترقية إلى أحدث إصدار

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. تثبيت حزمة pip‏ ultralytics

   pip install ultralytics

3. إعادة تشغيل الجهاز

   sudo reboot

تثبيت PyTorch وTorchvision#

سيؤدي تثبيت ultralytics أعلاه إلى تثبيت Torch وTorchvision. إلا أن هاتين الحزمتين المثبتتين عبر pip غير متوافقتين للتشغيل على أجهزة JetPack 7.2 مع CUDA 13. لذلك، نحتاج إلى تثبيتهما يدويًا.

تثبيت torch وtorchvision وفقًا لـJP7.2

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

تثبيت onnxruntime-gpu#

استخدم عجلة ONNX Runtime GPU المتوافقة مع إصدارات JetPack و Python و CUDA الخاصة بك. تتضمن إصدارات PyPI الحالية عجلات ARM64، لكنها لا تحل محل الحزم الخاصة بالجيهاز لكل إصدار JetPack.

سننزّل هنا onnxruntime-gpu 1.24.0 ونثبّته مع دعم Python3.12.

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.24.0-cp312-cp312-linux_aarch64.whl

التشغيل على JetPack 6.1#

تثبيت حزمة Ultralytics#

سنثبت هنا حزمة Ultralytics على Jetson. تُثبّت تبعيات التصدير تلقائيًا في المرة الأولى التي تصدّر فيها نموذجًا، لذا لا نحتاج هنا إلا إلى الحزمة الأساسية. سنركّز أساسًا على عمليات التصدير إلى NVIDIA TensorRT، لأن TensorRT يضمن الحصول على أقصى أداء ممكن من أجهزة Jetson.

1. تحديث قائمة الحزم وتثبيت pip والترقية إلى أحدث إصدار

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. تثبيت حزمة pip‏ ultralytics

   pip install ultralytics

3. إعادة تشغيل الجهاز

   sudo reboot

تثبيت PyTorch وTorchvision#

سيؤدي تثبيت ultralytics أعلاه إلى تثبيت Torch وTorchvision. إلا أن هاتين الحزمتين المثبتتين عبر pip غير متوافقتين مع منصة Jetson المستندة إلى بنية ARM64. لذلك، نحتاج إلى تثبيت ملف PyTorch pip wheel مُنشأ مسبقًا يدويًا، وتجميع Torchvision من المصدر أو تثبيته منه.

تثبيت torch 2.10.0 وtorchvision 0.25.0 وفقًا لـJP6.1

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torch-2.10.0-cp310-cp310-linux_aarch64.whl
pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torchvision-0.25.0-cp310-cp310-linux_aarch64.whl

ثبّت cuDSS لإصلاح مشكلة تبعية مع torch 2.10.0

wget https://developer.download.nvidia.com/compute/cudss/0.7.1/local_installers/cudss-local-tegra-repo-ubuntu2204-0.7.1_0.7.1-1_arm64.deb
sudo dpkg -i cudss-local-tegra-repo-ubuntu2204-0.7.1_0.7.1-1_arm64.deb
sudo cp /var/cudss-local-tegra-repo-ubuntu2204-0.7.1/cudss-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cudss

تثبيت onnxruntime-gpu#

استخدم عجلة ONNX Runtime GPU المتوافقة مع إصدارات JetPack و Python و CUDA الخاصة بك. تتضمن إصدارات PyPI الحالية عجلات ARM64، لكنها لا تحل محل الحزم الخاصة بالجيهاز لكل إصدار JetPack.

يمكنك العثور على جميع حزم onnxruntime-gpu المتاحة—مرتبة حسب إصدار JetPack وإصدار Python وتفاصيل التوافق الأخرى—في مصفوفة توافق Jetson Zoo ONNX Runtime.

بالنسبة إلى JetPack 6 مع دعم Python 3.10، يمكنك تثبيت onnxruntime-gpu 1.23.0:

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.23.0-cp310-cp310-linux_aarch64.whl

بدلًا من ذلك، بالنسبة إلى onnxruntime-gpu 1.20.0:

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.20.0-cp310-cp310-linux_aarch64.whl

التشغيل على JetPack 5.1.2#

تثبيت حزمة Ultralytics#

سنثبت هنا حزمة Ultralytics على Jetson. تُثبّت تبعيات التصدير تلقائيًا في المرة الأولى التي تصدّر فيها نموذجًا، لذا لا نحتاج هنا إلا إلى الحزمة الأساسية. سنركّز أساسًا على عمليات التصدير إلى NVIDIA TensorRT، لأن TensorRT يضمن الحصول على أقصى أداء ممكن من أجهزة Jetson.

1. تحديث قائمة الحزم وتثبيت pip والترقية إلى أحدث إصدار

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. تثبيت حزمة pip‏ ultralytics

   pip install ultralytics

3. إعادة تشغيل الجهاز

   sudo reboot

تثبيت PyTorch وTorchvision#

سيؤدي تثبيت ultralytics أعلاه إلى تثبيت Torch وTorchvision. إلا أن هاتين الحزمتين المثبتتين عبر pip غير متوافقتين مع منصة Jetson المستندة إلى بنية ARM64. لذلك، نحتاج إلى تثبيت ملف PyTorch pip wheel مُنشأ مسبقًا يدويًا، وتجميع Torchvision من المصدر أو تثبيته منه.

1. إلغاء تثبيت PyTorch وTorchvision المثبتين حاليًا

   pip uninstall torch torchvision

2. تثبيت torch 2.1.0 وtorchvision 0.16.2 وفقًا لـJP5.1.2

   pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torch-2.1.0a0+41361538.nv23.06-cp38-cp38-linux_aarch64.whl
   pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torchvision-0.16.2+c6f3977-cp38-cp38-linux_aarch64.whl

تثبيت onnxruntime-gpu#

استخدم عجلة ONNX Runtime GPU المتوافقة مع إصدارات JetPack و Python و CUDA الخاصة بك. تتضمن إصدارات PyPI الحالية عجلات ARM64، لكنها لا تحل محل الحزم الخاصة بالجيهاز لكل إصدار JetPack.

يمكنك العثور على جميع حزم onnxruntime-gpu المتاحة—مرتبة حسب إصدار JetPack وإصدار Python وتفاصيل التوافق الأخرى—في مصفوفة توافق Jetson Zoo ONNX Runtime. سننزّل هنا onnxruntime-gpu 1.17.0 ونثبّته مع دعم Python3.8.

wget https://nvidia.box.com/shared/static/zostg6agm00fb6t5uisw51qi6kpcuwzd.whl -O onnxruntime_gpu-1.17.0-cp38-cp38-linux_aarch64.whl
pip install onnxruntime_gpu-1.17.0-cp38-cp38-linux_aarch64.whl

استخدام TensorRT على NVIDIA Jetson#

من بين جميع تنسيقات تصصدير النماذج المدعومة بواسطة Ultralytics، يقدم TensorRT أعلى أداء للاستدلال على أجهزة NVIDIA Jetson، مما يجعله توصيتنا الأولى لعمليات نشر Jetson. قبل التصدير، قم بتثبيت ارتباطات TensorRT Python المقدمة لإصدار JetPack الخاص بك وتحقق منها باستخدام python3 -c "import tensorrt; print(tensorrt.__version__)". احتفظ بوقت تشغيل TensorRT 10.x المدعوم على JetPack 6/7؛ ولا تستبدله بـ TensorRT 11.2.1. للحصول على تعليمات الإعداد والاستخدام المتقدم، راجع دليل تكامل TensorRT المخصص الخاص بنا.

يمكنك أيضًا التصدير من المتصفح من دون إعداد بيئة البناء محليًا. في علامة تبويب تصدير النموذج في Ultralytics Platform، حدّد TensorRT والهدف المقصود من Jetson. يجري التحقق من خيارات Thor على أجهزة Thor فعلية. وتنتج خيارات Orin الستة حاليًا محركات مرشحة مبنية على AGX-Orin؛ لذا تحقّق منها على SKU Orin المقصود قبل النشر.

تحويل النموذج إلى TensorRT وتشغيل الاستدلال#

يُحوَّل نموذج YOLO26n بتنسيق PyTorch إلى TensorRT لتشغيل الاستدلال باستخدام النموذج المُصدَّر.

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT
model.export(format="engine")  # creates 'yolo26n.engine'

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

استخدام مُسرّع التعلم العميق من NVIDIA (DLA)#

مُسرّع التعلم العميق من NVIDIA (DLA) هو مكوّن عتادي متخصص مدمج في أجهزة NVIDIA Jetson، يعمل على تحسين استدلال التعلم العميق لتحقيق كفاءة الطاقة والأداء. ومن خلال إسناد المهام من GPU (مما يحرره للعمليات الأكثر كثافة)، يتيح DLA تشغيل النماذج باستهلاك طاقة أقل مع الحفاظ على معدل نقل مرتفع، ما يجعله مثاليًا للأنظمة المضمّنة وتطبيقات الذكاء الاصطناعي في الوقت الفعلي.

أجهزة Jetson التالية مجهزة بعتاد DLA:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT with DLA enabled (only works with FP16 or INT8)
model.export(format="engine", device="dla:0", quantize=16)  # dla:0 or dla:1 corresponds to the DLA cores

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

معايير أداء YOLO26 على NVIDIA Jetson#

تم إجراء معايير أداء YOLO26 بواسطة فريق Ultralytics على 11 تنسيقاً مختلفاً للنماذج تقيس السرعة والدقة: PyTorch، وTorchScript، وONNX، وOpenVINO، وTensorRT، وTF SavedModel، وTF GraphDef، وTF Lite، وMNN، وNCNN، وExecuTorch. أُجريت معايير الأداء على NVIDIA Jetson AGX Thor Developer Kit، وNVIDIA Jetson AGX Orin Developer Kit (64GB)، وNVIDIA Jetson Orin Nano Super Developer Kit، وجهاز Seeed Studio reComputer J4012 المدعوم بمعالج Jetson Orin NX 16GB بدقة FP32 الدقة مع حجم صورة إدخال افتراضي يبلغ 640.

مخططات المقارنة#

رغم أن جميع صادرات النماذج تعمل على NVIDIA Jetson، فقد أدرجنا PyTorch, TorchScript, TensorRT فقط في مخطط المقارنة أدناه لأنها تستفيد من GPU في Jetson ومضمونة لإنتاج أفضل النتائج. أما جميع الصادرات الأخرى فتستخدم CPU فقط، وأداؤها ليس بجودة التنسيقات الثلاثة المذكورة أعلاه. يمكنك العثور على معايير جميع الصادرات في القسم التالي لهذا المخطط.

NVIDIA Jetson AGX Thor Developer Kit#

NVIDIA Jetson AGX Orin Developer Kit (64GB)#

NVIDIA Jetson Orin Nano Super Developer Kit#

NVIDIA Jetson Orin NX 16GB#

جداول المقارنة التفصيلية#

يمثل الجدول أدناه نتائج معايير الأداء لخمسة نماذج مختلفة (YOLO26n، وYOLO26s، وYOLO26m، وYOLO26l، وYOLO26x) عبر 11 تنسيقاً مختلفاً (PyTorch، وTorchScript، وONNX، وOpenVINO، وTensorRT، وTF SavedModel، وTF GraphDef، وTF Lite، وMNN، وNCNN، وExecuTorch)، مما يمنحنا الحالة، والحجم، ومقياس mAP50-95(B)، ووقت الاستدلال لكل مجموعة.

NVIDIA Jetson AGX Thor Developer Kit#

NVIDIA Jetson AGX Orin Developer Kit (64GB)#

NVIDIA Jetson Orin Nano Super Developer Kit#

NVIDIA Jetson Orin NX 16GB#

استكشف المزيد من جهود وضع المعايير التي أجرتها Seeed Studio على إصدارات مختلفة من أجهزة NVIDIA Jetson.

إعادة إنتاج نتائجنا#

لإعادة إنتاج معايير Ultralytics المذكورة أعلاه على جميع التنسيقات المُصدَّرة، شغّل هذا الرمز:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml", imgsz=640)

أفضل الممارسات عند استخدام NVIDIA Jetson#

عند استخدام NVIDIA Jetson، هناك بعض أفضل الممارسات التي ينبغي اتباعها لتمكين أقصى أداء على NVIDIA Jetson الذي يشغّل YOLO26.

1. تمكين وضع الطاقة القصوى

   يضمن تمكين وضع الطاقة القصوى على Jetson تشغيل جميع أنوية CPU وGPU.

   sudo nvpmodel -m 0

2. تمكين ساعات Jetson

   يضمن تمكين ساعات Jetson تشغيل جميع أنوية CPU وGPU عند ترددها الأقصى.

   sudo jetson_clocks

3. تثبيت تطبيق Jetson Stats

   يمكننا استخدام تطبيق jetson stats لمراقبة درجات حرارة مكوّنات النظام والتحقق من تفاصيل أخرى للنظام، مثل عرض استخدام CPU وGPU وRAM، وتغيير أوضاع الطاقة، وضبط الساعات القصوى، والتحقق من معلومات JetPack

   sudo apt update
   sudo pip install jetson-stats
   sudo reboot
   jtop

نصائح لتحسين الذاكرة في NVIDIA Jetson#

غالبًا ما تكون الذاكرة المتاحة عامل التقييد في أجهزة Jetson، ولا سيما في الطُرز ذات الذاكرة الأقل مثل Jetson Orin Nano (8 GB) أو Orin NX 8 GB. التغييرات الواردة أدناه عملية ومنخفضة المخاطر، ويمكنها مجتمعةً تحرير عدة مئات من الميغابايتات والسماح بتشغيل نماذج YOLO أكبر أو دعم أعباء عمل متوازية إضافية. لمعالجة شاملة، راجع مدونة NVIDIA حول تحقيق أقصى كفاءة للذاكرة على Jetson.

1. التبديل إلى الإقلاع دون واجهة رسومية#

إذا كان Jetson متصلًا عبر SSH أو يعمل كجهاز إنتاجي دون توصيل شاشة، فإن إزالة بيئة سطح المكتب وخادم العرض يمكن أن تستعيد ما يصل إلى 865 MB من RAM:

sudo systemctl set-default multi-user.target
sudo reboot

لاستعادة سطح المكتب لاحقًا:

sudo systemctl set-default graphical.target
sudo reboot

2. تعطيل خدمات النظام غير المستخدمة#

تستهلك خدمات الخلفية غير الأساسية (Bluetooth ومديرو الاتصال وخدمات العتاد غير المستخدمة) نحو 32 MB مجتمعةً. اعرض الخدمات النشطة وعطّل أي خدمة لا يتطلبها النشر لديك:

# List running services
systemctl list-units --type=service --state=running

# Disable a service
sudo systemctl disable SERVICE_NAME

3. تحديد استخدام الذاكرة#

قبل التحسين، حدّد العمليات التي تستهلك RAM فعليًا. يرتّب procrank العمليات حسب PSS (حجم المجموعة المتناسب)، وهو ما يعكس البصمة الحقيقية لذاكرة كل عملية بدقة أكبر من RSS (حجم المجموعة المقيمة، أي إجمالي صفحات RAM الفعلية المعينة لعملية ما، بما في ذلك الصفحات المشتركة مع العمليات الأخرى):

git clone https://github.com/csimmonds/procrank_linux.git
cd procrank_linux && make
sudo ./procrank

لعرض تخصيصات GPU وNvMap (مسار CUDA/الفيديو) لكل عملية:

sudo cat /sys/kernel/debug/nvmap/iovmm/clients

4. تشغيل الاستدلال دون شاشة في بيئة الإنتاج#

بالنسبة إلى مسارات الاستدلال التي لا تتطلب معاينة مباشرة، يمكن أن يؤدي تعطيل مكوّنات العرض (Tiler وOSD وDisplaySink) إلى توفير 200+ MB من مسار المعالجة وحده. مع Ultralytics YOLO، أوقف العارض واكتب النتائج إلى القرص بدلًا من ذلك:

from ultralytics import YOLO

model = YOLO("yolo26n.engine")

# show=False prevents any display window; save=True writes annotated output to disk
results = model.predict(source="video.mp4", show=False, save=True)

الأثر التراكمي#

يكتسب جمع هذه التغييرات أهمية خاصة عند استهداف نماذج TensorRT INT8 على الأجهزة محدودة الذاكرة — إذ قد يكون الفارق بين ملاءمة نسخة أكبر من النموذج في الذاكرة أو عدم ملاءمتها.

الخطوات التالية#

لمزيد من التعلم والدعم، راجع مستندات Ultralytics YOLO26.

الأسئلة الشائعة#