دليل البدء السريع: NVIDIA Jetson مع Ultralytics YOLO26#

يقدم هذا الدليل الشامل شرحاً مفصلاً لنشر نماذج Ultralytics YOLO26 على أجهزة NVIDIA Jetson. بالإضافة إلى ذلك، يعرض مقارنات الأداء لتوضيح إمكانيات YOLO26 على هذه الأجهزة الصغيرة والقوية.

ما هو NVIDIA Jetson؟#

NVIDIA Jetson هي سلسلة من لوحات الحوسبة المضمنة المصممة لجلب حوسبة الذكاء الاصطناعي (AI) المُسَرَّعَة إلى الأجهزة الطرفية. تُميَّز هذه الأجهزة المدمجة والقوية بأنها مبنية حول معمارية وحدة معالجة الرسومات من NVIDIA ويمكنها تشغيل خوارزميات الذكاء الاصطناعي المعقدة ونماذج التعلم العميق مباشرة على الجهاز، دون الاعتماد على موارد الحوسبة السحابية. غالباً ما تُستخدم لوحات Jetson في الروبوتات، والمركبات ذاتية القيادة، والأتمتة الصناعية، وتطبيقات أخرى حيث يحتاج استدلال الذكاء الاصطناعي إلى التنفيذ محلياً بزمن انتقال منخفض وكفاءة عالية. بالإضافة إلى ذلك، تعتمد هذه اللوحات على معمارية ARM64 وتعمل بطاقة أقل مقارنة بأجهزة حوسبة وحدات معالجة الرسومات التقليدية.

مقارنة سلسلة NVIDIA Jetson#

NVIDIA Jetson AGX Thor هو أحدث إصدار من عائلة NVIDIA Jetson استناداً إلى معمارية NVIDIA Blackwell والذي يحسن أداء الذكاء الاصطناعي بشكل جذري مقارنة بالأجيال السابقة. يقارن الجدول أدناه بعض أجهزة Jetson في النظام البيئي.

للحصول على جدول مقارنة أكثر تفصيلاً، يُرجى زيارة قسم مقارنة المواصفات في صفحة NVIDIA Jetson الرسمية.

ما هو NVIDIA JetPack؟#

NVIDIA JetPack SDK المُشغِّل لوحدات Jetson هو الحل الأكثر شمولاً ويوفر بيئة تطوير كاملة لبناء تطبيقات ذكاء اصطناعي مُسَرَّعَة من البداية إلى النهاية ويقصر وقت طرحها في الأسواق. يتضمن JetPack نظام Jetson Linux مع مُحمّل الإقلاع (bootloader)، ونواة Linux، وبيئة سطح مكتب Ubuntu، ومجموعة كاملة من المكتبات لتسريع حوسبة وحدات معالجة الرسومات، والوسائط المتعددة، والرسومات، ورؤية الكمبيوتر. كما يتضمن عينات، ووثائق، وأدوات مطورين لكل من الكمبيوتر المُضيف ومجموعة أدوات المطورين، ويدعم حزم أدوات البرمجة (SDKs) ذات المستوى الأعلى مثل DeepStream لتحليلات دفق الفيديو، وIsaac للروبوتات، وRiva للذكاء الاصطناعي التفاعلي.

تثبيت (Flash) JetPack على NVIDIA Jetson#

الخطوة الأولى بعد الحصول على جهاز NVIDIA Jetson هي تثبيت NVIDIA JetPack على الجهاز. هناك عدة طرق مختلفة لتثبيت البرامج على أجهزة NVIDIA Jetson.

1. بالنسبة لـ JetPack 7.2 على مجموعة أدوات مطورين Jetson AGX Thor أو AGX Orin أو Orin Nano الرسمية، قم بتنزيل ملف ISO الموحد لـ Jetson، واكتبه على محرك أقراص فلاش USB، واتبع دليل البدء السريع الخاص بالجهاز لـ AGX Thor أو AGX Orin أو Orin Nano. بدءاً من JetPack 7.2، لم يعد Orin Nano يستخدم صورة بطاقة SD قابلة للتنزيل؛ يقوم برنامج تثبيت ISO عبر USB بتثبيت Jetson Linux على بطاقة microSD الخاصة بالجهاز أو قرص NVMe SSD.
2. إذا كنت تستخدم JetPack 6 عمداً على مجموعة أدوات مطورين Jetson Orin Nano، فاتبع تعليمات تحديث JetPack 6.x وبطاقة SD الخاصة بـ NVIDIA.
3. إذا كنت تمتلك أي مجموعة أدوات تطور أخرى من NVIDIA، يمكنك تثبيت JetPack على الجهاز باستخدام SDK Manager.
4. إذا كنت تمتلك جهاز Seeed Studio reComputer J4012، فيمكنك تثبيت JetPack على قرص SSD المضمن وإذا كنت تمتلك جهاز Seeed Studio reComputer J1020 v2، فيمكنك تثبيت JetPack على الذاكرة eMMC/ SSD.
5. إذا كنت تمتلك أي جهاز آخر من طرف ثالث مدعوم بوحدة NVIDIA Jetson، فمن المستحسن اتباع التثبيت عبر سطر الأوامر.

دعم JetPack بناءً على جهاز Jetson#

يسلط الجدول أدناه الضوء على إصدارات NVIDIA JetPack المدعومة من قبل أجهزة NVIDIA Jetson المختلفة.

البدء السريع باستخدام Docker#

أسرع طريقة للبدء باستخدام Ultralytics YOLO26 على NVIDIA Jetson هي التشغيل باستخدام صور docker مسبقة البناء لـ Jetson. راجع الجدول أعلاه واختر إصدار JetPack وفقاً لجهاز Jetson الذي تمتلكه.

t=ultralytics/ultralytics:latest-jetson-jetpack4
sudo docker pull $t && sudo docker run -it --ipc=host --runtime=nvidia $t

بعد القيام بذلك، انتقل إلى قسم استخدام TensorRT على NVIDIA Jetson.

البدء بالتثبيت الأصلي (Native Installation)#

للتثبيت الأصلي بدون Docker، يرجى الرجوع إلى الخطوات أدناه.

التشغيل على JetPack 7.2#

تثبيت حزمة Ultralytics#

هنا سنقوم بتثبيت حزمة Ultralytics على Jetson مع التبعيات الاختيارية حتى نتمكن من تصدير نماذج PyTorch إلى تنسيقات أخرى مختلفة. سنركز بشكل أساسي على عمليات تصدير NVIDIA TensorRT لأن TensorRT سيضمن حصولنا على أقصى أداء من أجهزة Jetson.

1. تحديث قائمة الحزم، وتثبيت pip والترقية إلى الأحدث

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. تثبيت حزمة pip لـ ultralytics مع التبعيات الاختيارية

   pip install ultralytics[export]

3. إعادة تشغيل الجهاز

   sudo reboot

تثبيت PyTorch وTorchvision#

سيقوم تثبيت Ultralytics أعلاه بتثبيت Torch و Torchvision. ومع ذلك، فإن هذين الحزمتين المثبتتين عبر pip غير متوافقتين للتشغيل على أجهزة JetPack 7.2 مع CUDA 13. لذلك، نحتاج إلى تثبيتهما يدوياً.

تثبيت torch و torchvision وفقاً لـ JP7.2

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

تثبيت onnxruntime-gpu#

حزمة onnxruntime-gpu المستضافة في PyPI لا تحتوي على ملفات ثنائية aarch64 لـ Jetson. لذا نحتاج إلى تثبيت هذه الحزمة يدويًا. هذه الحزمة مطلوبة لبعض عمليات التصدير.

هنا سنقوم بتنزيل وتثبيت onnxruntime-gpu 1.24.0 مع دعم Python3.12.

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.24.0-cp312-cp312-linux_aarch64.whl

التشغيل على JetPack 6.1#

تثبيت حزمة Ultralytics#

هنا سنقوم بتثبيت حزمة Ultralytics على Jetson مع التبعيات الاختيارية حتى نتمكن من تصدير نماذج PyTorch إلى تنسيقات أخرى مختلفة. سنركز بشكل أساسي على عمليات تصدير NVIDIA TensorRT لأن TensorRT سيضمن حصولنا على أقصى أداء من أجهزة Jetson.

1. تحديث قائمة الحزم، وتثبيت pip والترقية إلى الأحدث

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. تثبيت حزمة pip لـ ultralytics مع التبعيات الاختيارية

   pip install ultralytics[export]

3. إعادة تشغيل الجهاز

   sudo reboot

تثبيت PyTorch وTorchvision#

سيؤدي تثبيت ultralytics أعلاه إلى تثبيت Torch و Torchvision. ومع ذلك، فإن هاتين الحزمتين المثبتتين عبر pip غير متوافقتين مع منصة Jetson، والتي تعتمد على بنية ARM64. لذلك، نحتاج إلى تثبيت حزمة PyTorch المجهزة مسبقًا عبر pip يدويًا وتجميع أو تثبيت Torchvision من المصدر.

تثبيت torch 2.10.0 و torchvision 0.25.0 وفقاً لـ JP6.1

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torch-2.10.0-cp310-cp310-linux_aarch64.whl
pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torchvision-0.25.0-cp310-cp310-linux_aarch64.whl

تثبيت cuDSS لحل مشكلة التبعية مع torch 2.10.0

wget https://developer.download.nvidia.com/compute/cudss/0.7.1/local_installers/cudss-local-tegra-repo-ubuntu2204-0.7.1_0.7.1-1_arm64.deb
sudo dpkg -i cudss-local-tegra-repo-ubuntu2204-0.7.1_0.7.1-1_arm64.deb
sudo cp /var/cudss-local-tegra-repo-ubuntu2204-0.7.1/cudss-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cudss

تثبيت onnxruntime-gpu#

حزمة onnxruntime-gpu المستضافة في PyPI لا تحتوي على ملفات ثنائية aarch64 لـ Jetson. لذا نحتاج إلى تثبيت هذه الحزمة يدويًا. هذه الحزمة مطلوبة لبعض عمليات التصدير.

يمكنك العثور على جميع حزم onnxruntime-gpu المتاحة - منظمة حسب إصدار JetPack، وإصدار Python، وتفاصيل التوافق الأخرى - في مصفوفة توافق Jetson Zoo ONNX Runtime.

بالنسبة لـ JetPack 6 مع دعم Python 3.10، يمكنك تثبيت onnxruntime-gpu 1.23.0:

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.23.0-cp310-cp310-linux_aarch64.whl

بدلاً من ذلك، لـ onnxruntime-gpu 1.20.0:

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.20.0-cp310-cp310-linux_aarch64.whl

التشغيل على JetPack 5.1.2#

تثبيت حزمة Ultralytics#

هنا سنقوم بتثبيت حزمة Ultralytics على Jetson مع التبعيات الاختيارية حتى نتمكن من تصدير نماذج PyTorch إلى تنسیقات أخرى مختلفة. سنركز بشكل أساسي على عمليات تصدير NVIDIA TensorRT لأن TensorRT سيضمن حصولنا على أقصى أداء من أجهزة Jetson.

1. تحديث قائمة الحزم، وتثبيت pip والترقية إلى الأحدث

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip

2. تثبيت حزمة pip لـ ultralytics مع التبعيات الاختيارية

   pip install ultralytics[export]

3. إعادة تشغيل الجهاز

   sudo reboot

تثبيت PyTorch وTorchvision#

سيؤدي تثبيت ultralytics أعلاه إلى تثبيت Torch و Torchvision. ومع ذلك، فإن هاتين الحزمتين المثبتتين عبر pip غير متوافقتين مع منصة Jetson، والتي تعتمد على بنية ARM64. لذلك، نحتاج إلى تثبيت حزمة PyTorch المجهزة مسبقًا عبر pip يدويًا وتجميع أو تثبيت Torchvision من المصدر.

1. إلغاء تثبيت PyTorch و Torchvision المثبتين حاليًا

   pip uninstall torch torchvision

2. تثبيت torch 2.1.0 و torchvision 0.16.2 وفقاً لـ JP5.1.2

   pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torch-2.1.0a0+41361538.nv23.06-cp38-cp38-linux_aarch64.whl
   pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/torchvision-0.16.2+c6f3977-cp38-cp38-linux_aarch64.whl

تثبيت onnxruntime-gpu#

حزمة onnxruntime-gpu المستضافة في PyPI لا تحتوي على ملفات ثنائية aarch64 لـ Jetson. لذا نحتاج إلى تثبيت هذه الحزمة يدويًا. هذه الحزمة مطلوبة لبعض عمليات التصدير.

يمكنك العثور على جميع حزم onnxruntime-gpu المتاحة - منظمة حسب إصدار JetPack، وإصدار Python، وتفاصيل التوافق الأخرى - في مصفوفة توافق Jetson Zoo ONNX Runtime. هنا سنقوم بتنزيل وتثبيت onnxruntime-gpu 1.17.0 مع دعم Python3.8.

wget https://nvidia.box.com/shared/static/zostg6agm00fb6t5uisw51qi6kpcuwzd.whl -O onnxruntime_gpu-1.17.0-cp38-cp38-linux_aarch64.whl
pip install onnxruntime_gpu-1.17.0-cp38-cp38-linux_aarch64.whl

استخدم TensorRT على NVIDIA Jetson#

من بين جميع تنسيقات تصدير النماذج المدعومة بواسطة Ultralytics، يقدم TensorRT أعلى أداء للاستدلال على أجهزة NVIDIA Jetson، مما يجعله توصيتنا الأولى لعمليات نشر Jetson. للحصول على تعليمات الإعداد والاستخدام المتقدم، راجع دليل تكامل TensorRT المخصص.

يمكنك أيضاً التصدير من المتصفح دون تكوين بيئة الإنشاء محلياً. في علامة تبويب تصدير نماذج Ultralytics Platform، حدد TensorRT وهدف Jetson المقصود. يتم التحقق من صحة خيارات Thor على الأجهزة الفعلية لـ Thor. تنتج خيارات Orin الستة حالياً محركات مرشحة مبنية على AGX-Orin؛ تحقق من صحتها على وحدة Orin SKU المقصودة قبل النشر.

تحويل النموذج إلى TensorRT وتشغيل الاستنتاج#

تم تحويل نموذج YOLO26n بتنسيق PyTorch إلى TensorRT لتشغيل الاستنتاج باستخدام النموذج المصدر.

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT
model.export(format="engine")  # creates 'yolo26n.engine'

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

استخدام مسرع التعلم العميق (DLA) من NVIDIA#

NVIDIA Deep Learning Accelerator (DLA) هو مكون هاردوير متخصص مدمج في أجهزة NVIDIA Jetson يعمل على تحسين استدلال التعلم العميق لتحقيق كفاءة الطاقة والأداء. من خلال إفراغ المهام من وحدة معالجة الرسومات (مما يتيح لها التعامل مع عمليات مكثفة أكثر)، يتيح DLA للنماذج التشغيل باستهلاك طاقة أقل مع الحفاظ على إنتاجية عالية، وهو مثالي للأنظمة المضمنة وتطبيقات الذكاء الاصطناعي في الوقت الفعلي.

أجهزة Jetson التالية مجهزة بأجهزة DLA:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model to TensorRT with DLA enabled (only works with FP16 or INT8)
model.export(format="engine", device="dla:0", quantize=16)  # dla:0 or dla:1 corresponds to the DLA cores

# Load the exported TensorRT model
trt_model = YOLO("yolo26n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

معايير NVIDIA Jetson YOLO11/ YOLO26#

تم تشغيل مقارنات أداء YOLO11/ YOLO26 بواسطة فريق Ultralytics على 11 تنسيق نموذج مختلف لقياس السرعة والدقة: PyTorch و TorchScript و ONNX و OpenVINO و TensorRT و TF SavedModel و TF GraphDef و TF Lite و MNN و NCNN و ExecuTorch. أجريت مقارنات الأداء على مجموعة أدوات مطورين NVIDIA Jetson AGX Thor، ومجموعة أدوات مطورين NVIDIA Jetson AGX Orin (64GB)، ومجموعة أدوات مطورين NVIDIA Jetson Orin Nano Super، وجهاز Seeed Studio reComputer J4012 المدعوم بوحدة Jetson Orin NX 16GB بدقة FP32 precision مع حجم صورة الإدخال الافتراضي البالغ 640.

مخططات المقارنة#

على الرغم من أن جميع صادرات النماذج تعمل على NVIDIA Jetson، فقد قمنا فقط بتضمين PyTorch، TorchScript، TensorRT في مخطط المقارنة أدناه لأنها تستفيد من GPU على Jetson ومضمونة لإنتاج أفضل النتائج. تستخدم جميع الصادرات الأخرى وحدة المعالجة المركزية (CPU) فقط والأداء ليس بجودة الثلاثة المذكورة أعلاه. يمكنك العثور على معايير لجميع الصادرات في القسم بعد هذا المخطط.

NVIDIA Jetson AGX Thor Developer Kit#

NVIDIA Jetson AGX Orin Developer Kit (64GB)#

NVIDIA Jetson Orin Nano Super Developer Kit#

NVIDIA Jetson Orin NX 16GB#

جداول مقارنة تفصيلية#

يمثل الجدول أدناه نتائج القياس لخمسة نماذج مختلفة (YOLO11n, YOLO11s, YOLO11m, YOLO11l, YOLO11x) عبر 11 تنسيقًا مختلفًا (PyTorch, TorchScript, ONNX, OpenVINO, TensorRT, TF SavedModel, TF GraphDef, TF Lite, MNN, NCNN, ExecuTorch)، مما يعطينا الحالة والحجم ومقياس mAP50-95(B) ووقت الاستنتاج لكل مجموعة.

NVIDIA Jetson AGX Thor Developer Kit#

NVIDIA Jetson AGX Orin Developer Kit (64GB)#

NVIDIA Jetson Orin Nano Super Developer Kit#

NVIDIA Jetson Orin NX 16GB#

استكشف المزيد من جهود مقارنة الأداء بواسطة Seeed Studio التي تعمل على إصدارات مختلفة من عتاد NVIDIA Jetson.

إعادة إنتاج نتائجنا#

إعادة إنتاج مقارنات أداء Ultralytics المذكورة أعلاه عبر جميع تنسيقات التصدير عن طريق تشغيل هذا الكود:

from ultralytics import YOLO

# Load a YOLO11n PyTorch model
model = YOLO("yolo11n.pt")

# Benchmark YOLO11n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml", imgsz=640)

أفضل الممارسات عند استخدام NVIDIA Jetson#

عند استخدام NVIDIA Jetson، هناك بعض أفضل الممارسات التي يجب اتباعها لتمكين أقصى أداء على NVIDIA Jetson الذي يشغل YOLO26.

1. تمكين وضع الطاقة الأقصى (MAX Power Mode)

   سيضمن تمكين وضع الطاقة الأقصى على Jetson تشغيل جميع أنوية CPU و GPU.

   sudo nvpmodel -m 0

2. تمكين ساعات Jetson (Jetson Clocks)

   سيضمن تمكين ساعات Jetson أن جميع أنوية CPU و GPU تعمل بترددها الأقصى.

   sudo jetson_clocks

3. تثبيت تطبيق Jetson Stats

   يمكننا استخدام تطبيق jetson stats لمراقبة درجات حرارة مكونات النظام والتحقق من تفاصيل النظام الأخرى مثل عرض استخدام CPU و GPU و RAM، وتغيير أوضاع الطاقة، والضبط على الساعات القصوى، والتحقق من معلومات JetPack.

   sudo apt update
   sudo pip install jetson-stats
   sudo reboot
   jtop

نصائح لتحسين الذاكرة لأجهزة NVIDIA Jetson#

تعتبر الذاكرة المتاحة غالباً هي العامل المحدود على أجهزة Jetson، لا سيما في الإصدارات ذات الذاكرة الأقل مثل Jetson Orin Nano (8 جيجابايت) أو Orin NX 8 جيجابايت. النصائح أدناه هي تغييرات عملية ومنخفضة المخاطر يمكنها مجتمعة تحرير عدة مئات من الميجابايت وتتيح لك تشغيل نماذج YOLO أكبر أو دعم أحمال عمل متوازية إضافية. للحصول على معالجة شاملة، راجع مدونة NVIDIA حول تعظيم كفاءة الذاكرة على Jetson.

التبديل إلى الإقلاع بدون واجهة رسومية (Headless Boot)#

إذا كان جهاز Jetson الخاص بك متصلًا عبر SSH أو يعمل كجهاز إنتاج بدون شاشة متصلة، فإن التخلص من بيئة سطح المكتب وخادم العرض يمكن أن يستعيد ما يصل إلى 865 ميجابايت من ذاكرة الوصول العشوائي (RAM):

sudo systemctl set-default multi-user.target
sudo reboot

لاستعادة سطح المكتب لاحقًا:

sudo systemctl set-default graphical.target
sudo reboot

تعطيل خدمات النظام غير المستخدمة#

تستهلك خدمات الخلفية غير الأساسية (Bluetooth، مديرو الاتصال، برامج تشغيل الأجهزة غير المستخدمة) حوالي 32 ميجابايت مجتمعة. قم بإدراج الخدمات النشطة وعطّل أي شيء لا يتطلبه نشرك:

# List running services
systemctl list-units --type=service --state=running

# Disable a service
sudo systemctl disable SERVICE_NAME

تحليل استخدام الذاكرة#

قبل التحسين، حدد العمليات التي تستهلك ذاكرة الوصول العشوائي (RAM) حقاً. يقوم procrank بترتيب العمليات حسب PSS (Proportional Set Size)، والذي يعكس بصمة الذاكرة الفعلية لكل عملية بدقة أكبر من RSS (Resident Set Size، إجمالي صفحة RAM الفيزيائية المعينة بواسطة العملية، بما في ذلك الصفحات المشتركة مع العمليات الأخرى):

git clone https://github.com/csimmonds/procrank_linux.git
cd procrank_linux && make
sudo ./procrank

لرؤية تخصيصات GPU و NvMap (خط أنابيب CUDA/الفيديو) لكل عملية:

sudo cat /sys/kernel/debug/nvmap/iovmm/clients

تشغيل الاستدلال بدون شاشة في الإنتاج#

بالنسبة لخطوط أنابيب الاستدلال التي ليس لديها متطلبات معاينة مباشرة، يمكن أن يؤدي تعطيل المكونات المتعلقة بالعرض (Tiler، OSD، DisplaySink) إلى توفير أكثر من 200 ميجابايت من خط الأنابيب وحده. مع Ultralytics YOLO، قم بقمع العارض واكتب النتائج على القرص بدلاً من ذلك:

from ultralytics import YOLO

model = YOLO("yolo11n.engine")

# show=False prevents any display window; save=True writes annotated output to disk
results = model.predict(source="video.mp4", show=False, save=True)

التأثير التراكمي#

الجمع بين هذه التغييرات قيم بشكل خاص عند استهداف نماذج TensorRT INT8 على الأجهزة ذات الذاكرة المحدودة - يمكن أن يكون الفارق بين القدرة على استيعاب متغير نموذج أكبر في الذاكرة أم لا.

الخطوات التالية#

لمزيد من التعلم والدعم، راجع وثائق Ultralytics YOLO26.

الأسئلة الشائعة#