دليل البدء السريع: NVIDIA Spark مع Ultralytics YOLO11

يقدم هذا الدليل الشامل إرشادات تفصيلية لنشر Ultralytics YOLO11 NVIDIA Spark، وهو حاسوب عملاق صغير الحجم يعمل بالذكاء الاصطناعي NVIDIA. بالإضافة إلى ذلك، يعرض الدليل معايير أداء لإظهار قدرات YOLO11 هذا النظام القوي.

ما هو NVIDIA Spark؟

NVIDIA Spark هو حاسوب عملاق مكتبي صغير الحجم يعمل بنظام الذكاء الاصطناعي ويتم تشغيله بواسطة شريحة NVIDIA Grace Blackwell Superchip. يوفر هذا الحاسوب أداءً حاسوبيًا يصل إلى 1 بيتافلوب من الذكاء الاصطناعي بدقة FP4، مما يجعله مثاليًا للمطورين والباحثين وعلماء البيانات الذين يحتاجون إلى قدرات ذكاء اصطناعي قوية في شكل حاسوب مكتبي.

المواصفات الرئيسية

نظام التشغيل DGX

NVIDIA OS هو توزيع Linux مخصص يوفر أساسًا مستقرًا ومختبرًا ومدعومًا لنظام التشغيل لتشغيل تطبيقات الذكاء الاصطناعي والتعلم الآلي والتحليلات على أنظمة DGX. ويشمل:

• أساس Linux قوي ومُحسّن لأعباء عمل الذكاء الاصطناعي
• برامج تشغيل وإعدادات نظام مسبقة التهيئة NVIDIA
• تحديثات الأمان وقدرات صيانة النظام
• التوافق مع نظام NVIDIA الأوسع نطاقاً

يتبع نظام التشغيل DGX OS جدول إصدار منتظم مع توفير تحديثات عادةً مرتين في السنة (حوالي فبراير وأغسطس)، مع توفير تصحيحات أمان إضافية بين الإصدارات الرئيسية.

لوحة معلومات DGX

يأتي DGX Spark مزودًا بلوحة تحكم DGX مدمجة توفر:

• مراقبة النظام في الوقت الفعلي: نظرة عامة على المقاييس التشغيلية الحالية للنظام
• تحديثات النظام: إمكانية تطبيق التحديثات مباشرة من لوحة التحكم
• إعدادات النظام: تغيير اسم الجهاز والتكوينات الأخرى
• JupyterLab المدمج: الوصول إلى دفاتر Jupyter المحلية للتطوير

الوصول إلى لوحة التحكم

# Open an SSH tunnel
ssh -L 11000:localhost:11000 <username>@<IP or spark-abcd.local>

# Then open in browser
# http://localhost:11000

بداية سريعة مع Docker

أسرع طريقة لبدء استخدام Ultralytics YOLO11 NVIDIA Spark هي التشغيل باستخدام صور Docker مسبقة الإنشاء. تعمل صورة Docker نفسها التي تدعم Jetson AGX Thor (JetPack 7.0) على DGX Spark مع DGX OS.

t=ultralytics/ultralytics:latest-nvidia-arm64
sudo docker pull $t && sudo docker run -it --ipc=host --runtime=nvidia --gpus all $t

بعد الانتهاء من ذلك، انتقل إلى قسم استخدام TensorRT NVIDIA Spark.

ابدأ بالتثبيت الأصلي

للتثبيت الأصلي بدون Docker، اتبع هذه الخطوات.

تثبيت حزمة Ultralytics

هنا سنقوم بتثبيت Ultralytics على DGX Spark مع التبعيات الاختيارية حتى نتمكن من تصدير PyTorch إلى تنسيقات أخرى مختلفة. سنركز بشكل أساسي على TensorRT NVIDIA TensorRT لأن TensorRT حصولنا على أقصى أداء من DGX Spark.

1. تحديث قائمة الحزم وتثبيت pip والترقية إلى الأحدث

   sudo apt update
   sudo apt install python3-pip -y
   pip install -U pip
   

2. تثبيت ultralytics حزمة pip مع تبعيات اختيارية

   pip install ultralytics[export]
   

3. أعد تشغيل الجهاز

   sudo reboot
   

تثبيت PyTorch و Torchvision

سيؤدي ultralytics أعلاه إلى تثبيت Torch Torchvision. ومع ذلك، قد لا تكون هذه الحزم المثبتة عبر pip مُحسّنة بالكامل لهندسة ARM64 الخاصة بـ DGX Spark مع CUDA . لذلك، نوصي بتثبيت الإصدارات المتوافقة مع CUDA :

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130

UserWarning: Found GPU0 NVIDIA GB10 which is of cuda capability 12.1.
Minimum and Maximum cuda capability supported by this version of PyTorch is (8.0) - (12.0)

تثبيت onnxruntime-gpu

في onnxruntime-gpu الحزمة المستضافة في PyPI غير متوفرة aarch64 ثنائيات لأنظمة ARM64. لذا، نحتاج إلى تثبيت هذه الحزمة يدويًا. هذه الحزمة مطلوبة لبعض عمليات التصدير.

هنا سنقوم بتنزيل وتثبيت onnxruntime-gpu 1.24.0 مع Python3.12 الدعم.

pip install https://github.com/ultralytics/assets/releases/download/v0.0.0/onnxruntime_gpu-1.24.0-cp312-cp312-linux_aarch64.whl

استخدم TensorRT NVIDIA Spark

من بين جميع تنسيقات تصدير النماذج التي تدعمها Ultralytics TensorRT أعلى أداء استدلال على NVIDIA Spark، مما يجعله أفضل توصية لدينا للنشر. للحصول على إرشادات الإعداد والاستخدام المتقدم، راجع دليل TensorRT المخصص لدينا.

تحويل النموذج إلى TensorRT وتشغيل الاستدلال

يتم تحويل نموذج YOLO11n بتنسيق PyTorch إلى TensorRT لتشغيل الاستدلال مع النموذج الذي تم تصديره.

from ultralytics import YOLO

# Load a YOLO11n PyTorch model
model = YOLO("yolo11n.pt")

# Export the model to TensorRT
model.export(format="engine")  # creates 'yolo11n.engine'

# Load the exported TensorRT model
trt_model = YOLO("yolo11n.engine")

# Run inference
results = trt_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to TensorRT format
yolo export model=yolo11n.pt format=engine # creates 'yolo11n.engine'

# Run inference with the exported model
yolo predict model=yolo11n.engine source='https://ultralytics.com/images/bus.jpg'

YOLO11 NVIDIA Spark YOLO11

تم تشغيل YOLO11 من قبل Ultralytics على تنسيقات نماذج متعددة لقياس السرعة والدقة: PyTorch و TorchScript و ONNX و OpenVINO و TensorRT و TF SavedModel و TF GraphDef و TF و MNN و NCNN و ExecuTorch. تم تشغيل المعايير على NVIDIA Spark بدقة FP32 مع حجم صورة إدخال افتراضي يبلغ 640.

جدول مقارنة تفصيلي

يمثل الجدول أدناه نتائج المقارنة المعيارية لخمسة نماذج مختلفة (YOLO11n و YOLO11s و YOLO11m و YOLO11l و YOLO11x) عبر تنسيقات متعددة، مما يوفر لنا الحالة والحجم ومقياس mAP50(B) ووقت الاستدلال لكل تركيبة.

إعادة إنتاج نتائجنا

لإعادة إنتاج معايير Ultralytics المذكورة أعلاه على جميع صيغ التصدير، قم بتشغيل هذا الكود:

from ultralytics import YOLO

# Load a YOLO11n PyTorch model
model = YOLO("yolo11n.pt")

# Benchmark YOLO11n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml", imgsz=640)

# Benchmark YOLO11n speed and accuracy on the COCO128 dataset for all export formats
yolo benchmark model=yolo11n.pt data=coco128.yaml imgsz=640

أفضل الممارسات لـ NVIDIA Spark

عند استخدام NVIDIA Spark، هناك بعض أفضل الممارسات التي يجب اتباعها من أجل تحقيق أقصى أداء عند تشغيل YOLO11.

1. مراقبة أداء النظام

   استخدم أدوات المراقبة NVIDIA track CPU GPU CPU :

   nvidia-smi
   

2. تحسين استخدام الذاكرة

   بفضل ذاكرة موحدة سعة 128 جيجابايت، يمكن لـ DGX Spark معالجة أحجام دفعات ونماذج كبيرة. فكر في زيادة حجم الدفعة لتحسين الإنتاجية:

   from ultralytics import YOLO
   
   model = YOLO("yolo11n.engine")
   results = model.predict(source="path/to/images", batch=16)
   

3. استخدم TensorRT FP16 أو INT8

   للحصول على أفضل أداء، قم بتصدير النماذج بدقة FP16 أو INT8:

   yolo export model=yolo11n.pt format=engine half=True # FP16
   yolo export model=yolo11n.pt format=engine int8=True # INT8
   

تحديثات النظام (إصدار المؤسسين)

يعد الحفاظ على تحديث DGX Spark Founders Edition أمرًا ضروريًا للأداء والأمان. NVIDIA طريقتين أساسيتين لتحديث نظام التشغيل والبرامج التشغيلية والبرامج الثابتة.

استخدام لوحة معلومات DGX (موصى به)

لوحة معلومات DGX هي الطريقة الموصى بها لإجراء تحديثات النظام لضمان التوافق. وهي تتيح لك ما يلي:

• عرض تحديثات النظام المتاحة
• تثبيت تصحيحات الأمان وتحديثات النظام
• إدارة تحديثات NVIDIA والبرامج الثابتة

تحديثات النظام اليدوية

بالنسبة للمستخدمين المتقدمين، يمكن إجراء التحديثات يدويًا عبر الجهاز الطرفي:

sudo apt update
sudo apt dist-upgrade
sudo fwupdmgr refresh
sudo fwupdmgr upgrade
sudo reboot

كيف يمكنني تدريب YOLOv5 على مجموعة البيانات المخصصة الخاصة بي؟

لمزيد من التعلم والدعم، راجع وثائق Ultralytics YOLO11.

الأسئلة الشائعة

كيف يمكنني نشر Ultralytics YOLO11 NVIDIA Spark؟

يعد نشر Ultralytics YOLO11 NVIDIA Spark أمرًا سهلاً. يمكنك استخدام صورة Docker المعدة مسبقًا للإعداد السريع أو تثبيت الحزم المطلوبة يدويًا. يمكن العثور على الخطوات التفصيلية لكل نهج في قسمي "البدء السريع مع Docker " و" البدء مع التثبيت الأصلي".

ما هو الأداء الذي يمكنني توقعه من YOLO11 NVIDIA Spark؟

تقدم YOLO11 أداءً ممتازًا على DGX Spark بفضل رقاقة GB10 Grace Blackwell Superchip. يوفر TensorRT أفضل أداء استدلالي. راجع قسم جدول المقارنة التفصيلي للاطلاع على نتائج المقارنة المعيارية المحددة عبر أحجام وتنسيقات النماذج المختلفة.

لماذا يجب علي استخدام TensorRT YOLO11 DGX Spark؟

TensorRT بشدة TensorRT لنشر YOLO11 على DGX Spark نظرًا لأدائه الأمثل. فهو يعمل على تسريع الاستدلال من خلال الاستفادة من GPU Blackwell، مما يضمن أقصى قدر من الكفاءة والسرعة. تعرف على المزيد في قسم استخدام TensorRT NVIDIA Spark.

كيف يقارن DGX Spark بأجهزة Jetson بالنسبة لـ YOLO11؟

يوفر DGX Spark قوة حوسبة أكبر بكثير من أجهزة Jetson، حيث يصل أداء الذكاء الاصطناعي إلى 1 PFLOP وذاكرة موحدة تبلغ 128 جيجابايت، مقارنة بـ 2070 TFLOPS وذاكرة 128 جيجابايت في Jetson AGX Thor. تم تصميم DGX Spark كجهاز كمبيوتر مكتبي فائق للذكاء الاصطناعي، بينما أجهزة Jetson هي أنظمة مدمجة مُحسّنة للنشر المتطور.

هل يمكنني استخدام نفس صورة Docker لـ DGX Spark و Jetson AGX Thor؟

نعم! ultralytics/ultralytics:latest-nvidia-arm64 تدعم صورة Docker كلاً من NVIDIA Spark (مع DGX OS) و Jetson AGX Thor (مع JetPack 7.0)، حيث يستخدم كلاهما بنية ARM64 مع CUDA ومجموعات برامج مماثلة.

📅 تم إنشاؤه منذ 0 أيام ✏️ تم التحديث منذ 0 أيام

تعليقات