تحسين استنتاجات YOLO26 باستخدام محرك DeepSparse من Neural Magic

عند نشر نماذج اكتشاف الكائنات مثل Ultralytics YOLO26 على أجهزة متنوعة، قد تواجه مشكلات فريدة مثل التحسين. وهنا يأتي دور تكامل YOLO26 مع محرك DeepSparse من Neural Magic. فهو يغير طريقة تنفيذ نماذج YOLO26 ويُمكّن من تحقيق أداء بمستوى وحدات معالجة الرسومات (GPU) مباشرة على وحدات المعالجة المركزية (CPU).

يوضح لك هذا الدليل كيفية نشر YOLO26 باستخدام DeepSparse من Neural Magic، وكيفية تشغيل الاستنتاجات، وكذلك كيفية قياس الأداء لضمان تحسينه.

نهاية عمر SparseML

تم الاستحواذ على Neural Magic من قبل Red Hat في يناير 2025، وهي بصدد إيقاف إصدارات المجتمع من مكتبات deepsparse وsparseml وsparsezoo وsparsify. لمزيد من المعلومات، راجع الإشعار المنشور في ملف Readme على مستودع sparseml على GitHub.

محرك DeepSparse من Neural Magic

Neural Magic's DeepSparse Overview

DeepSparse من Neural Magic هو وقت تشغيل للاستنتاج مصمم لتحسين تنفيذ الشبكات العصبية على وحدات المعالجة المركزية (CPU). وهو يطبق تقنيات متقدمة مثل التناثر (sparsity)، والتقليم (pruning)، والكمية (quantization) لتقليل المتطلبات الحسابية بشكل كبير مع الحفاظ على الدقة. يوفر DeepSparse حلاً مرناً وفعالاً وقابلاً للتوسع لتنفيذ الشبكات العصبية عبر أجهزة مختلفة.

فوائد دمج DeepSparse من Neural Magic مع YOLO26

قبل الغوص في كيفية نشر YOLO26 باستخدام DeepSparse، دعنا نفهم فوائد استخدام DeepSparse. تتضمن بعض المزايا الرئيسية ما يلي:

  • سرعة استنتاج محسنة: تصل إلى 525 إطاراً في الثانية (على YOLO11n)، مما يسرع بشكل كبير من قدرات استنتاج YOLO مقارنة بالطرق التقليدية.

Neural Magic DeepSparse inference acceleration

  • كفاءة نموذج محسنة: يستخدم التقليم والكمية لتعزيز كفاءة YOLO26، مما يقلل من حجم النموذج والمتطلبات الحسابية مع الحفاظ على الدقة.

Neural Magic model optimization and pruning

  • أداء عالٍ على وحدات المعالجة المركزية القياسية: يقدم أداءً يشبه أداء وحدات معالجة الرسومات (GPU) على وحدات المعالجة المركزية، مما يوفر خياراً أكثر سهولة وفعالية من حيث التكلفة لمختلف التطبيقات.

  • تكامل ونشر مبسط: يوفر أدوات سهلة الاستخدام لدمج YOLO26 بسهولة في التطبيقات، بما في ذلك ميزات التعليق التوضيحي للصور والفيديو.

  • دعم لأنواع النماذج المختلفة: متوافق مع كل من نماذج YOLO26 القياسية والنماذج المحسنة بالتناثر، مما يضيف مرونة في النشر.

  • حل فعال من حيث التكلفة وقابل للتوسع: يقلل من النفقات التشغيلية ويوفر نشراً قابلاً للتوسع لنماذج اكتشاف الكائنات المتقدمة.

كيف تعمل تقنية DeepSparse من Neural Magic؟

تستوحي تقنية DeepSparse من Neural Magic إلهامها من كفاءة الدماغ البشري في حسابات الشبكات العصبية. وهي تتبنى مبدأين رئيسيين من الدماغ كما يلي:

  • التناثر (Sparsity): تتضمن عملية التناثر تقليم المعلومات الزائدة من شبكات التعلم العميق، مما يؤدي إلى نماذج أصغر وأسرع دون المساس بالدقة. تقلل هذه التقنية من حجم الشبكة واحتياجاتها الحسابية بشكل كبير.

  • محلية المرجع (Locality of Reference): يستخدم DeepSparse طريقة تنفيذ فريدة، حيث يقوم بتقسيم الشبكة إلى أعمدة موتر (Tensor Columns). يتم تنفيذ هذه الأعمدة بعمق، بحيث تتناسب تماماً داخل ذاكرة التخزين المؤقت لوحدة المعالجة المركزية (CPU). يحاكي هذا النهج كفاءة الدماغ، مما يقلل من حركة البيانات ويزيد من استخدام ذاكرة التخزين المؤقت لوحدة المعالجة المركزية إلى أقصى حد.

How Neural Magic's DeepSparse Technology Works

إنشاء نسخة متناثرة من YOLO26 مدربة على مجموعة بيانات مخصصة

يوفر SparseZoo، وهو مستودع نماذج مفتوح المصدر من Neural Magic، مجموعة من نقاط فحص نماذج YOLO26 المتناثرة مسبقاً. ومع SparseML، المتكامل بسلاسة مع Ultralytics، يمكن للمستخدمين ضبط نقاط الفحص المتناثرة هذه بسهولة على مجموعات بياناتهم المحددة باستخدام واجهة سطر أوامر مباشرة.

تحقق من وثائق SparseML YOLO26 من Neural Magic لمزيد من التفاصيل.

الاستخدام: نشر YOLO26 باستخدام DeepSparse

يتضمن نشر YOLO26 باستخدام DeepSparse من Neural Magic بضع خطوات مباشرة. قبل الغوص في تعليمات الاستخدام، تأكد من إلقاء نظرة على مجموعة نماذج YOLO26 التي تقدمها Ultralytics. سيساعدك هذا في اختيار النموذج الأنسب لمتطلبات مشروعك. إليك كيف يمكنك البدء.

الخطوة 1: التثبيت

لتثبيت الحزم المطلوبة، قم بتشغيل:

التثبيت
# Install the required packages
pip install deepsparse[yolov8]

الخطوة 2: تصدير YOLO26 إلى تنسيق ONNX

يتطلب محرك DeepSparse نماذج YOLO26 بتنسيق ONNX. يعد تصدير نموذجك إلى هذا التنسيق أمراً ضرورياً للتوافق مع DeepSparse. استخدم الأمر التالي لتصدير نماذج YOLO26:

تصدير النموذج
# Export YOLO26 model to ONNX format
yolo task=detect mode=export model=yolo26n.pt format=onnx opset=13

سيقوم هذا الأمر بحفظ نموذج yolo26n.onnx على القرص الخاص بك.

الخطوة 3: النشر وتشغيل الاستنتاجات

مع وجود نموذج YOLO26 الخاص بك بتنسيق ONNX، يمكنك النشر وتشغيل الاستنتاجات باستخدام DeepSparse. يمكن القيام بذلك بسهولة باستخدام واجهة برمجة تطبيقات Python البديهية الخاصة بهم:

النشر وتشغيل الاستنتاجات
from deepsparse import Pipeline

# Specify the path to your YOLO26 ONNX model
model_path = "path/to/yolo26n.onnx"

# Set up the DeepSparse Pipeline
yolo_pipeline = Pipeline.create(task="yolov8", model_path=model_path)

# Run the model on your images
images = ["path/to/image.jpg"]
pipeline_outputs = yolo_pipeline(images=images)

الخطوة 4: قياس الأداء

من المهم التحقق من أن نموذج YOLO26 الخاص بك يعمل بشكل أمثل على DeepSparse. يمكنك قياس أداء نموذجك لتحليل معدل النقل وزمن الوصول:

قياس الأداء (Benchmarking)
# Benchmark performance
deepsparse.benchmark model_path="path/to/yolo26n.onnx" --scenario=sync --input_shapes="[1,3,640,640]"

الخطوة 5: ميزات إضافية

يوفر DeepSparse ميزات إضافية للتكامل العملي لـ YOLO26 في التطبيقات، مثل التعليق التوضيحي للصور وتقييم مجموعة البيانات.

ميزات إضافية
# For image annotation
deepsparse.yolov8.annotate --source "path/to/image.jpg" --model_filepath "path/to/yolo26n.onnx"

# For evaluating model performance on a dataset
deepsparse.yolov8.eval --model_path "path/to/yolo26n.onnx"

يؤدي تشغيل أمر annotate إلى معالجة الصورة المحددة، واكتشاف الكائنات، وحفظ الصورة المعلقة بمربعات إحاطة وتصنيفات. سيتم تخزين الصورة المعلقة في مجلد annotation-results. يساعد هذا في توفير تمثيل مرئي لقدرات اكتشاف النموذج.

Neural Magic annotation feature interface

بعد تشغيل أمر eval، ستتلقى مقاييس إخراج مفصلة مثل الدقة، الاستدعاء، وmAP (متوسط متوسط الدقة). يوفر هذا نظرة شاملة لأداء نموذجك على مجموعة البيانات وهو مفيد بشكل خاص لضبط وتحسين نماذج YOLO26 لحالات استخدام محددة، مما يضمن دقة وكفاءة عاليتين.

ملخص

استكشف هذا الدليل دمج YOLO26 من Ultralytics مع محرك DeepSparse من Neural Magic. وقد سلط الضوء على كيفية تعزيز هذا التكامل لأداء YOLO26 على منصات وحدات المعالجة المركزية، مما يوفر كفاءة بمستوى وحدات معالجة الرسومات وتقنيات متقدمة لتناثر الشبكات العصبية.

لمزيد من المعلومات التفصيلية والاستخدام المتقدم، قم بزيارة وثائق DeepSparse من Neural Magic. يمكنك أيضاً استكشاف دليل تكامل YOLO26 ومشاهدة جلسة تجول على YouTube.

بالإضافة إلى ذلك، للحصول على فهم أوسع لتكاملات YOLO26 المختلفة، قم بزيارة صفحة دليل تكامل Ultralytics، حيث يمكنك اكتشاف مجموعة من إمكانيات التكامل المثيرة الأخرى.

الأسئلة الشائعة

ما هو محرك DeepSparse من Neural Magic وكيف يعمل على تحسين أداء YOLO26؟

محرك DeepSparse من Neural Magic هو وقت تشغيل للاستنتاج مصمم لتحسين تنفيذ الشبكات العصبية على وحدات المعالجة المركزية من خلال تقنيات متقدمة مثل التناثر، والتقليم، والكمية. من خلال دمج DeepSparse مع YOLO26، يمكنك تحقيق أداء يشبه أداء وحدات معالجة الرسومات (GPU) على وحدات المعالجة المركزية القياسية، مما يعزز بشكل كبير من سرعة الاستنتاج وكفاءة النموذج والأداء العام مع الحفاظ على الدقة. لمزيد من التفاصيل، تحقق من قسم DeepSparse من Neural Magic.

كيف يمكنني تثبيت الحزم اللازمة لنشر YOLO26 باستخدام DeepSparse من Neural Magic؟

تثبيت الحزم المطلوبة لنشر YOLO26 مع DeepSparse من Neural Magic أمر مباشر. يمكنك تثبيتها بسهولة باستخدام CLI. إليك الأمر الذي تحتاج إلى تشغيله:

pip install deepsparse[yolov8]

بمجرد التثبيت، اتبع الخطوات الواردة في قسم التثبيت لإعداد بيئتك وبدء استخدام DeepSparse مع YOLO26.

كيف أقوم بتحويل نماذج YOLO26 إلى تنسيق ONNX لاستخدامها مع DeepSparse؟

لتحويل نماذج YOLO26 إلى تنسيق ONNX، وهو أمر مطلوب للتوافق مع DeepSparse، يمكنك استخدام أمر CLI التالي:

yolo task=detect mode=export model=yolo26n.pt format=onnx opset=13

سيقوم هذا الأمر بتصدير نموذج YOLO26 الخاص بك (yolo26n.pt) إلى تنسيق (yolo26n.onnx) يمكن استخدامه بواسطة محرك DeepSparse. يمكن العثور على مزيد من المعلومات حول تصدير النموذج في قسم تصدير النموذج.

كيف أقوم بقياس أداء YOLO26 على محرك DeepSparse؟

يساعدك قياس أداء YOLO26 على DeepSparse في تحليل معدل النقل وزمن الوصول لضمان تحسين نموذجك. يمكنك استخدام أمر CLI التالي لتشغيل مقياس الأداء:

deepsparse.benchmark model_path="path/to/yolo26n.onnx" --scenario=sync --input_shapes="[1,3,640,640]"

سيوفر لك هذا الأمر مقاييس أداء حيوية. لمزيد من التفاصيل، راجع قسم قياس الأداء.

لماذا يجب علي استخدام DeepSparse من Neural Magic مع YOLO26 لمهام اكتشاف الكائنات؟

يوفر دمج DeepSparse من Neural Magic مع YOLO26 العديد من الفوائد:

  • سرعة استنتاج محسنة: تصل إلى 525 إطاراً في الثانية (على YOLO11n)، مما يوضح قدرات التحسين في DeepSparse.
  • كفاءة نموذج محسنة: يستخدم تقنيات التناثر والتقليم والكمية لتقليل حجم النموذج والاحتياجات الحسابية مع الحفاظ على الدقة.
  • أداء عالٍ على وحدات المعالجة المركزية القياسية: يوفر أداءً يشبه أداء وحدات معالجة الرسومات على أجهزة وحدات معالجة مركزية فعالة من حيث التكلفة.
  • تكامل مبسط: أدوات سهلة الاستخدام للنشر والتكامل بسهولة.
  • المرونة: يدعم كلاً من نماذج YOLO26 القياسية والمتناثرة المحسنة.
  • فعال من حيث التكلفة: يقلل من النفقات التشغيلية من خلال الاستخدام الفعال للموارد.

للحصول على تعمق أكبر في هذه المزايا، قم بزيارة قسم فوائد دمج DeepSparse من Neural Magic مع YOLO26.

التعليقات