تخطي إلى المحتوى

تحسين YOLO11 الاستدلالات مع محرك Neural Magic'DeepSparse' DeepSparse

عند نشر نماذج اكتشاف الكائنات مثل Ultralytics YOLO11 على أجهزة مختلفة، يمكنك أن تصطدم بمشكلات فريدة مثل التحسين. وهنا يأتي دور تكامل YOLO11 مع محرك DeepSparse Engine Neural Magic. فهو يحوّل الطريقة التي يتم بها تنفيذ نماذج YOLO11 ويتيح أداءً على مستوى GPU مباشرةً على وحدات المعالجة المركزية.

يوضح لك هذا الدليل كيفية نشر YOLO11 باستخدام Neural Magic'DeepSparse'، وكيفية تشغيل الاستدلالات، وكذلك كيفية قياس الأداء لضمان تحسينه.

Neural Magicديب سبارس

Neural Magicنظرة عامة على DeepSparse

Neural MagicDeepSparse هو وقت تشغيل استدلالي مصمم لتحسين تنفيذ الشبكات العصبية على وحدات المعالجة المركزية. وهو يطبق تقنيات متقدمة مثل التباعد والتشذيب والتكميم لتقليل المتطلبات الحسابية بشكل كبير مع الحفاظ على الدقة. يوفر DeepSparse حلاً رشيقًا لتنفيذ الشبكات العصبية بكفاءة وقابلية للتطوير عبر مختلف الأجهزة.

فوائد دمج Neural Magic's DeepSparse مع YOLO11

قبل الغوص في كيفية نشر YOLOV8 باستخدام DeepSparse، دعونا نفهم فوائد استخدام DeepSparse. تتضمن بعض المزايا الرئيسية ما يلي:

  • سرعة استدلال محسّنة: يحقق ما يصل إلى 525 إطارًا في الثانية (على YOLO11n)، مما يسرّع بشكل كبير من قدرات الاستدلال YOLO11 مقارنةً بالطرق التقليدية.

سرعة الاستدلال المعززة

  • كفاءة النموذج الأمثل: يستخدم التقليم والتكميم لتعزيز كفاءة YOLO11 ، مما يقلل من حجم النموذج والمتطلبات الحسابية مع الحفاظ على الدقة.

كفاءة النموذج الأمثل

  • أداء عالٍ على وحدات المعالجة المركزية القياسية: يوفر أداءً يشبه GPU على وحدات المعالجة المركزية، مما يوفر خيارًا أكثر سهولة وفعالية من حيث التكلفة لمختلف التطبيقات.

  • تكامل ونشر مبسط: يوفر أدوات سهلة الاستخدام لسهولة دمج YOLO11 في التطبيقات، بما في ذلك ميزات التعليقات التوضيحية للصور والفيديو.

  • دعم أنواع النماذج المختلفة: متوافق مع كل من الطرازات YOLO11 القياسية والمحسّنة بشكل متناثر، مما يضيف مرونة في النشر.

  • حل فعال من حيث التكلفة وقابل للتطوير: يقلل من النفقات التشغيلية ويوفر نشرًا قابلاً للتطوير لنماذج متقدمة للكشف عن الكائنات.

كيف تعمل تقنية Neural Magic'DeepSparse 'DeepSparse؟

Neural Magicتقنية "Deep Sparse" مستوحاة من كفاءة الدماغ البشري في حوسبة الشبكات العصبية. وهي تعتمد مبدأين رئيسيين من الدماغ على النحو التالي:

  • التشتت: تنطوي عملية التشتت على تشذيب المعلومات الزائدة من شبكات التعلم العميق، مما يؤدي إلى نماذج أصغر وأسرع دون المساس بالدقة. تقلل هذه التقنية من حجم الشبكة واحتياجاتها الحسابية بشكل كبير.

  • المحلية المرجعية: يستخدم DeepSparse طريقة تنفيذ فريدة من نوعها، حيث يتم تقسيم الشبكة إلى Tensor عمود. يتم تنفيذ هذه الأعمدة على أساس العمق، بحيث تتناسب تمامًا مع ذاكرة التخزين المؤقت CPU. يحاكي هذا النهج كفاءة الدماغ، مما يقلل من حركة البيانات ويزيد من استخدام ذاكرة التخزين المؤقت CPU'مخبأ التخزين المؤقت.

كيفية عمل تقنية Neural Magic'DeepSparse'

لمزيد من التفاصيل حول كيفية عمل تقنية DeepSparse من Neural Magic ، اطلع على منشور المدونة الخاص بهم.

إنشاء نسخة متناثرة من YOLO11 مدربة على مجموعة بيانات مخصصة

يوفر SparseZoo، وهو مستودع نماذج مفتوح المصدر من Neural Magic ، مجموعة من نقاط التحقق من النماذج YOLO11 التي تم تحليلها مسبقًا. وبفضل SparseML، المدمج بسلاسة مع Ultralytics ، يمكن للمستخدمين ضبط نقاط التدقيق المتفرقة هذه بسهولة على مجموعات البيانات الخاصة بهم باستخدام واجهة سطر أوامر مباشرة.

اطلع على وثائق SparseML YOLO11 الخاصة بـNeural Magic لمزيد من التفاصيل.

الاستخدام: نشر YOLOV8 باستخدام DeepSparse

ينطوي نشر YOLO11 مع Neural Magic'DeepSparse' على بعض الخطوات المباشرة. قبل الغوص في تعليمات الاستخدام، تأكد من الاطلاع على مجموعة نماذجYOLO11 التي يقدمها Ultralytics. سيساعدك هذا في اختيار النموذج الأنسب لمتطلبات مشروعك. إليك كيف يمكنك البدء.

الخطوة 1: التثبيت

لتثبيت الحزم المطلوبة، قم بتشغيل

التركيب

# Install the required packages
pip install deepsparse[yolov8]

الخطوة 2: تصدير YOLO11 إلى تنسيق ONNX

يتطلب DeepSparse Engine نماذج YOLO11 بتنسيق ONNX . يعد تصدير نموذجك إلى هذه الصيغة ضروريًا للتوافق مع DeepSparse. استخدم الأمر التالي لتصدير النماذج YOLO11 :

تصدير الطراز

# Export YOLO11 model to ONNX format
yolo task=detect mode=export model=yolo11n.pt format=onnx opset=13

سيقوم هذا الأمر بحفظ yolo11n.onnx النموذج إلى القرص الخاص بك.

الخطوة 3: نشر الاستدلالات وتشغيلها

باستخدام نموذج YOLO11 الخاص بك في صيغة ONNX ، يمكنك نشر الاستدلالات وتشغيلها باستخدام DeepSparse. يمكن القيام بذلك بسهولة باستخدام واجهة برمجة التطبيقات Python البديهية الخاصة بهم:

نشر الاستدلالات وتشغيلها

from deepsparse import Pipeline

# Specify the path to your YOLO11 ONNX model
model_path = "path/to/yolo11n.onnx"

# Set up the DeepSparse Pipeline
yolo_pipeline = Pipeline.create(task="yolov8", model_path=model_path)

# Run the model on your images
images = ["path/to/image.jpg"]
pipeline_outputs = yolo_pipeline(images=images)

الخطوة 4: قياس الأداء المعياري

من المهم التحقق من أن نموذج YOLO11 الخاص بك يعمل على النحو الأمثل على DeepSparse. يمكنك قياس أداء نموذجك لتحليل الإنتاجية والكمون:

المقارنة المعيارية

# Benchmark performance
deepsparse.benchmark model_path="path/to/yolo11n.onnx" --scenario=sync --input_shapes="[1,3,640,640]"

الخطوة 5: الميزات الإضافية

يوفر DeepSparse ميزات إضافية لدمج YOLO11 عمليًا في التطبيقات، مثل التعليقات التوضيحية للصور وتقييم مجموعة البيانات.

الميزات الإضافية

# For image annotation
deepsparse.yolov8.annotate --source "path/to/image.jpg" --model_filepath "path/to/yolo11n.onnx"

# For evaluating model performance on a dataset
deepsparse.yolov8.eval --model_path "path/to/yolo11n.onnx"

يؤدي تشغيل الأمر Commentate إلى معالجة الصورة المحددة، واكتشاف الكائنات، وحفظ الصورة المشروحة مع المربعات المحدودة والتصنيفات. سيتم تخزين الصورة المشروحة في مجلد نتائج التعليقات التوضيحية. يساعد ذلك في توفير تمثيل مرئي لإمكانيات اكتشاف النموذج.

ميزة التعليق التوضيحي للصور

بعد تشغيل الأمر eval، ستتلقى مقاييس إخراج مفصلة مثل الدقة والاستدعاء و mAP (متوسط متوسط الدقة). يوفر ذلك عرضًا شاملاً لأداء نموذجك على مجموعة البيانات. تعد هذه الوظيفة مفيدة بشكل خاص لضبط وتحسين نماذج YOLO11 الخاصة بك لحالات استخدام محددة، مما يضمن دقة وكفاءة عالية.

الملخص

استكشف هذا الدليل تكامل Ultralytics' YOLO11 مع محرك DeepSparse Neural Magic. وسلط الضوء على كيفية تعزيز هذا التكامل لأداء YOLO11 على منصات CPU ، مما يوفر كفاءة على مستوى GPU وتقنيات متقدمة لتشتت الشبكات العصبية.

للمزيد من المعلومات التفصيلية والاستخدام المتقدم، قم بزيارة وثائق DeepSparseNeural Magic'DeepSparse. يمكنك أيضًا الاطلاع على وثائق Neural Magic حول التكامل مع YOLO11 هنا ومشاهدة جلسة رائعة حول هذا الموضوع هنا.

بالإضافة إلى ذلك، للحصول على فهم أوسع لعمليات التكامل المختلفة YOLO11 ، قم بزيارة صفحة دليل التكاملUltralytics ، حيث يمكنك اكتشاف مجموعة من إمكانيات التكامل المثيرة الأخرى.

الأسئلة الشائعة

ما هو محرك Neural Magic'DeepSparse Engine وكيف يعمل على تحسين أداء YOLO11 ؟

Neural Magicمحرك DeepSparse Engine هو وقت تشغيل استدلالي مصمم لتحسين تنفيذ الشبكات العصبية على وحدات المعالجة المركزية من خلال تقنيات متقدمة مثل التباعد، والتشذيب، والتكميم. من خلال دمج DeepSparse مع YOLO11 ، يمكنك تحقيق أداء يشبه أداء GPU على وحدات المعالجة المركزية القياسية، مما يعزز بشكل كبير سرعة الاستدلال وكفاءة النموذج والأداء العام مع الحفاظ على الدقة. لمزيد من التفاصيل، راجع قسم DeepSparse على الموقع الإلكتروني Neural Magic.

كيف يمكنني تثبيت الحزم اللازمة للنشر YOLO11 باستخدام Neural Magic'DeepSparse' ؟

إن تثبيت الحزم المطلوبة لنشر YOLO11 مع Neural Magic'DeepSparse' أمر بسيط ومباشر. يمكنك تثبيتها بسهولة باستخدام CLI. إليك الأمر الذي تحتاج إلى تشغيله:

pip install deepsparse[yolov8]

بمجرد التثبيت، اتبع الخطوات الواردة في قسم التثبيت لإعداد بيئتك والبدء في استخدام DeepSparse مع YOLO11.

كيف يمكنني تحويل نماذج YOLO11 إلى تنسيق ONNX لاستخدامها مع DeepSparse؟

لتحويل النماذج YOLO11 إلى تنسيق ONNX ، وهو أمر مطلوب للتوافق مع DeepSparse، يمكنك استخدام الأمر التالي CLI :

yolo task=detect mode=export model=yolo11n.pt format=onnx opset=13

سيصدر هذا الأمر نموذج YOLO11 الخاص بك (yolo11n.pt) إلى تنسيق (yolo11n.onnx) التي يمكن أن يستخدمها محرك DeepSparse. يمكن العثور على المزيد من المعلومات حول تصدير النموذج في قسم تصدير النماذج.

كيف يمكنني قياس أداء YOLO11 على محرك DeepSparse؟

يساعدك قياس الأداء YOLO11 على DeepSparse على تحليل الإنتاجية وزمن الاستجابة لضمان تحسين نموذجك. يمكنك استخدام الأمر التالي CLI لتشغيل معيار قياسي:

deepsparse.benchmark model_path="path/to/yolo11n.onnx" --scenario=sync --input_shapes="[1,3,640,640]"

سيوفر لك هذا الأمر مقاييس الأداء الحيوية. لمزيد من التفاصيل، راجع قسم قياس الأداء المعياري.

لماذا يجب استخدام Neural Magic'DeepSparse مع YOLO11 لمهام الكشف عن الكائنات؟

يوفر دمج Neural Magic'DeepSparse الخاص بـ مع YOLO11 العديد من الفوائد:

  • سرعة استدلال محسّنة: يحقق ما يصل إلى 525 إطاراً في الثانية، مما يزيد من سرعة قدرات YOLO11 بشكل كبير.
  • كفاءة النموذج الأمثل: يستخدم تقنيات التباعد والتشذيب والتكميم لتقليل حجم النموذج والاحتياجات الحسابية مع الحفاظ على الدقة.
  • أداء عالٍ على وحدات المعالجة المركزية القياسية: يوفر أداءً يشبه أداء GPU على أجهزة CPU فعالة من حيث التكلفة.
  • تكامل مبسط: أدوات سهلة الاستخدام لسهولة النشر والتكامل.
  • المرونة: يدعم كلاً من الطرازين القياسي والمحسّن للتشتت YOLO11 .
  • فعالة من حيث التكلفة: يقلل من النفقات التشغيلية من خلال الاستخدام الفعال للموارد.

لمزيد من التعمق في هذه المزايا، يرجى زيارة قسم فوائد دمج Neural Magic'DeepSparse مع YOLO11 .

📅 تم الإنشاء منذ 11 شهرًا ✏️ تم التحديث منذ 2 أشهر
ألترالتيكسيستانتست غلين-جوتشر ماثيو نويس رضوان منور أبيرامي-فينا

التعليقات