تحسين YOLOv8 الاستدلالات مع Neural Magicمحرك ديب سباترس

عند نشر نماذج اكتشاف الكائنات مثل Ultralytics YOLOv8 على الأجهزة المختلفة ، يمكنك الاصطدام بمشكلات فريدة مثل التحسين. هذا هو المكان YOLOv8مع Neural Magicمحرك DeepSparse يتدخل. إنه يغير الطريق YOLOv8 يتم تنفيذ النماذج وتمكين الأداء على مستوى وحدة معالجة الرسومات مباشرة على وحدات المعالجة المركزية.

يوضح لك هذا الدليل كيفية النشر YOLOv8 استخدام Neural MagicDeepSparse ، وكيفية تشغيل الاستدلالات ، وكذلك كيفية قياس الأداء لضمان تحسينه.

Neural Magicديب سبارس

Neural MagicDeepSparse هو وقت تشغيل استدلالي مصمم لتحسين تنفيذ الشبكات العصبية على وحدات المعالجة المركزية. يطبق تقنيات متقدمة مثل التناثر والتقليم والتكميم لتقليل المتطلبات الحسابية بشكل كبير مع الحفاظ على الدقة. يقدم DeepSparse حلا رشيقا لتنفيذ الشبكة العصبية بكفاءة وقابلية للتطوير عبر الأجهزة المختلفة.

فوائد الدمج Neural Magicديب سبارس مع YOLOv8

قبل الغوص في كيفية النشر YOLOV8 باستخدام DeepSparse ، دعنا نفهم فوائد استخدام DeepSparse. تشمل بعض المزايا الرئيسية ما يلي:

• سرعة الاستدلال المحسنة: تحقق ما يصل إلى 525 إطارا في الثانية (تشغيل YOLOv8n) ، تسريع كبير YOLOv8قدرات الاستدلال مقارنة بالطرق التقليدية.

• كفاءة النموذج المحسنة: يستخدم التقليم والتكميم لتحسين YOLOv8، وتقليل حجم النموذج والمتطلبات الحسابية مع الحفاظ على الدقة.

• أداء عالي على وحدات المعالجة المركزية القياسية: يوفر أداء شبيها بوحدة معالجة الرسومات على وحدات المعالجة المركزية ، مما يوفر خيارا أكثر سهولة وفعالية من حيث التكلفة لمختلف التطبيقات.

• تكامل ونشر مبسط: يوفر أدوات سهلة الاستخدام لسهولة تكامل YOLOv8 في التطبيقات ، بما في ذلك ميزات التعليقات التوضيحية للصور والفيديو.

• دعم لأنواع النماذج المختلفة: متوافق مع كل من المعايير والأمثل YOLOv8 النماذج، مضيفا مرونة النشر.

• حل فعال من حيث التكلفة وقابل للتطوير: يقلل من النفقات التشغيلية ويوفر نشرا قابلا للتطوير لنماذج متقدمة للكشف عن الكائنات.

كيف Neural Magicتعمل تقنية DeepSparse؟

Neural Magicتقنية Deep Sparse مستوحاة من كفاءة الدماغ البشري في حساب الشبكة العصبية. يعتمد مبدأين رئيسيين من الدماغ على النحو التالي:

• التناثر: تتضمن عملية التناثر تقليم المعلومات الزائدة عن الحاجة من شبكات التعلم العميق ، مما يؤدي إلى نماذج أصغر وأسرع دون المساس بالدقة. تقلل هذه التقنية من حجم الشبكة والاحتياجات الحسابية بشكل كبير.

• الموقع المرجعي: يستخدم DeepSparse طريقة تنفيذ فريدة ، حيث يقسم الشبكة إلى Tensor الاعمده. يتم تنفيذ هذه الأعمدة من حيث العمق ، وتتناسب تماما مع ذاكرة التخزين المؤقت لوحدة المعالجة المركزية. يحاكي هذا النهج كفاءة الدماغ ، مما يقلل من حركة البيانات ويزيد من استخدام ذاكرة التخزين المؤقت لوحدة المعالجة المركزية.

لمزيد من التفاصيل حول كيفية القيام بذلك Neural Magicفي عمل تقنية DeepSparse ، تحقق من منشور المدونة الخاص بهم.

إنشاء نسخة متفرقة من YOLOv8 تم تدريبهم على مجموعة بيانات مخصصة

SparseZoo ، مستودع نموذج مفتوح المصدر بواسطة Neural Magicالعروض مجموعة من المتناثرة مسبقا YOLOv8 نقاط التفتيش النموذجية. مع SparseML ، متكامل بسلاسة مع Ultralytics، يمكن للمستخدمين ضبط نقاط التفتيش المتفرقة هذه دون عناء على مجموعات البيانات المحددة الخاصة بهم باستخدام واجهة سطر أوامر مباشرة.

الخروج Neural Magic's SparseML YOLOv8 وثائق لمزيد من التفاصيل.

إستعمال: النشر YOLOV8 باستخدام ديب سبارس

نشر YOLOv8 مع Neural Magicيتضمن DeepSparse بضع خطوات مباشرة. قبل الغوص في تعليمات الاستخدام ، تأكد من إطلاعك على نطاق YOLOv8 النماذج التي تقدمها Ultralytics. سيساعدك هذا في اختيار النموذج الأنسب لمتطلبات مشروعك. إليك كيف يمكنك البدء.

الخطوة 1: التثبيت

لتثبيت الحزم المطلوبة ، قم بتشغيل:

# Install the required packages
pip install deepsparse[yolov8]

الخطوة 2: التصدير YOLOv8 ل ONNX تنسيق

يتطلب محرك ديب سباترس YOLOv8 نماذج في ONNX تنسيق. يعد تصدير النموذج الخاص بك إلى هذا التنسيق أمرا ضروريا للتوافق مع DeepSparse. استخدم الأمر التالي للتصدير YOLOv8 نماذج:

# Export YOLOv8 model to ONNX format
yolo task=detect mode=export model=yolov8n.pt format=onnx opset=13

سيحفظ هذا الأمر ملف yolov8n.onnx نموذج للقرص الخاص بك.

الخطوة 3: نشر الاستدلالات وتشغيلها

مع الخاص بك YOLOv8 نموذج في ONNX ، يمكنك نشر الاستدلالات وتشغيلها باستخدام DeepSparse. يمكن القيام بذلك بسهولة من خلال حدسها Python واجهة برمجة التطبيقات:

from deepsparse import Pipeline

# Specify the path to your YOLOv8 ONNX model
model_path = "path/to/yolov8n.onnx"

# Set up the DeepSparse Pipeline
yolo_pipeline = Pipeline.create(task="yolov8", model_path=model_path)

# Run the model on your images
images = ["path/to/image.jpg"]
pipeline_outputs = yolo_pipeline(images=images)

الخطوة 4: قياس الأداء

من المهم التحقق من أن YOLOv8 النموذج يعمل على النحو الأمثل على DeepSparse. يمكنك قياس أداء النموذج الخاص بك لتحليل الإنتاجية وزمن الوصول:

# Benchmark performance
deepsparse.benchmark model_path="path/to/yolov8n.onnx" --scenario=sync --input_shapes="[1,3,640,640]"

الخطوة 5: ميزات إضافية

يوفر DeepSparse ميزات إضافية للتكامل العملي ل YOLOv8 في التطبيقات، مثل التعليقات التوضيحية للصور وتقييم مجموعة البيانات.

# For image annotation
deepsparse.yolov8.annotate --source "path/to/image.jpg" --model_filepath "path/to/yolov8n.onnx"

# For evaluating model performance on a dataset
deepsparse.yolov8.eval --model_path "path/to/yolov8n.onnx"

يؤدي تشغيل أمر التعليق التوضيحي إلى معالجة الصورة المحددة، واكتشاف الكائنات، وحفظ الصورة المشروحة مع المربعات المحيطة والتصنيفات. سيتم تخزين الصورة المشروحة في مجلد نتائج التعليقات التوضيحية. يساعد هذا في توفير تمثيل مرئي لقدرات الكشف الخاصة بالنموذج.

بعد تشغيل الأمر eval ، ستتلقى مقاييس إخراج مفصلة مثل الدقة والاستدعاء و mAP (متوسط الدقة). يوفر هذا عرضا شاملا لأداء النموذج الخاص بك على مجموعة البيانات. هذه الوظيفة مفيدة بشكل خاص لضبط وتحسين YOLOv8 نماذج لحالات استخدام محددة ، مما يضمن دقة وكفاءة عالية.

ملخص

استكشف هذا الدليل التكامل Ultralytics' YOLOv8 مع Neural Magicمحرك ديب سبارس. وسلط الضوء على كيفية تعزيز هذا التكامل YOLOv8على منصات وحدة المعالجة المركزية ، مما يوفر كفاءة على مستوى وحدة معالجة الرسومات وتقنيات تناثر الشبكة العصبية المتقدمة.

لمزيد من المعلومات التفصيلية والاستخدام المتقدم، تفضل بزيارة Neural Magicوثائق ديب سبارس. أيضا ، تحقق من Neural Magicوثائق حول التكامل مع YOLOv8 هنا ومشاهدة جلسة رائعة على ذلك هنا.

بالإضافة إلى ذلك ، لفهم أوسع لمختلف YOLOv8 التكاملات، تفضل بزيارة Ultralytics صفحة دليل التكامل ، حيث يمكنك اكتشاف مجموعة من إمكانيات التكامل المثيرة الأخرى.

التعليقات