تخطي إلى المحتوى

Intel OpenVINO التصدير

OpenVINO النظام البيئي

في هذا الدليل، نغطي التصدير YOLO11 نماذج إلى تنسيق OpenVINO ، والتي يمكن أن توفر تسريع CPU بما يصل إلى 3 أضعاف، بالإضافة إلى تسريع YOLO الاستدلال على Intel أجهزة GPU و NPU .

OpenVINOوهي اختصار لـ Open Visual Inference & Neural Network Optimization Toolkit، وهي مجموعة أدوات شاملة لتحسين ونشر نماذج الاستدلال بالذكاء الاصطناعي. على الرغم من أن الاسم يحتوي على Visual، إلا أن OpenVINO يدعم أيضًا العديد من المهام الإضافية المختلفة بما في ذلك اللغة والصوت والسلاسل الزمنية وما إلى ذلك.



شاهد: كيفية تصدير وتحسين نموذج Ultralytics YOLOv8 للاستدلال باستخدام OpenVINO.

أمثلة على الاستخدام

تصدير نموذج YOLO11n إلى OpenVINO تنسيق وتشغيل الاستدلال باستخدام النموذج المُصدَّر.

مثال على ذلك

from ultralytics import YOLO

# Load a YOLO11n PyTorch model
model = YOLO("yolo11n.pt")

# Export the model
model.export(format="openvino")  # creates 'yolo11n_openvino_model/'

# Load the exported OpenVINO model
ov_model = YOLO("yolo11n_openvino_model/")

# Run inference
results = ov_model("https://ultralytics.com/images/bus.jpg")

# Run inference with specified device, available devices: ["intel:gpu", "intel:npu", "intel:cpu"]
results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")
# Export a YOLO11n PyTorch model to OpenVINO format
yolo export model=yolo11n.pt format=openvino # creates 'yolo11n_openvino_model/'

# Run inference with the exported model
yolo predict model=yolo11n_openvino_model source='https://ultralytics.com/images/bus.jpg'

# Run inference with specified device, available devices: ["intel:gpu", "intel:npu", "intel:cpu"]
yolo predict model=yolo11n_openvino_model source='https://ultralytics.com/images/bus.jpg' device="intel:gpu"

حجج التصدير

الجدال النوع افتراضي الوصف
format str 'openvino' التنسيق المستهدف للنموذج المُصدَّر، وتحديد التوافق مع بيئات النشر المختلفة.
imgsz int أو tuple 640 حجم الصورة المطلوب لإدخال النموذج. يمكن أن يكون عددًا صحيحًا للصور المربعة أو مضاعفًا (height, width) لأبعاد محددة.
half bool False تمكين تكميم FP16 (نصف دقة)، مما يقلل من حجم النموذج وربما يسرع الاستدلال على الأجهزة المدعومة.
int8 bool False ينشّط التكميم INT8، مما يزيد من ضغط النموذج ويسرّع عملية الاستدلال بأقل خسارة في الدقة، خاصةً للأجهزة الطرفية.
dynamic bool False يسمح بأحجام إدخال ديناميكية، مما يعزز المرونة في التعامل مع أبعاد الصور المختلفة.
nms bool False يضيف الكبت غير الأقصى (NMS)، وهو أمر ضروري للكشف الدقيق والفعال بعد المعالجة.
batch int 1 يحدد حجم الاستدلال على دفعة نموذج التصدير أو الحد الأقصى لعدد الصور التي سيعالجها النموذج المُصدَّر في نفس الوقت في predict الوضع.
data str 'coco8.yaml' الطريق إلى مجموعة البيانات ملف التكوين (افتراضي: coco8.yaml)، ضروري للتقدير الكمي.
fraction float 1.0 يحدد جزءًا من مجموعة البيانات المراد استخدامها لمعايرة INT8 الكمية. يسمح بالمعايرة على مجموعة فرعية من مجموعة البيانات الكاملة، وهو أمر مفيد للتجارب أو عندما تكون الموارد محدودة. إذا لم يتم تحديده مع تمكين INT8، فسيتم استخدام مجموعة البيانات الكاملة.

لمزيد من التفاصيل حول عملية التصدير، يرجى زيارة صفحة التوثيقUltralytics الخاصة بالتصدير.

تحذير

يعد OpenVINO™ متوافقًا مع معظم معالجات Intel® ولكن لضمان الأداء الأمثل:

  1. التحقق من دعم OpenVINO™ تحقق مما إذا كانت شريحة Intel® الخاصة بك مدعومة رسميًا بواسطة OpenVINO™ باستخدام قائمة التوافق الخاصة بشركة Intel .

  2. حدد المسرع الخاص بك حدد ما إذا كان المعالج الخاص بك يتضمن وحدة معالجة عصبية (NPU) متكاملة أم لا GPU (مدمج GPU ) من خلال استشارة دليل الأجهزة الخاص بشركة Intel .

  3. قم بتثبيت أحدث برامج التشغيل إذا كانت الشريحة الخاصة بك تدعم وحدة NPU أو GPU إذا لم يكتشف OpenVINO™ المشكلة، فقد تحتاج إلى تثبيت أو تحديث برامج التشغيل المرتبطة. اتبع تعليمات تثبيت برنامج التشغيل لتمكين التسريع الكامل.

من خلال اتباع هذه الخطوات الثلاث، يمكنك التأكد من تشغيل OpenVINO™ بشكل مثالي على أجهزة Intel® الخاصة بك.

فوائد OpenVINO

  1. الأداء: OpenVINO يوفر استنتاجاً عالي الأداء من خلال الاستفادة من قوة وحدات المعالجة المركزية Intel ووحدات معالجة الرسومات المدمجة والمنفصلة ووحدات معالجة الرسومات FPGA.
  2. دعم التنفيذ غير المتجانس: OpenVINO يوفر واجهة برمجة تطبيقات للكتابة مرة واحدة والنشر على أي أجهزة Intel مدعومة (CPU ، GPU ، FPGA، VPU، إلخ).
  3. مُحسِّن النماذج: OpenVINO يوفر مُحسِّن النماذج الذي يقوم باستيراد النماذج وتحويلها وتحسينها من أطر التعلم العميق الشائعة مثل PyTorch, TensorFlowTensorFlow Lite و Keras و ONNX و PaddlePaddle و Caffe.
  4. سهولة الاستخدام: تأتي مجموعة الأدوات مع أكثر من 80 دفتر ملاحظات تعليمي (بما في ذلك التحسينYOLOv8 ) لتعليم جوانب مختلفة من مجموعة الأدوات.

OpenVINO هيكل التصدير

عند تصدير نموذج إلى تنسيق OpenVINO ، ينتج عن ذلك دليل يحتوي على ما يلي:

  1. ملف XML: يصف طوبولوجيا الشبكة.
  2. ملف BIN: يحتوي على البيانات الثنائية weights and biases .
  3. ملف التعيين: يحتفظ بتعيين مجلدات مخرجات النموذج الأصلي إلى OpenVINO tensor الأسماء.

يمكنك استخدام هذه الملفات لتشغيل الاستدلال باستخدام محرك الاستدلال OpenVINO .

استخدام OpenVINO التصدير في النشر

بمجرد تصدير النموذج الخاص بك بنجاح إلى OpenVINO التنسيق، لديك خياران رئيسيان لتشغيل الاستدلال:

  1. استخدم ultralytics الحزمة، التي توفر واجهة برمجة تطبيقات عالية المستوى وتغلف OpenVINO وقت التشغيل.

  2. استخدم الأصلي openvino حزمة للتحكم بشكل أكثر تقدمًا أو تخصيصًا في سلوك الاستدلال.

الاستدلال مع Ultralytics

ال ultralytics تتيح لك الحزمة تشغيل الاستدلال بسهولة باستخدام المصدر OpenVINO نموذج عبر طريقة التنبؤ. يمكنك أيضًا تحديد الجهاز المستهدف (مثلًا، intel:gpu, intel:npu, intel:cpu) باستخدام وسيطة الجهاز.

from ultralytics import YOLO

# Load the exported OpenVINO model
ov_model = YOLO("yolo11n_openvino_model/")  # the path of your exported OpenVINO model
# Run inference with the exported model
ov_model.predict(device="intel:gpu")  # specify the device you want to run inference on

يعد هذا النهج مثاليًا للنماذج الأولية السريعة أو النشر عندما لا تحتاج إلى التحكم الكامل في خط أنابيب الاستدلال.

الاستدلال مع OpenVINO وقت التشغيل

ال openvino يوفر وقت التشغيل واجهة برمجة تطبيقات موحدة للاستدلال عبر جميع الأنظمة المدعومة Intel الأجهزة. كما يوفر أيضًا إمكانيات متقدمة مثل موازنة التحميل عبر Intel التنفيذ غير المتزامن والعتادي. لمزيد من المعلومات حول تشغيل الاستدلال، راجع دفاتر YOLO11 .

تذكّر أنك ستحتاج إلى ملفات XML و BIN بالإضافة إلى أي إعدادات خاصة بالتطبيق مثل حجم الإدخال، ومعامل القياس للتطبيع، وما إلى ذلك، لإعداد النموذج واستخدامه بشكل صحيح مع وقت التشغيل.

في تطبيق النشر الخاص بك، عادةً ما تقوم بالخطوات التالية:

  1. تهيئة OpenVINO بإنشاء عن طريق إنشاء core = Core().
  2. قم بتحميل النموذج باستخدام core.read_model() الطريقة.
  3. قم بتجميع النموذج باستخدام core.compile_model() الوظيفة.
  4. قم بإعداد المدخلات (صورة، نص، نص، صوت، إلخ).
  5. تشغيل الاستدلال باستخدام compiled_model(input_data).

للمزيد من الخطوات التفصيلية ومقتطفات التعليمات البرمجية، راجع وثائقOpenVINO أو البرنامج التعليمي لواجهة برمجة التطبيقات.

OpenVINO YOLO11 المعايير

ال Ultralytics الفريق الذي تم تقييمه YOLO11 عبر تنسيقات النماذج المختلفة والدقة ، وتقييم السرعة والدقة على مختلف Intel الأجهزة المتوافقة مع OpenVINO .

ملاحظة

نتائج القياس المرجعية أدناه هي للإشارة وقد تختلف بناءً على التكوين الدقيق للأجهزة والبرامج الخاصة بالنظام، بالإضافة إلى عبء العمل الحالي للنظام في وقت تشغيل المعايير.

يتم تشغيل جميع المعايير باستخدام openvino Python إصدار الحزمة 2025.1.0.

Intel الأساسيات CPU

سلسلة Intel® Core® Core® هي مجموعة من المعالجات عالية الأداء من Intel. وتتضمن المجموعة Core i3 (مستوى المبتدئين)، و Core i5 (متوسط المدى)، و Core i7 (عالي الأداء)، و Core i9 (أداء فائق). تلبي كل سلسلة احتياجات وميزانيات الحوسبة المختلفة، بدءًا من المهام اليومية إلى أعباء العمل الاحترافية الصعبة. مع كل جيل جديد، يتم إجراء تحسينات على الأداء وكفاءة الطاقة والميزات.

تعمل المعايير أدناه على معالج Intel® Core® i9-12900KS من الجيل الثاني عشر CPU بدقة FP32.

المعايير الأساسية CPU الأساسية
النتائج المعيارية التفصيلية
الطراز التنسيق الحالة الحجم (ميغابايت) المقاييس/خطة العمل 50-95 (ب) زمن الاستدلال (م/م)
يولو 11 ن PyTorch 5.4 0.5071 21.00
يولو 11 ن TorchScript 10.5 0.5077 21.39
يولو 11 ن ONNX 10.2 0.5077 15.55
يولو 11 ن OpenVINO 10.4 0.5077 11.49
YOLO11s PyTorch 18.4 0.5770 43.16
YOLO11s TorchScript 36.6 0.5781 50.06
YOLO11s ONNX 36.3 0.5781 31.53
YOLO11s OpenVINO 36.4 0.5781 30.82
يولو 11 م PyTorch 38.8 0.6257 110.60
يولو 11 م TorchScript 77.3 0.6306 128.09
يولو 11 م ONNX 76.9 0.6306 76.06
يولو 11 م OpenVINO 77.1 0.6306 79.38
يولو 11ل PyTorch 49.0 0.6367 150.38
يولو 11ل TorchScript 97.7 0.6408 172.57
يولو 11ل ONNX 97.0 0.6408 108.91
يولو 11ل OpenVINO 97.3 0.6408 102.30
يولو11x PyTorch 109.3 0.6989 272.72
يولو11x TorchScript 218.1 0.6900 320.86
يولو11x ONNX 217.5 0.6900 196.20
يولو11x OpenVINO 217.8 0.6900 195.32

إنتل® كور™ ألترا

تُمثل سلسلة Intel® Core™ Ultra™ معيارًا جديدًا في الحوسبة عالية الأداء، وهي مصممة لتلبية المتطلبات المتطورة للمستخدمين المعاصرين، من اللاعبين والمبدعين إلى المحترفين الذين يستخدمون الذكاء الاصطناعي. هذه التشكيلة من الجيل التالي تتجاوز مجرد تشكيلة تقليدية CPU سلسلة؛ فهي تجمع بين القوة CPU النوى المتكاملة عالية الأداء GPU وتتضمن شريحة واحدة قدرات معالجة عصبية مخصصة (NPU)، مما يوفر حلاً موحدًا لأحمال العمل الحاسوبية المتنوعة والمكثفة.

يوجد في قلب بنية Intel® Core Ultra™ تصميم هجين يتيح أداءً استثنائيًا عبر مهام المعالجة التقليدية، GPU - تسريع أحمال العمل، وعمليات تعتمد على الذكاء الاصطناعي. يُحسّن تضمين وحدة المعالجة العصبية (NPU) استدلال الذكاء الاصطناعي على الجهاز، مما يُتيح تعلمًا آليًا ومعالجة بيانات أسرع وأكثر كفاءة عبر مجموعة واسعة من التطبيقات.

تتضمن عائلة Core Ultra™ طُرزًا متنوعة مصممة لتلبية احتياجات الأداء المختلفة، مع خيارات تتراوح من التصاميم الموفرة للطاقة إلى الطُرز عالية الطاقة التي تحمل علامة "H"، وهي مثالية لأجهزة الكمبيوتر المحمولة والصغيرة الحجم التي تتطلب قوة حوسبة هائلة. يستفيد المستخدمون من تضافر جهود CPU ، GPU ، وتكامل NPU، مما يوفر كفاءة ملحوظة واستجابة وقدرات متعددة المهام.

كجزء من Intel مع استمرار ابتكارات 'كور ألترا'، تُرسي سلسلة 'كور ألترا' معيارًا جديدًا للحوسبة المُجهّزة للمستقبل. مع توفر طُرز مُتعددة والمزيد في الأفق، تُؤكد هذه السلسلة على Intel التزامها بتقديم حلول متطورة للجيل القادم من الأجهزة الذكية المعززة بالذكاء الاصطناعي.

يتم تشغيل المعايير أدناه على Intel® Core™ Ultra™ 7 258V وIntel® Core™ Ultra™ 7 265K بدقة FP32 و INT8.

Intel® Core™ Ultra™ 7 258V

المعايير

Intel معايير Core Ultra GPU الأساسية

النتائج المعيارية التفصيلية
الطراز التنسيق الدقة الحالة الحجم (ميغابايت) المقاييس/خطة العمل 50-95 (ب) زمن الاستدلال (م/م)
يولو 11 ن PyTorch FP32 5.4 0.5052 32.27
يولو 11 ن OpenVINO FP32 10.4 0.5068 11.84
يولو 11 ن OpenVINO INT8 3.3 0.4969 11.24
YOLO11s PyTorch FP32 18.4 0.5776 92.09
YOLO11s OpenVINO FP32 36.4 0.5797 14.82
YOLO11s OpenVINO INT8 9.8 0.5751 12.88
يولو 11 م PyTorch FP32 38.8 0.6262 277.24
يولو 11 م OpenVINO FP32 77.1 0.6306 22.94
يولو 11 م OpenVINO INT8 20.2 0.6126 17.85
يولو 11ل PyTorch FP32 49.0 0.6361 348.97
يولو 11ل OpenVINO FP32 97.3 0.6365 27.34
يولو 11ل OpenVINO INT8 25.7 0.6242 20.83
يولو11x PyTorch FP32 109.3 0.6984 666.07
يولو11x OpenVINO FP32 217.8 0.6890 39.09
يولو11x OpenVINO INT8 55.9 0.6856 30.60

Intel معايير Core Ultra CPU الأساسية

النتائج المعيارية التفصيلية
الطراز التنسيق الدقة الحالة الحجم (ميغابايت) المقاييس/خطة العمل 50-95 (ب) زمن الاستدلال (م/م)
يولو 11 ن PyTorch FP32 5.4 0.5052 32.27
يولو 11 ن OpenVINO FP32 10.4 0.5077 32.55
يولو 11 ن OpenVINO INT8 3.3 0.4980 22.98
YOLO11s PyTorch FP32 18.4 0.5776 92.09
YOLO11s OpenVINO FP32 36.4 0.5782 98.38
YOLO11s OpenVINO INT8 9.8 0.5745 52.84
يولو 11 م PyTorch FP32 38.8 0.6262 277.24
يولو 11 م OpenVINO FP32 77.1 0.6307 275.74
يولو 11 م OpenVINO INT8 20.2 0.6172 132.63
يولو 11ل PyTorch FP32 49.0 0.6361 348.97
يولو 11ل OpenVINO FP32 97.3 0.6361 348.97
يولو 11ل OpenVINO INT8 25.7 0.6240 171.36
يولو11x PyTorch FP32 109.3 0.6984 666.07
يولو11x OpenVINO FP32 217.8 0.6900 783.16
يولو11x OpenVINO INT8 55.9 0.6890 346.82

Intel معايير Core Ultra NPU NPU القياسية

النتائج المعيارية التفصيلية
الطراز التنسيق الدقة الحالة الحجم (ميغابايت) المقاييس/خطة العمل 50-95 (ب) زمن الاستدلال (م/م)
يولو 11 ن PyTorch FP32 5.4 0.5052 32.27
يولو 11 ن OpenVINO FP32 10.4 0.5085 8.33
يولو 11 ن OpenVINO INT8 3.3 0.5019 8.91
YOLO11s PyTorch FP32 18.4 0.5776 92.09
YOLO11s OpenVINO FP32 36.4 0.5788 9.72
YOLO11s OpenVINO INT8 9.8 0.5710 10.58
يولو 11 م PyTorch FP32 38.8 0.6262 277.24
يولو 11 م OpenVINO FP32 77.1 0.6301 19.41
يولو 11 م OpenVINO INT8 20.2 0.6124 18.26
يولو 11ل PyTorch FP32 49.0 0.6361 348.97
يولو 11ل OpenVINO FP32 97.3 0.6362 23.70
يولو 11ل OpenVINO INT8 25.7 0.6240 21.40
يولو11x PyTorch FP32 109.3 0.6984 666.07
يولو11x OpenVINO FP32 217.8 0.6892 43.91
يولو11x OpenVINO INT8 55.9 0.6890 34.04

Intel® Core™ Ultra™ 7 7 265K

المعايير

Intel معايير Core Ultra GPU الأساسية

النتائج المعيارية التفصيلية
الطراز التنسيق الدقة الحالة الحجم (ميغابايت) المقاييس/خطة العمل 50-95 (ب) زمن الاستدلال (م/م)
يولو 11 ن PyTorch FP32 5.4 0.5072 16.29
يولو 11 ن OpenVINO FP32 10.4 0.5079 13.13
يولو 11 ن OpenVINO INT8 3.3 0.4976 8.86
YOLO11s PyTorch FP32 18.4 0.5771 39.61
YOLO11s OpenVINO FP32 36.4 0.5808 18.26
YOLO11s OpenVINO INT8 9.8 0.5726 13.24
يولو 11 م PyTorch FP32 38.8 0.6258 100.65
يولو 11 م OpenVINO FP32 77.1 0.6310 43.50
يولو 11 م OpenVINO INT8 20.2 0.6137 20.90
يولو 11ل PyTorch FP32 49.0 0.6367 131.37
يولو 11ل OpenVINO FP32 97.3 0.6371 54.52
يولو 11ل OpenVINO INT8 25.7 0.6226 27.36
يولو11x PyTorch FP32 109.3 0.6990 212.45
يولو11x OpenVINO FP32 217.8 0.6884 112.76
يولو11x OpenVINO INT8 55.9 0.6900 52.06

Intel معايير Core Ultra CPU الأساسية

النتائج المعيارية التفصيلية
الطراز التنسيق الدقة الحالة الحجم (ميغابايت) المقاييس/خطة العمل 50-95 (ب) زمن الاستدلال (م/م)
يولو 11 ن PyTorch FP32 5.4 0.5072 16.29
يولو 11 ن OpenVINO FP32 10.4 0.5077 15.04
يولو 11 ن OpenVINO INT8 3.3 0.4980 11.60
YOLO11s PyTorch FP32 18.4 0.5771 39.61
YOLO11s OpenVINO FP32 36.4 0.5782 33.45
YOLO11s OpenVINO INT8 9.8 0.5745 20.64
يولو 11 م PyTorch FP32 38.8 0.6258 100.65
يولو 11 م OpenVINO FP32 77.1 0.6307 81.15
يولو 11 م OpenVINO INT8 20.2 0.6172 44.63
يولو 11ل PyTorch FP32 49.0 0.6367 131.37
يولو 11ل OpenVINO FP32 97.3 0.6409 103.77
يولو 11ل OpenVINO INT8 25.7 0.6240 58.00
يولو11x PyTorch FP32 109.3 0.6990 212.45
يولو11x OpenVINO FP32 217.8 0.6900 208.37
يولو11x OpenVINO INT8 55.9 0.6897 113.04

Intel معايير Core Ultra NPU NPU القياسية

النتائج المعيارية التفصيلية
الطراز التنسيق الدقة الحالة الحجم (ميغابايت) المقاييس/خطة العمل 50-95 (ب) زمن الاستدلال (م/م)
يولو 11 ن PyTorch FP32 5.4 0.5072 16.29
يولو 11 ن OpenVINO FP32 10.4 0.5075 8.02
يولو 11 ن OpenVINO INT8 3.3 0.3656 9.28
YOLO11s PyTorch FP32 18.4 0.5771 39.61
YOLO11s OpenVINO FP32 36.4 0.5801 13.12
YOLO11s OpenVINO INT8 9.8 0.5686 13.12
يولو 11 م PyTorch FP32 38.8 0.6258 100.65
يولو 11 م OpenVINO FP32 77.1 0.6310 29.88
يولو 11 م OpenVINO INT8 20.2 0.6111 26.32
يولو 11ل PyTorch FP32 49.0 0.6367 131.37
يولو 11ل OpenVINO FP32 97.3 0.6356 37.08
يولو 11ل OpenVINO INT8 25.7 0.6245 30.81
يولو11x PyTorch FP32 109.3 0.6990 212.45
يولو11x OpenVINO FP32 217.8 0.6894 68.48
يولو11x OpenVINO INT8 55.9 0.6417 49.76

GPU Intel® Arc GPU

Intel® Arc™ هي مجموعة بطاقات الرسومات المنفصلة من Intel المصممة للألعاب عالية الأداء وإنشاء المحتوى وأعباء عمل الذكاء الاصطناعي. تتميز سلسلة Arc ببنية متطورة GPU التي تدعم تتبع الأشعة في الوقت الحقيقي، والرسومات المعززة بالذكاء الاصطناعي، والألعاب عالية الدقة. مع التركيز على الأداء والكفاءة، تهدف Intel® Arc™ من خلال التركيز على الأداء والكفاءة، إلى منافسة العلامات التجارية الرائدة الأخرى GPU معالجة الرسومات مع توفير ميزات فريدة مثل ترميز AV1 المُسرّع للأجهزة ودعم أحدث واجهات برمجة التطبيقات.

تم تشغيل المعايير أدناه على Intel Arc A770 و Intel Arc B580 بدقة FP32 و INT8.

Intel Arc A770

Intel معايير Core Ultra CPU الأساسية
النتائج المعيارية التفصيلية
الطراز التنسيق الدقة الحالة الحجم (ميغابايت) المقاييس/خطة العمل 50-95 (ب) زمن الاستدلال (م/م)
يولو 11 ن PyTorch FP32 5.4 0.5072 16.29
يولو 11 ن OpenVINO FP32 10.4 0.5073 6.98
يولو 11 ن OpenVINO INT8 3.3 0.4978 7.24
YOLO11s PyTorch FP32 18.4 0.5771 39.61
YOLO11s OpenVINO FP32 36.4 0.5798 9.41
YOLO11s OpenVINO INT8 9.8 0.5751 8.72
يولو 11 م PyTorch FP32 38.8 0.6258 100.65
يولو 11 م OpenVINO FP32 77.1 0.6311 14.88
يولو 11 م OpenVINO INT8 20.2 0.6126 11.97
يولو 11ل PyTorch FP32 49.0 0.6367 131.37
يولو 11ل OpenVINO FP32 97.3 0.6364 19.17
يولو 11ل OpenVINO INT8 25.7 0.6241 15.75
يولو11x PyTorch FP32 109.3 0.6990 212.45
يولو11x OpenVINO FP32 217.8 0.6888 18.13
يولو11x OpenVINO INT8 55.9 0.6930 18.91

Intel آرك B580

Intel معايير Core Ultra CPU الأساسية
النتائج المعيارية التفصيلية
الطراز التنسيق الدقة الحالة الحجم (ميغابايت) المقاييس/خطة العمل 50-95 (ب) زمن الاستدلال (م/م)
يولو 11 ن PyTorch FP32 5.4 0.5072 16.29
يولو 11 ن OpenVINO FP32 10.4 0.5072 4.27
يولو 11 ن OpenVINO INT8 3.3 0.4981 4.33
YOLO11s PyTorch FP32 18.4 0.5771 39.61
YOLO11s OpenVINO FP32 36.4 0.5789 5.04
YOLO11s OpenVINO INT8 9.8 0.5746 4.97
يولو 11 م PyTorch FP32 38.8 0.6258 100.65
يولو 11 م OpenVINO FP32 77.1 0.6306 6.45
يولو 11 م OpenVINO INT8 20.2 0.6125 6.28
يولو 11ل PyTorch FP32 49.0 0.6367 131.37
يولو 11ل OpenVINO FP32 97.3 0.6360 8.23
يولو 11ل OpenVINO INT8 25.7 0.6236 8.49
يولو11x PyTorch FP32 109.3 0.6990 212.45
يولو11x OpenVINO FP32 217.8 0.6889 11.10
يولو11x OpenVINO INT8 55.9 0.6924 10.30

إعادة إنتاج نتائجنا

لإعادة إنتاج معايير Ultralytics أعلاه على جميع تنسيقات التصدير قم بتشغيل هذا الرمز:

مثال على ذلك

from ultralytics import YOLO

# Load a YOLO11n PyTorch model
model = YOLO("yolo11n.pt")

# Benchmark YOLO11n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml")
# Benchmark YOLO11n speed and accuracy on the COCO128 dataset for all export formats
yolo benchmark model=yolo11n.pt data=coco128.yaml

لاحظ أن نتائج القياس المعياري قد تختلف بناءً على التكوين الدقيق للأجهزة والبرمجيات الخاصة بالنظام، بالإضافة إلى عبء العمل الحالي للنظام في وقت تشغيل المعايير. للحصول على نتائج أكثر موثوقية استخدم مجموعة بيانات تحتوي على عدد كبير من الصور، أي data='coco.yaml' (5000 صورة فالي).

الخاتمة

وتوضح نتائج المقارنة بوضوح فوائد التصدير YOLO11 نموذج ل OpenVINO التنسيق. عبر نماذج ومنصات أجهزة مختلفة، OpenVINO يتفوق التنسيق باستمرار على التنسيقات الأخرى من حيث سرعة الاستدلال مع الحفاظ على دقة قابلة للمقارنة.

تؤكد المعايير على فعالية OpenVINO كأداة لنشر نماذج التعلم العميق. من خلال تحويل النماذج إلى تنسيق OpenVINO ، يمكن للمطورين تحقيق تحسينات كبيرة في الأداء، مما يسهل نشر هذه النماذج في تطبيقات العالم الحقيقي.

لمزيد من المعلومات والإرشادات التفصيلية حول استخدام OpenVINO ، راجع الوثائق الرسمية OpenVINO .

الأسئلة الشائعة

كيف أقوم بالتصدير YOLO11 نماذج ل OpenVINO شكل؟

تصدير YOLO11 نماذج إلى OpenVINO يمكن أن يعزز التنسيق بشكل كبير CPU السرعة والتمكين GPU وتسريعات NPU على Intel الأجهزة. للتصدير، يمكنك استخدام أيٍّ من Python أو CLI كما هو موضح أدناه:

مثال على ذلك

from ultralytics import YOLO

# Load a YOLO11n PyTorch model
model = YOLO("yolo11n.pt")

# Export the model
model.export(format="openvino")  # creates 'yolo11n_openvino_model/'
# Export a YOLO11n PyTorch model to OpenVINO format
yolo export model=yolo11n.pt format=openvino # creates 'yolo11n_openvino_model/'

لمزيد من المعلومات، راجع وثائق تنسيقات التصدير.

ما هي فوائد استخدام OpenVINO مع YOLO11 نماذج؟

استخدام Intel 'س OpenVINO مجموعة أدوات مع YOLO11 تقدم النماذج العديد من الفوائد:

  1. الأداء: تحقيق تسريع يصل إلى 3 أضعاف في الاستدلال CPU والاستفادة من وحدات معالجة الرسومات Intel ووحدات المعالجة العصبية للتسريع.
  2. مُحسِّن النماذج: تحويل النماذج وتحسينها وتنفيذها من أطر العمل الشائعة مثل PyTorch و TensorFlow و ONNX.
  3. سهولة الاستخدام : يتوفر أكثر من 80 دفترًا تعليميًا لمساعدة المستخدمين على البدء، بما في ذلك تلك الخاصة بـ YOLO11 .
  4. تنفيذ غير متجانس: نشر النماذج على أجهزة مختلفة Intel باستخدام واجهة برمجة تطبيقات موحدة.

للحصول على مقارنات مفصّلة للأداء، تفضل بزيارة قسم المعايير لدينا.

كيف يمكنني تشغيل الاستدلال باستخدام YOLO11 النموذج تم تصديره إلى OpenVINO ؟

بعد تصدير نموذج YOLO11n إلى OpenVINO التنسيق، يمكنك تشغيل الاستدلال باستخدام Python أو CLI :

مثال على ذلك

from ultralytics import YOLO

# Load the exported OpenVINO model
ov_model = YOLO("yolo11n_openvino_model/")

# Run inference
results = ov_model("https://ultralytics.com/images/bus.jpg")
# Run inference with the exported model
yolo predict model=yolo11n_openvino_model source='https://ultralytics.com/images/bus.jpg'

ارجع إلى وثائق الوضع التوقعي لمزيد من التفاصيل.

لماذا يجب علي أن أختار Ultralytics YOLO11 على النماذج الأخرى ل OpenVINO يصدّر؟

Ultralytics YOLO11 مُحسّن لاكتشاف الأجسام في الوقت الفعلي بدقة وسرعة عاليتين. تحديدًا، عند دمجه مع OpenVINO ، YOLO11 يوفر:

  • تسريع يصل إلى 3 أضعاف السرعة على وحدات المعالجة المركزية Intel
  • نشر سلس على وحدات معالجة الرسوميات ووحدات المعالجة العصبية Intel
  • دقة متسقة وقابلة للمقارنة عبر تنسيقات التصدير المختلفة

لتحليل الأداء المتعمق، راجع معايير YOLO11 التفصيلية الخاصة بنا على أجهزة مختلفة.

هل يمكنني إجراء معايرة؟ YOLO11 نماذج بتنسيقات مختلفة مثل PyTorch ، ONNX ، و OpenVINO ؟

نعم، يمكنك إجراء معايرة YOLO11 نماذج في أشكال مختلفة بما في ذلك PyTorch ، TorchScript ، ONNX ، و OpenVINO استخدم مقتطف التعليمات البرمجية التالي لتشغيل معايير الأداء على مجموعة البيانات التي اخترتها:

مثال على ذلك

from ultralytics import YOLO

# Load a YOLO11n PyTorch model
model = YOLO("yolo11n.pt")

# Benchmark YOLO11n speed and [accuracy](https://www.ultralytics.com/glossary/accuracy) on the COCO8 dataset for all export formats
results = model.benchmark(data="coco8.yaml")
# Benchmark YOLO11n speed and accuracy on the COCO8 dataset for all export formats
yolo benchmark model=yolo11n.pt data=coco8.yaml

للحصول على نتائج معيارية مفصلة، راجع قسم المعايير ووثائق تنسيقات التصدير.



📅 تم إنشاؤها منذ 1 سنة مضت ✏️ تم التحديث منذ 1 يوم

التعليقات