تصدير Intel OpenVINO

في هذا الدليل، نغطي تصدير نماذج YOLO26 إلى تنسيق OpenVINO، والذي يمكن أن يوفر تسريعاً يصل إلى 3 أضعاف على وحدة المعالجة المركزية (CPU)، بالإضافة إلى تسريع استدلال YOLO على أجهزة Intel وحدة معالجة الرسوميات (GPU) و وحدة المعالجة العصبية (NPU).

OpenVINO، اختصار لـ "مجموعة أدوات تحسين الاستدلال المرئي و الشبكة العصبية"، هي مجموعة أدوات شاملة لتحسين ونشر نماذج استدلال الذكاء الاصطناعي. وعلى الرغم من أن الاسم يحتوي على "مرئي" (Visual)، إلا أن OpenVINO يدعم أيضاً مهاماً إضافية متنوعة تشمل اللغة والصوت والسلاسل الزمنية، إلخ.

أمثلة على الاستخدام

تصدير نموذج YOLO26n إلى تنسيق OpenVINO وتشغيل الاستدلال باستخدام النموذج المُصدَّر.

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model
model.export(format="openvino")  # creates 'yolo26n_openvino_model/'

# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/")

# Run inference
results = ov_model("https://ultralytics.com/images/bus.jpg")

# Run inference with specified device, available devices: ["intel:gpu", "intel:npu", "intel:cpu"]
results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

وسائط التصدير

لمزيد من التفاصيل حول عملية التصدير، قم بزيارة صفحة وثائق Ultralytics حول التصدير.

فوائد OpenVINO

1. الأداء: يوفر OpenVINO استدلالاً عالي الأداء من خلال الاستفادة من قوة وحدات المعالجة المركزية (CPU) من Intel، ووحدات معالجة الرسوميات (GPU) المدمجة والمنفصلة، ومصفوفات البوابات المنطقية القابلة للبرمجة (FPGAs).
2. دعم التنفيذ غير المتجانس: يوفر OpenVINO واجهة برمجة تطبيقات (API) للكتابة مرة واحدة والنشر على أي جهاز Intel مدعوم (CPU، GPU، FPGA، VPU، إلخ).
3. محسّن النماذج (Model Optimizer): يوفر OpenVINO محسّن نماذج يقوم باستيراد وتحويل وتحسين النماذج من أطر عمل التعلم العميق الشائعة مثل PyTorch، و TensorFlow، و TensorFlow Lite، و Keras، و ONNX، و PaddlePaddle، و Caffe.
4. سهولة الاستخدام: تأتي مجموعة الأدوات مع أكثر من 80 دفتراً تعليمياً (بما في ذلك تحسين YOLO26) التي تعلم جوانب مختلفة من مجموعة الأدوات.

هيكل تصدير OpenVINO

عند تصدير نموذج إلى تنسيق OpenVINO، فإنه ينتج عنه دليل يحتوي على ما يلي:

1. ملف XML: يصف طوبولوجيا الشبكة.
2. ملف BIN: يحتوي على البيانات الثنائية للأوزان والتحيزات.
3. ملف Mapping: يحمل تعيين مخرجات النموذج الأصلي إلى أسماء مستشعرات OpenVINO.

يمكنك استخدام هذه الملفات لتشغيل الاستدلال باستخدام محرك استدلال OpenVINO.

استخدام تصدير OpenVINO في النشر

بمجرد تصدير نموذجك بنجاح إلى تنسيق OpenVINO، لديك خياران رئيسيان لتشغيل الاستدلال:

1. استخدام حزمة ultralytics، التي توفر واجهة برمجة تطبيقات (API) عالية المستوى وتغلف وقت تشغيل OpenVINO (OpenVINO Runtime).

2. استخدام حزمة openvino الأصلية لمزيد من التحكم المتقدم أو المخصص في سلوك الاستدلال.

الاستدلال باستخدام Ultralytics

تسمح لك حزمة ultralytics بتشغيل الاستدلال بسهولة باستخدام نموذج OpenVINO المُصدَّر عبر طريقة predict. يمكنك أيضاً تحديد الجهاز المستهدف (على سبيل المثال، intel:gpu، intel:npu، intel:cpu) باستخدام وسيط الجهاز.

from ultralytics import YOLO

# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/")  # the path of your exported OpenVINO model
# Run inference with the exported model
ov_model.predict(device="intel:gpu")  # specify the device you want to run inference on

هذا النهج مثالي للنماذج الأولية السريعة أو النشر عندما لا تحتاج إلى تحكم كامل في خط أنابيب الاستدلال.

الاستدلال باستخدام OpenVINO Runtime

يوفر وقت تشغيل OpenVINO واجهة برمجة تطبيقات موحدة للاستدلال عبر جميع أجهزة Intel المدعومة. كما يوفر قدرات متقدمة مثل موازنة التحميل عبر أجهزة Intel والتنفيذ غير المتزامن. لمزيد من المعلومات حول تشغيل الاستدلال، راجع دفاتر YOLO26.

تذكر أنك ستحتاج إلى ملفات XML و BIN بالإضافة إلى أي إعدادات خاصة بالتطبيق مثل حجم الإدخال، وعامل القياس للتطبيع، إلخ، لإعداد واستخدام النموذج بشكل صحيح مع وقت التشغيل.

في تطبيق النشر الخاص بك، ستقوم عادةً بالخطوات التالية:

1. تهيئة OpenVINO عن طريق إنشاء core = Core().
2. تحميل النموذج باستخدام الطريقة core.read_model().
3. تجميع النموذج باستخدام الوظيفة core.compile_model().
4. تجهيز المدخلات (صورة، نص، صوت، إلخ).
5. تشغيل الاستدلال باستخدام compiled_model(input_data).

لمزيد من الخطوات التفصيلية ومقتطفات التعليمات البرمجية، راجع وثائق OpenVINO أو دروس API.

مقاييس أداء OpenVINO YOLO26

قام فريق Ultralytics بقياس أداء YOLO26 عبر تنسيقات نماذج ودقة مختلفة، لتقييم السرعة والدقة على أجهزة Intel المختلفة المتوافقة مع OpenVINO.

Intel® Core™ Ultra

تمثل سلسلة Intel® Core™ Ultra™ معياراً جديداً في الحوسبة عالية الأداء، وقد تم تصميمها لتلبية المتطلبات المتطورة للمستخدمين المعاصرين—بدءاً من اللاعبين والمبدعين وصولاً إلى المحترفين الذين يستفيدون من الذكاء الاصطناعي. هذه التشكيلة من الجيل التالي هي أكثر من مجرد سلسلة معالجات تقليدية؛ فهي تجمع بين أنوية CPU قوية، وقدرات GPU مدمجة عالية الأداء، ووحدة معالجة عصبية (NPU) مخصصة داخل شريحة واحدة، مما يوفر حلاً موحداً لأعباء عمل الحوسبة المتنوعة والمكثفة.

في قلب بنية Intel® Core Ultra™ يوجد تصميم هجين يتيح أداءً استثنائياً عبر مهام المعالجة التقليدية، وأعباء العمل المعززة بوحدة معالجة الرسوميات، والعمليات القائمة على الذكاء الاصطناعي. يعزز دمج NPU استدلال الذكاء الاصطناعي على الجهاز، مما يتيح تعلم آلي ومعالجة بيانات أسرع وأكثر كفاءة عبر مجموعة واسعة من التطبيقات.

تتضمن عائلة Core Ultra™ نماذج متنوعة مصممة خصيصاً لتلبية احتياجات الأداء المختلفة، مع خيارات تتراوح من التصاميم الموفرة للطاقة إلى المتغيرات عالية الطاقة التي تحمل تصنيف "H"—وهي مثالية لأجهزة الكمبيوتر المحمولة والعوامل ذات الحجم الصغير التي تتطلب قوة حوسبة جادة. عبر التشكيلة بأكملها، يستفيد المستخدمون من تآزر دمج CPU و GPU و NPU، مما يوفر كفاءة واستجابة وقدرات تعدد مهام رائعة.

كجزء من ابتكار Intel المستمر، تضع سلسلة Core Ultra™ معياراً جديداً للحوسبة الجاهزة للمستقبل. مع توفر نماذج متعددة والمزيد في الأفق، تؤكد هذه السلسلة التزام Intel بتقديم حلول متطورة للجيل القادم من الأجهزة الذكية المعززة بالذكاء الاصطناعي.

تم تشغيل مقاييس الأداء أدناه على Intel® Core™ Ultra™ X7 358H، و Intel® Core™ Ultra™ 7 258V و Intel® Core™ Ultra™ 7 155H بدقة FP32 و FP16 و INT8.

Intel® Core™ Ultra™ X7 358H

مقاييس الأداء

وحدة معالجة الرسوميات المدمجة Intel® Arc™Intel® Panther Lake CPUIntegrated Intel® AI Boost NPU

نتائج مقاييس الأداء التفصيلية

نموذج	تنسيق	الدقة	الحالة	الحجم (MB)	مقاييس/mAP50-95(B)	وقت الاستدلال (ms/im)
YOLO26n	PyTorch (CPU)	FP32	✅	5.3	0.4765	25.18
YOLO26n	OpenVINO	FP32	✅	9.6	0.4763	2.67
YOLO26n	OpenVINO	FP16	✅	5.1	0.4763	2.64
YOLO26n	OpenVINO	INT8	✅	3.2	0.4625	2.73
YOLO26s	PyTorch (CPU)	FP32	✅	19.5	0.5703	50.09
YOLO26s	OpenVINO	FP32	✅	36.7	0.5615	3.57
YOLO26s	OpenVINO	FP16	✅	18.6	0.5615	3.55
YOLO26s	OpenVINO	INT8	✅	10.0	0.547	3.09
YOLO26m	PyTorch (CPU)	FP32	✅	42.2	0.6196	135.1
YOLO26m	OpenVINO	FP32	✅	78.3	0.6168	5.64
YOLO26m	OpenVINO	FP16	✅	39.5	0.6168	5.85
YOLO26m	OpenVINO	INT8	✅	20.5	0.5994	4.14
YOLO26l	PyTorch (CPU)	FP32	✅	50.7	0.6215	169.75
YOLO26l	OpenVINO	FP32	✅	95.3	0.6206	8.14
YOLO26l	OpenVINO	FP16	✅	48.1	0.6206	8.18
YOLO26l	OpenVINO	INT8	✅	25.2	0.5999	4.67
YOLO26x	PyTorch (CPU)	FP32	✅	113.2	0.6512	407.56
YOLO26x	OpenVINO	FP32	✅	213.2	0.6569	13.11
YOLO26x	OpenVINO	FP16	✅	107.1	0.6569	13.15
YOLO26x	OpenVINO	INT8	✅	54.8	0.6374	9.24

Intel® Core™ Ultra™ 7 258V

مقاييس الأداء

وحدة معالجة الرسوميات المدمجة Intel® Arc™Intel® Lunar Lake CPUIntegrated Intel® AI Boost NPU

نتائج مقاييس الأداء التفصيلية

نموذج	تنسيق	الدقة	الحالة	الحجم (MB)	مقاييس/mAP50-95(B)	وقت الاستدلال (ms/im)
YOLO26n	PyTorch (CPU)	FP32	✅	5.3	0.4765	31.43
YOLO26n	OpenVINO	FP32	✅	9.6	0.4762	3.57
YOLO26n	OpenVINO	FP16	✅	5.1	0.4762	3.53
YOLO26n	OpenVINO	INT8	✅	3.2	0.4625	3.65
YOLO26s	PyTorch (CPU)	FP32	✅	19.5	0.5703	60.4
YOLO26s	OpenVINO	FP32	✅	36.7	0.5616	5.02
YOLO26s	OpenVINO	FP16	✅	18.6	0.5616	5.01
YOLO26s	OpenVINO	INT8	✅	10.0	0.547	4.31
YOLO26m	PyTorch (CPU)	FP32	✅	42.2	0.6196	173.31
YOLO26m	OpenVINO	FP32	✅	78.3	0.6191	9.48
YOLO26m	OpenVINO	FP16	✅	39.5	0.6168	9.6
YOLO26m	OpenVINO	INT8	✅	20.5	0.5994	6.03
YOLO26l	PyTorch (CPU)	FP32	✅	50.7	0.6173	224.52
YOLO26l	OpenVINO	FP32	✅	95.3	0.3725	11.88
YOLO26l	OpenVINO	FP16	✅	48.1	0.6201	12.0
YOLO26l	OpenVINO	INT8	✅	25.2	0.5999	8.47
YOLO26x	PyTorch (CPU)	FP32	✅	113.2	0.6512	595.72
YOLO26x	OpenVINO	FP32	✅	213.2	0.6567	20.26
YOLO26x	OpenVINO	FP16	✅	107.1	0.6454	20.25
YOLO26x	OpenVINO	INT8	✅	54.8	0.6374	14.77

Intel® Core™ Ultra™ 7 155H

مقاييس الأداء

وحدة معالجة الرسوميات المدمجة Intel® Arc™معالج Intel® Meteor Lake

نتائج مقاييس الأداء التفصيلية

نموذج	تنسيق	الدقة	الحالة	الحجم (MB)	مقاييس/mAP50-95(B)	وقت الاستدلال (ms/im)
YOLO26n	PyTorch (CPU)	FP32	✅	5.3	0.4765	38.77
YOLO26n	OpenVINO	FP32	✅	9.6	0.4774	9.87
YOLO26n	OpenVINO	FP16	✅	5.1	0.4774	9.84
YOLO26n	OpenVINO	INT8	✅	3.2	0.4705	5.86
YOLO26s	PyTorch (CPU)	FP32	✅	19.5	0.5703	69.54
YOLO26s	OpenVINO	FP32	✅	36.7	0.5616	17.29
YOLO26s	OpenVINO	FP16	✅	18.6	0.5616	17.06
YOLO26s	OpenVINO	INT8	✅	10.0	0.5452	10.33
YOLO26m	PyTorch (CPU)	FP32	✅	42.2	0.6196	192.22
YOLO26m	OpenVINO	FP32	✅	78.3	0.6187	34.64
YOLO26m	OpenVINO	FP16	✅	39.5	0.6187	34.75
YOLO26m	OpenVINO	INT8	✅	20.5	0.6073	15.99
YOLO26l	PyTorch (CPU)	FP32	✅	50.7	0.6215	245.62
YOLO26l	OpenVINO	FP32	✅	95.3	0.6202	43.7
YOLO26l	OpenVINO	FP16	✅	48.1	0.6202	44.65
YOLO26l	OpenVINO	INT8	✅	25.2	0.6048	20.31
YOLO26x	PyTorch (CPU)	FP32	✅	113.2	0.6512	513.06
YOLO26x	OpenVINO	FP32	✅	213.2	0.6544	80.19
YOLO26x	OpenVINO	FP16	✅	107.1	0.6544	79.83
YOLO26x	OpenVINO	INT8	✅	54.8	0.6393	35.16

إعادة إنتاج نتائجنا

لإعادة إنتاج قياسات أداء Ultralytics المذكورة أعلاه على جميع تنسيقات التصدير، قم بتشغيل هذا الكود:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml")

الخلاصة

تُظهر نتائج قياس الأداء بوضوح فوائد تصدير نموذج YOLO26 إلى تنسيق OpenVINO. عبر مختلف النماذج ومنصات الأجهزة، يتفوق تنسيق OpenVINO باستمرار على التنسيقات الأخرى من حيث سرعة الاستدلال مع الحفاظ على دقة مماثلة.

تؤكد قياسات الأداء فعالية OpenVINO كأداة لنشر نماذج التعلم العميق. من خلال تحويل النماذج إلى تنسيق OpenVINO، يمكن للمطورين تحقيق تحسينات كبيرة في الأداء، مما يسهل نشر هذه النماذج في تطبيقات العالم الحقيقي.

لمزيد من المعلومات والتعليمات التفصيلية حول استخدام OpenVINO، راجع وثائق OpenVINO الرسمية.

الأسئلة الشائعة

كيف أقوم بتصدير نماذج YOLO26 إلى تنسيق OpenVINO؟

يمكن أن يؤدي تصدير نماذج YOLO26 إلى تنسيق OpenVINO إلى زيادة سرعة وحدة المعالجة المركزية CPU بشكل كبير وتمكين تسريع GPU و NPU على أجهزة Intel. للتصدير، يمكنك استخدام إما Python أو CLI كما هو موضح أدناه:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model
model.export(format="openvino")  # creates 'yolo26n_openvino_model/'

لمزيد من المعلومات، راجع وثائق تنسيقات التصدير.

ما هي فوائد استخدام OpenVINO مع نماذج YOLO26؟

يوفر استخدام مجموعة أدوات OpenVINO من Intel مع نماذج YOLO26 العديد من الفوائد:

1. الأداء: حقق زيادة في السرعة تصل إلى 3 أضعاف في استدلال CPU واستفد من Intel GPU و NPU للتسريع.
2. محسن النموذج (Model Optimizer): قم بتحويل النماذج وتحسينها وتنفيذها من أطر عمل شائعة مثل PyTorch و TensorFlow و ONNX.
3. سهولة الاستخدام: تتوفر أكثر من 80 مفكرة تعليمية لمساعدة المستخدمين على البدء، بما في ذلك تلك الخاصة بـ YOLO26.
4. التنفيذ غير المتجانس: انشر النماذج على أجهزة Intel المتنوعة باستخدام API موحد.

للحصول على مقارنات أداء تفصيلية، قم بزيارة قسم قياسات الأداء الخاص بنا.

كيف يمكنني تشغيل الاستدلال باستخدام نموذج YOLO26 تم تصديره إلى OpenVINO؟

بعد تصدير نموذج YOLO26n إلى تنسيق OpenVINO، يمكنك تشغيل الاستدلال باستخدام Python أو CLI:

from ultralytics import YOLO

# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/")

# Run inference
results = ov_model("https://ultralytics.com/images/bus.jpg")

راجع وثائق وضع التنبؤ لمزيد من التفاصيل.

لماذا يجب أن أختار Ultralytics YOLO26 على النماذج الأخرى لتصدير OpenVINO؟

تم تحسين Ultralytics YOLO26 للكشف عن الأشياء في الوقت الفعلي بدقة وسرعة عاليتين. وتحديداً، عند دمجه مع OpenVINO، يوفر YOLO26:

• زيادة في السرعة تصل إلى 3 أضعاف على معالجات Intel CPUs
• نشر سلس على وحدات معالجة الرسومات Intel GPUs و NPUs
• دقة متسقة ومماثلة عبر تنسيقات تصدير مختلفة

للحصول على تحليل متعمق للأداء، راجع قياسات أداء YOLO26 التفصيلية الخاصة بنا على أجهزة مختلفة.

هل يمكنني قياس أداء نماذج YOLO26 على تنسيقات مختلفة مثل PyTorch و ONNX و OpenVINO؟

نعم، يمكنك قياس أداء نماذج YOLO26 بتنسيقات مختلفة بما في ذلك PyTorch و TorchScript و ONNX و OpenVINO. استخدم مقتطف الكود التالي لتشغيل قياسات الأداء على مجموعة البيانات التي اخترتها:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and [accuracy](https://www.ultralytics.com/glossary/accuracy) on the COCO8 dataset for all export formats
results = model.benchmark(data="coco8.yaml")

للحصول على نتائج تفصيلية لقياس الأداء، راجع قسم قياسات الأداء ووثائق تنسيقات التصدير.