تصدير Intel OpenVINO#

في هذا الدليل، نغطي تصدير نماذج YOLO26 إلى تنسيق OpenVINO، والذي يمكن أن يوفر تسريعًا يصل إلى 3 أضعاف على CPU، بالإضافة إلى تسريع استدلال YOLO على عتاد GPU و NPU من Intel.

OpenVINO، وهي اختصار لـ Open Visual Inference & Neural Network Optimization toolkit، هي حزمة أدوات شاملة لتحسين ونشر نماذج استدلال الذكاء الاصطناعي. على الرغم من أن الاسم يتضمن مرئي (Visual)، إلا أن OpenVINO تدعم أيضًا مهام إضافية متنوعة بما في ذلك اللغات، والصوت، والسلاسل الزمنية، إلخ.

المهام المدعومة#

يدعم تصدير OpenVINO جميع مهام Ultralytics السبعة. تتوفر التجزيز الدلالي (Semantic segmentation) وتقدير العمق (Depth estimation) حصرياً مع YOLO26، وهي العائلة الوحيدة التي توفر تلك الرؤوس.

أمثلة الاستخدام#

يدعم تنسيق OpenVINO أوضاع Export، وPredict، وValidate. قم بتصدير نموذجك، ثم تحميل النموذج المصدر لتشغيل الاستدلال أو التحقق من دقته على وحدة المعالجة المركزية CPU، أو وحدة معالجة الرسوميات المدمجة/المستقلة GPU، أو NPU من Intel.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to OpenVINO format
model.export(format="openvino")  # creates 'yolo26n_openvino_model/'

from ultralytics import YOLO

# Load the exported OpenVINO model
model = YOLO("yolo26n_openvino_model/")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

# Run inference on a specific device, available devices: ["intel:gpu", "intel:npu", "intel:cpu"]
results = model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

from ultralytics import YOLO

# Load the exported OpenVINO model
model = YOLO("yolo26n_openvino_model/")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

وسائط التصدير#

لمزيد من التفاصيل حول عملية التصدير، تفضل بزيارة صفحة وثائق Ultralytics حول التصدير.

فوائد OpenVINO#

1. الأداء: يوفر OpenVINO استنتاجًا عالي الأداء من خلال الاستفادة من قوة معالجات Intel CPUs، وGPUs المدمجة والمنفصلة، وFPGAs.
2. دعم التنفيذ غير المتجانس: يوفر OpenVINO واجهة برمجة تطبيقات (API) للكتابة مرة واحدة والنشر على أي جهاز Intel مدعوم (CPU، GPU، FPGA، VPU، إلخ).
3. Model Optimizer: توفر OpenVINO أداة تحسين النماذج (Model Optimizer) التي تقوم باستيراد وتحويل وتحسين النماذج من أطر deep learning الشهيرة مثل PyTorch، وTensorFlow، وTensorFlow Lite، وKeras، وONNX، وPaddlePaddle، وCaffe.
4. سهولة الاستخدام: تأتي الحزمة مع مجموعة كبيرة من دفاتر البرامج التعليمية (tutorial notebooks) (بما في ذلك تحسين YOLO26) التي تدرس جوانب مختلفة من حزمة الأدوات.

هيكل تصدير OpenVINO#

عند تصدير نموذج إلى تنسيق OpenVINO، ينتج عن ذلك دليل يحتوي على ما يلي:

1. ملف XML: يصف طوبولوجيا الشبكة.
2. ملف BIN: يحتوي على البيانات الثنائية للأوزان والتحيزات.
3. ملف التعيين (Mapping): يحمل تعيين موترات مخرجات النموذج الأصلية إلى أسماء موترات OpenVINO.

يمكنك استخدام هذه الملفات لتشغيل الاستنتاج باستخدام محرك استنتاج OpenVINO.

استخدام تصدير OpenVINO في النشر#

بمجرد تصدير نموذجك بنجاح إلى تنسيق OpenVINO، لديك خياران أساسيان لتشغيل الاستنتاج:

1. استخدم حزمة ultralytics، والتي توفر واجهة برمجة تطبيقات (API) عالية المستوى وتغلف وقت تشغيل OpenVINO (OpenVINO Runtime).

2. استخدم حزمة openvino الأصلية للتحكم الأكثر تقدمًا أو التخصيص في سلوك الاستدلال.

الاستنتاج باستخدام Ultralytics#

تتيح لك حزمة ultralytics تشغيل الاستدلال بسهولة باستخدام نموذج OpenVINO المصدر عبر طريقة predict. يمكنك أيضًا تحديد الجهاز المستهدف (على سبيل المثال، intel:gpu، intel:npu، intel:cpu) باستخدام وسيط الجهاز (device argument).

from ultralytics import YOLO

# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/")  # the path of your exported OpenVINO model
# Run inference with the exported model
ov_model.predict(device="intel:gpu")  # specify the device you want to run inference on

هذا النهج مثالي للنماذج الأولية السريعة أو النشر عندما لا تحتاج إلى تحكم كامل في خط أنابيب الاستنتاج.

الاستنتاج باستخدام OpenVINO Runtime#

يوفر وقت تشغيل OpenVINO (OpenVINO Runtime) واجهة برمجة تطبيقات موحدة للاستدلال عبر جميع أجهزة Intel المدعومة. كما يوفر قدرات متقدمة مثل موازنة الأحمال عبر عتاد Intel والنفذ غير المتزامن (asynchronous execution). لمزيد من المعلومات حول تشغيل الاستدلال، راجع دفاتر ملاحظات YOLO26.

تذكر أنك ستحتاج إلى ملفات XML وBIN بالإضافة إلى أي إعدادات خاصة بالتطبيق مثل حجم الإدخال، وعامل القياس للتطبيع، وما إلى ذلك، لإعداد النموذج واستخدامه بشكل صحيح مع Runtime.

في تطبيق النشر الخاص بك، ستقوم عادةً بالخطوات التالية:

1. قم بتمهيد OpenVINO عن طريق إنشاء core = Core().
2. قم بتحميل النموذج باستخدام طريقة core.read_model().
3. قم بتجميع النموذج باستخدام دالة core.compile_model().
4. تجهيز المدخلات (صورة، نص، صوت، إلخ).
5. قم بتشغيل الاستدلال باستخدام compiled_model(input_data).

لمزيد من الخطوات المفصلة ومقتطفات التعليمات البرمجية، راجع توثيق OpenVINO أو البرنامج التعليمي لـ API.

معايير YOLO26 لـ OpenVINO#

قام فريق Ultralytics بعمل اختبارات أداء لـ YOLO26 عبر تنسيقات النماذج المختلفة والـprecision، مقيمًا السرعة والدقة على أجهزة Intel المختلفة المتوافقة مع OpenVINO.

Intel® Core™ Ultra#

تمثل سلسلة Intel® Core™ Ultra™ معيارًا جديدًا في الحوسبة عالية الأداء، وهي مصممة لتلبية المتطلبات المتطورة للمستخدمين المعاصرين—من اللاعبين والمبدعين إلى المحترفين الذين يستفيدون من الذكاء الاصطناعي. هذا الجيل التالي ليس مجرد سلسلة معالجات CPU تقليدية؛ فهو يجمع بين أنوية CPU قوية، وقدرات GPU مدمجة عالية الأداء، ووحدة معالجة عصبية (NPU) مخصصة داخل شريحة واحدة، مما يوفر حلاً موحدًا لأعباء عمل الحوسبة المتنوعة والمكثفة.

في قلب بنية Intel® Core Ultra™ يوجد تصميم هجين يتيح أداءً استثنائيًا عبر مهام المعالجة التقليدية، وأعباء العمل المعززة بـ GPU، والعمليات القائمة على الذكاء الاصطناعي. يؤدي تضمين NPU إلى تعزيز استنتاج الذكاء الاصطناعي على الجهاز، مما يتيح تعلم آلي أسرع وأكثر كفاءة ومعالجة بيانات عبر مجموعة واسعة من التطبيقات.

تتضمن عائلة Core Ultra™ نماذج متنوعة مصممة لاحتياجات أداء مختلفة، مع خيارات تتراوح من التصاميم الموفرة للطاقة إلى المتغيرات عالية الطاقة التي تحمل تصنيف "H"—مثالية لأجهزة الكمبيوتر المحمولة والعوامل ذات الشكل المدمج التي تتطلب قوة حوسبة كبيرة. عبر التشكيلة، يستفيد المستخدمون من التآزر بين تكامل CPU وGPU وNPU، مما يوفر كفاءة واستجابة وقدرات تعدد مهام رائعة.

كجزء من ابتكار Intel المستمر، تضع سلسلة Core Ultra™ معيارًا جديدًا للحوسبة الجاهزة للمستقبل. مع توفر نماذج متعددة والمزيد في الأفق، تؤكد هذه السلسلة التزام Intel بتقديم حلول متطورة للجيل القادم من الأجهزة الذكية المعززة بالذكاء الاصطناعي.

تم تشغيل المعايير أدناه على Intel® Core™ Ultra™ X7 358H وIntel® Core™ Ultra™ 7 258V وIntel® Core™ Ultra™ 7 155H بدقة FP32 وFP16 وINT8.

Intel® Core™ Ultra™ X7 358H#

المقارنات المعيارية

وحدة معالجة الرسومات المدمجة Intel® Arc™Intel® Panther Lake CPUوحدة المعالجة العصبية (NPU) المتكاملة Intel® AI Boost

نتائج قياس الأداء التفصيلية

النموذج	التنسيق	الدقة (Precision)	الحالة	الحجم (MB)	metrics/mAP50-95(B)	وقت الاستدلال (ms/im)
YOLO26n	PyTorch (CPU)	FP32	✅	5.3	0.4765	29.28
YOLO26n	OpenVINO	FP32	✅	9.7	0.4762	4.09
YOLO26n	OpenVINO	FP16	✅	5.1	0.4762	4.03
YOLO26n	OpenVINO	INT8	✅	3.2	0.4634	4.24
YOLO26s	PyTorch (CPU)	FP32	✅	19.5	0.5703	59.32
YOLO26s	OpenVINO	FP32	✅	36.7	0.5616	5.08
YOLO26s	OpenVINO	FP16	✅	18.7	0.5616	5.14
YOLO26s	OpenVINO	INT8	✅	10.0	0.5462	4.47
YOLO26m	PyTorch (CPU)	FP32	✅	42.2	0.6196	143.21
YOLO26m	OpenVINO	FP32	✅	78.4	0.6166	7.1
YOLO26m	OpenVINO	FP16	✅	39.5	0.6166	7.06
YOLO26m	OpenVINO	INT8	✅	20.6	0.6055	5.61
YOLO26l	PyTorch (CPU)	FP32	✅	50.7	0.6215	181.16
YOLO26l	OpenVINO	FP32	✅	95.3	0.6205	8.45
YOLO26l	OpenVINO	FP16	✅	48.1	0.6205	8.49
YOLO26l	OpenVINO	INT8	✅	25.2	0.5938	6.25
YOLO26x	PyTorch (CPU)	FP32	✅	113.2	0.6512	379.75
YOLO26x	OpenVINO	FP32	✅	213.3	0.6568	13.03
YOLO26x	OpenVINO	FP16	✅	107.1	0.6568	12.98
YOLO26x	OpenVINO	INT8	✅	54.8	0.6385	8.74

Intel® Core™ Ultra™ 7 258V#

المقارنات المعيارية

وحدة معالجة الرسومات المدمجة Intel® Arc™وحدة المعالجة المركزية (CPU) من Intel® Lunar Lakeوحدة المعالجة العصبية (NPU) المتكاملة Intel® AI Boost

نتائج قياس الأداء التفصيلية

النموذج	التنسيق	الدقة (Precision)	الحالة	الحجم (MB)	metrics/mAP50-95(B)	وقت الاستدلال (ms/im)
YOLO26n	PyTorch (CPU)	FP32	✅	5.3	0.4765	27.33
YOLO26n	OpenVINO	FP32	✅	9.6	0.4764	3.33
YOLO26n	OpenVINO	FP16	✅	5.1	0.4764	3.34
YOLO26n	OpenVINO	INT8	✅	3.2	0.4634	3.46
YOLO26s	PyTorch (CPU)	FP32	✅	19.5	0.5703	60.2
YOLO26s	OpenVINO	FP32	✅	36.7	0.5616	4.66
YOLO26s	OpenVINO	FP16	✅	18.6	0.5616	4.65
YOLO26s	OpenVINO	INT8	✅	10.0	0.5462	3.99
YOLO26m	PyTorch (CPU)	FP32	✅	42.2	0.6196	152.87
YOLO26m	OpenVINO	FP32	✅	78.4	0.6168	9.03
YOLO26m	OpenVINO	FP16	✅	39.5	0.6168	8.98
YOLO26m	OpenVINO	INT8	✅	20.6	0.6055	5.7
YOLO26l	PyTorch (CPU)	FP32	✅	50.7	0.6215	201.57
YOLO26l	OpenVINO	FP32	✅	95.3	0.6203	11.32
YOLO26l	OpenVINO	FP16	✅	48.1	0.6203	11.36
YOLO26l	OpenVINO	INT8	✅	25.2	0.5938	7.45
YOLO26x	PyTorch (CPU)	FP32	✅	113.2	0.6512	431.04
YOLO26x	OpenVINO	FP32	✅	213.2	0.6568	19.08
YOLO26x	OpenVINO	FP16	✅	107.1	0.6568	19.63
YOLO26x	OpenVINO	INT8	✅	54.8	0.6385	13.69

Intel® Core™ Ultra™ 7 155H#

المقارنات المعيارية

وحدة معالجة الرسومات المدمجة Intel® Arc™Intel® Meteor Lake CPU

نتائج قياس الأداء التفصيلية

النموذج	التنسيق	الدقة (Precision)	الحالة	الحجم (MB)	metrics/mAP50-95(B)	وقت الاستدلال (ms/im)
YOLO26n	PyTorch (CPU)	FP32	✅	5.3	0.4765	33.19
YOLO26n	OpenVINO	FP32	✅	9.6	0.4758	9.13
YOLO26n	OpenVINO	FP16	✅	5.1	0.4758	9.07
YOLO26n	OpenVINO	INT8	✅	3.2	0.4573	5.79
YOLO26s	PyTorch (CPU)	FP32	✅	19.5	0.5703	70.92
YOLO26s	OpenVINO	FP32	✅	36.7	0.5616	16.37
YOLO26s	OpenVINO	FP16	✅	18.6	0.5616	16.65
YOLO26s	OpenVINO	INT8	✅	10.0	0.545	9.27
YOLO26m	PyTorch (CPU)	FP32	✅	42.2	0.6196	192.45
YOLO26m	OpenVINO	FP32	✅	78.4	0.6167	34.47
YOLO26m	OpenVINO	FP16	✅	39.5	0.6167	35.71
YOLO26m	OpenVINO	INT8	✅	20.6	0.6039	15.46
YOLO26l	PyTorch (CPU)	FP32	✅	50.7	0.6215	239.19
YOLO26l	OpenVINO	FP32	✅	95.3	0.621	43.24
YOLO26l	OpenVINO	FP16	✅	48.1	0.621	43.4
YOLO26l	OpenVINO	INT8	✅	25.2	0.5999	19.72
YOLO26x	PyTorch (CPU)	FP32	✅	113.2	0.6512	511.89
YOLO26x	OpenVINO	FP32	✅	213.2	0.6552	79.49
YOLO26x	OpenVINO	FP16	✅	107.1	0.6552	79.45
YOLO26x	OpenVINO	INT8	✅	54.8	0.642	34.66

إعادة إنتاج نتائجنا#

لإعادة إنتاج اختبارات أداء Ultralytics أعلاه على جميع تنسيقات التصدير، قم بتشغيل هذا الكود:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml")

الخلاصة#

تُظهر نتائج الاختبارات المعيارية بوضوح فوائد تصدير نموذج YOLO26 إلى تنسيق OpenVINO. ففي مختلف النماذج ومنصات الأجهزة، يتفوق تنسيق OpenVINO باستمرار على التنسيقات الأخرى من حيث سرعة الاستدلال مع الحفاظ على دقة مماثلة.

تؤكد الاختبارات المعيارية فعالية OpenVINO كأداة لنشر نماذج التعلم العميق. ومن خلال تحويل النماذج إلى تنسيق OpenVINO، يمكن للمطورين تحقيق تحسينات كبيرة في الأداء، مما يسهل نشر هذه النماذج في تطبيقات العالم الحقيقي.

لمزيد من المعلومات المفصلة والتعليمات حول استخدام OpenVINO، راجع توثيق OpenVINO الرسمي.

الأسئلة الشائعة#

كيف يمكنني تصدير نماذج YOLO26 إلى تنسيق OpenVINO؟#

يمكن أن يؤدي تصدير نماذج YOLO26 إلى تنسيق OpenVINO إلى تعزيز سرعة CPU بشكل كبير وتمكين تسريع GPU و NPU على أجهزة Intel. للتصدير، يمكنك استخدام Python أو CLI كما هو موضح أدناه:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Export the model
model.export(format="openvino")  # creates 'yolo26n_openvino_model/'

لمزيد من المعلومات، راجع توثيق تنسيقات التصدير.

ما هي فوائد استخدام OpenVINO مع نماذج YOLO26؟#

يوفر استخدام مجموعة أدوات Intel OpenVINO مع نماذج YOLO26 العديد من الفوائد:

1. الأداء: تحقيق تسريع يصل إلى 3 أضعاف في استدلال CPU والاستفادة من Intel GPUs و NPUs للتسريع.
2. مُحسِّن النموذج: تحويل النماذج وتحسينها وتنفيذها من أطر العمل الشائعة مثل PyTorch و TensorFlow و ONNX.
3. سهولة الاستخدام: تتوفر مجموعة كبيرة من دفاتر الملاحظات التعليمية لمساعدة المستخدمين على البدء، بما في ذلك تلك الخاصة بـ YOLO26.
4. التنفيذ غير المتجانس: نشر النماذج على أجهزة Intel متنوعة باستخدام API موحد.

للحصول على مقارنات مفصلة للأداء، تفضل بزيارة قسم اختبارات الأداء لدينا.

كيف يمكنني إجراء استدلال باستخدام نموذج YOLO26 تم تصديره إلى OpenVINO؟#

بعد تصدير نموذج YOLO26n إلى تنسيق OpenVINO، يمكنك إجراء الاستدلال باستخدام Python أو CLI:

from ultralytics import YOLO

# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/")

# Run inference
results = ov_model("https://ultralytics.com/images/bus.jpg")

ارجع إلى توثيق وضع التنبؤ (predict mode) لمزيد من التفاصيل.

لماذا يجب أن أختار Ultralytics YOLO26 على النماذج الأخرى لتصدير OpenVINO؟#

تم تحسين Ultralytics YOLO26 لاكتشاف الكائنات في الوقت الفعلي بدقة وسرعة عاليتين. وتحديداً، عند دمجه مع OpenVINO، يوفر YOLO26:

• تسريع يصل إلى 3 أضعاف على Intel CPUs
• نشر سلس على Intel GPUs و NPUs
• دقة متسقة ومماثلة عبر تنسيقات التصدير المختلفة

للتحليل المتعمق للأداء، تحقق من اختبارات أداء YOLO26 المفصلة لدينا على عتاد مختلف.

هل يمكنني إجراء اختبار معياري لنماذج YOLO26 على تنسيقات مختلفة مثل PyTorch و ONNX و OpenVINO؟#

نعم، يمكنك إجراء اختبار معياري لنماذج YOLO26 بتنسيقات متنوعة بما في ذلك PyTorch و TorchScript و ONNX و OpenVINO. استخدم مقتطف الكود التالي لتشغيل الاختبارات المعيارية على مجموعة البيانات التي اخترتها:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and [accuracy](https://www.ultralytics.com/glossary/accuracy) on the COCO8 dataset for all export formats
results = model.benchmark(data="coco8.yaml")

للحصول على نتائج تفصيلية لاختبارات الأداء، راجع قسم اختبارات الأداء وتوثيق تنسيقات التصدير.