تصدير Intel OpenVINO#

في هذا الدليل، نتناول تصدير نماذج YOLO26 إلى تنسيق OpenVINO، الذي يمكن أن يوفر تسريعًا يصل إلى 3 أضعاف لـ CPU، بالإضافة إلى تسريع استدلال YOLO على أجهزة GPU وNPU من Intel.

OpenVINO، وهو اختصار لمجموعة أدوات تحسين الاستدلال المرئي والشبكات العصبية، مجموعة أدوات شاملة لتحسين نماذج استدلال الذكاء الاصطناعي ونشرها. وعلى الرغم من أن الاسم يتضمن كلمة Visual، فإن OpenVINO يدعم أيضًا مهام إضافية متنوعة، بما في ذلك اللغة والصوت والسلاسل الزمنية وغير ذلك.

المهام المدعومة#

يدعم تصدير OpenVINO مهام Ultralytics السبعة جميعها. ولا يتوفر التجزئة الدلالية وتقدير العمق إلا مع YOLO26، وهي العائلة الوحيدة التي تأتي مع تلك الرؤوس.

التثبيت#

قم بتثبيت تبعيات تصدير OpenVINO باستخدام:

pip install "ultralytics[export-openvino]"

تتضمن حزمة ultralytics[export] أيضاً هذه التبعيات ويتم تثبيتها تلقائياً عند الحاجة إليها بواسطة عملية التصدير.

أمثلة على الاستخدام#

يدعم تنسيق OpenVINO أوضاع التصدير والتنبؤ والتحقق. صدّر نموذجك، ثم حمّل النموذج المُصدَّر لإجراء الاستدلال أو التحقق من دقته على CPU أو GPU مدمج/منفصل أو NPU من Intel.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to OpenVINO format
model.export(format="openvino")  # creates 'yolo26n_openvino_model/'

from ultralytics import YOLO

# Load the exported OpenVINO model
model = YOLO("yolo26n_openvino_model/")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

# Run inference on a specific device, available devices: ["intel:gpu", "intel:npu", "intel:cpu"]
results = model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

from ultralytics import YOLO

# Load the exported OpenVINO model
model = YOLO("yolo26n_openvino_model/")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

وسائط التصدير#

لمزيد من التفاصيل حول عملية التصدير، تفضل بزيارة صفحة توثيق Ultralytics حول التصدير.

فوائد OpenVINO#

1. الأداء: يوفر OpenVINO استدلالًا عالي الأداء من خلال الاستفادة من قوة وحدات CPU من Intel ووحدات GPU المدمجة والمنفصلة ووحدات FPGA.
2. دعم التنفيذ غير المتجانس: يوفر OpenVINO واجهة API للكتابة مرة واحدة والنشر على أي أجهزة Intel مدعومة (CPU وGPU وFPGA وVPU وغير ذلك).
3. محسّن النماذج: يوفر OpenVINO محسّن نماذج يستورد النماذج من أطر التعلم العميق الشائعة مثل PyTorch وTensorFlow وTensorFlow Lite وKeras وONNX وPaddlePaddle وCaffe، ويحوّلها ويحسّنها.
4. سهولة الاستخدام: تأتي مجموعة الأدوات مع مجموعة كبيرة من دفاتر الملاحظات التعليمية، بما في ذلك تحسين YOLO26، التي تشرح جوانب مختلفة من مجموعة الأدوات.

بنية تصدير OpenVINO#

عند تصدير نموذج إلى تنسيق OpenVINO، ينتج عن ذلك دليل يحتوي على ما يلي:

1. ملف XML: يصف البنية الطوبولوجية للشبكة.
2. ملف BIN: يحتوي على البيانات الثنائية للأوزان والانحيازات.
3. ملف التعيين: يحتوي على تعيين موترات مخرجات النموذج الأصلي إلى أسماء موترات OpenVINO.

يمكنك استخدام هذه الملفات لإجراء الاستدلال باستخدام محرك استدلال OpenVINO.

استخدام تصدير OpenVINO في النشر#

بعد تصدير نموذجك بنجاح إلى تنسيق OpenVINO، يتوفر لديك خياران أساسيان لإجراء الاستدلال:

1. استخدم حزمة ultralytics، التي توفر واجهة API عالية المستوى وتغلّف OpenVINO Runtime.

2. استخدم حزمة openvino الأصلية للتحكم المتقدم أو المخصص بدرجة أكبر في سلوك الاستدلال.

الاستدلال باستخدام Ultralytics#

تتيح لك حزمة ultralytics إجراء الاستدلال بسهولة باستخدام نموذج OpenVINO المُصدَّر عبر طريقة predict. ويمكنك أيضًا تحديد الجهاز المستهدف (مثل intel:gpu وintel:npu وintel:cpu) باستخدام الوسيطة device.

from ultralytics import YOLO

# Load the exported OpenVINO model
ov_model = YOLO("yolo26n_openvino_model/")  # the path of your exported OpenVINO model
# Run inference with the exported model
ov_model.predict(device="intel:gpu")  # specify the device you want to run inference on

يُعد هذا النهج مثاليًا لإنشاء النماذج الأولية بسرعة أو للنشر عندما لا تحتاج إلى تحكم كامل في خط أنابيب الاستدلال.

الاستدلال باستخدام OpenVINO Runtime#

يوفر OpenVINO Runtime واجهة API موحدة للاستدلال عبر جميع أجهزة Intel المدعومة. كما يوفر إمكانات متقدمة مثل موازنة التحميل عبر أجهزة Intel والتنفيذ غير المتزامن. لمزيد من المعلومات حول إجراء الاستدلال، راجع دفاتر YOLO26.

تذكّر أنك ستحتاج إلى ملفَي XML وBIN، بالإضافة إلى أي إعدادات خاصة بالتطبيق مثل حجم الإدخال وعامل القياس للتطبيع وغير ذلك، لإعداد النموذج واستخدامه بشكل صحيح مع Runtime.

في تطبيق النشر، ستنفذ عادةً الخطوات التالية:

1. تهيئة OpenVINO من خلال إنشاء core = Core().
2. تحميل النموذج باستخدام طريقة core.read_model().
3. ترجمة النموذج باستخدام الدالة core.compile_model().
4. إعداد الإدخال (صورة أو نص أو صوت وغير ذلك).
5. إجراء الاستدلال باستخدام compiled_model(input_data).

لمزيد من الخطوات التفصيلية ومقاطع التعليمات البرمجية، راجع توثيق OpenVINO أو البرنامج التعليمي لواجهة API.

معايير YOLO26 على OpenVINO#

أجرى فريق Ultralytics اختبارات معيارية لـ YOLO26 عبر تنسيقات نماذج ودرجات دقة مختلفة، مع تقييم السرعة والدقة على أجهزة Intel مختلفة المتوافقة مع OpenVINO.

Intel® Core™ Ultra#

تمثل سلسلة Intel® Core™ Ultra™ معيارًا جديدًا في الحوسبة عالية الأداء، وقد صُممت لتلبية المتطلبات المتطورة للمستخدمين العصريين، من اللاعبين والمبدعين إلى المحترفين الذين يستفيدون من الذكاء الاصطناعي. ولا تقتصر هذه المجموعة من الجيل التالي على كونها سلسلة CPU تقليدية؛ إذ تجمع بين نوى CPU قوية وإمكانات GPU مدمجة عالية الأداء ووحدة معالجة عصبية (NPU) مخصصة ضمن شريحة واحدة، لتوفير حل موحد لأعباء العمل الحاسوبية المتنوعة والمكثفة.

في صميم بنية Intel® Core Ultra™ يوجد تصميم هجين يتيح أداءً استثنائيًا عبر مهام المعالجة التقليدية وأعباء العمل المسرّعة بواسطة GPU والعمليات المدفوعة بالذكاء الاصطناعي. ويعزز تضمين NPU الاستدلال بالذكاء الاصطناعي على الجهاز، مما يتيح تعلمًا آليًا ومعالجة بيانات أسرع وأكثر كفاءة عبر مجموعة واسعة من التطبيقات.

تضم عائلة Core Ultra™ نماذج متنوعة مصممة لتلبية احتياجات أداء مختلفة، مع خيارات تتراوح من التصميمات الموفرة للطاقة إلى الإصدارات عالية القدرة التي تحمل الرمز "H"، وهي مثالية لأجهزة الكمبيوتر المحمولة والعوامل الشكلية المدمجة التي تتطلب قدرة حاسوبية كبيرة. ويستفيد المستخدمون عبر المجموعة من التكامل المتناغم بين CPU وGPU وNPU، بما يوفر كفاءة واستجابة وقدرات تعدد مهام ملحوظة.

وباعتبارها جزءًا من ابتكار Intel المستمر، تضع سلسلة Core Ultra™ معيارًا جديدًا للحوسبة الجاهزة للمستقبل. ومع توفر نماذج متعددة وظهور المزيد منها مستقبلًا، تؤكد هذه السلسلة التزام Intel بتقديم حلول متطورة للجيل التالي من الأجهزة الذكية المعززة بالذكاء الاصطناعي.

أُجريت المعايير أدناه على Intel® Core™ Ultra™ X7 358H وIntel® Core™ Ultra™ 7 258V وIntel® Core™ Ultra™ 7 155H بدقة FP32 وFP16 وINT8.

Intel® Core™ Ultra™ X7 358H#

المعايير المرجعية

وحدة GPU مدمجة من Intel® Arc™وحدة CPU من Intel® Panther Lakeوحدة NPU مدمجة من Intel® AI Boost

نتائج المعايير التفصيلية

النموذج	التنسيق	الدقة	الحالة	الحجم (MB)	metrics/mAP50-95(B)	زمن الاستدلال (مللي ثانية/صورة)
YOLO26n	PyTorch (CPU)	FP32	✅	5.3	0.4765	29.28
YOLO26n	OpenVINO	FP32	✅	9.7	0.4762	4.09
YOLO26n	OpenVINO	FP16	✅	5.1	0.4762	4.03
YOLO26n	OpenVINO	INT8	✅	3.2	0.4634	4.24
YOLO26s	PyTorch (CPU)	FP32	✅	19.5	0.5703	59.32
YOLO26s	OpenVINO	FP32	✅	36.7	0.5616	5.08
YOLO26s	OpenVINO	FP16	✅	18.7	0.5616	5.14
YOLO26s	OpenVINO	INT8	✅	10.0	0.5462	4.47
YOLO26m	PyTorch (CPU)	FP32	✅	42.2	0.6196	143.21
YOLO26m	OpenVINO	FP32	✅	78.4	0.6166	7.1
YOLO26m	OpenVINO	FP16	✅	39.5	0.6166	7.06
YOLO26m	OpenVINO	INT8	✅	20.6	0.6055	5.61
YOLO26l	PyTorch (CPU)	FP32	✅	50.7	0.6215	181.16
YOLO26l	OpenVINO	FP32	✅	95.3	0.6205	8.45
YOLO26l	OpenVINO	FP16	✅	48.1	0.6205	8.49
YOLO26l	OpenVINO	INT8	✅	25.2	0.5938	6.25
YOLO26x	PyTorch (CPU)	FP32	✅	113.2	0.6512	379.75
YOLO26x	OpenVINO	FP32	✅	213.3	0.6568	13.03
YOLO26x	OpenVINO	FP16	✅	107.1	0.6568	12.98
YOLO26x	OpenVINO	INT8	✅	54.8	0.6385	8.74

Intel® Core™ Ultra™ 7 258V#

المعايير المرجعية

وحدة GPU مدمجة من Intel® Arc™وحدة CPU من Intel® Lunar Lakeوحدة NPU مدمجة من Intel® AI Boost

نتائج المعايير التفصيلية

النموذج	التنسيق	الدقة	الحالة	الحجم (MB)	metrics/mAP50-95(B)	زمن الاستدلال (مللي ثانية/صورة)
YOLO26n	PyTorch (CPU)	FP32	✅	5.3	0.4765	27.33
YOLO26n	OpenVINO	FP32	✅	9.6	0.4764	3.33
YOLO26n	OpenVINO	FP16	✅	5.1	0.4764	3.34
YOLO26n	OpenVINO	INT8	✅	3.2	0.4634	3.46
YOLO26s	PyTorch (CPU)	FP32	✅	19.5	0.5703	60.2
YOLO26s	OpenVINO	FP32	✅	36.7	0.5616	4.66
YOLO26s	OpenVINO	FP16	✅	18.6	0.5616	4.65
YOLO26s	OpenVINO	INT8	✅	10.0	0.5462	3.99
YOLO26m	PyTorch (CPU)	FP32	✅	42.2	0.6196	152.87
YOLO26m	OpenVINO	FP32	✅	78.4	0.6168	9.03
YOLO26m	OpenVINO	FP16	✅	39.5	0.6168	8.98
YOLO26m	OpenVINO	INT8	✅	20.6	0.6055	5.7
YOLO26l	PyTorch (CPU)	FP32	✅	50.7	0.6215	201.57
YOLO26l	OpenVINO	FP32	✅	95.3	0.6203	11.32
YOLO26l	OpenVINO	FP16	✅	48.1	0.6203	11.36
YOLO26l	OpenVINO	INT8	✅	25.2	0.5938	7.45
YOLO26x	PyTorch (CPU)	FP32	✅	113.2	0.6512	431.04
YOLO26x	OpenVINO	FP32	✅	213.2	0.6568	19.08
YOLO26x	OpenVINO	FP16	✅	107.1	0.6568	19.63
YOLO26x	OpenVINO	INT8	✅	54.8	0.6385	13.69

Intel® Core™ Ultra™ 7 155H#

المعايير المرجعية

وحدة GPU مدمجة من Intel® Arc™وحدة CPU من Intel® Meteor Lake

نتائج المعايير التفصيلية

النموذج	التنسيق	الدقة	الحالة	الحجم (MB)	metrics/mAP50-95(B)	زمن الاستدلال (مللي ثانية/صورة)
YOLO26n	PyTorch (CPU)	FP32	✅	5.3	0.4765	33.19
YOLO26n	OpenVINO	FP32	✅	9.6	0.4758	9.13
YOLO26n	OpenVINO	FP16	✅	5.1	0.4758	9.07
YOLO26n	OpenVINO	INT8	✅	3.2	0.4573	5.79
YOLO26s	PyTorch (CPU)	FP32	✅	19.5	0.5703	70.92
YOLO26s	OpenVINO	FP32	✅	36.7	0.5616	16.37
YOLO26s	OpenVINO	FP16	✅	18.6	0.5616	16.65
YOLO26s	OpenVINO	INT8	✅	10.0	0.545	9.27
YOLO26m	PyTorch (CPU)	FP32	✅	42.2	0.6196	192.45
YOLO26m	OpenVINO	FP32	✅	78.4	0.6167	34.47
YOLO26m	OpenVINO	FP16	✅	39.5	0.6167	35.71
YOLO26m	OpenVINO	INT8	✅	20.6	0.6039	15.46
YOLO26l	PyTorch (CPU)	FP32	✅	50.7	0.6215	239.19
YOLO26l	OpenVINO	FP32	✅	95.3	0.621	43.24
YOLO26l	OpenVINO	FP16	✅	48.1	0.621	43.4
YOLO26l	OpenVINO	INT8	✅	25.2	0.5999	19.72
YOLO26x	PyTorch (CPU)	FP32	✅	113.2	0.6512	511.89
YOLO26x	OpenVINO	FP32	✅	213.2	0.6552	79.49
YOLO26x	OpenVINO	FP16	✅	107.1	0.6552	79.45
YOLO26x	OpenVINO	INT8	✅	54.8	0.642	34.66

إعادة إنتاج نتائجنا#

لإعادة إنتاج معايير Ultralytics أعلاه على جميع تنسيقات التصدير، شغّل هذا الرمز:

from ultralytics import YOLO

# Load a YOLO26n PyTorch model
model = YOLO("yolo26n.pt")

# Benchmark YOLO26n speed and accuracy on the COCO128 dataset for all export formats
results = model.benchmark(data="coco128.yaml")

الخلاصة#

توضح نتائج الاختبارات المعيارية بجلاء فوائد تصدير نموذج YOLO26 إلى تنسيق OpenVINO. فعبر نماذج ومنصات أجهزة مختلفة، يتفوق تنسيق OpenVINO باستمرار على التنسيقات الأخرى من حيث سرعة الاستدلال، مع الحفاظ على دقة مماثلة.

تؤكد المعايير فعالية OpenVINO كأداة لنشر نماذج التعلم العميق. ومن خلال تحويل النماذج إلى تنسيق OpenVINO، يمكن للمطورين تحقيق تحسينات كبيرة في الأداء، مما يسهّل نشر هذه النماذج في التطبيقات الواقعية.

لمزيد من المعلومات والتعليمات التفصيلية حول استخدام OpenVINO، راجع توثيق OpenVINO الرسمي.

الأسئلة الشائعة#