تصدير النموذج باستخدام Ultralytics YOLO#

تصدير نموذج YOLO26 إلى صيغة ONNX أمر مباشر مع Ultralytics. فهو يوفر كلاً من طرق Python و CLI لتصدير النماذج.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom-trained model

# Export the model
model.export(format="onnx")

لمزيد من التفاصيل حول العملية، بما في ذلك الخيارات المتقدمة مثل التعامل مع أحجام المدخلات المختلفة، راجع دليل تكامل ONNX.

يوفر استخدام TensorRT لتصدير النموذج تحسينات كبيرة في الأداء. يمكن لنماذج YOLO26 المصدرة إلى TensorRT تحقيق زيادة في سرعة GPU تصل إلى 5 أضعاف، مما يجعلها مثالية لتطبيقات الاستدلال في الوقت الفعلي.

• تعدد الاستخدامات: تحسين النماذج لإعدادات أجهزة محددة.
• السرعة: تحقيق استدلال أسرع من خلال تحسينات متقدمة.
• التوافق: التكامل بسلاسة مع أجهزة NVIDIA.

لمعرفة المزيد حول دمج TensorRT، راجع دليل تكامل TensorRT.

يعد تكميم INT8 طريقة ممتازة لضغط النموذج وتسريع الاستدلال، خاصة على أجهزة الحافة. إليك كيفية تمكين تكميم INT8:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")  # Load a model
model.export(format="onnx", quantize=8, data="coco8.yaml")

يمكن تطبيق تكميم INT8 على تنسیقات مثل ONNX وTensorRT وOpenVINO وCoreML وRockchip RKNN. للحصول على نتائج تكميم مثالية، توفير مجموعة بيانات تمثيلية باستخدام معلمة data. انظر خيارات التكميم لمعرفة قيم quantize المقبولة والتنسيقات المدعومة.

يتيح حجم المدخلات الديناميكي للنموذج المصدر التعامل مع أبعاد صور مختلفة، مما يوفر المرونة ويحسن كفاءة المعالجة لحالات الاستخدام المختلفة. عند التصدير إلى تنسيقات مثل ONNX أو TensorRT، يضمن تمكين حجم المدخلات الديناميكي قدرة النموذج على التكيف مع أشكال المدخلات المختلفة بسلاسة.

تمكين هذه الميزة، استخدم علامة dynamic=True أثناء التصدير:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.export(format="onnx", dynamic=True)

تعد ميزة تغيير حجم المدخلات ديناميكياً مفيدة بشكل خاص للتطبيقات التي قد تختلف فيها أبعاد المدخلات، مثل معالجة الفيديو أو عند التعامل مع صور من مصادر مختلفة.

يعد فهم وسائط التصدير وتكوينها أمراً بالغ الأهمية لتحسين أداء النموذج:

• format: التنسيق المستهدف للنموذج المصدر (مثل onnx، torchscript، tensorflow).
• imgsz: حجم الصورة المطلوب لمدخلات النموذج (مثل 640 أو (height, width)).
• quantize: دقة التكميم، مثل 8/"int8"، 16/"fp16"، 32/"fp32"، أو مخططات الوزن/التنشيط المختلطة "w8a16" و"w8a32" (LiteRT INT8 ديناميكي) على التنسيقات المدعومة. انظر خيارات التكميم.
• optimize: يتيح تحسين المترجم بشكل أكبر لتصديرات DEEPX.

للنشر على منصات الأجهزة المحددة، فكر في استخدام تنسيقات تصدير متخصصة مثل TensorRT لوحدات معالجة الرسومات من NVIDIA، أو CoreML لأجهزة Apple، أو Edge TPU لأجهزة Google Coral.

عند تصدير نموذج YOLO إلى صيغ مثل ONNX أو TensorRT، يعتمد هيكل مصفوفة الإخراج على مهمة النموذج. يعد فهم هذه المخرجات مهماً لتنفيذات الاستدلال المخصصة.

بالنسبة لـ نماذج كشف YOLO26 (مثل yolo26n.pt)، يتم تمكين التصدير من البداية إلى النهاية افتراضياً في التنسيقات التي تدعمه، بحيث يكون شكل الإخراج مثل (batch_size, max_detections, 6) بقيم [x1, y1, x2, y2, confidence, class_id]. مع استخدام max_det=300 الافتراضي، يكون هذا عادة (batch_size, 300, 6). تعود بعض التنسيقات المقيدة تلقائياً إلى تخطيط الإخراج التقليدي عندما تكون مشغلات البداية إلى النهاية غير مدعومة.

بالنسبة لنماذج الكشف التي ليست من البداية إلى النهاية، أو نماذج YOLO26 المصدرة باستخدام end2end=False، يكون الإخراج عادة موترًا واحدًا على شكل (batch_size, 4 + num_classes, num_predictions) حيث تمثل القنوات إحداثيات المربعات بالإضافة إلى درجات كل فئة، وnum_predictions يعتمد على دقة مدخلات التصدير (ويمكن أن يكون ديناميكيًا).

بالنسبة لـ نماذج التجزئة (مثل yolo26n-seg.pt)، ستحصل عادةً على مخرجين: الموتر الأول على شكل (batch_size, 4 + num_classes + mask_dim, num_predictions) (المربعات، درجات الفئات، ومعاملات القناع)، والموتر الثاني على شكل (batch_size, mask_dim, proto_h, proto_w) يحتوي على نماذج أولية للأقنعة المستخدمة مع المعاملات لتوليد أقنعة المثيلات. تعتمد الأحجام على دقة مدخلات التصدير (ويمكن أن تكون ديناميكية).

بالنسبة لـ نماذج وضعية الجسم (مثل yolo26n-pose.pt)، عادة ما يكون موتر الإخراج على شكل (batch_size, 4 + num_classes + keypoint_dims, num_predictions)، حيث يعتمد keypoint_dims على مواصفات الوضعية (مثل عدد النقاط الرئيسية وما إذا كانت الثقة متضمنة)، ويعتمد num_predictions على دقة مدخلات التصدير (ويمكن أن يكون ديناميكيًا).

توضح الأمثلة في أمثلة استدلال ONNX كيفية معالجة هذه المخرجات لكل نوع نموذج.

لا توفر Ultralytics حالياً واجهة برمجة تطبيقات (API) مخصصة للاستدلال بلغة C++ لنماذج YOLO. لنشريات C++، قم بتصدير النموذج إلى تنسيق وقت تشغيل مثل ONNX أو TensorRT أو TorchScript أو MNN، ثم قم بتحميل العنصر المصدر باستخدام واجهة برمجة تطبيقات C++ الأصلية لوقت التشغيل هذا.

على سبيل المثال، قم بتصدير نموذج كشف باستخدام yolo export model=yolo26n.pt format=onnx وقم بتشغيل ملف .onnx باستخدام ONNX Runtime C++، أو قم بالتصدير باستخدام format=engine وقم بتشغيل محرك TensorRT من تطبيق TensorRT C++. عندما تستخدم معالجة لاحقة مخصصة بلغة C++، طابق تخطيط موتر الإخراج لمهمتك وإعدادات التصدير؛ عادةً ما تُرجع تصديرات كشف YOLO26 من البداية إلى النهاية (batch, max_det, 6)، بينما تُرجع التصديرات التي ليست من البداية إلى النهاية موترات التنبؤ الخام التي تتطلب معالجة لاحقة خارجية.

عند التصدير باستخدام quantize=16 (FP16) أو quantize=8 (INT8)، يتم تحويل معظم الموترات إلى دقة أقل لتقليل حجم النموذج وتحسين الأداء. ومع ذلك، عند تمكين end2end=True، يتم تضمين المعالجة اللاحقة (بما في ذلك مؤشرات الفئات) مباشرة في الرسم البياني المصدر.

يحتوي موتر output0 على مؤشرات الفئات، والتي يتم تمثيلها داخليًا كقيم عائمة. لا يمكن لـ FP16 تمثيل القيم الصحيحة التي تزيد عن 2048 بشكل موثوق بسبب دقة المانتيسا المحدودة لديه. لتجنب أي فقد محتمل للدقة أو معرفات فئات غير صحيحة، يتم الاحتفاظ بـ output0 في FP32 عن قصد.

هذا السلوك متوقع وينطبق أيضاً على التصديرات ذات الدقة المنخفضة أو المكممة حيث يجب الحفاظ على دقة فهرس الفئة.

إذا كانت مخرجات FP16 الكاملة مطلوبة، قم بالتصدير باستخدام end2end=False وقم بإجراء المعالجة اللاحقة خارجيًا.