تصدير النماذج باستخدام Ultralytics YOLO#

يُعد تصدير نموذج YOLO26 إلى تنسيق ONNX أمرًا مباشرًا باستخدام Ultralytics. وتتيح المنصة طريقتَي Python وCLI لتصدير النماذج.

from ultralytics import YOLO

# ⁨تحميل نموذج⁩
model = YOLO("yolo26n.pt")  # ⁨حمّل نموذجًا رسميًا⁩
model = YOLO("path/to/best.pt")  # ⁨حمّل نموذجًا مخصصًا مدرّبًا⁩

# ⁨صدّر النموذج⁩
model.export(format="onnx")

لمزيد من التفاصيل حول العملية، بما في ذلك الخيارات المتقدمة مثل التعامل مع أحجام الإدخال المختلفة، راجع دليل تكامل ONNX.

يوفر استخدام TensorRT لتصدير النماذج تحسينات كبيرة في الأداء. إذ يمكن لنماذج YOLO26 المُصدّرة إلى TensorRT تحقيق تسريع يصل إلى 5 أضعاف على GPU، ما يجعلها مثالية لتطبيقات الاستدلال في الوقت الفعلي.

• تعدد الاستخدامات: حسّن النماذج لتناسب إعدادًا محددًا للأجهزة.
• السرعة: حقق استدلالًا أسرع من خلال التحسينات المتقدمة.
• التوافق: تكامل بسلاسة مع أجهزة NVIDIA.

لمعرفة المزيد حول تكامل TensorRT، راجع دليل تكامل TensorRT.

يُعد تكميم INT8 وسيلة ممتازة لضغط النموذج وتسريع الاستدلال، لا سيما على الأجهزة الطرفية. إليك كيفية تفعيل تكميم INT8:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")  # ⁨تحميل نموذج⁩
model.export(format="onnx", quantize=8, data="coco8.yaml")

يمكن تطبيق تكميم INT8 على صيغ مثل ONNX وTensorRT وOpenVINO وCoreML وRockchip RKNN وAMD Xilinx. للحصول على أفضل نتائج التكميم، وفّر مجموعة بيانات تمثيلية باستخدام المعلمة data. راجع خيارات التكميم لمعرفة القيم المقبولة لـquantize والصيغ المدعومة.

يتيح حجم الإدخال الديناميكي للنموذج المُصدّر التعامل مع أبعاد صور متفاوتة، ما يوفر مرونة ويحسّن كفاءة المعالجة لمختلف حالات الاستخدام. وعند التصدير إلى تنسيقات مثل ONNX أو TensorRT، يضمن تفعيل حجم الإدخال الديناميكي قدرة النموذج على التكيّف بسلاسة مع أشكال الإدخال المختلفة.

لتفعيل هذه الميزة، استخدم العلامة dynamic=True أثناء التصدير:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.export(format="onnx", dynamic=True)

يكون تحديد حجم الإدخال ديناميكيًا مفيدًا بوجه خاص للتطبيقات التي قد تتفاوت فيها أبعاد الإدخال، مثل معالجة الفيديو أو التعامل مع صور من مصادر مختلفة.

تستخدم نماذج PyTorch وعمليات التصدير الديناميكية الحشو بالمستطيل الأدنى افتراضيًا، بينما تحشو عمليات التصدير الثابتة إلى imgsz كامل؛ لذا قد تختلف الكشوف القريبة من عتبة الثقة. استخدم rect=False للاستدلال الأصلي لمطابقة تصدير ثابت، أو صدّر باستخدام dynamic=True حيثما كان ذلك مدعومًا.

يُعد فهم وسيطات التصدير وضبطها أمرًا أساسيًا لتحسين أداء النموذج:

• format: تنسيق الهدف للنموذج المُصدّر (مثل onnx وtorchscript وsaved_model).
• imgsz: حجم الصورة المطلوب لإدخال النموذج (مثل 640 أو (height, width)).
• quantize: دقة التكميم، مثل 8/"int8" أو 16/"fp16" أو 32/"fp32"، أو مخططات الأوزان/التنشيطات المختلطة "w8a16" و"w8a32" (INT8 ديناميكي في LiteRT) على التنسيقات المدعومة. راجع خيارات التكميم.
• dynamic: يقبل أحجام إدخال متغيرة في التنسيقات التي تدعم الأشكال الديناميكية، مثل ONNX وOpenVINO وTensorRT.
• nms: يختار المخرجات الخام لاستخدام NMS خارجي (None)، أو NMS مضمّن (True)، أو الرأس الخالي من NMS (False).
• device: الجهاز المستخدم لتتبّع النموذج أثناء التصدير، مثل cpu أو 0 لاستخدام أول GPU عبر CUDA؛ ويتطلب TorchScript بدقة FP16 استخدام GPU.

للنشر على منصات أجهزة محددة، فكّر في استخدام تنسيقات تصدير متخصصة مثل TensorRT لوحدات GPU من NVIDIA، وCoreML لأجهزة Apple، وEdge TPU لأجهزة Google Coral.

عند تصدير نموذج YOLO إلى تنسيقات مثل ONNX أو TensorRT، تعتمد بنية موتر الإخراج على مهمة النموذج. ويُعد فهم هذه المخرجات مهمًا لتنفيذ الاستدلال المخصص.

بالنسبة إلى نماذج الكشف YOLO26 (مثل yolo26n.pt) المُصدَّرة باستخدام nms=False، تنتج التنسيقات المدعومة مخرجات لا تستخدم NMS، بأبعاد مثل (batch_size, max_detections, 6) وبقيم [x1, y1, x2, y2, confidence, class_id]. ومع max_det=300 الافتراضي، تكون هذه عادةً (batch_size, 300, 6). وتعود بعض التنسيقات المقيّدة تلقائيًا إلى تخطيط المخرجات التقليدي عندما لا تكون عوامل التشغيل الشاملة من البداية إلى النهاية مدعومة.

افتراضيًا (nms=None)، تُصدِّر نماذج الكشف، بما فيها YOLO26، تنبؤات خامًا من نوع one-to-many: تكون المخرجات عادةً موترًا واحدًا بأبعاد مثل (batch_size, 4 + num_classes, num_predictions)، حيث تمثل القنوات إحداثيات الصناديق ودرجات كل فئة، وتعتمد num_predictions على دقة الإدخال المستخدمة في التصدير (وقد تكون ديناميكية). يوضح دليل الكشف الشامل من البداية إلى النهاية التنسيقات التي تحتفظ بمخرجات الكشف الشامل من البداية إلى النهاية.

بالنسبة إلى نماذج التقسيم (مثل yolo26n-seg.pt)، ستحصل عادةً على مخرجين: الموتر الأول بأبعاد مثل (batch_size, 4 + num_classes + mask_dim, num_predictions) (الصناديق ودرجات الفئات ومعاملات الأقنعة)، والموتر الثاني بأبعاد مثل (batch_size, mask_dim, proto_h, proto_w)، ويحتوي على نماذج أولية للأقنعة تُستخدم مع المعاملات لإنشاء أقنعة المثيلات. وتعتمد الأحجام على دقة الإدخال المستخدمة في التصدير (وقد تكون ديناميكية).

بالنسبة إلى نماذج الوضعيات (مثل yolo26n-pose.pt)، تكون أبعاد موتر الإخراج عادةً مثل (batch_size, 4 + num_classes + keypoint_dims, num_predictions)، وتعتمد keypoint_dims على مواصفات الوضعية (مثل عدد النقاط المفتاحية وما إذا كانت الثقة مضمنة)، بينما تعتمد num_predictions على دقة الإدخال المستخدمة في التصدير (وقد تكون ديناميكية).

توضح الأمثلة الواردة في أمثلة الاستدلال باستخدام ONNX كيفية معالجة هذه المخرجات لكل نوع من النماذج.

لا توفر Ultralytics حاليًا واجهة API مخصصة للاستدلال باستخدام C++ لنماذج YOLO. لنشر النماذج باستخدام C++، صدِّر النموذج إلى تنسيق تشغيل مثل ONNX أو TensorRT أو TorchScript أو MNN، ثم حمِّل الملف المُصدَّر باستخدام واجهة C++ الأصلية لبيئة التشغيل المعنية.

على سبيل المثال، صدِّر نموذج كشف باستخدام yolo export model=yolo26n.pt format=onnx وشغِّل الملف .onnx باستخدام ONNX Runtime بلغة C++، أو صدِّره باستخدام format=engine وشغِّل محرّك TensorRT من تطبيق TensorRT بلغة C++. عند استخدام معالجة لاحقة مخصصة بلغة C++، طابق تخطيط موتر الإخراج مع المهمة وإعدادات التصدير؛ إذ تُرجع صادرات الكشف الافتراضية لـ YOLO26 موترات تنبؤ خامًا تتطلب تطبيق NMS خارجيًا. صدِّر باستخدام nms=False للحصول على اكتشافات لا تستخدم NMS بأبعاد (batch, max_det, 6)، أو باستخدام nms=True لتضمين NMS في التنسيقات المدعومة.

عند التصدير باستخدام quantize=16 (FP16) أو quantize=8 (INT8)، تُحوَّل معظم الموترات إلى دقة أقل لتقليل حجم النموذج وتحسين الأداء. لكن عند تفعيل nms=False، تُضمَّن المعالجة اللاحقة (بما فيها فهارس الفئات) مباشرةً في الرسم البياني المُصدَّر.

يحتوي موتر output0 على فهارس الفئات، التي تُمثَّل داخليًا بقيم الفاصلة العائمة. ولا يستطيع FP16 تمثيل القيم الصحيحة التي تتجاوز 2048 تمثيلًا موثوقًا به، بسبب محدودية دقة المانتيسا. لتجنب فقدان الدقة المحتمل أو معرّفات الفئات غير الصحيحة، يُحتفظ عمدًا بـ output0 بدقة FP32.

إذا كانت المخرجات بدقة FP16 بالكامل مطلوبة، فصدِّر باستخدام nms=None على وحدة GPU ونفِّذ المعالجة اللاحقة خارجيًا. وتحتفظ صادرات ONNX بدقة FP16 على وحدة CPU بمدخلات ومخرجات FP32 على أي حال، إذ لا تحوّل إلا الرسم البياني الداخلي.