تصدير نماذج YOLO إلى LiteRT للنشر على الحافة والويب#

LiteRT (اختصار لـ Lite Runtime) هو محرك Google عالي الأداء للذكاء الاصطناعي على الأجهزة الطرفية. وهو الجيل التالي والاسم الجديد لـ TensorFlow Lite (TFLite)، حيث يشغل نفس تنسيق نموذج .tflite. مع LiteRT، يتم نشر نموذج Ultralytics YOLO واحد عبر الهواتف المحمولة، الأنظمة المدمجة، الأجهزة الطرفية، والمتصفح - ليغطي كل ما كانت تتعامل معه تنسيقات التصدير الأقدم tflite و tfjs بشكل منفصل، تحت مظلة واحدة الآن.

يعمل تنسيق تصدير LiteRT على تحسين نماذجك لمهام مثل اكتشاف الكائنات، التجزئة، تقدير الوضعية، والتصنيف لتعمل بسرعة وبدون اتصال بالإنترنت على مجموعة واسعة من الأجهزة.

npm i @ultralytics/yolo @litertjs/core

لماذا يجب عليك التصدير إلى LiteRT؟#

LiteRT هو إطار عمل مفتوح المصدر مصمم للاستدلال على الأجهزة، والمعروف أيضاً باسم الحوسبة الطرفية. وهو يمنح المطورين الأدوات اللازمة لتنفيذ النماذج المدربة على الهواتف المحمولة، والأنظمة المدمجة، وأجهزة إنترنت الأشياء، والحواسيب التقليدية، - ومن خلال LiteRT.js - مباشرة في متصفحات الويب و Node.js.

تنسيق نموذج واحد، لكل وجهة:

• الجوال والأنظمة المدمجة: Android، وiOS، وأنظمة Linux المدمجة، والمتحكمات الدقيقة (MCUs).
• المعجلات الطرفية: متوافق مع Coral Edge TPU لمزيد من التسريع.
• المتصفح و Node.js: يقوم LiteRT.js بتشغيل نفس نموذج .tflite على الويب مع تسريع WebGPU/WASM - مما يلغي الحاجة إلى تصدير منفصل لـ TensorFlow.js.

الميزات الرئيسية لنماذج LiteRT#

• التحسين على الجهاز: يقلل من زمن الانتقال عن طريق معالجة البيانات محلياً، ويعزز الخصوصية من خلال عدم نقل البيانات الشخصية، ويقلل من حجم النموذج لتوفير المساحة.
• دعم منصات متعددة: يعمل على Android، وiOS، وأنظمة Linux المدمجة، والمتحكمات الدقيقة، ومتصفحات الويب الحديثة.
• تسريع العتاد: يستفيد من XNNPACK على المعالج المركزي (CPU)، وتسريع وحدة معالجة الرسومات (GPU) عبر OpenCL، وMetal، وWebGPU. يتم تشغيل مفوض GPU في وضع FP16 افتراضياً لزيادة السرعة.
• الكمية (Quantization): يدعم FP32، و INT8 الثابت (quantize=8، أوزان int8 + تنشيطات int8)، و INT16 الثابت للتنشيط (quantize="w8a16"، أوزان int8 + تنشيطات int16 دقة أعلى)، و INT8 الديناميكي (quantize="w8a32"، أوزان int8 + تنشيطات FP32، لا توجد حاجة لبيانات المعايرة) لضغط النماذج وتسريع الاستدلال مع الحد الأدنى من فقدان الدقة.
• دعم لغات متنوعة: متوافق مع Java/Kotlin، وSwift، وObjective-C، وC++، وPython، وJavaScript.

الأداء المقاس#

الأجهزة: Xiaomi 17 بذاكرة LPDDR5X سعة 12 جيجابايت ونظام Android 16 / API 36. معالجها بحجم 3 نانومتر Snapdragon 8 Elite Gen 5 (SM8850) يمتلك وحدة معالجة مركزية Qualcomm Oryon بـ 8 أنوية (نواتان أساسيتان Prime تصل سرعتهما إلى 4.6 جيجاهرتز و6 أنوية أداء Performance تصل سرعتهما إلى 3.62 جيجاهرتز)، ووحدة معالجة رسومات Adreno، و وحدة معالجة عصبية Hexagon NPU.

• قيم السرعة هي زمن انتقال الصورة الواحدة المتسلسلة - وهو متوسط 15 تشغيلاً بعد 3 تشغيلات تمهيدية على bus.jpg، مقاسة باستخدام مكون Ultralytics Flutter الإضافي 0.6.10 والأصول المعيارية v0.6.6. تناوب ترتيب وحدة المعالجة المركزية CPU/GPU بين المهام في جولة متسلسلة واحدة. أكدت السجلات المحلية أن كل صف في وحدة المعالجة المركزية استخدم LiteRT CPU/XNNPACK وأن كل صف في وحدة معالجة الرسومات قام بتفويض الرسم البياني الكامل إلى LiteRT OpenCL (LITERT_CL).
• يتتبع تصدير LiteRT نموذج PyTorch مباشرة، ينتج عنه NCHW .tflite مع مدخل عائم - يقوم مفوض وحدة معالجة الرسومات بتجميع الرسم البياني بالكامل (جميع المهام السبعة تعمل على Adreno GPU هنا)، ولا يحتاج w8a32 إلى بيانات معايرة. يجب على المستهلكين قراءة أشكال الموتر وأسماء التوقيع بدلاً من افتراض تخطيط onnx2tf NHWC القديم أو أسماء مخرجات Identity؛ قم بتعبئة بيانات RGB مباشرة كـ CHW مستوٍ أو قم بتبديلها قبل الاستدلال. تُرجع الصادرات الدلالية سجلات NCHW وتتطلب وسيط argmax من جانب المضيف. يتم استضافة أصول Android الرسمية على إصدار yolo-flutter-app v0.6.6، مع سجل المعيار المفصل في مستند أداء Flutter.
• توجد أرقام وحدة المعالجة العصبية Hexagon NPU ووحدة المعالجة المركزية/الرسومات LiteRT المتطابقة في تكامل Qualcomm QNN.
• قارن نتائج وحدة المعالجة المركزية والمعجل لأجهزة Apple في تكامل CoreML.

تستخدم عمليات مسح الأجهزة التالية نفس الأصول المعيارية v0.6.6.

Google Pixel 10#

الأجهزة: Google Pixel 10 بذاكرة سعة 12 جيجابايت ونظام Android 16 / API 36. معالجها بحجم 3 نانومتر Google Tensor G5 يحتوي على وحدة معالجة مركزية بـ 8 أنوية (نواة أساسية Prime تصل إلى 3.78 جيجاهرتز، و5 أنوية أداء Performance تصل إلى 3.05 جيجاهرتز، ونواتي كفاءة Efficiency تصلان إلى 2.25 جيجاهرتز)، ووحدة معالجة رسومات PowerVR D-Series، ووحدة معالجة Google TPU. تمت قراءة سرعات الساعات واسم برنامج تشغيل وحدة معالجة الرسومات من جهاز القياس المعياري لأن Google لا تنشرها في المواصفات المرتبطة.

المعيار (Benchmark): متوسط 15 استدعاء لـ predict() بعد 3 عمليات تمهيد على bus.jpg، باستخدام ultralytics_yolo 0.6.10 والأصول الرسمية v0.6.6. يتبادل ترتيب CPU/GPU بين المهام في جولة متسلسلة واحدة. أكدت السجلات المحلية أن كل صف في وحدة المعالجة المركزية استخدم LiteRT CPU/XNNPACK وأن كل صف في وحدة معالجة الرسومات قام بتفويض الرسم البياني الكامل إلى LiteRT OpenCL (LITERT_CL).

Samsung Galaxy S26#

الأجهزة: Samsung Galaxy S26 (SM-S942B) بذاكرة 12 جيجابايت ونظام Android 16 / API 36. معالجها بحجم 2 نانومتر Exynos 2600 يحتوي على وحدة معالجة مركزية Armv9.3 بـ 10 أنوية (نواة C1-Ultra واحدة تصل إلى 3.8 جيجاهرتز، و3 أنوية أداء C1-Pro تصل إلى 3.26 جيجاهرتز، و6 أنوية كفاءة C1-Pro تصل إلى 2.76 جيجاهرتز)، ووحدة معالجة رسومات Xclipse 960، و Samsung NPU.

المعيار (Benchmark): متوسط 15 استدعاء لـ predict() بعد 3 عمليات تمهيد على bus.jpg، باستخدام ultralytics_yolo 0.6.10 والأصول الرسمية v0.6.6. يتبادل ترتيب CPU/GPU بين المهام في جولة متسلسلة واحدة. أكدت السجلات المحلية أن كل صف في وحدة المعالجة المركزية استخدم LiteRT CPU/XNNPACK وأن كل صف في وحدة معالجة الرسومات قام بتفويض الرسم البياني الكامل إلى LiteRT OpenCL (LITERT_CL).

Xiaomi 17T Pro#

الأجهزة: Xiaomi 17T Pro (2602EPTC0G) بذاكرة LPDDR5X سعة 12 جيجابايت ونظام Android 16 / API 36. معالجها بحجم 3 نانومتر MediaTek Dimensity 9500 (MT6993) يحتوي على وحدة معالجة مركزية Armv9.3 بـ 8 أنوية (نواة C1-Ultra واحدة تصل إلى 4.21 جيجاهرتز، و3 أنوية C1-Premium تصل إلى 3.5 جيجاهرتز، و4 أنوية C1-Pro تصل إلى 2.7 جيجاهرتز)، ووحدة معالجة رسومات Mali-G1 Ultra MC12، و MediaTek NPU 990.

المعيار (Benchmark): متوسط 15 استدعاء لـ predict() بعد 3 عمليات تمهيد على bus.jpg، باستخدام ultralytics_yolo 0.6.10 والأصول الرسمية v0.6.6. يتبادل ترتيب CPU/GPU بين المهام في جولة متسلسلة واحدة. أكدت السجلات المحلية أن كل صف في وحدة المعالجة المركزية استخدم LiteRT CPU/XNNPACK وأن كل صف في وحدة معالجة الرسومات قام بتفويض الرسم البياني الكامل إلى LiteRT OpenCL (LITERT_CL).

المهام المدعومة#

يدعم تصدير LiteRT جميع مهام Ultralytics السبع. التجزئة الدلالية وتقدير العمق متاحان فقط مع YOLO26، وهي العائلة الوحيدة التي توفر تلك الرؤوس.

التصدير إلى LiteRT: تحويل نموذج YOLO الخاص بك#

يمكنك تحسين كفاءة التنفيذ على الجهاز وتوسيع خيارات النشر عن طريق تحويل نماذجك إلى تنسيق LiteRT.

التثبيت#

لتثبيت الحزمة المطلوبة، قم بتشغيل:

# Install the required package for YOLO
pip install ultralytics

للحصول على إرشادات مفصلة وأفضل الممارسات، راجع دليل التثبيت لـ Ultralytics. إذا واجهت أي صعوبات، فاستشر دليل المشكلات الشائعة.

الاستخدام#

تدعم جميع نماذج Ultralytics YOLO التصدير بشكل جاهز. يدعم تنسيق LiteRT أوضاع التصدير (Export)، والتنبؤ (Predict)، والتحقق (Validate)، بحيث يمكنك تصدير النموذج، ثم تحميله لتشغيل الاستدلال أو التحقق من دقته محلياً.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to LiteRT format
model.export(format="litert", imgsz=640)  # use imgsz=224 for classification

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

# Dynamic INT8: int8 weights, FP32 activations - no calibration data needed
model.export(format="litert", quantize="w8a32", imgsz=640)  # use imgsz=224 for classification

# Static INT8: int8 weights + int8 activations - needs calibration data
model.export(format="litert", quantize=8, data="coco8.yaml", imgsz=640)  # use 224 for classification

# Static w8a16: int8 weights + int16 activations (higher accuracy) - needs calibration data
model.export(format="litert", quantize="w8a16", data="coco8.yaml", imgsz=640)  # use 224 for classification

from ultralytics import YOLO

# Load the exported LiteRT model
model = YOLO("yolo26n.tflite")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported LiteRT model
model = YOLO("yolo26n.tflite")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

وسائط التصدير#

لمزيد من التفاصيل حول عملية التصدير، تفضل بزيارة صفحة وثائق Ultralytics حول التصدير.

نشر نماذج YOLO LiteRT المُصدّرة#

بعد تصدير نموذج Ultralytics YOLO الخاص بك إلى LiteRT، يمكنك نشره عبر الأنظمة الأساسية. أسرع طريقة للتحقق منه محلياً هي طريقة YOLO("yolo26n.tflite") الموضحة أعلاه. للنشر في بيئات أخرى، راجع الموارد التالية:

الجوال والأنظمة المدمجة#

• Android: دليل البدء السريع لتدمج LiteRT في تطبيقات Android.
• iOS: دليل لتكامل ونشر نماذج LiteRT في تطبيقات iOS.
• Embedded Linux & Raspberry Pi: تشغيل نماذج LiteRT على حواسيب اللوحة الواحدة، مع إمكانية التسريع باستخدام Coral Edge TPU.
• Microcontrollers: النشر على وحدات التحكم الدقيقة ذات الذاكرة التي لا تتعدى بضع كيلوبايتات - يتلاءم وقت التشغيل الأساسي في حوالي 16 كيلوبايت على معالج Arm Cortex-M3.

المتصفح و Node.js (LiteRT.js)#

• نظرة عامة على LiteRT.js: تشغيل نفس نموذج .tflite مباشرة في المتصفح مع تسريع WebGPU/WASM، مما يلغي حسابات الخادم ويحافظ على البيانات على جهاز المستخدم.
• أمثلة شاملة (End-to-End): أمثلة عملية ودروس تعليمية لتنفيذ LiteRT عبر الهواتف والأجهزة الطرفية والويب.

ملخص#

في هذا الدليل، تناولنا كيفية تصدير نماذج Ultralytics YOLO إلى تنسيق LiteRT. من خلال دمج النشر على الأجهزة المحمولة/الطرفية (المعروف سابقاً بـ TFLite) والمتصفح (المعروف سابقاً بـ TF.js) في نموذج .tflite واحد، يجعل LiteRT نماذج YOLO الخاصة بك أسرع، وأصغر حجمًا، وقابلة للنشر عبر جميع الأجهزة المستهدفة تقريبًا.

لمزيد من التفاصيل، تفضل بزيارة وثائق LiteRT الرسمية.

أيضاً، إذا كنت مهتماً بعمليات التكامل الأخرى لـ Ultralytics YOLO، فراجع صفحة دليل التكامل الخاصة بنا للحصول على الكثير من الموارد المفيدة.

الأسئلة الشائعة#