تصدير نماذج YOLO إلى LiteRT للنشر على الحافة والويب#

‏LiteRT (اختصارًا لـ Lite Runtime) هو بيئة التشغيل عالية الأداء من Google للذكاء الاصطناعي على الجهاز. وهو الجيل التالي والاسم الجديد لـ TensorFlow Lite (TFLite)، ويشغّل تنسيق النموذج نفسه .tflite. باستخدام LiteRT، يُنشر نموذج Ultralytics YOLO واحد مُصدَّر عبر الأجهزة المحمولة والمضمّنة والحافة والمتصفح، ليغطي كل ما كانت تنسيقات التصدير الأقدم tflite وtfjs تتعامل معه بشكل منفصل، والآن ضمن مظلة واحدة.

يُحسّن تنسيق تصدير LiteRT نماذجك لمهام مثل اكتشاف الأجسام والتقسيم وتقدير الوضعية والتصنيف، بحيث تعمل بسرعة ودون اتصال بالإنترنت على مجموعة واسعة من الأجهزة.

npm i @ultralytics/yolo @litertjs/core

لماذا ينبغي لك التصدير إلى LiteRT؟#

‏LiteRT هو إطار عمل مفتوح المصدر مصمم للاستدلال على الجهاز، ويُعرف أيضًا باسم الحوسبة الطرفية. ويوفر للمطورين الأدوات اللازمة لتنفيذ النماذج المدرَّبة على الأجهزة المحمولة والمضمّنة وأجهزة IoT، وأجهزة الكمبيوتر التقليدية، وكذلك مباشرةً في متصفحات الويب وNode.js من خلال LiteRT.js.

تنسيق نموذج واحد، وكل وجهات النشر:

• الأجهزة المحمولة والمضمّنة: Android وiOS وLinux المضمّن ووحدات التحكم الدقيقة (MCUs).
• مسرّعات الحافة: متوافق مع Coral Edge TPU لمزيد من التسريع.
• المتصفح وNode.js: يشغّل LiteRT.js النموذج نفسه .tflite على الويب مع تسريع WebGPU/WASM، ما يلغي الحاجة إلى تصدير TensorFlow.js منفصل.

الميزات الرئيسية لنماذج LiteRT#

• التحسين على الجهاز: يقلل زمن الاستجابة عبر معالجة البيانات محليًا، ويعزز الخصوصية من خلال عدم نقل البيانات الشخصية، ويقلل حجم النموذج لتوفير المساحة.
• دعم منصات متعددة: يعمل على Android وiOS وLinux المضمّن ووحدات التحكم الدقيقة ومتصفحات الويب الحديثة.
• تسريع الأجهزة: يستفيد من XNNPACK على CPU، ومن تسريع GPU عبر OpenCL وMetal وWebGPU. ويعمل مفوَّض GPU افتراضيًا بدقة FP16 لمزيد من السرعة.
• التكميم: يدعم FP32 وINT8 الثابت (quantize=8، أوزان int8 وتنشيطات int8) وINT16-activation الثابت (quantize="w8a16"، أوزان int8 وتنشيطات int16 لدقة أعلى) وINT8 الديناميكي (quantize="w8a32"، أوزان int8 وتنشيطات FP32، من دون الحاجة إلى بيانات معايرة) لضغط النماذج وتسريع الاستدلال مع فقدان طفيف في الدقة.
• دعم لغات متنوع: متوافق مع Java/Kotlin وSwift وObjective-C وC++ وPython وJavaScript.

الأداء المُقاس#

الأجهزة: Xiaomi 17 بذاكرة LPDDR5X سعتها 12 GB وAndroid 16 / API 36. ويحتوي Snapdragon 8 Elite Gen 5 بدقة تصنيع 3 nm (SM8850) على CPU من Qualcomm Oryon بثماني أنوية (نواتان Prime بتردد يصل إلى 4.6 GHz و6 أنوية Performance بتردد يصل إلى 3.62 GHz)، ووحدة GPU من Adreno ووحدة NPU من Hexagon.

• قيم السرعة هي أزمنة استجابة متتالية لصورة واحدة، أي متوسط 15 تشغيلًا بعد 3 عمليات إحماء على bus.jpg، وقد قِيست باستخدام إضافة Ultralytics Flutter 0.6.10 والأصول المعيارية v0.6.6. وقد تناوب ترتيب CPU/GPU بين المهام ضمن جولة تسلسلية واحدة. وأكدت السجلات الأصلية أن كل صف خاص بـ CPU استخدم LiteRT CPU/XNNPACK، وأن كل صف خاص بـ GPU فوّض الرسم البياني الكامل إلى LiteRT OpenCL (LITERT_CL).
• يتتبّع تصدير LiteRT نموذج PyTorch مباشرةً، وينتج .tflite NCHW بمدخل عائم، إذ يترجم مفوَّض GPU الرسم البياني بأكمله (وتعمل جميع المهام السبع على GPU من Adreno هنا)، ولا يحتاج w8a32 إلى بيانات معايرة. ينبغي للمستهلكين قراءة أشكال الموترات وأسماء التوقيعات بدلًا من افتراض تخطيط NHWC القديم الخاص بـ onnx2tf أو أسماء المخرجات Identity؛ إذ يجب تعبئة بيانات RGB مباشرةً بصيغة CHW المستوية أو تبديل محاورها قبل الاستدلال. وتُرجع عمليات التصدير الدلالية logits بتنسيق NCHW وتتطلب حساب argmax للفئة على المضيف. وتُستضاف أصول Android الرسمية في إصدار yolo-flutter-app v0.6.6، مع سجل القياس التفصيلي في وثيقة أداء Flutter.
• توجد أرقام NPU من Hexagon المطابقة على Snapdragon، إلى جانب أرقام LiteRT الخاصة بـ CPU/GPU، في تكامل Qualcomm QNN.
• قارن نتائج CPU/المسرّع على Apple في تكامل CoreML.

تستخدم عمليات المسح التالية للأجهزة الأصول المعيارية نفسها v0.6.6.

Google Pixel 10#

الأجهزة: Google Pixel 10 بذاكرة سعتها 12 GB وAndroid 16 / API 36. ويحتوي Google Tensor G5 بدقة تصنيع 3 nm على CPU بثماني أنوية (نواة Prime واحدة بتردد يصل إلى 3.78 GHz، و5 أنوية Performance بتردد يصل إلى 3.05 GHz، ونواتا Efficiency بتردد يصل إلى 2.25 GHz)، ووحدة GPU من PowerVR D-Series، ووحدة Google TPU. وقد قُرئت ترددات الأنوية واسم برنامج تشغيل GPU من جهاز القياس، لأن Google لا تنشرهما في المواصفات المرتبطة.

القياس: متوسط 15 استدعاءً لـ predict() بعد 3 عمليات إحماء على bus.jpg، باستخدام ultralytics_yolo و0.6.10 والأصول الرسمية v0.6.6. ويتناوب ترتيب CPU/GPU بين المهام ضمن جولة تسلسلية واحدة. وأكدت السجلات الأصلية أن كل صف خاص بـ CPU استخدم LiteRT CPU/XNNPACK، وأن كل صف خاص بـ GPU فوّض الرسم البياني الكامل إلى LiteRT OpenCL (LITERT_CL).

Samsung Galaxy S26#

الأجهزة: Samsung Galaxy S26 (SM-S942B) بذاكرة سعتها 12 GB وAndroid 16 / API 36. ويحتوي Exynos 2600 بدقة تصنيع 2 nm على CPU من Armv9.3 بعشر أنوية (نواة C1-Ultra واحدة بتردد يصل إلى 3.8 GHz، و3 أنوية C1-Pro للأداء بتردد يصل إلى 3.26 GHz، و6 أنوية C1-Pro للكفاءة بتردد يصل إلى 2.76 GHz)، ووحدة GPU من Xclipse 960، ووحدة NPU من Samsung.

القياس: متوسط 15 استدعاءً لـ predict() بعد 3 عمليات إحماء على bus.jpg، باستخدام ultralytics_yolo و0.6.10 والأصول الرسمية v0.6.6. ويتناوب ترتيب CPU/GPU بين المهام ضمن جولة تسلسلية واحدة. وأكدت السجلات الأصلية أن كل صف خاص بـ CPU استخدم LiteRT CPU/XNNPACK، وأن كل صف خاص بـ GPU فوّض الرسم البياني الكامل إلى LiteRT OpenCL (LITERT_CL).

Xiaomi 17T Pro#

الأجهزة: Xiaomi 17T Pro (2602EPTC0G) بذاكرة LPDDR5X سعتها 12 GB وAndroid 16 / API 36. ويحتوي MediaTek Dimensity 9500 بدقة تصنيع 3 nm (MT6993) على CPU من Armv9.3 بثماني أنوية (نواة C1-Ultra واحدة بتردد يصل إلى 4.21 GHz، و3 أنوية C1-Premium بتردد يصل إلى 3.5 GHz، و4 أنوية C1-Pro بتردد يصل إلى 2.7 GHz)، ووحدة GPU من Mali-G1 Ultra MC12، ووحدة MediaTek NPU 990.

القياس: متوسط 15 استدعاءً لـ predict() بعد 3 عمليات إحماء على bus.jpg، باستخدام ultralytics_yolo و0.6.10 والأصول الرسمية v0.6.6. ويتناوب ترتيب CPU/GPU بين المهام ضمن جولة تسلسلية واحدة. وأكدت السجلات الأصلية أن كل صف خاص بـ CPU استخدم LiteRT CPU/XNNPACK، وأن كل صف خاص بـ GPU فوّض الرسم البياني الكامل إلى LiteRT OpenCL (LITERT_CL).

المهام المدعومة#

يدعم تصدير LiteRT جميع مهام Ultralytics السبع. ولا يتوفر التقسيم الدلالي وتقدير العمق إلا مع YOLO26، وهي العائلة الوحيدة التي تتضمن هذين الرأسين.

التصدير إلى LiteRT: تحويل نموذج YOLO الخاص بك#

يمكنك تحسين كفاءة التنفيذ على الجهاز وتوسيع خيارات النشر بتحويل نماذجك إلى تنسيق LiteRT.

التثبيت#

لتثبيت الحزمة المطلوبة، نفّذ:

# Install the required package for YOLO
pip install ultralytics

للاطلاع على التعليمات التفصيلية وأفضل الممارسات، راجع دليل تثبيت Ultralytics. وإذا واجهت أي صعوبات، فاستشر دليل المشكلات الشائعة.

الاستخدام#

تدعم جميع نماذج Ultralytics YOLO التصدير مباشرةً. ويدعم تنسيق LiteRT أوضاع التصدير والتنبؤ والتحقق، لذا يمكنك تصدير نموذج ثم تحميله لإجراء الاستدلال أو التحقق من دقته محليًا.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to LiteRT format
model.export(format="litert", imgsz=640)  # use imgsz=224 for classification

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

# Dynamic INT8: int8 weights, FP32 activations - no calibration data needed
model.export(format="litert", quantize="w8a32", imgsz=640)  # use imgsz=224 for classification

# Static INT8: int8 weights + int8 activations - needs calibration data
model.export(format="litert", quantize=8, data="coco8.yaml", imgsz=640)  # use 224 for classification

# Static w8a16: int8 weights + int16 activations (higher accuracy) - needs calibration data
model.export(format="litert", quantize="w8a16", data="coco8.yaml", imgsz=640)  # use 224 for classification

from ultralytics import YOLO

# Load the exported LiteRT model
model = YOLO("yolo26n.tflite")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported LiteRT model
model = YOLO("yolo26n.tflite")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

وسائط التصدير#

لمزيد من التفاصيل حول عملية التصدير، تفضل بزيارة صفحة توثيق Ultralytics حول التصدير.

نشر نماذج YOLO LiteRT المُصدَّرة#

بعد تصدير نموذج Ultralytics YOLO إلى LiteRT، يمكنك نشره عبر منصات متعددة. وأسرع طريقة للتحقق منه محليًا هي طريقة YOLO("yolo26n.tflite") الموضحة أعلاه. للنشر في بيئات أخرى، راجع الموارد التالية:

الأجهزة المحمولة والمضمّنة#

• Android: دليل للبدء السريع في دمج LiteRT في تطبيقات Android.
• iOS: دليل لدمج نماذج LiteRT ونشرها في تطبيقات iOS.
• Linux المضمّن وRaspberry Pi: شغّل نماذج LiteRT على أجهزة الكمبيوتر أحادية اللوحة، مع إمكانية تسريعها باستخدام Coral Edge TPU.
• المتحكمات الدقيقة: انشر على وحدات MCU بذاكرة لا تتجاوز بضعة كيلوبايتات — إذ يستهلك وقت التشغيل الأساسي نحو 16 كيلوبايتًا على Arm Cortex-M3.

المتصفح وNode.js ‏(LiteRT.js)#

• نظرة عامة على LiteRT.js: شغّل نموذج .tflite نفسه مباشرةً في المتصفح مع تسريع WebGPU/WASM، ما يلغي الحاجة إلى الحوسبة من جانب الخادم ويحافظ على البيانات على جهاز المستخدم.
• أمثلة شاملة من البداية إلى النهاية: أمثلة ودروس تعليمية عملية لتنفيذ LiteRT عبر الأجهزة المحمولة والطرفية والويب.

الملخص#

في هذا الدليل، أوضحنا كيفية تصدير نماذج Ultralytics YOLO إلى تنسيق LiteRT. ومن خلال توحيد النشر على الأجهزة المحمولة والطرفية (المعروف سابقًا باسم TFLite) وفي المتصفح (المعروف سابقًا باسم TF.js) ضمن نموذج .tflite واحد، يجعل LiteRT نماذج YOLO أسرع وأصغر حجمًا وقابلة للنقل إلى جميع أهداف الأجهزة تقريبًا.

لمزيد من التفاصيل، تفضّل بزيارة الوثائق الرسمية لـ LiteRT.

وإذا كنت مهتمًا بعمليات دمج Ultralytics YOLO الأخرى، فتفقّد صفحة دليل عمليات الدمج التي تضم العديد من الموارد المفيدة.

الأسئلة الشائعة#