تصدير نماذج YOLO إلى LiteRT للنشر على الأجهزة الطرفية والويب#

إن LiteRT (اختصار لـ بيئة تشغيل Lite) بيئة تشغيل عالية الأداء من Google للذكاء الاصطناعي على الجهاز. وهي الجيل التالي والاسم الجديد لـ TensorFlow Lite ‏(TFLite)، وتستخدم تنسيق النموذج نفسه .tflite. باستخدام LiteRT، يمكن نشر نموذج Ultralytics YOLO مُصدَّر واحد على الأجهزة المحمولة والمضمنة والطرفية والمتصفح — لتغطية جميع الاستخدامات التي كانت تتولاها تنسيقات التصدير الأقدم tflite وtfjs كلٌ على حدة، ضمن إطار موحد.

شاهد: كيفية تصدير Ultralytics YOLO26 إلى Google LiteRT | نشر الذكاء الاصطناعي للرؤية على Android وiOS | الذكاء الاصطناعي للأجهزة المحمولة 📱🚀

يهيئ تنسيق تصدير LiteRT نماذجك لمهام مثل اكتشاف الكائنات والتجزئة وتقدير الوضعيات والتصنيف، لتعمل بسرعة ودون اتصال على مجموعة واسعة من الأجهزة.

npm i @ultralytics/yolo @litertjs/core

لماذا تصدّر إلى LiteRT؟#

إن LiteRT إطار عمل مفتوح المصدر مصمم للاستدلال على الجهاز، المعروف أيضًا باسم الحوسبة الطرفية. وهو يوفر للمطورين أدوات لتنفيذ النماذج المدرّبة على الأجهزة المحمولة والمضمنة وأجهزة إنترنت الأشياء والحواسيب التقليدية، وكذلك — عبر LiteRT.js — مباشرةً في متصفحات الويب وNode.js.

تنسيق نموذج واحد، لكل وجهة:

• الأجهزة المحمولة والمضمنة: Android وiOS وLinux المضمن ووحدات التحكم الدقيقة (MCUs).
• مسرّعات الأجهزة الطرفية: متوافق مع Coral Edge TPU لتسريع إضافي.
• المتصفح وNode.js: يشغّل LiteRT.js النموذج .tflite نفسه على الويب مع تسريع WebGPU/WASM — ما يلغي الحاجة إلى تصدير منفصل لـ TensorFlow.js.

الميزات الرئيسية لنماذج LiteRT#

• التحسين على الجهاز: يقلّل زمن الاستجابة عبر معالجة البيانات محليًا، ويعزّز الخصوصية من خلال عدم نقل البيانات الشخصية، ويقلّل حجم النموذج لتوفير المساحة.
• دعم منصات متعددة: يعمل على Android وiOS وLinux المضمّن والمتحكمات الدقيقة ومتصفحات الويب الحديثة.
• تسريع الأجهزة: يستفيد من XNNPACK على CPU، ومن تسريع GPU عبر OpenCL وMetal وWebGPU. يعمل مفوّض GPU افتراضيًا بدقة FP16 لتحقيق سرعة إضافية.
• التكميم: يدعم FP32 وINT8 ثابتًا (quantize=8، أوزان int8 + تنشيطات int8) وINT16 ثابتًا للتنشيطات (quantize="w8a16"، أوزان int8 + تنشيطات int16 لدقة أعلى) وINT8 ديناميكيًا (quantize="w8a32"، أوزان int8 + تنشيطات FP32، من دون الحاجة إلى بيانات المعايرة) لضغط النماذج وتسريع الاستدلال مع أقل قدر من فقدان الدقة.
• دعم لغات متنوعة: متوافق مع Java/Kotlin وSwift وObjective-C وC++ وPython وJavaScript.

الأداء المقاس#

الأجهزة: Xiaomi 17 بذاكرة LPDDR5X سعتها 12 GB ونظام Android 17 / API 37. يحتوي Snapdragon 8 Elite Gen 5 المصنّع بتقنية 3 nm (SM8850) على CPU من Qualcomm Oryon بثماني نوى (نواتان Prime بتردد يصل إلى 4.6 GHz و6 نوى للأداء بتردد يصل إلى 3.62 GHz)، وGPU من Adreno، وNPU من Hexagon.

• تمثل قيم السرعة زمن الاستجابة لدفعة صورة واحدة — أي متوسط 15 تشغيلًا بعد 3 عمليات إحماء على bus.jpg، وقِيست باستخدام 0.7.1 في إضافة Ultralytics Flutter والأصول الرسمية v0.7.0 (تصديرات Ultralytics 8.4.188). تناوب ترتيب CPU/GPU بين المهام ضمن جولة تسلسلية واحدة. أكدت السجلات الأصلية أن كل صف CPU استخدم LiteRT CPU/XNNPACK، وأن كل صف GPU فوّض الرسم البياني بأكمله إلى LiteRT OpenCL (LITERT_CL).
• يتتبّع تصدير LiteRT نموذج PyTorch مباشرةً، وينتج .tflite بتنسيق NCHW ومدخل عائم — إذ يترجم مفوّض GPU الرسم البياني بأكمله (وتعمل المهام السبع كلها على GPU من Adreno هنا)، كما أن w8a32 لا يحتاج إلى بيانات معايرة. ينبغي للمستهلكين قراءة أشكال الموترات وأسماء التوقيعات بدلًا من افتراض تخطيط NHWC القديم لـonnx2tf أو أسماء مخرجات Identity؛ ويجب تعبئة بيانات RGB مباشرةً بتنسيق CHW مستوٍ أو تبديل أبعادها قبل الاستدلال. تُرجع عمليات التصدير الدلالية درجات NCHW، وتتطلب حساب argmax للفئات على المضيف. تتوفر أصول Android الرسمية في إصدار v0.7.0 لتطبيق yolo-flutter-app، وسجل الأداء التفصيلي في وثيقة أداء Flutter.
• يمثل عمود NPU مسار NPU الخاص بـ LiteRT: تصدير FP32 (yolo export format=litert، دون quantize) جُمّع على الجهاز بواسطة بيئتي التشغيل litert-npu-runtime-qualcomm و-mediatek الإصدار 2.3.0، وقيس باستخدام إصدار أولي من إضافة Flutter مهيأ لـ NPU (لم يُطرح بعد). يتضمن التحميل الأول عملية التجميع هذه (نحو 0.3 s لـ n، وتصل إلى 6 s لـ x). لا تُجمّع أصول w8a32 بالكامل على وحدات NPU هذه. يُبلغ LiteRT عن تجميع NPU حتى عندما يشغّل الرسم البياني بصمت على GPU، لذا جرى التحقق من كل صف NPU بمقارنته بوقت GPU؛ وتُعرض الصفوف التي انتقلت إلى مسار بديل بالرمز —.
• تجدون أرقام NPU Hexagon المطابقة لـ Snapdragon، الخاصة بأصول QNN الرسمية، في تكامل Qualcomm QNN.
• قارن نتائج CPU/المسرّع من Apple في تكامل CoreML.

تستخدم اختبارات الأجهزة التالية الأصول الرسمية نفسها v0.7.0.

Google Pixel 10#

الأجهزة: Google Pixel 10 بذاكرة سعتها 12 GB ونظام Android 17 / API 37. يحتوي Google Tensor G5 المصنّع بتقنية 3 nm على CPU بثماني نوى (نواة Prime واحدة بتردد يصل إلى 3.78 GHz، و5 نوى للأداء بتردد يصل إلى 3.05 GHz، ونواتان للكفاءة بتردد يصل إلى 2.25 GHz)، وGPU من PowerVR D-Series، وTPU من Google. قُرئت ترددات النوى واسم برنامج تشغيل GPU من جهاز الاختبار لأن Google لا تنشرهما ضمن المواصفات المرتبطة.

الاختبار المعياري: متوسط 15 استدعاءً لـ predict() بعد 3 عمليات إحماء على bus.jpg، باستخدام ultralytics_yolo 0.7.1 والأصول الرسمية v0.7.0. يتناوب ترتيب CPU/GPU بين المهام ضمن جولة تسلسلية واحدة. أكدت السجلات الأصلية أن كل صف CPU استخدم LiteRT CPU/XNNPACK، وأن كل صف GPU فوّض الرسم البياني بأكمله إلى LiteRT OpenCL (LITERT_CL). لا يتضمن عمود Tensor NPU أي صف لـ LiteRT: إذ ترفض خدمة EdgeTPU من Google التطبيقات غير المدرجة في قائمة السماح، وعندئذ يشغّل LiteRT النموذج على GPU.

Samsung Galaxy S26#

الأجهزة: Samsung Galaxy S26 (SM-S942B) بذاكرة سعتها 12 GB ونظام Android 17 / API 37. يحتوي Exynos 2600 المصنّع بتقنية 2 nm على CPU من Armv9.3 بعشر نوى (نواة C1-Ultra واحدة بتردد يصل إلى 3.8 GHz، و3 نوى C1-Pro للأداء بتردد يصل إلى 3.26 GHz، و6 نوى C1-Pro للكفاءة بتردد يصل إلى 2.76 GHz)، وGPU من Xclipse 960، وNPU من Samsung.

الاختبار المعياري: متوسط 15 استدعاءً لـ predict() بعد 3 عمليات إحماء على bus.jpg، باستخدام ultralytics_yolo 0.7.1 والأصول الرسمية v0.7.0. يتناوب ترتيب CPU/GPU بين المهام ضمن جولة تسلسلية واحدة. أكدت السجلات الأصلية أن كل صف CPU استخدم LiteRT CPU/XNNPACK، وأن كل صف GPU فوّض الرسم البياني بأكمله إلى LiteRT OpenCL (LITERT_CL). يستخدم عمود NPU الأصول w8a32 المجمّعة مسبقًا لـ Exynos 2600 (E9965) باستخدام إضافة المترجم Samsung في LiteRT. لا يتضمن LiteRT 2.3 مترجمًا على الجهاز من Samsung، كما أن Google لم تنشر بعد بيئة تشغيل NPU من Samsung، لذا استخدمت هذه الصفوف مكتبة إرسال مبنية من مصادر LiteRT 2.3.

Xiaomi 17T Pro#

الأجهزة: Xiaomi 17T Pro (2602EPTC0G) بذاكرة LPDDR5X سعتها 12 GB وAndroid 16 / API 36. ويضم MediaTek Dimensity 9500 بدقة تصنيع 3 nm (MT6993) وحدة CPU من Armv9.3 بثماني نوى (نواة C1-Ultra واحدة تصل إلى 4.21 GHz، وثلاث نوى C1-Premium تصل إلى 3.5 GHz، وأربع نوى C1-Pro تصل إلى 2.7 GHz)، ووحدة GPU من Mali-G1 Ultra MC12، ووحدة NPU 990 من MediaTek.

المعيار: متوسط 15 استدعاءً لـ predict() بعد 3 عمليات إحماء على bus.jpg، باستخدام ultralytics_yolo و0.7.1 وأصول v0.7.0 الرسمية. يتناوب ترتيب CPU/GPU بين المهام خلال مرور تسلسلي واحد. أكدت السجلات الأصلية أن كل صف CPU استخدم LiteRT CPU/XNNPACK، وأن كل صف GPU فوّض الرسم البياني بالكامل إلى LiteRT OpenCL (LITERT_CL). لا تتوفر نتيجة NPU لمهمتي Depth وOBB: إذ يرفض مُجمّع NPU من MediaTek العمليات الأسية والمثلثية فيهما، ويشغّل LiteRT هذين الرسمين البيانيين على GPU.

المهام المدعومة#

يدعم تصدير LiteRT مهام Ultralytics السبع كلها. لا يتوفر التقسيم الدلالي وتقدير العمق إلا في YOLO26، وهي العائلة الوحيدة التي تتضمن هذه الرؤوس.

التصدير إلى LiteRT: تحويل نموذج YOLO#

يمكنك تحسين كفاءة التنفيذ على الجهاز وتوسيع خيارات النشر بتحويل نماذجك إلى تنسيق LiteRT.

التثبيت#

لتثبيت الحزمة المطلوبة، شغّل:

# Install the required package for YOLO
pip install ultralytics

للحصول على تعليمات مفصلة وأفضل الممارسات، راجع دليل تثبيت Ultralytics. وإذا واجهت أي صعوبات، فراجع دليل المشكلات الشائعة.

الاستخدام#

تدعم نماذج Ultralytics YOLO جميعها التصدير مباشرةً. ويدعم تنسيق LiteRT أوضاع التصدير والتنبؤ والتحقق، لذا يمكنك تصدير نموذج ثم تحميله لإجراء الاستدلال أو التحقق من دقته محليًا.

from ultralytics import YOLO

# ⁨تحميل نموذج YOLO26⁩
model = YOLO("yolo26n.pt")

# ⁨تصدير النموذج إلى تنسيق LiteRT⁩
model.export(format="litert", imgsz=640)  # ⁨ينشئ 'yolo26n.tflite'؛ استخدم imgsz=224 للتصنيف⁩

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

# ⁨INT8 ديناميكي: أوزان int8 وتنشيطات FP32 - لا حاجة إلى بيانات معايرة⁩
model.export(format="litert", quantize="w8a32", imgsz=640)  # ⁨ينشئ 'yolo26n_w8a32.tflite'⁩

# ⁨INT8 ثابت: أوزان int8 + تنشيطات int8 - يحتاج إلى بيانات معايرة⁩
model.export(format="litert", quantize=8, data="coco8.yaml", imgsz=640)  # ⁨ينشئ 'yolo26n_int8.tflite'⁩

# ⁨w8a16 ثابت: أوزان int8 + تنشيطات int16 (دقة أعلى) - يحتاج إلى بيانات معايرة⁩
model.export(format="litert", quantize="w8a16", data="coco8.yaml", imgsz=640)  # ⁨ينشئ 'yolo26n_w8a16.tflite'⁩

from ultralytics import YOLO

# ⁨تحميل نموذج LiteRT المُصدّر⁩
model = YOLO("yolo26n.tflite")

# ⁨تنفيذ الاستدلال⁩
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# ⁨تحميل نموذج LiteRT المُصدّر⁩
model = YOLO("yolo26n.tflite")

# ⁨# التحقق من الدقة على مجموعة بيانات COCO8⁩
metrics = model.val(data="coco8.yaml")

وسيطات التصدير#

لمزيد من التفاصيل حول عملية التصدير، تفضّل بزيارة صفحة وثائق Ultralytics حول التصدير.

استدلال CPU وNPU من Intel#

تعمل نماذج .tflite المُصدَّرة على أجهزة Intel عبر إضافة LiteRT Intel OpenVINO. مرّر device=intel:cpu أو device=intel:npu، وسيثبّت Ultralytics ai-edge-litert>=2.3.0 وai-edge-litert-sdk-intel عند الاستخدام الأول. يتطلب NPU معالج Intel Core Ultra مع تثبيت برنامج تشغيل NPU من Intel.

from ultralytics import YOLO

model = YOLO("yolo26n.tflite")
results = model("https://ultralytics.com/images/bus.jpg", device="intel:npu")  # ⁨أو "intel:cpu"⁩

الأجهزة: Intel Core Ultra X7 358H (Panther Lake) وIntel AI Boost NPU 5010 وFedora Linux وبرنامج تشغيل NPU 1.38.0 وai-edge-litert 2.3.0.

المعيار المرجعي: متوسط 15 استدعاءً لـpredict() بعد 3 إحماءات على bus.jpg، باستخدام ultralytics 8.4.174 وai-edge-litert 2.3.0 مع عمليات التصدير إلى w8a32. تعرض كل خلية الزمن الإجمالي، مع تفصيل المعالجة المسبقة / الاستدلال / المعالجة اللاحقة أسفلها.

نشر نماذج YOLO المُصدّرة بتنسيق LiteRT#

بعد تصدير نموذج Ultralytics YOLO إلى LiteRT، يمكنك نشره عبر منصات متعددة. وأسرع طريقة للتحقق منه محليًا هي طريقة YOLO("yolo26n.tflite") الموضحة أعلاه. وللنشر في بيئات أخرى، راجع الموارد التالية:

الأجهزة المحمولة والمضمنة#

• Android: دليل البدء السريع لدمج LiteRT في تطبيقات Android.
• iOS: دليل لدمج نماذج LiteRT ونشرها في تطبيقات iOS.
• Linux المضمن وRaspberry Pi: شغّل نماذج LiteRT على الحواسيب أحادية اللوحة، مع إمكانية تسريعها باستخدام Coral Edge TPU.
• المتحكمات الدقيقة: انشر على وحدات MCU التي لا تتوفر إلا على بضعة كيلوبايتات من الذاكرة — إذ يشغل وقت التشغيل الأساسي نحو 16 كيلوبايت على Arm Cortex-M3.

المتصفح وNode.js (LiteRT.js)#

• نظرة عامة على LiteRT.js: شغّل نموذج .tflite نفسه مباشرةً في المتصفح مع تسريع WebGPU/WASM، ما يلغي الحاجة إلى الحوسبة من جهة الخادم ويحفظ البيانات على جهاز المستخدم.
• أمثلة شاملة: أمثلة ودروس عملية لتنفيذ LiteRT على الأجهزة المحمولة والطرفية والويب.

الملخص#

في هذا الدليل، تناولنا كيفية تصدير نماذج Ultralytics YOLO إلى تنسيق LiteRT. ومن خلال توحيد النشر على الأجهزة المحمولة/الطرفية (المعروف سابقًا باسم TFLite) وفي المتصفح (المعروف سابقًا باسم TF.js) ضمن نموذج .tflite واحد، يجعل LiteRT نماذج YOLO أسرع وأصغر حجمًا وقابلة للنقل إلى كل أجهزة التشغيل تقريبًا.

لمزيد من التفاصيل، تفضّل بزيارة الوثائق الرسمية لـ LiteRT.

وإذا كنت مهتمًا أيضًا بعمليات تكامل Ultralytics YOLO الأخرى، فاطّلع على صفحة دليل التكامل للاطلاع على الكثير من الموارد المفيدة.

الأسئلة الشائعة#