تصدير Qualcomm QNN لنماذج Ultralytics YOLO#

يتطلب نشر نماذج الرؤية الحاسوبية على أجهزة Qualcomm Snapdragon تنسيقَ نموذج مُحسَّناً لوقت تشغيل Qualcomm AI Engine Direct (QNN). يتيح تصدير نماذج Ultralytics YOLO إلى تنسيق QNN تشغيل الاستدلال المُسرَّع على الجهاز عبر عتاد Snapdragon CPU وAdreno GPU وHexagon NPU الموجود في مليارات الهواتف المحمولة وأجهزة الكمبيوتر المحمولة وأنظمة السيارات وأجهزة إنترنت الأشياء. يوضّح هذا الدليل كيفية تصدير YOLO إلى Qualcomm QNN ونشره لإجراء استدلال سريع ومنخفض استهلاك الطاقة على عتاد Snapdragon.

ما هو Qualcomm QNN؟#

إن Qualcomm AI Engine Direct — المعروف عادةً باسم QNN والموزَّع كجزء من SDK الخاص بوقت تشغيل Qualcomm AI Runtime (QAIRT) — هو حزمة الاستدلال منخفضة المستوى من Qualcomm لمعالجات Snapdragon. ويوفّر واجهة API موحّدة مع مكتبات خاصة بكل واجهة خلفية تستهدف Snapdragon CPU وAdreno GPU وHexagon Tensor Processor (HTP)، وهي وحدة معالجة الشبكات العصبية (NPU) المخصصة داخل شرائح Snapdragon SoC الحديثة. ويمنح QNN المطورين وصولاً كاملاً إلى مسرّعات Snapdragon للذكاء الاصطناعي على مستوى الحزمة البرمجية بأكملها، وهو الخلف الحديث لـ SDK Snapdragon Neural Processing Engine (SNPE) الأقدم. ويشغّل الذكاء الاصطناعي على الجهاز عبر منصات Snapdragon 8 Gen 2 و8 Gen 3 و8 Elite المحمولة، وأجهزة الكمبيوتر المحمولة Snapdragon X، ومنتجات السيارات وXR.

لماذا التصدير إلى Qualcomm QNN؟#

Snapdragon هي منصة الحوسبة المحمولة الأكثر انتشاراً في العالم. يتيح تصدير Ultralytics YOLO إلى تنسيق Qualcomm QNN الاستفادة من عتاد الذكاء الاصطناعي المخصص في هذه الأجهزة:

• تسريع Hexagon NPU: يؤدي تشغيل YOLO على Hexagon Tensor Processor إلى إنتاجية أعلى بكثير واستهلاك طاقة أقل من الاستدلال عبر CPU، ما يجعله مثالياً لـالاستدلال في الوقت الفعلي والرؤية الحاسوبية الدائمة التشغيل على Snapdragon.
• على الجهاز ودون اتصال: يعمل استدلال QNN بالكامل على جهاز Snapdragon، لذلك لا توجد عمليات ذهاب وإياب إلى السحابة، وتظل مدة الاستجابة منخفضة، ولا تغادر البيانات الجهاز.
• الكفاءة بعد التكميم: تُكمِّم عملية التصدير إلى QNN YOLO إلى أوزان INT8 مع تنشيطات 16 بت، وهو توازن الدقة/الأداء المفضّل لوحدة Hexagon NPU، ما يقلّص حجم النموذج ويزيد عدد الإطارات في الثانية إلى أقصى حد على الأجهزة العاملة بالبطارية.
• تنسيق واحد، وأجهزة متعددة: يستهدف تصدير Qualcomm QNN واحد Snapdragon CPU وAdreno GPU وHexagon NPU عبر عائلات Snapdragon 8 Gen 2 و8 Gen 3 و8 Elite وما بعدها.
• حزمة Qualcomm AI جاهزة للإنتاج: يُعد QNN (Qualcomm AI Engine Direct / QAIRT) وقت تشغيل Qualcomm الحالي للذكاء الاصطناعي على الجهاز، والمدعوم بنشاط، والبديل الموصى به لـ SNPE.

تنسيق تصدير QNN#

تُجمّع Ultralytics نماذج YOLO إلى QNN محلياً باستخدام موفّر تنفيذ QNN في ONNX Runtime (الحزمة القابلة للتثبيت عبر pip onnxruntime-qnn، التي تتضمن مكتبات QAIRT). يحوّل المصدّر نموذجك إلى ONNX، ثم يكمّمه باستخدام بيانات المعايرة إلى عمليات تنشيط 16 بت وأوزان INT8 (التوازن الموصى به لـ Hexagon NPU)، ثم يهيّئ جلسة ONNX Runtime مع تفعيل التخزين المؤقت للثنائي السياقي — ما يجمّع الرسم البياني المكمّم في ثنائي سياق QNN مضمن في <model>_qnn.onnx. ولا يلزم حساب Qualcomm أو رفع إلى السحابة أو تنزيل SDK منفصل.

بخلاف Qualcomm AI Hub القائم على السحابة، الذي يجمّع النماذج ويقيس أداءها على أجهزة Snapdragon المستضافة لدى Qualcomm ويتطلب حساب Qualcomm، يعمل تصدير Ultralytics QNN بالكامل على جهازك باستخدام استدعاء واحد export(format="qnn", imgsz=640) (imgsz=224 للتصنيف). وتحصل على هدف وقت تشغيل QNN/QAIRT نفسه — Snapdragon CPU وAdreno GPU وHexagon NPU — من دون تسجيل أو حدود للرفع أو أوقات انتظار في الطوابير، ويندمج مباشرةً في سير عمل تصدير YOLO القياسي.

ملف *_qnn.onnx المُصدَّر مكتفٍ ذاتياً؛ إذ يتضمن ثنائي سياق QNN وبيانات ONNX الوصفية، مثل أسماء الفئات وحجم الصورة والمهمة.

الميزات الرئيسية لنماذج QNN#

• التكميم: يُكمَّم النموذج إلى عمليات تنشيط 16 بت وأوزان INT8 باستخدام مسار ONNX Runtime QNN QDQ ومجموعة بيانات معايرة، وهو توازن الدقة/الأداء الموصى به لدى Hexagon NPU. تعرّف على المزيد حول تكميم النماذج.
• التجميع المحلي بالكامل: يُنشأ ثنائي السياق بالكامل على جهازك المضيف، من دون حساب Qualcomm أو رمز API أو رفع إلى السحابة.
• تسريع Snapdragon الكامل: شغّل الاستدلال على Hexagon NPU (HTP) أو Adreno GPU أو CPU عبر وقت تشغيل موحّد واحد.
• نطاق واسع من الأجهزة: استهدف مجموعة Snapdragon الواسعة المستخدمة في الهواتف وأجهزة الكمبيوتر (Windows on Snapdragon) والسيارات وXR والمنتجات المضمّنة.
• ثنائي سياق مُجمَّع مسبقاً: يقلّل شحن ثنائي السياق من تجميع الرسم البياني على الجهاز، ما يخفض زمن تحميل النموذج على الجهاز المستهدف.
• مخرجات مكتفية ذاتياً: يتضمن ملف ONNX المُصدَّر ثنائي سياق QNN المُجمَّع مسبقاً والبيانات الوصفية، بما يسهّل النشر.

الأداء المُقاس#

هاتف Android#

العتاد: Xiaomi 17 مع ذاكرة LPDDR5X بسعة 12 GB وAndroid 16 / API 36. وتحتوي شريحة Snapdragon 8 Elite Gen 5 بدقة تصنيع 3 nm (SM8850) على Qualcomm Oryon CPU بثماني نوى (نواتان Prime بتردد يصل إلى 4.6 GHz و6 نوى Performance بتردد يصل إلى 3.62 GHz)، وAdreno GPU وHexagon NPU (HTP v81).

• قيم السرعة هي أزمنة استجابة لدفعات من الصور المفردة — متوسط 15 تشغيلاً بعد 3 تشغيلات إحماء على bus.jpg، وقيسَت باستخدام أداة الاختبار المعيارية على الجهاز 0.6.10 الخاصة بـمكوّن Flutter الإضافي، والأصول المعيارية v0.6.6. وقد تناوب ترتيب الواجهات الخلفية بين المهام في عملية مسح تسلسلية واحدة. وأكدت السجلات الأصلية أن كل صف CPU استخدم LiteRT CPU/XNNPACK، وأن كل صف GPU فوّض الرسم البياني كاملاً إلى LiteRT OpenCL (LITERT_CL)، وأن كل صف NPU استخدم الواجهة الخلفية QNN Hexagon HTP.
• يوجد السجل التفصيلي للاختبار المعياري في وثيقة أداء Flutter.
• قارن أجهزة Android الأخرى في تكامل LiteRT وأجهزة Apple في تكامل CoreML.

حاسوب محمول Windows on Snapdragon#

استخدم هذا المسح التاريخي ثنائيات QNN v73 السابقة للمعيار؛ كما استخدم التقسيم الدلالي وOBB مدخلات بدقة 1024 بكسل. وأُجري الاختبار على حاسوب محمول من Lenovo بذاكرة 32 GB ونظام Windows 11. ويحتوي Snapdragon X Elite (X1E78100) على Qualcomm Oryon CPU بـ12 نواة وAdreno GPU وHexagon NPU (HTP v73)؛ ولم يُسجَّل طراز Lenovo الدقيق. وتقارن هذه المقارنة الخاصة بـWindows-on-Snapdragon خط أساس CPU الأصلي PyTorch FP32 الذي يبدأ منه معظم مطوري أجهزة الكمبيوتر المكتبية بمسار ONNX Runtime QNN Hexagon HTP. وتعرض كل خلية الزمن الكامل المنقضي لاستدعاء model.predict() مع أزمنة المعالجة المسبقة/الاستدلال/المعالجة اللاحقة المُبلَّغ عنها أسفلها؛ وقد يتضمن الإجمالي عبء إطار العمل خارج هذه المراحل الثلاث. أرقام CPU هي PyTorch FP32 (torch==2.10.0+cpu)، وأرقام NPU هي ONNX Runtime QNN (onnxruntime-qnn==2.2.0، أوزان INT8/عمليات تنشيط 16 بت).

• قيم السرعة هي أزمنة استجابة لدفعات من الصور المفردة — متوسط 100 تشغيل بعد 10 تشغيلات إحماء على bus.jpg، وقيسَت باستخدام time.perf_counter() حول استدعاء model.predict() الكامل على جهاز مستقر حرارياً (ultralytics==8.4.67، Python 3.12.10).
• تعمل Hexagon NPU بسرعة أكبر بنحو 2-4 مرات من خط أساس PyTorch CPU عبر مهام 640-1024 بكسل (نحو 3.4 مرات للكشف)، وتضيق الفجوة إلى نحو 1.3 مرة في المصنّف ذي الدقة 224 بكسل، حيث يهيمن عبء المعالجة المسبقة الثابت على الحمل الصغير.

المهام المدعومة#

يدعم تصدير Qualcomm QNN مهام Ultralytics السبع جميعها. ولا يتوفر التقسيم الدلالي وتقدير العمق إلا مع YOLO26، وهي العائلة الوحيدة التي توفر رأسي الإخراج هذين.

التصدير إلى QNN: تحويل نموذج YOLO الخاص بك#

صدّر نموذج Ultralytics YOLO إلى تنسيق QNN لنشره على عتاد Qualcomm. ويُنهى إعداد ثنائي السياق لمعمارية Hexagon Tensor Processor (HTP) مستهدفة أو SoC مدعوم، تحددها باستخدام الوسيطة name — وهي الوسيطة نفسها المستخدمة لاستهداف شريحة في تصدير RKNN.

أهداف HTP المدعومة#

مرّر المعمارية المستهدفة أو SoC عبر name (مثل name="73" أو name="iq-8275"). ويتحدد الدعم وفق هدف HTP، لذلك تمثل صفوف Snapdragon أدناه منصات نموذجية وليست قائمة شاملة بكل SoC. وتُدرج أجهزة Dragonwing صراحةً.

لا يمكن لجهاز Dragonwing IQ-615 استخدام تصدير ثنائي سياق Ultralytics QNN، لأن ONNX Runtime لا يعرّض DSP v66 الخاص به كهدف HTP غير متصل. ومع ذلك، يمكن دمج تصدير ONNX القياسي بشكل منفصل باستخدام موفّر تنفيذ CPU أو GPU يدعمه BSP الخاص باللوحة.

from ultralytics import YOLO

model = YOLO("best.pt")
model.export(format="qnn", name="iq-8275", imgsz=640)

التثبيت#

لتثبيت الحزم المطلوبة، شغّل:

# Install the required package for YOLO
pip install ultralytics

تُثبَّت حزمة onnxruntime-qnn (التي توفر موفّر تنفيذ QNN في ONNX Runtime وتتضمن مكتبات QAIRT) تلقائياً عند أول تصدير. للحصول على تعليمات تفصيلية وأفضل الممارسات المتعلقة بعملية التثبيت، راجع دليل تثبيت Ultralytics. وإذا واجهت أي صعوبات أثناء تثبيت الحزم المطلوبة لـ YOLO، فاستشر دليل المشكلات الشائعة للاطلاع على الحلول والنصائح.

الاستخدام#

يدعم تنسيق QNN أوضاع التصدير والتنبؤ والتحقق. ويُجرى الاستدلال والتحقق على عتاد Qualcomm Snapdragon عبر موفّر تنفيذ QNN في ONNX Runtime (الحزمة نفسها onnxruntime-qnn المستخدمة للتصدير). صدّر نموذجك، ثم حمّل النموذج المُصدَّر على جهاز Snapdragon لإجراء الاستدلال أو التحقق من دقته.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export to Qualcomm QNN format (INT8, enforced automatically) for the default v73 HTP target
model.export(format="qnn", name="73", imgsz=640)  # use imgsz=224 for classification

from ultralytics import YOLO

# Load the exported QNN model (on a Snapdragon device with onnxruntime-qnn)
model = YOLO("yolo26n_qnn.onnx")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported QNN model (on a Snapdragon device with onnxruntime-qnn)
model = YOLO("yolo26n_qnn.onnx")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

وسائط التصدير#

لمزيد من التفاصيل حول عملية التصدير، تفضل بزيارة صفحة توثيق Ultralytics حول التصدير.

بنية المخرجات#

بعد نجاح التصدير، يُنشأ ملف ONNX مكتفٍ ذاتياً:

يُضمّن الملف yolo26n_qnn.onnx ثنائي سياق QNN، ويُحمّله ONNX Runtime باستخدام موفّر تنفيذ QNN على جهاز Snapdragon. كما يتضمن بيانات وصفية للنموذج مثل أسماء الفئات وحجم الصورة والمهمة في ONNX metadata_props.

نشر نماذج YOLO المصدَّرة بتنسيق QNN#

تعمل نماذج QNN على أجهزة Qualcomm المدعومة، مما يجعل نشر النماذج على الجهاز أمرًا سهلًا. على جهاز متوافق مثبّت عليه onnxruntime-qnn، شغّل النموذج المصدَّر مباشرةً باستخدام واجهة Ultralytics البرمجية (yolo predict/yolo val، راجع الاستخدام أعلاه) — إذ تحمّل Ultralytics ثنائي سياق HTP عبر موفّر تنفيذ QNN في ONNX Runtime.

بالنسبة إلى مسارات المعالجة المخصصة، يمكنك أيضًا تحميل ثنائي السياق ONNX مباشرةً باستخدام ONNX Runtime. إن onnxruntime-qnn موفّر تنفيذ إضافي، لذا سجّله أثناء وقت التشغيل:

import onnxruntime as ort
import onnxruntime_qnn as qnn_ep

# On the Snapdragon device, register the QNN plugin EP and select its device(s)
ort.register_execution_provider_library("QNNExecutionProvider", qnn_ep.get_library_path())
devices = [d for d in ort.get_ep_devices() if d.ep_name == "QNNExecutionProvider"]

options = ort.SessionOptions()
options.add_provider_for_devices(devices, {"backend_path": qnn_ep.get_qnn_htp_path()})
session = ort.InferenceSession("yolo26n_qnn.onnx", sess_options=options)
input_info = session.get_inputs()[0]
outputs = session.run(None, {input_info.name: input_tensor})  # input_tensor: float32 NHWC

نظرًا إلى أن ثنائي سياق QNN مُجمَّع مسبقًا، تُحمَّل الجلسة بسرعة من دون إعادة تجميع الرسم البياني على الجهاز.

متطلبات Linux وYocto BSP#

يجب أن توفّر اللوحة المستهدفة بيئة تشغيل Qualcomm وBSP متوافقين معًا. ويتضمن ذلك لاستدلال HTP موفّر تنفيذ QNN في ONNX Runtime، وlibQnnSystem.so، وlibQnnHtp.so، ومكتبتي stub وskeleton لـ HTP v75 الخاص بـ IQ-8275، ودعم FastRPC في مساحة المستخدم مثل libcdsprpc.so، والبرامج الثابتة لـ DSP، وبرامج التشغيل المناظرة لـ FastRPC/kernel. ويجب أن تكون مكتبة skeleton قابلة للاكتشاف عبر مسار مكتبات DSP في BSP.

تأتي مكوّنات جهة الهدف هذه من BSP المزوّد من الشركة المصنّعة للوحة والمفعّل به QAIRT/QNN؛ وهي ليست مضمنة في النموذج المصدَّر. ويتطلب التنفيذ على GPU بدلًا من ذلك libQnnGpu.so ومكدس برنامج تشغيل Adreno المطابق في مساحة المستخدم. ويُنتج Ultralytics format=qnn ثنائي سياق خاصًا بـ HTP، لذا ينبغي أن يبدأ النشر على GPU أو CPU من تصدير ONNX قياسي بدلًا من الملف المجمَّع مسبقًا *_qnn.onnx.

سير العمل الموصى به#

1. درّب نموذجك باستخدام وضع التدريب في Ultralytics
2. صدِّر إلى تنسيق QNN باستخدام model.export(format="qnn", name="iq-8275", imgsz=640) على منصة مدعومة (استخدم imgsz=224 للتصنيف)
3. انشر الملف المصدَّر *_qnn.onnx على جهاز Qualcomm لديك
4. شغِّل الاستدلال باستخدام ONNX Runtime وموفّر تنفيذ QNN مع استخدام الواجهة الخلفية HTP

التطبيقات الواقعية#

تُعد نماذج YOLO التي تعمل على أجهزة Qualcomm Snapdragon مناسبة تمامًا لمجموعة واسعة من تطبيقات الذكاء الاصطناعي الطرفي:

• الهواتف الذكية: اكتشاف الكائنات وفهم المشاهد في الوقت الفعلي ضمن تطبيقات الكاميرا والصور، مع تسريع بواسطة NPU.
• Windows على Snapdragon: رؤية حاسوبية على الجهاز في حواسيب Copilot+ PC من دون تفريغ المعالجة إلى السحابة.
• السيارات: مراقبة السائق، واكتشاف الركاب، وميزات ADAS على منصات Snapdragon Digital Chassis.
• الواقع الممتد والأجهزة القابلة للارتداء: إدراك منخفض الطاقة وزمن استجابة منخفض لسماعات الواقع المعزز/الواقع الافتراضي والنظارات الذكية.
• إنترنت الأشياء والروبوتات: استدلال بصري فعّال على الكاميرات والطائرات المسيّرة والأنظمة المضمنة المدعومة بـ Snapdragon.

الملخص#

في هذا الدليل، تعلّمت كيفية تصدير نماذج Ultralytics YOLO إلى تنسيق Qualcomm QNN محليًا باستخدام موفّر تنفيذ QNN في ONNX Runtime. يحوّل مسار التصدير النموذج إلى ONNX، ثم يجمّعه في ثنائي سياق QNN على جهازك المضيف — من دون الحاجة إلى حساب Qualcomm أو السحابة — وينتج ملف *_qnn.onnx محسّنًا لأجهزة CPU وAdreno GPU وHexagon NPU من Snapdragon عبر بيئة تشغيل QNN/QAIRT.

يوفّر الجمع بين Ultralytics YOLO ومكدس Qualcomm للذكاء الاصطناعي على الجهاز حلًا فعّالًا لتشغيل أعباء عمل الرؤية الحاسوبية المتقدمة عبر منظومة Snapdragon الواسعة.

بالنسبة إلى أهداف النشر الأخرى على الجهاز والهواتف المحمولة، راجع أدلة التصدير ذات الصلة الخاصة بـ ONNX وCoreML وNCNN وLiteRT وExecuTorch وRKNN وSony IMX500 وTensorRT. ولمقارنة التنسيقات قبل الشحن، استخدم وضع قياس الأداء. وللاطلاع على القائمة الكاملة للتنسيقات والخيارات، انتقل إلى وثائق وضع التصدير وصفحة دليل عمليات التكامل.

الأسئلة الشائعة#