نشر YOLO26 على الأجهزة المحمولة والطرفية باستخدام ExecuTorch#

يتطلب نشر نماذج الرؤية الحاسوبية على الأجهزة الطرفية، مثل الهواتف الذكية والأجهزة اللوحية والأنظمة المضمنة، بيئة تشغيل محسّنة توازن بين الأداء وقيود الموارد. يتيح ExecuTorch، حل PyTorch للحوسبة الطرفية، استدلالًا فعالًا على الجهاز لنماذج Ultralytics YOLO.

يوضح هذا الدليل كيفية تصدير نماذج Ultralytics YOLO إلى تنسيق ExecuTorch، ما يتيح لك نشر نماذجك على الأجهزة المحمولة والطرفية بأداء محسّن.

لماذا التصدير إلى ExecuTorch؟#

يمثل ExecuTorch حل PyTorch الشامل لتمكين إمكانات الاستدلال على الجهاز عبر الأجهزة المحمولة والطرفية. وقد صُمم ليكون محمولًا وفعالًا، ويمكن استخدام ExecuTorch لتشغيل برامج PyTorch على مجموعة واسعة من منصات الحوسبة.

الميزات الرئيسية لـ ExecuTorch#

يوفر ExecuTorch ميزات قوية متعددة لنشر نماذج Ultralytics YOLO على الأجهزة الطرفية:

• تنسيق نموذج محمول: يستخدم ExecuTorch تنسيق .pte (PyTorch ExecuTorch)، المحسّن من حيث الحجم وسرعة التحميل على الأجهزة محدودة الموارد.

• واجهة XNNPACK الخلفية: يوفر التكامل الافتراضي مع XNNPACK استدلالًا محسّنًا بدرجة كبيرة على وحدات CPU المحمولة، ويحقق أداءً ممتازًا دون الحاجة إلى أجهزة متخصصة.

• جاهز للتكميم: تدعم منظومة ExecuTorch تقنيات التكميم لتقليل حجم النموذج وتحسين سرعة الاستدلال؛ وتصدّر Ultralytics حاليًا نماذج FP32 عبر واجهة XNNPACK الخلفية.

• كفاءة الذاكرة: تقلل إدارة الذاكرة المحسّنة من استهلاك الذاكرة أثناء التشغيل، ما يجعلها مناسبة للأجهزة ذات ذاكرة RAM المحدودة.

• البيانات الوصفية للنموذج: تتضمن النماذج المصدّرة بيانات وصفية (مثل حجم الصورة وأسماء الفئات وغيرها) في ملف YAML منفصل لتسهيل التكامل.

خيارات النشر باستخدام ExecuTorch#

يمكن نشر نماذج ExecuTorch على منصات متنوعة للأجهزة الطرفية والمحمولة:

• تطبيقات الأجهزة المحمولة: انشر على تطبيقات iOS وAndroid بأداء أصلي، ما يتيح اكتشاف الأجسام في الوقت الفعلي ضمن تطبيقات الأجهزة المحمولة.

• الأنظمة المضمنة: شغّل النماذج على أجهزة Linux المضمنة، مثل Raspberry Pi وNVIDIA Jetson وغيرها من الأنظمة القائمة على ARM، بأداء محسّن.

• أجهزة الذكاء الاصطناعي الطرفية: انشر على أجهزة متخصصة للذكاء الاصطناعي الطرفي باستخدام مفوّضات مخصصة لتسريع الاستدلال.

• أجهزة إنترنت الأشياء: ادمج النماذج في أجهزة إنترنت الأشياء لإجراء الاستدلال على الجهاز دون الحاجة إلى الاتصال بالسحابة.

المهام المدعومة#

يدعم تصدير ExecuTorch مهام Ultralytics السبع كلها. ولا يتوفر التجزئة الدلالية وتقدير العمق إلا مع YOLO26، وهي العائلة الوحيدة التي تتضمن هذين الرأسين.

تصدير نماذج Ultralytics YOLO26 إلى ExecuTorch#

يتيح تحويل نماذج Ultralytics YOLO26 إلى تنسيق ExecuTorch نشرها بكفاءة على الأجهزة المحمولة والطرفية.

التثبيت#

يتطلب التصدير باستخدام ExecuTorch إصدار Python من 3.10 إلى 3.14 وPyTorch >= 2.9.0. تثبّت Ultralytics حزمة executorch متوافقة عند تصدير نموذج ExecuTorch أو تحميله، وتثبّتها على الإصدار executorch<1.5 عند استخدام PyTorch أقدم من 2.13، لذا لا ترقّها يدويًا.

# Install Ultralytics package
pip install ultralytics

للحصول على تعليمات مفصلة وأفضل الممارسات المتعلقة بعملية التثبيت، راجع دليل تثبيت YOLO26. وإذا واجهت أي صعوبات أثناء تثبيت الحزم المطلوبة لـ YOLO26، فاستعن بـدليل المشكلات الشائعة للاطلاع على الحلول والنصائح.

الاستخدام#

يُعد تصدير نماذج YOLO26 إلى ExecuTorch أمرًا مباشرًا:

يدعم تنسيق ExecuTorch أوضاع التصدير والتنبؤ والتحقق. صدّر نموذجك، ثم حمّل النموذج المصدّر لإجراء الاستدلال أو التحقق من دقته.

from ultralytics import YOLO

# ⁨تحميل نموذج YOLO26⁩
model = YOLO("yolo26n.pt")

# ⁨صدّر النموذج إلى تنسيق ExecuTorch⁩
model.export(format="executorch")  # creates 'yolo26n_executorch_model'

from ultralytics import YOLO

# ⁨حمّل نموذج ExecuTorch المصدّر⁩
model = YOLO("yolo26n_executorch_model")

# ⁨تنفيذ الاستدلال⁩
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# ⁨حمّل نموذج ExecuTorch المصدّر⁩
model = YOLO("yolo26n_executorch_model")

# ⁨# التحقق من الدقة على مجموعة بيانات COCO8⁩
metrics = model.val(data="coco8.yaml")

وسيطات التصدير#

عند التصدير إلى تنسيق ExecuTorch، يمكنك تحديد الوسيطات التالية:

بنية الإخراج#

ينشئ التصدير إلى ExecuTorch دليلًا يحتوي على النموذج والبيانات الوصفية:

yolo26n_executorch_model/
├── model.pte               # ExecuTorch model file
└── metadata.yaml           # Model metadata (classes, image size, etc.)

استخدام نماذج ExecuTorch المصدّرة#

بعد تصدير نموذجك، ستحتاج إلى دمجه في التطبيق المستهدف باستخدام بيئة تشغيل ExecuTorch.

التكامل مع الأجهزة المحمولة#

بالنسبة إلى تطبيقات الأجهزة المحمولة (iOS/Android)، ستحتاج إلى:

1. أضف بيئة تشغيل ExecuTorch: أدرج مكتبة بيئة تشغيل ExecuTorch في مشروعك للأجهزة المحمولة
2. حمّل النموذج: حمّل الملف .pte في تطبيقك
3. أجرِ الاستدلال: عالج الصور واحصل على التنبؤات

iOS#

مثال على تكامل iOS (Objective-C/C++):

// iOS uses C++ APIs for model loading and inference
// See https://pytorch.org/executorch/stable/using-executorch-ios.html for complete examples

#include <executorch/extension/module/module.h>

using namespace ::executorch::extension;

// Load the model
Module module("/path/to/model.pte");

// Create input tensor
float input[1 * 3 * 640 * 640];
auto tensor = from_blob(input, {1, 3, 640, 640});

// Run inference
const auto result = module.forward(tensor);

Android#

أضف ExecuTorch Android AAR من Maven Central:

dependencies {
    implementation("org.pytorch:executorch-android:<version>")
}

مثال على تكامل Android (Kotlin):

import org.pytorch.executorch.EValue
import org.pytorch.executorch.Module
import org.pytorch.executorch.Tensor

// Load the model
val module = Module.load("/path/to/model.pte")

// Prepare input tensor
val inputTensor = Tensor.fromBlob(floatData, longArrayOf(1, 3, 640, 640))
val inputEValue = EValue.from(inputTensor)

// Run inference
val outputs = module.forward(inputEValue)
val scores = outputs[0].toTensor().dataAsFloatArray

Linux المضمن#

لأنظمة Linux المضمنة، استخدم واجهة C++ البرمجية لـ ExecuTorch:

#include <executorch/extension/module/module.h>
#include <executorch/extension/tensor/tensor.h>

using namespace ::executorch::extension;

// Load model
Module module("model.pte");

// Prepare input
std::vector<float> input_data = preprocessImage(image);
auto input_tensor = from_blob(input_data.data(), {1, 3, 640, 640});

// Run inference
const auto outputs = module.forward(input_tensor);

لمزيد من التفاصيل حول دمج ExecuTorch في تطبيقاتك، تفضّل بزيارة وثائق ExecuTorch.

تحسين الأداء#

تحسين حجم النموذج#

لتقليل حجم النموذج عند النشر:

• استخدام نماذج أصغر: ابدأ باستخدام YOLO26n (نانو) للحصول على أصغر حجم ممكن
• خفض دقة الإدخال: استخدم أحجام صور أصغر (مثل imgsz=320 أو imgsz=416)
• التكميم: طبّق تقنيات التكميم في ExecuTorch خارج Ultralytics (تصدير Ultralytics إلى ExecuTorch يقتصر على FP32)

تحسين سرعة الاستدلال#

للاستدلال بسرعة أكبر:

• واجهة XNNPACK الخلفية: توفّر واجهة XNNPACK الخلفية الافتراضية استدلالًا محسّنًا على CPU
• تسريع الأجهزة: استخدم مفوّضات خاصة بالمنصة (مثل CoreML لنظام iOS)
• المعالجة الدفعية: عالج صورًا متعددة متى أمكن

المعايير المرجعية#

قارن فريق Ultralytics نماذج YOLO26، واختبر السرعة والدقة بين PyTorch وExecuTorch.

استكشاف الأخطاء وإصلاحها#

المشكلات الشائعة#

المشكلة: Python version error

الحل: يتطلب ExecuTorch إصدار Python من 3.10 إلى 3.14. أنشئ بيئة باستخدام إصدار مدعوم:

# Using conda
conda create -n executorch python=3.14
conda activate executorch

للمزيد من المساعدة في استكشاف الأخطاء وإصلاحها، تفضّل بزيارة مشكلات Ultralytics على GitHub أو وثائق ExecuTorch.

الملخص#

يتيح تصدير نماذج YOLO26 إلى تنسيق ExecuTorch نشرها بكفاءة على الأجهزة المحمولة وأجهزة الحافة. وبفضل التكامل الأصلي مع PyTorch، ودعم الأنظمة الأساسية المتعددة، والأداء المحسّن، يُعد ExecuTorch خيارًا ممتازًا لتطبيقات الذكاء الاصطناعي على الحافة.

أهم النقاط:

• يوفّر ExecuTorch نشرًا على الحافة بتكامل أصلي مع PyTorch وأداء ممتاز
• التصدير سهل باستخدام المعامل format='executorch'
• تُحسَّن النماذج لوحدات CPU المحمولة عبر واجهة XNNPACK الخلفية
• يدعم منصات iOS وAndroid وLinux المضمن
• يتطلب Python من 3.10 إلى 3.14 وPyTorch >= 2.9.0

الأسئلة الشائعة#