تصدير Axelera AI والنشر#

تتعاون Ultralytics مع Axelera AI لتمكين الاستدلال عالي الأداء والموفر للطاقة على أجهزة الذكاء الاصطناعي الطرفي. صدّر نماذج Ultralytics YOLO وانشرها مباشرةً على Metis® AIPU باستخدام Voyager SDK.

توفر Axelera AI تسريعًا عتاديًا مخصصًا لـالرؤية الحاسوبية على الحافة، باستخدام بنية تدفق بيانات خاصة والحوسبة داخل الذاكرة، لتقديم ما يصل إلى 856 TOPS باستهلاك منخفض للطاقة.

اختيار العتاد المناسب#

تقدم Axelera AI عوامل شكل متنوعة لتناسب قيود النشر المختلفة. يساعد المخطط أدناه في تحديد العتاد الأمثل لنشر Ultralytics YOLO.

مجموعة المنتجات العتادية#

صُممت مجموعة عتاد Axelera لتشغيل Ultralytics YOLO26 والإصدارات الأقدم بكفاءة عالية من حيث عدد الإطارات في الثانية لكل واط.

بطاقات التسريع#

تتيح هذه البطاقات تسريع الذكاء الاصطناعي في الأجهزة المضيفة الحالية، مما يسهل عمليات النشر في البيئات القائمة.

الأنظمة المتكاملة#

لتوفير حلول جاهزة للاستخدام، تتعاون Axelera مع المصنّعين لتقديم أنظمة تم التحقق من توافقها مسبقًا مع Metis AIPU.

• Metis Compute Board: جهاز طرفي مستقل يجمع بين Metis AIPU ووحدة CPU من Rockchip RK3588 بمعمارية ARM.
• محطات العمل: أبراج مؤسسية من Dell (Precision 3460XE) وLenovo (ThinkStation P360 Ultra).
• الحواسيب الصناعية: أنظمة متينة من Advantech وAetina مصممة لـأتمتة التصنيع.

المهام المدعومة#

تقدير العمق غير مدعوم: إذ تنتج وحدة العمق عوامل تشغيل لا يستطيع مترجم Metis AIPU تحويلها إلى تعليمات أدنى مستوى. كما أن تقسيم المثيلات في YOLO26 غير مدعوم من قِبل Ultralytics export، لكن يمكن نشره عبر Voyager SDK كما هو موضح أدناه. أما التقسيم الدلالي في YOLO26 فهو مدعوم.

التثبيت#

تثبيت Ultralytics#

pip install ultralytics

للاطلاع على التعليمات التفصيلية، راجع دليل تثبيت Ultralytics. إذا واجهت صعوبات، فراجع دليل المشكلات الشائعة.

تثبيت برنامج تشغيل Axelera#

1. أضف مفتاح مستودع Axelera:

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

2. أضف المستودع إلى apt:

   اختر المقتطف المناسب أدناه وفقًا لنظام التشغيل المستخدم.

   # Ubuntu 22.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

   # Ubuntu 24.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu24 main' > /etc/apt/sources.list.d/axelera.list"

3. ثبّت برنامج التشغيل وحمّله. يتطلب SDK 1.8 الإصدار 1.6.2 أو أحدث من metis-dkms، لذا سيُثبّت هنا أحدث إصدار:

   sudo apt update
   sudo apt install -y metis-dkms
   sudo modprobe metis

[libaxldev.c:285] Found kernel driver version 1.5.5, but at least version 1.6.2 is required. Please update the kernel driver
ERROR: AXR_ERROR_CONNECTION_ERROR: Failed to open device metis-0:4:0

sudo apt update
sudo apt install -y metis-dkms
sudo rmmod metis
sudo modprobe metis

pip install axelera-devkit==1.8.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple
pip install axelera-rt==1.8.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple

Error: Unsupported model version: 4.0, expected at least 5.0
Please re-deploy or re-download the model.

تصدير نماذج YOLO إلى Axelera#

يدعم تنسيق Axelera أوضاع التصدير والتنبؤ والتحقق. يُجرى الاستدلال والتحقق على عتاد Axelera Metis AIPU. صدّر النموذج، ثم حمّل النموذج المُصدّر لإجراء الاستدلال أو التحقق من دقته.

from ultralytics import YOLO

# ⁨تحميل نموذج YOLO26⁩
model = YOLO("yolo26n.pt")

# ⁨# تصدير النموذج إلى تنسيق Axelera⁩
model.export(format="axelera")  # creates 'yolo26n_axelera_model'

from ultralytics import YOLO

# ⁨# تحميل نموذج Axelera المُصدّر⁩
model = YOLO("yolo26n_axelera_model")

# ⁨تنفيذ الاستدلال⁩
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# ⁨# تحميل نموذج Axelera المُصدّر⁩
model = YOLO("yolo26n_axelera_model")

# ⁨# التحقق من الدقة على مجموعة بيانات COCO8⁩
metrics = model.val(data="coco8.yaml")

وسيطات التصدير#

* يتطلب الاستدلال باستخدام batch>1 إصدار Voyager SDK 1.8.0 أو أحدث؛ وتُترجم النماذج إلى صورة واحدة.

للاطلاع على جميع خيارات التصدير، راجع وثائق وضع التصدير.

بنية الإخراج#

yolo26n_axelera_model/
├── yolo26n.axm                  # Axelera model file
├── compiler_config_final.toml  # Compiler configuration used for the build
└── metadata.yaml               # Model metadata (classes, image size, etc.)

معايير أداء Axelera AI#

تحقق وحدة AIPU Metis أقصى معدل نقل مع تقليل استهلاك الطاقة إلى أدنى حد.

تستند معايير الأداء إلى بيانات Axelera AI. يعتمد معدل FPS الفعلي على حجم النموذج، وتجميع الدفعات، ودقة الإدخال.

هذه أرقام معدل نقل المضيف، وقد قاسها مستودع النماذج باستخدام مسار البث في Voyager SDK عبر ملف فيديو بدقة 720p. أما استدعاء predict واحد فيُبلغ عن زمن الاستجابة لكل صورة، وهي كمية مختلفة.

تطبيقات واقعية#

تتيح Ultralytics YOLO على أجهزة Axelera حلولاً متقدمة للحوسبة الطرفية:

• البيع بالتجزئة الذكي: عدّ الكائنات وتحليلات الخرائط الحرارية في الوقت الفعلي لتحسين المتاجر.
• السلامة الصناعية: كشف معدات الوقاية الشخصية بزمن استجابة منخفض في بيئات التصنيع.
• تحليلات الطائرات المسيّرة: كشف الكائنات بسرعة عالية على الطائرات المسيّرة لأغراض الزراعة والبحث والإنقاذ.
• أنظمة المرور: التعرّف على لوحات السيارات وتقدير السرعة على الأجهزة الطرفية.

سير العمل الموصى به#

1. درّب نموذجك باستخدام وضع التدريب من Ultralytics
2. صدّر النموذج إلى تنسيق Axelera باستخدام model.export(format="axelera")
3. تحقّق من الدقة باستخدام yolo val للتأكد من الحد الأدنى لفقدان التكميم
4. استدلّ باستخدام yolo predict للتحقق النوعي
5. انشر النموذج ضمن مسار متكامل عالي الأداء من دون الاعتماد على PyTorch — راجع أمثلة YOLO على Voyager SDK للاطّلاع على مسارات Python القابلة للتركيب التي تستخدم axelera-rt

فحص صحة الجهاز#

تحقّق من أن جهاز Axelera يعمل على النحو الصحيح:

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

للاطّلاع على التشخيصات التفصيلية، راجع وثائق AxDevice.

أقصى أداء#

تُجمّع النماذج لصورة واحدة. يؤدي تمرير عدة صور إلى التنبؤ إلى توجيهها عبر مجدول Axelera (Voyager SDK 1.8 أو أحدث)، لذا يعمل batch>1 على النحو الصحيح، لكنه لا يكون أسرع من batch=1 عند قياسه من البداية إلى النهاية على جهاز واحد:

yolo predict model=yolo26n_axelera_model source=path/to/images batch=8

لأحمال الإنتاج التي تتطلب أقصى معدل نقل، يوفّر Axelera Voyager SDK ما يلي:

• مسارات استدلال متدفقة تُبقي عدة إطارات قيد المعالجة
• تجميع نموذج واحد عبر عدة أنوية
• استدلال مقسّم إلى مربعات للكاميرات ذات الدقة الأعلى

راجع مستودع النماذج للاطّلاع على معايير أداء FPS، أو تواصل مع Axelera للحصول على دعم الإنتاج.

المشكلات المعروفة#

للحصول على الدعم، تفضّل بزيارة مجتمع Axelera.

الأسئلة الشائعة#