تصدير ونشر Axelera AI#

تعقد Ultralytics شراكة مع Axelera AI لتمكين الاستدلال عالي الأداء والموفر للطاقة على أجهزة Edge AI. قم بتصدير ونشر نماذج Ultralytics YOLO مباشرة إلى Metis® AIPU باستخدام Voyager SDK.

توفر Axelera AI تسريعاً مخصصاً للأجهزة لـ الرؤية الحاسوبية على الحافة، باستخدام بنية تدفق بيانات مملوكة لها والحوسبة داخل الذاكرة لتوفير ما يصل إلى 856 TOPS باستهلاك منخفض للطاقة.

اختيار الجهاز المناسب#

تقدم Axelera AI عوامل شكل متنوعة لتناسب قيود النشر المختلفة. يساعدك الرسم البياني أدناه في تحديد الجهاز الأمثل لنشر Ultralytics YOLO الخاص بك.

graph TD
    A[Start: Select Deployment Target]:::start --> B{Device Type?}:::decide
    B -->|Edge Server / Workstation| C{Throughput Needs?}:::decide
    B -->|Embedded / Robotics| D{Space Constraints?}:::decide
    B -->|Standalone / R&D| E[Dev Kits & Systems]:::proc

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]:::out
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]:::out

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]:::out
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]:::out

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]:::out
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]:::out

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

محفظة الأجهزة#

تم تحسين مجموعة أجهزة Axelera لتشغيل Ultralytics YOLO26 والإصدارات القديمة بكفاءة عالية في عدد الإطارات في الثانية لكل واط.

بطاقات التسريع#

تتيح هذه البطاقات تسريع الذكاء الاصطناعي في الأجهزة المضيفة الحالية، مما يسهل عمليات النشر في البيئات القائمة.

الأنظمة المتكاملة#

للحصول على حلول جاهزة، تتعاون Axelera مع المصنعين لتوفير أنظمة تم التحقق منها مسبقاً لـ Metis AIPU.

• لوحة حوسبة Metis: جهاز حافة مستقل يجمع بين Metis AIPU ووحدة المعالجة المركزية Rockchip RK3588 ARM.
• محطات العمل: أبراج المؤسسات من Dell (Precision 3460XE) و Lenovo (ThinkStation P360 Ultra).
• Industrial PCs: أنظمة معززة من Advantech و Aetina مصممة لـ أتمتة التصنيع.

المهام المدعومة#

تقدير العمق غير مدعوم: يُصدر رأس العمق عوامل تشغيل لا يمكن لمُجمِّع Metis AIPU خفضها. كما أن تجزئة YOLO26 غير مدعومة بواسطة export في Ultralytics أيضاً، ولكن لا يزال من الممكن نشرها عبر Voyager SDK كما هو موضح أدناه.

التثبيت#

تثبيت Ultralytics#

pip install ultralytics

للحصول على تعليمات مفصلة، راجع دليل تثبيت Ultralytics. إذا واجهت صعوبات، فاستشر دليل المشكلات الشائعة الخاص بنا.

تثبيت تعريف Axelera#

1. أضف مفتاح مستودع Axelera:

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

2. أضف المستودع إلى apt:

   اختر المقتطف المناسب من الأسفل ليتناسب مع نظام التشغيل المستخدم.

   # Ubuntu 22.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

   # Ubuntu 24.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu24 main' > /etc/apt/sources.list.d/axelera.list"

3. قم بتثبيت SDK وتحميل التعريف:

   sudo apt update
   sudo apt install -y metis-dkms=1.5.5
   sudo modprobe metis

[libaxldev.c:285] Found kernel driver version 1.4.16, but at least version 1.4.18 is required. Please update the kernel driver
ERROR: AXR_ERROR_CONNECTION_ERROR: Failed to open device metis-0:4:0

sudo apt update
sudo apt install -y metis-dkms=1.5.5
sudo rmmod metis
sudo modprobe metis

pip install axelera-devkit==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple
pip install axelera-rt==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple

تصدير نماذج YOLO إلى Axelera#

يدعم تنسيق Axelera أوضاع Export و Predict و Validate. يتم تشغيل الاستدلال والتحقق على أجهزة Axelera Metis AIPU. قم بتصدير نموذجك، ثم قم بتحميل النموذج المصدر لتشغيل الاستدلال أو التحقق من دقته.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to Axelera format
model.export(format="axelera")  # creates 'yolo26n_axelera_model'

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

وسائط التصدير#

للاطلاع على جميع خيارات التصدير، راجع وثائق وضع التصدير.

هيكل المخرجات#

yolo26n_axelera_model/
├── yolo26n.axm                  # Axelera model file
├── compiler_config_final.toml  # Compiler configuration used for the build
└── metadata.yaml               # Model metadata (classes, image size, etc.)

معايير Axelera AI#

يعمل Metis AIPU على زيادة الإنتاجية مع تقليل استهلاك الطاقة.

تستند المعايير إلى بيانات Axelera AI. تعتمد الإطارات في الثانية الفعلية على حجم النموذج، وتجميع الدفعات، ودقة الإدخال.

تطبيقات العالم الحقيقي#

تمكّن Ultralytics YOLO على أجهزة Axelera حلول حوسبة حافة متقدمة:

• تجزئة ذكية: عد الكائنات في الوقت الفعلي وتحليلات الخرائط الحرارية لتحسين أداء المتجر.
• السلامة الصناعية: اكتشاف معدات الحماية الشخصية (PPE) بزمن انتقال منخفض في بيئات التصنيع.
• Drone Analytics: اكتشاف الكائنات عالي السرعة على الطائرات بدون طيار (UAVs) من أجل الزراعة وعمليات البحث والإنقاذ.
• أنظمة المرور: التعرف على لوحات الترخيص القائم على الحافة وتقدير السرعة.

سير العمل الموصى به#

1. درب نموذجك باستخدام وضع التدريب في Ultralytics Train Mode
2. تصدير إلى تنسيق Axelera باستخدام model.export(format="axelera")
3. تحقق من الدقة باستخدام yolo val للتأكد من الحد الأدنى لفقدان التكميم
4. تنبأ باستخدام yolo predict للتحقق النوعي
5. النشر إلى خط أنابيب متكامل عالي الأداء دون الحاجة إلى PyTorch — راجع أمثلة YOLO على Voyager SDK لخطوط أنابيب Python القابلة للتكوين باستخدام axelera-rt

فحص سلامة الجهاز#

تحقق من أن جهاز Axelera الخاص بك يعمل بشكل صحيح:

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

للحصول على تشخيصات مفصلة، راجع وثائق AxDevice.

أقصى أداء#

يستخدم هذا التكامل تهيئة النواة الواحدة لضمان التوافق. للإنتاج الذي يتطلب أقصى قدر من الإنتاجية، يوفر Axelera Voyager SDK ما يلي:

• استخدام متعدد النوى (Metis AIPU رباعي النوى)
• خطوط أنابيب الاستدلال بالبث المتدفق
• الاستدلال المبلط للكاميرات ذات الدقة العالية

راجع model-zoo لمعرفة مقاييس الأداء (FPS) أو تواصل مع Axelera للحصول على دعم الإنتاج.

مشكلات معروفة#

للحصول على الدعم، قم بزيارة مجتمع Axelera.

الأسئلة الشائعة#

ما هي إصدارات YOLO المدعومة على Axelera؟#

يدعم Voyager SDK تصدير نماذج YOLOv8 وYOLO11 وYOLO26. راجع المهام المدعومة لمعرفة توفر المهام لكل نموذج.

هل يمكنني نشر نماذج مدربة مخصصة؟#

نعم. يمكن تصدير أي نموذج تم تدريبه باستخدام وضع التدريب في Ultralytics إلى تنسيق Axelera، بشرط أن يستخدم الطبقات والعمليات المدعومة.

كيف يؤثر تكميم INT8 على الدقة؟#

يقوم Voyager SDK الخاص بـ Axelera بتكميم النماذج تلقائياً لبنية AIPU ذات الدقة المختلطة. بالنسبة لمعظم مهام اكتشاف الكائنات، تفوق مكاسب الأداء (عدد إطارات أعلى، استهلاك طاقة أقل) بشكل كبير التأثير البسيط على mAP. يستغرق التكميم من ثوانٍ إلى عدة ساعات حسب حجم النموذج. قم بتشغيل yolo val بعد التصدير للتحقق من الدقة.

كم عدد صور المعايرة التي يجب أن أستخدمها؟#

نوصي باستخدام 100 إلى 400 صورة. أكثر من 400 صورة لا تقدم أي فائدة إضافية وتزيد من وقت التكميم. جرب 100 و200 و400 صورة لإيجاد التوازن الأمثل.

أين يمكنني العثور على Voyager SDK؟#

تتوفر حزمة SDK والمشغلات وأدوات المترجم عبر بوابة مطوري Axelera.