تخطي إلى المحتوى

تصدير ونشر Axelera AI

تتعاون Ultralytics مع Axelera AI لتمكين الاستدلال عالي الأداء والموفر للطاقة على أجهزة الذكاء الاصطناعي الحافي (Edge AI). قم بتصدير ونشر نماذج Ultralytics YOLO مباشرة إلى Metis® AIPU باستخدام Voyager SDK.

نظام Axelera AI لنشر الحافة لـ YOLO

توفر Axelera AI تسريعًا مخصصًا للأجهزة لـ رؤية الكمبيوتر على الحافة، باستخدام بنية تدفق بيانات خاصة والحوسبة داخل الذاكرة لتقديم ما يصل إلى 856 TOPS باستهلاك منخفض للطاقة.

تحديد الجهاز المناسب

تقدم Axelera AI عوامل شكل متنوعة لتناسب قيود النشر المختلفة. يساعد الرسم البياني أدناه في تحديد الأجهزة المثالية لنشر Ultralytics YOLO الخاص بك.

graph TD
    A[Start: Select Deployment Target] --> B{Device Type?}
    B -->|Edge Server / Workstation| C{Throughput Needs?}
    B -->|Embedded / Robotics| D{Space Constraints?}
    B -->|Standalone / R&D| E[Dev Kits & Systems]

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

محفظة الأجهزة

تم تحسين تشكيلة أجهزة Axelera لتشغيل Ultralytics YOLO26 والإصدارات القديمة بكفاءة عالية في الإطارات في الثانية لكل واط.

بطاقات التسريع

تتيح هذه البطاقات تسريع الذكاء الاصطناعي في الأجهزة المضيفة الحالية، مما يسهل عمليات النشر في البيئات القائمة.

المنتجعامل الشكلحسابالأداء (INT8)تطبيق مستهدف
Metis PCIe x4PCIe Gen3 x164x Metis AIPUs856 TOPSتحليلات الفيديو عالية الكثافة، المدن الذكية
Metis PCIe x1PCIe Gen3 x11x Metis AIPU214 TOPSأجهزة الكمبيوتر الصناعية، إدارة قائمة الانتظار في متاجر البيع بالتجزئة
Metis M.2M.2 2280 M-Key1x Metis AIPU214 TOPSطائرات بدون طيار، والروبوتات، والأجهزة الطبية المحمولة
Metis M.2 MAXM.2 22801x Metis AIPU214 TOPSالبيئات التي تتطلب إدارة حرارية متقدمة

الأنظمة المتكاملة

بالنسبة للحلول الجاهزة، تتعاون Axelera مع الشركات المصنعة لتوفير أنظمة تم التحقق من صحتها مسبقًا لـ Metis AIPU.

  • لوحة Metis Compute: جهاز طرفي مستقل يجمع بين Metis AIPU ووحدة المعالجة المركزية Rockchip RK3588 ARM.
  • محطات العمل: أبراج المؤسسات من Dell (Precision 3460XE) و Lenovo (ThinkStation P360 Ultra).
  • أجهزة الكمبيوتر الصناعية: أنظمة متينة من Advantech و Aetina مصممة من أجل أتمتة التصنيع.

المهام المدعومة

تدعم نماذج YOLOv8 و YOLO11 وYOLO26 المهام التالية.

المهمةYOLOv8YOLO11YOLO26
الكشف عن الكائنات
تقدير الوضع
التجزئة⚠️ حزمة تطوير التطبيقات (SDK) الخاصة بـ Voyager فقط
صناديق الإحاطة الموجهة
التصنيف

ملاحظة

لا يتم دعم عملية التجزئة باستخدام YOLO26 حتى الآن عبر Ultralytics export الأمر. يمكن للمستخدمين الذين يحتاجون إلى YOLO26-seg النشر عبر حزمة أدوات تطوير التطبيقات (SDK) لـ Voyager باستخدام deploy.py، والذي يوفر حلاً بديلاً في مساحة المستخدم. وسيتم إضافة دعم المترجم الأصلي في إصدار قادم.

التثبيت

متطلبات المنصة

يتطلب التصدير إلى تنسيق Axelera ما يلي:

  • نظام التشغيل: Linux فقط (يوصى بـ Ubuntu 22.04/24.04)
  • الأجهزة: مسرع Axelera AI (أجهزة Metis)
  • Python: الإصدارات 3.10 و3.11 و3.12
  • اعتماد النظام: sudo apt install libgl1 (مطلوب من قِبل OpenCV، غير مضمن عبر pip)

تثبيت Ultralytics

pip install ultralytics

للحصول على تعليمات مفصلة، راجع دليل تثبيت Ultralytics الخاص بنا. إذا واجهت صعوبات، استشر دليل المشكلات الشائعة الخاص بنا.

تثبيت برنامج تشغيل Axelera

  1. أضف مفتاح مستودع Axelera:

    sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"
    
  2. أضف المستودع إلى apt:

    sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"
    
  3. ثبت SDK وحمل المشغل (driver):

    sudo apt update
    sudo apt install -y metis-dkms=1.4.16
    sudo modprobe metis
    

تصدير نماذج YOLO إلى Axelera

قم بتصدير نماذج YOLO المدربة الخاصة بك باستخدام أمر تصدير Ultralytics القياسي.

التصدير إلى تنسيق Axelera

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export to Axelera format
model.export(format="axelera")  # creates 'yolo26n_axelera_model' directory
yolo export model=yolo26n.pt format=axelera

قد يفشل التصدير الأول بعد تحديث التبعيات

يتطلب مُجمع Axelera numpy<2. إذا كانت بيئتك تحتوي على numpy>=2، الأول yolo export سيتم تخفيض إصداره تلقائيًا، لكن عملية التصدير ستفشل بسبب حالة الوحدة النمطية القديمة. ما عليك سوى تشغيل أمر التصدير نفسه مرة أخرى — وستنجح العملية في المرة الثانية.

وسائط التصدير

الوسيطةالنوعافتراضيالوصف
formatstr'axelera'التنسيق المستهدف لأجهزة Axelera Metis AIPU
imgszint أو tuple640حجم الصورة لإدخال النموذج
int8boolTrueتمكين تكميم INT8 لوحدة AIPU
datastr'coco128.yaml'تكوين مجموعة البيانات لمعايرة التكميم
fractionfloat1.0جزء من مجموعة البيانات للمعايرة (يوصى بـ 100-400 صورة)
devicestrNoneجهاز التصدير: GPU (device=0) أو CPU (device=cpu)

لجميع خيارات التصدير، راجع وثائق وضع التصدير.

هيكل الإخراج

yolo26n_axelera_model/
├── yolo26n.axm              # Axelera model file
└── metadata.yaml            # Model metadata (classes, image size, etc.)

تشغيل الاستدلال

قم بتحميل النموذج المُصدَّر باستخدام واجهة برمجة تطبيقات Ultralytics وتشغيل الاستدلال، على غرار تحميل نماذج ONNX.

الاستدلال باستخدام نموذج Axelera

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

# Process results
for r in results:
    print(f"Detected {len(r.boxes)} objects")
    r.show()  # Display results
yolo predict model='yolo26n_axelera_model' source='https://ultralytics.com/images/bus.jpg'

معايير أداء Axelera للذكاء الاصطناعي

تعمل وحدة المعالجة الذكاء الاصطناعي Metis AIPU على زيادة الإنتاجية إلى أقصى حد مع تقليل استهلاك الطاقة.

النموذجمعدل الإطارات في الثانية (FPS) لبطاقة Metis PCIeMetis M.2 FPS (إطارات في الثانية)
YOLOv8n847771
YOLO11n746574
YOLO26n648.6484.9

المعايير مبنية على بيانات Axelera AI. تعتمد FPS الفعلية على حجم النموذج، التجميع (batching)، ودقة الإدخال.

تطبيقات عملية في أرض الواقع

يمكّن Ultralytics YOLO على أجهزة Axelera حلول الحوسبة الطرفية المتقدمة:

  1. قم بتدريب نموذجك باستخدام Ultralytics وضع التدريب
  2. تصدير إلى تنسيق Axelera باستخدام model.export(format="axelera")
  3. تحقق الدقة مع yolo val للتحقق من الحد الأدنى من فقدان التكميم
  4. توقع باستخدام yolo predict للتحقق النوعي
  5. النشر إلى مسار عمل شامل عالي الأداء دون PyTorch — انظر أمثلة YOLO Voyager SDK لخطوط Python القابلة للتركيب باستخدام axelera-rt

فحص صحة الجهاز

تحقق من أن جهاز Axelera الخاص بك يعمل بشكل صحيح:

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

للتشخيصات التفصيلية، راجع وثائق AxDevice.

الأداء الأقصى

يستخدم هذا التكامل تكوينًا أحادي النواة للتوافق. للتطبيقات الإنتاجية التي تتطلب أقصى إنتاجية، توفر حزمة تطوير برامج Axelera Voyager SDK ما يلي:

  • استخدام متعدد النوى (وحدة المعالجة الذكاء الاصطناعي Metis AIPU رباعية النوى)
  • خطوط أنابيب الاستدلال المتدفقة
  • الاستدلال المبلط للكاميرات ذات الدقة العالية

راجع مكتبة النماذج لمعايير FPS أو اتصل بـ Axelera للحصول على دعم الإنتاج.

المشكلات المعروفة

قيود معروفة

  • قيود طاقة M.2: قد تواجه النماذج الكبيرة أو الكبيرة جدًا أخطاء وقت التشغيل على مسرعات M.2 بسبب قيود إمداد الطاقة.

للحصول على الدعم، يرجى زيارة مجتمع Axelera.

الأسئلة الشائعة

ما هي إصدارات YOLO المدعومة على Axelera؟

تدعم حزمة أدوات تطوير التطبيقات (SDK) الخاصة بـ Voyager تصدير YOLOv8و YOLO11و YOLO26. انظر المهام المدعومة لمعرفة المهام المتاحة لكل نموذج.

هل يمكنني نشر النماذج المدربة خصيصًا؟

نعم. يمكن تصدير أي نموذج تم تدريبه باستخدام Ultralytics Train Mode إلى تنسيق Axelera، بشرط أن يستخدم طبقات وعمليات مدعومة.

كيف يؤثر تكميم INT8 على الدقة؟

تقوم حزمة تطوير البرامج (SDK) Voyager من Axelera بتكميم النماذج تلقائيًا لبنية AIPU ذات الدقة المختلطة. بالنسبة لمعظم اكتشاف الكائنات المهام، تفوق مكاسب الأداء (معدل إطارات أعلى، استهلاك طاقة أقل) بشكل كبير التأثير الضئيل على mAP. يستغرق التكميم من ثوانٍ إلى عدة ساعات حسب حجم النموذج. قم بتشغيل yolo val بعد التصدير للتحقق من الدقة.

كم عدد صور المعايرة التي يجب أن أستخدمها؟

نوصي باستخدام 100 إلى 400 صورة. أكثر من 400 صورة لا يوفر فائدة إضافية ويزيد من وقت التكميم. جرب 100 و 200 و 400 صورة للعثور على التوازن الأمثل.

أين يمكنني العثور على Voyager SDK؟

تتوفر أدوات SDK وبرامج التشغيل والمترجم عبر بوابة مطوري Axelera.



📅 تم الإنشاء قبل 4 أشهر ✏️ تم التحديث قبل 3 أيام
glenn-jocherlakshanthadpderrengerambitious-octopusonuralpszr

تعليقات