تصدير ونشر Axelera AI

تتعاون Ultralytics مع Axelera AI لتمكين الاستدلال عالي الأداء والموفر للطاقة على أجهزة الذكاء الاصطناعي الحافي (Edge AI). قم بتصدير ونشر نماذج Ultralytics YOLO مباشرة إلى Metis® AIPU باستخدام Voyager SDK.

توفر Axelera AI تسريعًا مخصصًا للأجهزة لـ رؤية الكمبيوتر على الحافة، باستخدام بنية تدفق بيانات خاصة والحوسبة داخل الذاكرة لتقديم ما يصل إلى 856 TOPS باستهلاك منخفض للطاقة.

تحديد الجهاز المناسب

تقدم Axelera AI عوامل شكل متنوعة لتناسب قيود النشر المختلفة. يساعد الرسم البياني أدناه في تحديد الأجهزة المثالية لنشر Ultralytics YOLO الخاص بك.

graph TD
    A[Start: Select Deployment Target] --> B{Device Type?}
    B -->|Edge Server / Workstation| C{Throughput Needs?}
    B -->|Embedded / Robotics| D{Space Constraints?}
    B -->|Standalone / R&D| E[Dev Kits & Systems]

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

محفظة الأجهزة

تم تحسين مجموعة أجهزة Axelera لتشغيل Ultralytics YOLO11 والإصدارات القديمة بكفاءة عالية من FPS لكل واط.

بطاقات التسريع

تتيح هذه البطاقات تسريع الذكاء الاصطناعي في الأجهزة المضيفة الحالية، مما يسهل عمليات النشر في البيئات القائمة.

الأنظمة المتكاملة

بالنسبة للحلول الجاهزة، تتعاون Axelera مع الشركات المصنعة لتوفير أنظمة تم التحقق من صحتها مسبقًا لـ Metis AIPU.

• لوحة Metis Compute: جهاز طرفي مستقل يجمع بين Metis AIPU ووحدة المعالجة المركزية Rockchip RK3588 ARM.
• محطات العمل: أبراج المؤسسات من Dell (Precision 3460XE) و Lenovo (ThinkStation P360 Ultra).
• أجهزة الكمبيوتر الصناعية: أنظمة متينة من Advantech و Aetina مصممة من أجل أتمتة التصنيع.

المهام المدعومة

حاليًا، يمكن تصدير نماذج اكتشاف الكائنات (Object Detection) إلى تنسيق Axelera. يتم دمج مهام إضافية:

التثبيت

تثبيت Ultralytics

pip install ultralytics

للحصول على تعليمات مفصلة، راجع دليل تثبيت Ultralytics الخاص بنا. إذا واجهت صعوبات، استشر دليل المشكلات الشائعة الخاص بنا.

تثبيت برنامج تشغيل Axelera

1. أضف مفتاح مستودع Axelera:

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"
   

2. أضف المستودع إلى apt:

   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"
   

3. ثبت SDK وحمل المشغل (driver):

   sudo apt update
   sudo apt install -y axelera-voyager-sdk-base
   sudo modprobe metis
   yes | sudo /opt/axelera/sdk/latest/axelera_fix_groups.sh $USER
   

تصدير نماذج YOLO إلى Axelera

قم بتصدير نماذج YOLO المدربة الخاصة بك باستخدام أمر تصدير Ultralytics القياسي.

from ultralytics import YOLO

# Load a YOLO11 model
model = YOLO("yolo11n.pt")

# Export to Axelera format
model.export(format="axelera")  # creates 'yolo11n_axelera_model' directory

yolo export model=yolo11n.pt format=axelera

وسائط التصدير

لجميع خيارات التصدير، راجع وثائق وضع التصدير.

هيكل الإخراج

yolo11n_axelera_model/
├── yolo11n.axm              # Axelera model file
└── metadata.yaml            # Model metadata (classes, image size, etc.)

تشغيل الاستدلال

قم بتحميل النموذج المُصدَّر باستخدام واجهة برمجة تطبيقات Ultralytics وتشغيل الاستدلال، على غرار تحميل نماذج ONNX.

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo11n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

# Process results
for r in results:
    print(f"Detected {len(r.boxes)} objects")
    r.show()  # Display results

yolo predict model='yolo11n_axelera_model' source='https://ultralytics.com/images/bus.jpg'

أداء الاستدلال

تعمل وحدة المعالجة الذكاء الاصطناعي Metis AIPU على زيادة الإنتاجية إلى أقصى حد مع تقليل استهلاك الطاقة.

المعايير مبنية على بيانات Axelera AI. تعتمد FPS الفعلية على حجم النموذج، التجميع (batching)، ودقة الإدخال.

تطبيقات عملية في أرض الواقع

يمكّن Ultralytics YOLO على أجهزة Axelera حلول الحوسبة الطرفية المتقدمة:

• البيع بالتجزئة الذكي: عد الكائنات في الوقت الفعلي و تحليلات الخرائط الحرارية لتحسين المتجر.
• السلامة الصناعية: اكتشاف معدات الوقاية الشخصية بزمن وصول منخفض في البيئات الصناعية.
• تحليلات الطائرات بدون طيار: detect الكائنات بسرعة عالية على الطائرات بدون طيار للاستخدام في الزراعة وعمليات البحث والإنقاذ.
• أنظمة المرور: التعرف على لوحات الترخيص و تقدير السرعة المستندة إلى الحافة.

سير العمل الموصى به

1. قم بتدريب نموذجك باستخدام Ultralytics وضع التدريب
2. تصدير إلى تنسيق Axelera باستخدام model.export(format="axelera")
3. تحقق الدقة مع yolo val للتحقق من الحد الأدنى من فقدان التكميم
4. توقع باستخدام yolo predict للتحقق النوعي

فحص صحة الجهاز

تحقق من أن جهاز Axelera الخاص بك يعمل بشكل صحيح:

. /opt/axelera/sdk/latest/axelera_activate.sh
axdevice

للتشخيصات التفصيلية، راجع وثائق AxDevice.

الأداء الأقصى

يستخدم هذا التكامل تكوينًا أحادي النواة للتوافق. للتطبيقات الإنتاجية التي تتطلب أقصى إنتاجية، توفر حزمة تطوير برامج Axelera Voyager SDK ما يلي:

• استخدام متعدد النوى (وحدة المعالجة الذكاء الاصطناعي Metis AIPU رباعية النوى)
• خطوط أنابيب الاستدلال المتدفقة
• الاستدلال المبلط للكاميرات ذات الدقة العالية

راجع مكتبة النماذج لمعايير FPS أو اتصل بـ Axelera للحصول على دعم الإنتاج.

المشكلات المعروفة

للحصول على الدعم، يرجى زيارة مجتمع Axelera.

الأسئلة الشائعة

ما هي إصدارات YOLO المدعومة على Axelera؟

تدعم حزمة تطوير البرامج (SDK) Voyager تصدير نماذج YOLOv8 و YOLO11.

هل يمكنني نشر النماذج المدربة خصيصًا؟

نعم. يمكن تصدير أي نموذج تم تدريبه باستخدام Ultralytics Train Mode إلى تنسيق Axelera، بشرط أن يستخدم طبقات وعمليات مدعومة.

كيف يؤثر تكميم INT8 على الدقة؟

تقوم حزمة تطوير البرامج (SDK) Voyager من Axelera بتكميم النماذج تلقائيًا لبنية AIPU ذات الدقة المختلطة. بالنسبة لمعظم اكتشاف الكائنات المهام، تفوق مكاسب الأداء (معدل إطارات أعلى، استهلاك طاقة أقل) بشكل كبير التأثير الضئيل على mAP. يستغرق التكميم من ثوانٍ إلى عدة ساعات حسب حجم النموذج. قم بتشغيل yolo val بعد التصدير للتحقق من الدقة.

كم عدد صور المعايرة التي يجب أن أستخدمها؟

نوصي باستخدام 100 إلى 400 صورة. أكثر من 400 صورة لا يوفر فائدة إضافية ويزيد من وقت التكميم. جرب 100 و 200 و 400 صورة للعثور على التوازن الأمثل.

أين يمكنني العثور على Voyager SDK؟

تتوفر أدوات SDK وبرامج التشغيل والمترجم عبر بوابة مطوري Axelera.

📅 تم إنشاؤه منذ 20 يومًا ✏️ تم تحديثه منذ 3 أيام

تعليقات