تصدير ونشر Axelera AI#

تتعاون Ultralytics مع Axelera AI لإتاحة استدلال عالي الأداء ومنخفض الطاقة على أجهزة Edge AI. قم بتصدير ونشر نماذج Ultralytics YOLO مباشرةً إلى Metis® AIPU باستخدام Voyager SDK.

توفر Axelera AI تسريعاً مخصصاً للأجهزة لرؤية الكمبيوتر عند الحافة، باستخدام بنية تدفق بيانات احتكارية والحوسبة داخل الذاكرة لتقديم ما يصل إلى 856 TOPS مع استهلاك منخفض للطاقة.

اختيار الجهاز المناسب#

تقدم Axelera AI عوامل شكل متنوعة لتناسب قيود النشر المختلفة. يساعدك الرسم البياني أدناه في تحديد الجهاز الأمثل لنشر Ultralytics YOLO الخاص بك.

graph TD
    A[Start: Select Deployment Target]:::start --> B{Device Type?}:::decide
    B -->|Edge Server / Workstation| C{Throughput Needs?}:::decide
    B -->|Embedded / Robotics| D{Space Constraints?}:::decide
    B -->|Standalone / R&D| E[Dev Kits & Systems]:::proc

    C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]:::out
    C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]:::out

    D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]:::out
    D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]:::out

    E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]:::out
    E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]:::out

    click F "https://store.axelera.ai/"
    click G "https://store.axelera.ai/"
    click H "https://store.axelera.ai/"
    click J "https://store.axelera.ai/"

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

محفظة الأجهزة#

تتم محسن مجموعة أجهزة Axelera لتشغيل Ultralytics YOLO26 والإصدارات السابقة بكفاءة عالية في الإطارات لكل ثانية مقابل الواط.

بطاقات التسريع#

تتيح هذه البطاقات تسريع الذكاء الاصطناعي في الأجهزة المضيفة الحالية، مما يسهل عمليات النشر البنيوية القديمة.

الأنظمة المتكاملة#

للحصول على حلول جاهزة، تتعاون Axelera مع المصنعين لتوفير أنظمة تم التحقق منها مسبقاً لـ Metis AIPU.

• لوحة حوسبة Metis: جهاز حافة مستقل يجمع بين Metis AIPU ووحدة المعالجة المركزية Rockchip RK3588 ARM.
• محطات العمل: أبراج المؤسسات من Dell (Precision 3460XE) و Lenovo (ThinkStation P360 Ultra).
• أجهزة الكمبيوتر الصناعية: أنظمة محصنة من Advantech وAetina مصممة لأتمتة التصنيع.

المهام المدعومة#

تقدير العمق غير مدعوم: يطلق رأس العمق عوامل تشغيل لا يمكن لمترجم Metis AIPU خفضها. كما أن تجزئة YOLO26 غير مدعومة بواسطة Ultralytics export أيضاً، ولكن لا يزال من الممكن نشرها من خلال Voyager SDK كما هو موضح أدناه.

التثبيت#

تثبيت Ultralytics#

pip install ultralytics

للحصول على إرشادات تفصيلية، راجع دليل تثبيت Ultralytics. إذا واجهت صعوبات، فاستشر دليل المشكلات الشائعة.

تثبيت تعريف Axelera#

1. أضف مفتاح مستودع Axelera:

   sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

2. أضف المستودع إلى apt:

   اختر المقتطف المناسب من الأسفل ليتناسب مع نظام التشغيل المستخدم.

   # Ubuntu 22.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

   # Ubuntu 24.04
   sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu24 main' > /etc/apt/sources.list.d/axelera.list"

3. قم بتثبيت SDK وتحميل التعريف:

   sudo apt update
   sudo apt install -y metis-dkms=1.5.5
   sudo modprobe metis

[libaxldev.c:285] Found kernel driver version 1.4.16, but at least version 1.4.18 is required. Please update the kernel driver
ERROR: AXR_ERROR_CONNECTION_ERROR: Failed to open device metis-0:4:0

sudo apt update
sudo apt install -y metis-dkms=1.5.5
sudo rmmod metis
sudo modprobe metis

pip install axelera-devkit==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple
pip install axelera-rt==1.7.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple

تصدير نماذج YOLO إلى Axelera#

يدعم تنسيق Axelera أوضاع التصدير والتنبؤ والتحقق. يتم تشغيل الاستدلال والتحقق على أجهزة Axelera Metis AIPU. قم بتصدير نموذجك، ثم تحميل النموذج المصدر لتشغيل الاستدلال أو التحقق من دقته.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to Axelera format
model.export(format="axelera")  # creates 'yolo26n_axelera_model'

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

وسائط التصدير#

لجميع خيارات التصدير، راجع توثيق وضع التصدير.

هيكل المخرجات#

yolo26n_axelera_model/
├── yolo26n.axm                  # Axelera model file
├── compiler_config_final.toml  # Compiler configuration used for the build
└── metadata.yaml               # Model metadata (classes, image size, etc.)

معايير Axelera AI#

يعمل Metis AIPU على زيادة الإنتاجية مع تقليل استهلاك الطاقة.

تستند المعايير إلى بيانات Axelera AI. تعتمد الإطارات في الثانية الفعلية على حجم النموذج، وتجميع الدفعات، ودقة الإدخال.

تطبيقات العالم الحقيقي#

تمكّن Ultralytics YOLO على أجهزة Axelera حلول حوسبة حافة متقدمة:

• التجزئة الذكية: عد الكائنات في الوقت الفعلي وتحليلات الخرائط الحرارية لتحسين المتاجر.
• السلامة الصناعية: اكتشاف معدات الوقاية الشخصية (PPE) منخفض زمن الوصول في بيئات التصنيع.
• تحليلات الطائرات بدون طيار: اكتشاف الكائنات عالي السرعة على المركبات الجوية بدون طيار للزراعة والبحث والإنقاذ.
• أنظمة المرور: التعرف على لوحات الأرقام وتقدير السرعة القائم على الحافة.

سير العمل الموصى به#

1. درّب نموذجك باستخدام وضع التدريب من Ultralytics
2. تصدير إلى تنسيق Axelera باستخدام model.export(format="axelera")
3. تحقق من الدقة باستخدام yolo val للتأكد من الحد الأدنى من فقدان التكميم
4. تنبأ باستخدام yolo predict للتحقق النوعي
5. نشر إلى خط أنابيب شامل عالي الأداء بدون اعتمادية PyTorch - راجع أمثلة YOLO على Voyager SDK لخطوط أنابيب Python القابلة للتركيب باستخدام axelera-rt

فحص سلامة الجهاز#

تحقق من أن جهاز Axelera الخاص بك يعمل بشكل صحيح:

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

للحصول على تشخيصات مفصلة، راجع توثيق AxDevice.

أقصى أداء#

يستخدم هذا التكامل تكوين النواة الواحدة للتوافق. للإنتاج الذي يتطلب أقصى إنتاجية، يقدم Axelera Voyager SDK:

• استخدام متعدد النوى (Metis AIPU رباعي النوى)
• خطوط أنابيب الاستدلال بالبث المتدفق
• الاستدلال المبلط للكاميرات ذات الدقة العالية

راجع حكاية النماذج (model-zoo) لمعايير إطارات في الثانية (FPS) أو اتصل بـ Axelera للحصول على دعم الإنتاج.

مشكلات معروفة#

للحصول على الدعم، تفضل بزيارة مجتمع Axelera.

الأسئلة الشائعة#