تصدير ونشر Axelera AI
تتعاون Ultralytics مع Axelera AI لتمكين الاستدلال عالي الأداء والموفر للطاقة على أجهزة الذكاء الاصطناعي الحافي (Edge AI). قم بتصدير ونشر نماذج Ultralytics YOLO مباشرة إلى Metis® AIPU باستخدام Voyager SDK.
توفر Axelera AI تسريعًا مخصصًا للأجهزة لـ رؤية الكمبيوتر على الحافة، باستخدام بنية تدفق بيانات خاصة والحوسبة داخل الذاكرة لتقديم ما يصل إلى 856 TOPS باستهلاك منخفض للطاقة.
تحديد الجهاز المناسب
تقدم Axelera AI عوامل شكل متنوعة لتناسب قيود النشر المختلفة. يساعد الرسم البياني أدناه في تحديد الأجهزة المثالية لنشر Ultralytics YOLO الخاص بك.
graph TD
A[Start: Select Deployment Target] --> B{Device Type?}
B -->|Edge Server / Workstation| C{Throughput Needs?}
B -->|Embedded / Robotics| D{Space Constraints?}
B -->|Standalone / R&D| E[Dev Kits & Systems]
C -->|Max Density <br> 30+ Streams| F[**Metis PCIe x4**<br>856 TOPS]
C -->|Standard PC <br> Low Profile| G[**Metis PCIe x1**<br>214 TOPS]
D -->|Drones & Handhelds| H[**Metis M.2**<br>2280 M-Key]
D -->|High Performance Embedded| I[**Metis M.2 MAX**<br>Extended Thermal]
E -->|ARM-based All-in-One| J[**Metis Compute Board**<br>RK3588 + AIPU]
E -->|Prototyping| K[**Arduino Portenta x8**<br>Integration Kit]
click F "https://store.axelera.ai/"
click G "https://store.axelera.ai/"
click H "https://store.axelera.ai/"
click J "https://store.axelera.ai/"
محفظة الأجهزة
تم تحسين تشكيلة أجهزة Axelera لتشغيل Ultralytics YOLO26 والإصدارات القديمة بكفاءة عالية في الإطارات في الثانية لكل واط.
بطاقات التسريع
تتيح هذه البطاقات تسريع الذكاء الاصطناعي في الأجهزة المضيفة الحالية، مما يسهل عمليات النشر في البيئات القائمة.
| المنتج | عامل الشكل | حساب | الأداء (INT8) | تطبيق مستهدف |
|---|---|---|---|---|
| Metis PCIe x4 | PCIe Gen3 x16 | 4x Metis AIPUs | 856 TOPS | تحليلات الفيديو عالية الكثافة، المدن الذكية |
| Metis PCIe x1 | PCIe Gen3 x1 | 1x Metis AIPU | 214 TOPS | أجهزة الكمبيوتر الصناعية، إدارة قائمة الانتظار في متاجر البيع بالتجزئة |
| Metis M.2 | M.2 2280 M-Key | 1x Metis AIPU | 214 TOPS | طائرات بدون طيار، والروبوتات، والأجهزة الطبية المحمولة |
| Metis M.2 MAX | M.2 2280 | 1x Metis AIPU | 214 TOPS | البيئات التي تتطلب إدارة حرارية متقدمة |
الأنظمة المتكاملة
بالنسبة للحلول الجاهزة، تتعاون Axelera مع الشركات المصنعة لتوفير أنظمة تم التحقق من صحتها مسبقًا لـ Metis AIPU.
- لوحة Metis Compute: جهاز طرفي مستقل يجمع بين Metis AIPU ووحدة المعالجة المركزية Rockchip RK3588 ARM.
- محطات العمل: أبراج المؤسسات من Dell (Precision 3460XE) و Lenovo (ThinkStation P360 Ultra).
- أجهزة الكمبيوتر الصناعية: أنظمة متينة من Advantech و Aetina مصممة من أجل أتمتة التصنيع.
المهام المدعومة
تدعم نماذج YOLOv8 و YOLO11 وYOLO26 المهام التالية.
| المهمة | YOLOv8 | YOLO11 | YOLO26 |
|---|---|---|---|
| الكشف عن الكائنات | ✅ | ✅ | ✅ |
| تقدير الوضع | ✅ | ✅ | ✅ |
| التجزئة | ✅ | ✅ | ⚠️ حزمة تطوير التطبيقات (SDK) الخاصة بـ Voyager فقط |
| صناديق الإحاطة الموجهة | ✅ | ✅ | ✅ |
| التصنيف | ✅ | ✅ | ✅ |
ملاحظة
لا يتم دعم عملية التجزئة باستخدام YOLO26 حتى الآن عبر Ultralytics export الأمر. يمكن للمستخدمين الذين يحتاجون إلى YOLO26-seg النشر عبر حزمة أدوات تطوير التطبيقات (SDK) لـ Voyager باستخدام deploy.py، والذي يوفر حلاً بديلاً في مساحة المستخدم. وسيتم إضافة دعم المترجم الأصلي في إصدار قادم.
التثبيت
متطلبات المنصة
يتطلب التصدير إلى تنسيق Axelera ما يلي:
- نظام التشغيل: Linux فقط (يوصى بـ Ubuntu 22.04/24.04)
- الأجهزة: مسرع Axelera AI (أجهزة Metis)
- Python: الإصدارات 3.10 و3.11 و3.12
- اعتماد النظام:
sudo apt install libgl1(مطلوب من قِبل OpenCV، غير مضمن عبرpip)
تثبيت Ultralytics
pip install ultralytics
للحصول على تعليمات مفصلة، راجع دليل تثبيت Ultralytics الخاص بنا. إذا واجهت صعوبات، استشر دليل المشكلات الشائعة الخاص بنا.
تثبيت برنامج تشغيل Axelera
أضف مفتاح مستودع Axelera:
sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"أضف المستودع إلى apt:
sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"ثبت SDK وحمل المشغل (driver):
sudo apt update sudo apt install -y metis-dkms=1.4.16 sudo modprobe metis
تصدير نماذج YOLO إلى Axelera
قم بتصدير نماذج YOLO المدربة الخاصة بك باستخدام أمر تصدير Ultralytics القياسي.
التصدير إلى تنسيق Axelera
from ultralytics import YOLO
# Load a YOLO26 model
model = YOLO("yolo26n.pt")
# Export to Axelera format
model.export(format="axelera") # creates 'yolo26n_axelera_model' directory
yolo export model=yolo26n.pt format=axelera
قد يفشل التصدير الأول بعد تحديث التبعيات
يتطلب مُجمع Axelera numpy<2. إذا كانت بيئتك تحتوي على numpy>=2، الأول yolo export سيتم تخفيض إصداره تلقائيًا، لكن عملية التصدير ستفشل بسبب حالة الوحدة النمطية القديمة. ما عليك سوى تشغيل أمر التصدير نفسه مرة أخرى — وستنجح العملية في المرة الثانية.
وسائط التصدير
| الوسيطة | النوع | افتراضي | الوصف |
|---|---|---|---|
format | str | 'axelera' | التنسيق المستهدف لأجهزة Axelera Metis AIPU |
imgsz | int أو tuple | 640 | حجم الصورة لإدخال النموذج |
int8 | bool | True | تمكين تكميم INT8 لوحدة AIPU |
data | str | 'coco128.yaml' | تكوين مجموعة البيانات لمعايرة التكميم |
fraction | float | 1.0 | جزء من مجموعة البيانات للمعايرة (يوصى بـ 100-400 صورة) |
device | str | None | جهاز التصدير: GPU (device=0) أو CPU (device=cpu) |
لجميع خيارات التصدير، راجع وثائق وضع التصدير.
هيكل الإخراج
yolo26n_axelera_model/
├── yolo26n.axm # Axelera model file
└── metadata.yaml # Model metadata (classes, image size, etc.)
تشغيل الاستدلال
قم بتحميل النموذج المُصدَّر باستخدام واجهة برمجة تطبيقات Ultralytics وتشغيل الاستدلال، على غرار تحميل نماذج ONNX.
الاستدلال باستخدام نموذج Axelera
from ultralytics import YOLO
# Load the exported Axelera model
model = YOLO("yolo26n_axelera_model")
# Run inference
results = model("https://ultralytics.com/images/bus.jpg")
# Process results
for r in results:
print(f"Detected {len(r.boxes)} objects")
r.show() # Display results
yolo predict model='yolo26n_axelera_model' source='https://ultralytics.com/images/bus.jpg'
معايير أداء Axelera للذكاء الاصطناعي
تعمل وحدة المعالجة الذكاء الاصطناعي Metis AIPU على زيادة الإنتاجية إلى أقصى حد مع تقليل استهلاك الطاقة.
| النموذج | معدل الإطارات في الثانية (FPS) لبطاقة Metis PCIe | Metis M.2 FPS (إطارات في الثانية) |
|---|---|---|
| YOLOv8n | 847 | 771 |
| YOLO11n | 746 | 574 |
| YOLO26n | 648.6 | 484.9 |
المعايير مبنية على بيانات Axelera AI. تعتمد FPS الفعلية على حجم النموذج، التجميع (batching)، ودقة الإدخال.
تطبيقات عملية في أرض الواقع
يمكّن Ultralytics YOLO على أجهزة Axelera حلول الحوسبة الطرفية المتقدمة:
- البيع بالتجزئة الذكي: عد الكائنات في الوقت الفعلي و تحليلات الخرائط الحرارية لتحسين المتجر.
- السلامة الصناعية: اكتشاف معدات الوقاية الشخصية بزمن وصول منخفض في البيئات الصناعية.
- تحليلات الطائرات بدون طيار: detect الكائنات بسرعة عالية على الطائرات بدون طيار للاستخدام في الزراعة وعمليات البحث والإنقاذ.
- أنظمة المرور: التعرف على لوحات الترخيص و تقدير السرعة المستندة إلى الحافة.
سير العمل الموصى به
- قم بتدريب نموذجك باستخدام Ultralytics وضع التدريب
- تصدير إلى تنسيق Axelera باستخدام
model.export(format="axelera") - تحقق الدقة مع
yolo valللتحقق من الحد الأدنى من فقدان التكميم - توقع باستخدام
yolo predictللتحقق النوعي - النشر إلى مسار عمل شامل عالي الأداء دون PyTorch — انظر أمثلة YOLO Voyager SDK لخطوط Python القابلة للتركيب باستخدام
axelera-rt
فحص صحة الجهاز
تحقق من أن جهاز Axelera الخاص بك يعمل بشكل صحيح:
# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice
للتشخيصات التفصيلية، راجع وثائق AxDevice.
الأداء الأقصى
يستخدم هذا التكامل تكوينًا أحادي النواة للتوافق. للتطبيقات الإنتاجية التي تتطلب أقصى إنتاجية، توفر حزمة تطوير برامج Axelera Voyager SDK ما يلي:
- استخدام متعدد النوى (وحدة المعالجة الذكاء الاصطناعي Metis AIPU رباعية النوى)
- خطوط أنابيب الاستدلال المتدفقة
- الاستدلال المبلط للكاميرات ذات الدقة العالية
راجع مكتبة النماذج لمعايير FPS أو اتصل بـ Axelera للحصول على دعم الإنتاج.
المشكلات المعروفة
قيود معروفة
- قيود طاقة M.2: قد تواجه النماذج الكبيرة أو الكبيرة جدًا أخطاء وقت التشغيل على مسرعات M.2 بسبب قيود إمداد الطاقة.
للحصول على الدعم، يرجى زيارة مجتمع Axelera.
الأسئلة الشائعة
ما هي إصدارات YOLO المدعومة على Axelera؟
تدعم حزمة أدوات تطوير التطبيقات (SDK) الخاصة بـ Voyager تصدير YOLOv8و YOLO11و YOLO26. انظر المهام المدعومة لمعرفة المهام المتاحة لكل نموذج.
هل يمكنني نشر النماذج المدربة خصيصًا؟
نعم. يمكن تصدير أي نموذج تم تدريبه باستخدام Ultralytics Train Mode إلى تنسيق Axelera، بشرط أن يستخدم طبقات وعمليات مدعومة.
كيف يؤثر تكميم INT8 على الدقة؟
تقوم حزمة تطوير البرامج (SDK) Voyager من Axelera بتكميم النماذج تلقائيًا لبنية AIPU ذات الدقة المختلطة. بالنسبة لمعظم اكتشاف الكائنات المهام، تفوق مكاسب الأداء (معدل إطارات أعلى، استهلاك طاقة أقل) بشكل كبير التأثير الضئيل على mAP. يستغرق التكميم من ثوانٍ إلى عدة ساعات حسب حجم النموذج. قم بتشغيل yolo val بعد التصدير للتحقق من الدقة.
كم عدد صور المعايرة التي يجب أن أستخدمها؟
نوصي باستخدام 100 إلى 400 صورة. أكثر من 400 صورة لا يوفر فائدة إضافية ويزيد من وقت التكميم. جرب 100 و 200 و 400 صورة للعثور على التوازن الأمثل.
أين يمكنني العثور على Voyager SDK؟
تتوفر أدوات SDK وبرامج التشغيل والمترجم عبر بوابة مطوري Axelera.