ابدأ

تصدير Axelera AI والنشر

تتعاون Ultralytics مع Axelera AI لتمكين الاستدلال عالي الأداء والموفّر للطاقة على أجهزة الذكاء الاصطناعي الطرفي (AI). صدّر نماذج Ultralytics YOLO وانشرها مباشرةً إلى Metis® AIPU باستخدام Voyager SDK.

منظومة Axelera AI للنشر الطرفي لـ YOLO

توفر Axelera AI تسريعًا مخصصًا للأجهزة من أجل الرؤية الحاسوبية الطرفية، باستخدام بنية تدفق بيانات خاصة وحوسبة داخل الذاكرة لتحقيق ما يصل إلى 856 TOPS مع استهلاك منخفض للطاقة.

اختيار العتاد المناسب#

تقدم Axelera AI عوامل شكل متنوعة لتناسب قيود النشر المختلفة. يساعد المخطط أدناه في تحديد العتاد الأمثل لنشر Ultralytics YOLO.

مجموعة المنتجات العتادية#

صُممت مجموعة أجهزة Axelera لتشغيل Ultralytics YOLO26 وإصدارات YOLO الأقدم بكفاءة عالية من حيث عدد الإطارات في الثانية لكل واط.

بطاقات التسريع#

تتيح هذه البطاقات تسريع الذكاء الاصطناعي على أجهزة المضيف الحالية، ما يسهل عمليات النشر في البيئات القائمة.

المنتجعامل الشكلالحوسبةالأداء (INT8)التطبيق المستهدف
Metis PCIe x4PCIe Gen3 x164x من Metis AIPU856 TOPSتحليلات الفيديو عالية الكثافة، والمدن الذكية
Metis PCIe x1PCIe Gen3 x11x من Metis AIPU214 TOPSالحواسيب الصناعية، وإدارة طوابير الانتظار في قطاع التجزئة
Metis M.2M.2 2280 M-Key1x من Metis AIPU214 TOPSالطائرات المسيّرة، والروبوتات، والأجهزة الطبية المحمولة
Metis M.2 MAXM.2 22801x من Metis AIPU214 TOPSالبيئات التي تتطلب إدارة حرارية متقدمة

الأنظمة المتكاملة#

لتوفير حلول جاهزة للاستخدام، تتعاون Axelera مع المصنّعين لتقديم أنظمة تم التحقق من توافقها مسبقًا مع Metis AIPU.

  • Metis Compute Board: جهاز طرفي مستقل يجمع بين Metis AIPU ووحدة CPU من Rockchip RK3588 بمعمارية ARM.
  • محطات العمل: أبراج مؤسسية من Dell (Precision 3460XE) وLenovo (ThinkStation P360 Ultra).
  • الحواسيب الصناعية: أنظمة متينة من Advantech وAetina مصممة لـأتمتة التصنيع.

المهام المدعومة#

يدعم التصدير إلى Axelera مهام Ultralytics السبع كلها. يتوفر التقسيم الدلالي وتقدير العمق مع YOLO26 فقط، فهو العائلة الوحيدة التي تتضمن هذين الرأسين.

تُصدِّر نماذج YOLO26 للكشف وتقسيم المثيلات وتقدير الوضعية والمربعات المحيطة الموجّهة (OBB)، افتراضيًا، الرأس أحادي إلى واحد الخالي من NMS، ويفك وقت تشغيل Axelera ترميزه على المضيف. يؤدي تمرير nms=True إلى تصدير الرأس أحادي إلى متعدد بدلًا منه، الذي يحقق درجات أقل على Metis: إذ يبلغ mAP50-95 لنموذج YOLO26n للكشف 0.212 على COCO128 بهذه الطريقة، مقابل 0.453 مع الرأس الخالي من NMS.

المهمةYOLOv8YOLO11YOLO26
كشف✅✅✅
تجزئة✅✅✅
دلالي❌❌✅
العمق❌❌✅
تصنيف✅✅✅
الوضعية✅✅✅
OBB✅✅✅
عاير نماذج العمق على صور من المشاهد الخاصة بك

تُستمد نطاقات التكميم من صور المعايرة، والافتراضي لمهمة تقدير العمق، depth8.yaml، يحتوي على أربعة إطارات داخلية. في مجموعة التحقق المكوّنة من 654 صورة في NYU Depth V2، يحقق نموذج YOLO26n للعمق، بعد معايرته بالإعداد الافتراضي، δ1 بقيمة 0.742 على Metis، مقابل 0.783 لنموذج PyTorch، بينما تحقق 100 صورة تدريب من NYU قيمة 0.780. مرّر data= مع ملف YAML لمجموعة بيانات يكون فيه التقسيم val محتويًا على 100 صورة على الأقل من المشاهد التي سيواجهها النموذج؛ إذ تقرأ المعايرة التقسيم val.

التثبيت#

متطلبات المنصة

يتطلب التصدير إلى تنسيق Axelera ما يلي:

  • نظام التشغيل: Linux فقط (يوصى بـ Ubuntu 22.04/24.04)
  • العتاد: مسرّع Axelera AI (أجهزة Metis)
  • Python: الإصدارات 3.10 و3.11 و3.12 و3.13
  • PyTorch: torch>=2.8,<2.15
  • Voyager SDK: 1.9.0؛ يثبّت التصدير إصدار حزمة التطوير هذه، ويثبّت الاستدلال إصدار بيئة التشغيل هذه
  • برنامج تشغيل نواة Metis: metis-dkms 1.7.0 أو أحدث، ويُثبَّت منفصلًا عن pip
  • اعتمادية النظام: sudo apt install libgl1 (مطلوبة من OpenCV، ولا تُضمّن عبر pip)

تثبيت Ultralytics#

pip install ultralytics

للاطلاع على التعليمات التفصيلية، راجع دليل تثبيت Ultralytics. إذا واجهت صعوبات، فراجع دليل المشكلات الشائعة.

تثبيت برنامج تشغيل Axelera#

  1. أضف مفتاح مستودع Axelera:

    sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"
  2. أضف المستودع إلى apt:

    اختر المقتطف المناسب أدناه وفقًا لنظام التشغيل المستخدم.

    # Ubuntu 22.04
    sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"
    # Ubuntu 24.04
    sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source ubuntu24 main' > /etc/apt/sources.list.d/axelera.list"
  3. ثبّت برنامج التشغيل وحمّله. يتطلب SDK 1.9 الإصدار metis-dkms 1.7.0 أو أحدث، لذا يُثبَّت هنا أحدث إصدار:

    sudo apt update
    sudo apt install -y metis-dkms
    sudo modprobe metis
حافظ على توافق إصدار برنامج تشغيل النواة مع SDK

يُثبَّت برنامج تشغيل النواة منفصلًا عن حزم Python SDK، لذا يجب، بعد ترقية SDK، تحديث برنامج التشغيل أيضًا إلى الحد الأدنى المطلوب لهذا الإصدار من SDK — وهو 1.7.0 للإصدار 1.9. لا يجري التحقق من ذلك عند التثبيت، ويؤدي استخدام برنامج تشغيل أقدم من الحد الأدنى إلى عدم إتاحة الجهاز: يبلّغ axdevice عن الإصدار المطلوب، ثم يفشل في فتح الجهاز.

[libaxldev.c:285] Found kernel driver version 1.6.2, but at least version 1.7.0 is required. Please update the kernel driver
ERROR: AXR_ERROR_CONNECTION_ERROR: Failed to open device metis-0:4:0

راجع أيضًا الخطوة 3: تثبيت برنامج تشغيل نواة Metis. إذا كنت تستخدم بالفعل إصدارًا أقدم من SDK على Ubuntu، فحدّث برنامج التشغيل وأعد تحميل وحدة النواة (لا حاجة إلى إعادة التشغيل):

sudo apt update
sudo apt install -y metis-dkms
sudo rmmod metis
sudo modprobe metis

ثم أعد تشغيل axdevice للتأكد من اكتشاف الجهاز.

يُنزّل SDK تلقائيًا عند التشغيل الأول

سيؤدي أول yolo export format=axelera أو yolo predict باستخدام نموذج Axelera إلى تنزيل حزم Axelera SDK وتثبيتها تلقائيًا. قد يستغرق ذلك عدة دقائق حسب سرعة الاتصال، ولن يظهر أي مؤشر للتقدم أثناء التنزيل. للتثبيت يدويًا مسبقًا:

pip install axelera-devkit==1.9.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple
pip install axelera-rt==1.9.0 --extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple
تظل النماذج المصدَّرة باستخدام SDK 1.8 تعمل

لا يرفع SDK 1.9 إصدار تنسيق النموذج المترجم .axm، لذا يُحمَّل دليل _axelera_model المصدَّر باستخدام الإصدار 1.8 ويعمل دون تغيير. أعد التصدير فقط للاستفادة من تحسينات المترجم.

يرفض SDK الذي يرفع إصدار التنسيق الأدلة الأقدم عند التحميل، وهذا ما يظهر عند الترقية من الإصدار 1.7 أو أقدم:

Error: Unsupported model version: 4.0, expected at least 5.0
Please re-deploy or re-download the model.

تصدير نماذج YOLO إلى Axelera#

يدعم تنسيق Axelera أوضاع التصدير والتنبؤ والتحقق. يُجرى الاستدلال والتحقق على عتاد Axelera Metis AIPU. صدّر النموذج، ثم حمّل النموذج المُصدّر لإجراء الاستدلال أو التحقق من دقته.

التصدير
from ultralytics import YOLO

# ⁨تحميل نموذج YOLO26⁩
model = YOLO("yolo26n.pt")

# ⁨# تصدير النموذج إلى تنسيق Axelera⁩
model.export(format="axelera")  # creates 'yolo26n_axelera_model'
التنبؤ
from ultralytics import YOLO

# ⁨# تحميل نموذج Axelera المُصدّر⁩
model = YOLO("yolo26n_axelera_model")

# ⁨تنفيذ الاستدلال⁩
results = model("https://ultralytics.com/images/bus.jpg")
تحقّق
from ultralytics import YOLO

# ⁨# تحميل نموذج Axelera المُصدّر⁩
model = YOLO("yolo26n_axelera_model")

# ⁨# التحقق من الدقة على مجموعة بيانات COCO8⁩
metrics = model.val(data="coco8.yaml")

وسيطات التصدير#

المعاملالنوعالافتراضيالوصف
formatstr'axelera'التنسيق المستهدف لعتاد Axelera Metis AIPU.
imgszint أو tuple640حجم الصورة المُدخلة إلى النموذج.
batch*int1حجم دفعة المعايرة. يعالج النموذج المترجم صورة واحدة في كل مرة.
quantizeint أو str8/تلقائيدقة التكميم. يُشترط 8 (INT8)، ويُفعّل تلقائيًا لـ Axelera AIPU. يحل محل الخيارين المتوقفين half/int8. راجع تكميم INT8.
datastrNoneملف YAML لمجموعة بيانات المعايرة؛ أما التصنيف فيتطلب دليل مجموعة بيانات أو اسم مجموعة بيانات مضمّنة. إذا لم يُحدّد، تختار Ultralytics مجموعة بيانات معايرة خاصة بالمهمة.
fractionfloat أو int أو list1.0مجموعة المعايرة الفرعية كنسبة أو عدد صور أو نسب/أعداد [train, val, test]. تترك القوائم ذات العنصرين test كاملًا، بينما تتجاوزه 0 (يوصى بـ 100-400 صورة).
devicestrNoneجهاز التصدير: GPU (device=0) أو CPU (device=cpu).

* تُترجم النماذج لصورة واحدة، لذا لا يضبط خيار التصدير batch سوى حجم دفعة المعايرة. مرّر batch إلى predict بدلًا من ذلك لتمرير عدة صور دفعة واحدة إلى مجدول Axelera (Voyager SDK 1.8.0 أو أحدث): راجع الأداء الأقصى.

للاطلاع على جميع خيارات التصدير، راجع وثائق وضع التصدير.

بنية الإخراج#

yolo26n_axelera_model/
├── yolo26n.axm                  # Axelera model file
├── compiler_config_final.toml  # Compiler configuration used for the build
└── metadata.yaml               # Model metadata (classes, image size, etc.)

معايير أداء Axelera AI#

صُممت Metis AIPU لتحقيق معدل نقل عالٍ مع استهلاك منخفض للطاقة.

النموذجمعدل إطارات Metis PCIe في الثانية (FPS)معدل إطارات Metis M.2 في الثانية (FPS)
YOLOv8n847771
YOLO11n746574
YOLO26n648.6484.9

تستند معايير الأداء إلى بيانات Axelera AI. يعتمد معدل FPS الفعلي على حجم النموذج، وتجميع الدفعات، ودقة الإدخال.

هذه أرقام معدل نقل المضيف، وقد قاسها مستودع النماذج باستخدام مسار البث في Voyager SDK عبر ملف فيديو بدقة 720p. أما استدعاء predict واحد فيُبلغ عن زمن الاستجابة لكل صورة، وهي كمية مختلفة.

تطبيقات واقعية#

يدعم Ultralytics YOLO على أجهزة Axelera تطبيقات الحوسبة الطرفية مثل:

  1. درّب نموذجك باستخدام وضع التدريب من Ultralytics
  2. صدّر النموذج إلى تنسيق Axelera باستخدام model.export(format="axelera")
  3. تحقّق من الدقة باستخدام yolo val للتأكد من الحد الأدنى لفقدان التكميم
  4. استدلّ باستخدام yolo predict للتحقق النوعي
  5. انشر النموذج ضمن مسار متكامل عالي الأداء من دون الاعتماد على PyTorch — راجع أمثلة YOLO على Voyager SDK للاطّلاع على مسارات Python القابلة للتركيب التي تستخدم axelera-rt

فحص صحة الجهاز#

تحقّق من أن جهاز Axelera يعمل على النحو الصحيح:

# if axdevice cannot be found, please run at least one inference (see above) to ensure the required packages are installed
axdevice

للاطّلاع على التشخيصات التفصيلية، راجع وثائق AxDevice.

أقصى أداء#

تُترجم النماذج لصورة واحدة، وتُعالَج الصورة الواحدة على نواة AIPU واحدة. يؤدي تمرير عدة صور إلى Predict إلى تسليمها معًا إلى مجدول Axelera، الذي يوزعها على أنوية الجهاز:

yolo predict model=yolo26n_axelera_model source=path/to/images batch=32

yolo26n عند imgsz=640 على صور COCO128 الـ128 الموجودة في دليل، باستخدام Metis PCIe، والوسيط لثلاثة تشغيلات:

Voyager SDKالأجهزةbatch=1batch=8batch=32
1.8.0136 صورة/ثانية45 صورة/ثانية40 صورة/ثانية
1.8.0239 صورة/ثانية41 صورة/ثانية41 صورة/ثانية
1.9.0141 صورة/ثانية85 صورة/ثانية109 صور/ثانية
1.9.0235 صورة/ثانية83 صورة/ثانية113 صورة/ثانية

في SDK 1.9، تؤدي زيادة حجم الدفعة إلى رفع معدل النقل بمقدار 2.7 مرة عند batch=32، بينما يظل الإصدار 1.8 قريبًا من 40 img/s مهما كان حجم الدفعة. استخدم دفعة كبيرة لزيادة معدل النقل دون اتصال، واستخدم batch=1 عندما يكون زمن الاستجابة لكل صورة مهمًا. ولا يضيف الجهاز الثاني الكثير إلى predict: فعند batch=32، تستغرق المعالجة المسبقة على المضيف نحو 4 ms لكل صورة، وهي مدة تقارب زمن معالجتها على الجهاز.

ما بعد predict#

لأحمال الإنتاج التي تتطلب أقصى معدل نقل، يوفّر Axelera Voyager SDK ما يلي:

  • مسارات استدلال متدفقة تُبقي عدة إطارات قيد المعالجة
  • تجميع نموذج واحد عبر عدة أنوية
  • استدلال مقسّم إلى مربعات للكاميرات ذات الدقة الأعلى

تتجاوز هذه المسارات المعالجة المسبقة واللاحقة باستخدام PyTorch التي ينفذها predict على المضيف. راجع مستودع النماذج للاطلاع على معايير FPS، أو تواصل مع Axelera للحصول على دعم الإنتاج.

المشكلات المعروفة#

القيود المعروفة
  • قيود الطاقة في M.2: قد تواجه النماذج الكبيرة أو الكبيرة جدًا أخطاء وقت التشغيل على مسرّعات M.2 بسبب قيود مصدر الطاقة.

للحصول على الدعم، تفضّل بزيارة مجتمع Axelera.

الأسئلة الشائعة#

  • يدعم Voyager SDK تصدير نماذج YOLOv8 وYOLO11 وYOLO26. راجع المهام المدعومة لمعرفة مدى توفر المهام لكل نموذج.

  • نعم. يمكن تصدير أي نموذج دُرّب باستخدام وضع التدريب من Ultralytics إلى تنسيق Axelera، شريطة أن يستخدم طبقات وعمليات مدعومة.

  • ينفّذ Voyager SDK من Axelera تكميم النماذج تلقائيًا لتلائم بنية AIPU ذات الدقة المختلطة. وفي معظم مهام اكتشاف الكائنات، تفوق مكاسب الأداء (زيادة FPS وانخفاض استهلاك الطاقة) عادةً الأثر الطفيف على mAP. ويستغرق التكميم من ثوانٍ إلى عدة ساعات حسب حجم النموذج. شغّل yolo val بعد التصدير للتحقق من الدقة.

  • نوصي باستخدام 100 إلى 400 صورة. لا يحقق استخدام أكثر من 400 صورة أي فائدة إضافية، كما يزيد وقت التكميم. جرّب استخدام 100 و200 و400 صورة للعثور على التوازن الأمثل.

  • تتوفر SDK وبرامج التشغيل وأدوات المترجم من مستودع Voyager SDK على GitHub.

التعليقات1

اطرح سؤالًا، وشارك نتائجك، أو ساعد شخصًا آخر.

  1. Glenn JocherUltralytics

    Excited for Axelera support to land in the Ultralytics Python package!

    Early runs on the Metis AIPU look seriously impressive, huge FPS and great efficiency. Big shoutout to the Axelera team for the smooth collaboration. More coming soon.

    Drop any questions in this thread. Happy to help!

    1