انتقل إلى المحتوى

كورال إيدج TPU على راسبيري باي مع Ultralytics YOLOv8 🚀

كمبيوتر Raspberry Pi أحادي اللوحة مزود بحافة USB TPU مسرع

ما هي حافة المرجان TPU?

ذا كورال إيدج TPU هو جهاز مدمج يضيف حافة TPU المعالج المساعد لنظامك. إنه يتيح استدلال ML منخفض الطاقة وعالي الأداء ل TensorFlow نماذج لايت. اقرأ المزيد في كورال إيدج TPU الصفحة الرئيسية.

تعزيز أداء نموذج راسبيري باي مع حافة المرجان TPU

يرغب العديد من الأشخاص في تشغيل نماذجهم على جهاز مضمن أو محمول مثل Raspberry Pi ، نظرا لأنها موفرة للطاقة للغاية ويمكن استخدامها في العديد من التطبيقات المختلفة. ومع ذلك ، فإن أداء الاستدلال على هذه الأجهزة عادة ما يكون ضعيفا حتى عند استخدام تنسيقات مثل onnx أو openvino. ذا كورال إيدج TPU هو حل رائع لهذه المشكلة ، حيث يمكن استخدامه مع Raspberry Pi وتسريع أداء الاستدلال بشكل كبير.

حافة TPU على راسبيري باي مع TensorFlow لايت (جديد) ⭐

الدليل الحالي من كورال حول كيفية استخدام EdgeTPU مع Raspberry Pi قديم ، و Coral Edge الحالي TPU لا تعمل إصدارات وقت التشغيل مع التيار TensorFlow إصدارات وقت التشغيل الخفيفة بعد الآن. بالإضافة إلى ذلك ، يبدو أن Google قد تخلت تماما عن مشروع Coral ، ولم تكن هناك أي تحديثات بين عامي 2021 و 2024. سيوضح لك هذا الدليل كيفية الحصول على Edge TPU العمل مع أحدث إصدارات TensorFlow وقت تشغيل خفيف وحافة مرجانية محدثة TPU وقت التشغيل على كمبيوتر Raspberry Pi أحادي اللوحة (SBC).

المتطلبات المسبقه

إرشادات التثبيت

يفترض هذا الدليل أن لديك بالفعل تثبيت نظام تشغيل Raspberry Pi يعمل وقمت بتثبيته ultralytics وجميع التبعيات. للحصول على ultralytics مثبتا ، قم بزيارة دليل التشغيل السريع للحصول على الإعداد قبل المتابعة هنا.

تثبيت الحافة TPU وقت التشغيل

أولا ، نحتاج إلى تثبيت Edge TPU وقت التشغيل. هناك العديد من الإصدارات المختلفة المتاحة ، لذلك تحتاج إلى اختيار الإصدار المناسب لنظام التشغيل الخاص بك.

راسبيري باي OS وضع التردد العالي نسخة للتحميل
بولسي 32 بت لا libedgetpu1-std_ ... . bullseye_armhf.deb
بولسي 64 بت لا libedgetpu1-std_ ... . bullseye_arm64.deb
بولسي 32 بت نعم libedgetpu1-max_ ... . bullseye_armhf.deb
بولسي 64 بت نعم libedgetpu1-max_ ... . bullseye_arm64.deb
دودة الكتب 32 بت لا libedgetpu1-std_ ... . bookworm_armhf.deb
دودة الكتب 64 بت لا libedgetpu1-std_ ... . bookworm_arm64.deb
دودة الكتب 32 بت نعم libedgetpu1-max_ ... . bookworm_armhf.deb
دودة الكتب 64 بت نعم libedgetpu1-max_ ... . bookworm_arm64.deb

قم بتنزيل أحدث إصدار من هنا.

بعد تنزيل الملف ، يمكنك تثبيته بالأمر التالي:

sudo dpkg -i path/to/package.deb

بعد تثبيت وقت التشغيل ، تحتاج إلى توصيل Coral Edge الخاص بك TPU في منفذ USB 3.0 على Raspberry Pi. هذا لأنه ، وفقا للدليل الرسمي ، جديد udev يجب أن تدخل القاعدة حيز التنفيذ بعد التثبيت.

مهم

إذا كان لديك بالفعل كورال إيدج TPU وقت التشغيل مثبت ، قم بإلغاء تثبيته باستخدام الأمر التالي.

# If you installed the standard version
sudo apt remove libedgetpu1-std 

# If you installed the high frequency version
sudo apt remove libedgetpu1-max 

تصدير النموذج الخاص بك إلى Edge TPU نموذج متوافق

لاستخدام الحافة TPU، تحتاج إلى تحويل النموذج الخاص بك إلى تنسيق متوافق. يوصى بتشغيل التصدير على Google Colab ، x86_64 جهاز Linux ، باستخدام المسؤول Ultralytics حاوية عامل الإرساء، أو باستخدام Ultralytics HUB، منذ الحافة TPU المترجم غير متوفر على ARM. راجع وضع التصدير لمعرفة الوسيطات المتوفرة.

تصدير

from ultralytics import YOLO

# Load a model
model = YOLO('path/to/model.pt')  # Load a official model or custom model

# Export the model
model.export(format='edgetpu')
yolo export model=path/to/model.pt format=edgetpu  # Export a official model or custom model

سيتم حفظ النموذج الذي تم تصديره في <model_name>_saved_model/ مجلد بالاسم <model_name>_full_integer_quant_edgetpu.tflite.

تشغيل النموذج

بعد تصدير النموذج الخاص بك ، يمكنك تشغيل الاستدلال معه باستخدام التعليمة البرمجية التالية:

تشغيل

from ultralytics import YOLO

# Load a model
model = YOLO('path/to/edgetpu_model.tflite')  # Load a official model or custom model

# Run Prediction
model.predict("path/to/source.png")
yolo predict model=path/to/edgetpu_model.tflite source=path/to/source.png  # Load a official model or custom model

يمكنك العثور على معلومات شاملة في صفحة التنبؤ للحصول على تفاصيل وضع التنبؤ الكاملة.

مهم

يجب عليك تشغيل النموذج باستخدام tflite-runtime وليس tensorflow. لو tensorflow مثبت ، إلغاء التثبيت tensorflow بالأمر التالي:

pip uninstall tensorflow tensorflow-aarch64

ثم تثبيت / تحديث tflite-runtime:

pip install -U tflite-runtime

إذا كنت تريد tflite-runtime عجلة ل tensorflow 2.15.0 قم بتنزيله من هنا وتثبيته باستخدام pip أو مدير الحزم الذي تختاره.



تم إنشاء 2024-02-12, اخر تحديث 2024-02-12
المؤلفون: سكيلنوب (1) ، جلين جوشر (1)

التعليقات