कोरल एज TPU के साथ एक रास्पबेरी पाई पर Ultralytics YOLOv8 🚀

कोरल एज क्या है TPU?

कोरल एज TPU एक कॉम्पैक्ट डिवाइस है जो एज जोड़ता है TPU आपके सिस्टम के लिए कोप्रोसेसर। यह कम-शक्ति, उच्च-प्रदर्शन एमएल अनुमान को सक्षम बनाता है TensorFlow लाइट मॉडल। पर और अधिक पढ़ें कोरल एज TPU होम पेज।

कोरल एज के साथ रास्पबेरी पाई मॉडल प्रदर्शन को बढ़ावा दें TPU

बहुत से लोग अपने मॉडल को रास्पबेरी पाई जैसे एम्बेडेड या मोबाइल डिवाइस पर चलाना चाहते हैं, क्योंकि वे बहुत ही कुशल हैं और कई अलग-अलग अनुप्रयोगों में उपयोग किए जा सकते हैं। हालांकि, इन उपकरणों पर अनुमान प्रदर्शन आमतौर पर प्रारूपों का उपयोग करते समय भी खराब होता है जैसे onnx नहीं तो openvino. कोरल एज TPU इस समस्या का एक बढ़िया समाधान है, क्योंकि इसका उपयोग रास्पबेरी पाई के साथ किया जा सकता है और अनुमान प्रदर्शन को बहुत तेज कर सकता है।

किनारा TPU रास्पबेरी पाई पर के साथ TensorFlow लाइट (नया) ⭐

एज का उपयोग करने के तरीके पर कोरल द्वारा मौजूदा गाइडTPU रास्पबेरी पाई के साथ पुराना है, और वर्तमान कोरल एज TPU रनटाइम बिल्ड वर्तमान के साथ काम नहीं करते हैं TensorFlow लाइट रनटाइम संस्करण अब। इसके अलावा, Google ऐसा लगता है कि कोरल परियोजना को पूरी तरह से छोड़ दिया गया है, और 2021 और 2024 के बीच कोई अपडेट नहीं हुआ है। यह मार्गदर्शिका आपको दिखाएगी कि एज कैसे प्राप्त करें TPU के नवीनतम संस्करणों के साथ कार्य करना TensorFlow लाइट रनटाइम और एक अद्यतन कोरल एज TPU रास्पबेरी पाई एकल बोर्ड कंप्यूटर (SBC) पर रनटाइम।

आवश्यकताएँ

• Raspberry Pi 4B (2GB या अधिक अनुशंसित) या Raspberry Pi 5 (अनुशंसित)
• रास्पबेरी पाई ओएस डेस्कटॉप के साथ Bullseye/Bookworm (64-बिट) (अनुशंसित)
• कोरल यूएसबी त्वरक
• निर्यात के लिए एक गैर-एआरएम आधारित मंच Ultralytics PyTorch को गढ़ना

स्थापना पूर्वाभ्यास

यह मार्गदर्शिका मानती है कि आपके पास पहले से ही एक कार्यशील रास्पबेरी पाई ओएस इंस्टॉल है और आपने इंस्टॉल किया है ultralytics और सभी निर्भरताएं। पाने के लिए ultralytics स्थापित, भ्रमण गर्नुहोस् क्विकस्टार्ट गाइड यहां जारी रखने से पहले सेटअप प्राप्त करने के लिए।

एज स्थापित करना TPU रनटाइम

सबसे पहले, हमें एज स्थापित करने की आवश्यकता है TPU रनटाइम। कई अलग-अलग संस्करण उपलब्ध हैं, इसलिए आपको अपने ऑपरेटिंग सिस्टम के लिए सही संस्करण चुनने की आवश्यकता है।

यहां से नवीनतम संस्करण डाउनलोड करें।

फ़ाइल डाउनलोड करने के बाद, आप इसे निम्न कमांड के साथ इंस्टॉल कर सकते हैं:

sudo dpkg -i path/to/package.deb

रनटाइम स्थापित करने के बाद, आपको अपने कोरल एज में प्लग इन करना होगा TPU अपने रास्पबेरी पाई पर एक यूएसबी 3.0 पोर्ट में। ऐसा इसलिए है, क्योंकि आधिकारिक गाइड के अनुसार, एक नया udev स्थापना के बाद नियम को प्रभावी होने की आवश्यकता है।

# If you installed the standard version
sudo apt remove libedgetpu1-std

# If you installed the high frequency version
sudo apt remove libedgetpu1-max

अपने मॉडल को एज में निर्यात करें TPU संगत मॉडल

एज का उपयोग करने के लिए TPU, आपको अपने मॉडल को एक संगत प्रारूप में बदलने की आवश्यकता है। यह अनुशंसा की जाती है कि आप निर्यात चालू करें Google कोलाब, x86_64 लिनक्स मशीन, आधिकारिक का उपयोग कर Ultralytics डॉकर कंटेनर, या उपयोग करना Ultralytics हब, एज के बाद से TPU कंपाइलर एआरएम पर उपलब्ध नहीं है। उपलब्ध तर्कों के लिए निर्यात मोड देखें।

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/model.pt")  # Load an official model or custom model

# Export the model
model.export(format="edgetpu")

yolo export model=path/to/model.pt format=edgetpu  # Export an official model or custom model

निर्यात किए गए मॉडल को में सहेजा जाएगा <model_name>_saved_model/ नाम के साथ फ़ोल्डर <model_name>_full_integer_quant_edgetpu.tflite.

मॉडल चलाना

अपने मॉडल को निर्यात करने के बाद, आप निम्न कोड का उपयोग करके इसके साथ अनुमान चला सकते हैं:

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/edgetpu_model.tflite")  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")

yolo predict model=path/to/edgetpu_model.tflite source=path/to/source.png  # Load an official model or custom model

पूर्ण भविष्यवाणी मोड विवरण के लिए भविष्यवाणी पृष्ठ पर व्यापक जानकारी प्राप्त करें।

pip uninstall tensorflow tensorflow-aarch64

pip install -U tflite-runtime

अक्सर पूछे जाने वाले प्रश्न

कोरल एज क्या है TPU और यह रास्पबेरी पाई के प्रदर्शन को कैसे बढ़ाता है Ultralytics YOLOv8?

कोरल एज TPU एक कॉम्पैक्ट डिवाइस है जिसे एज जोड़ने के लिए डिज़ाइन किया गया है TPU आपके सिस्टम के लिए कोप्रोसेसर। यह कोप्रोसेसर कम-शक्ति, उच्च-प्रदर्शन मशीन सीखने के अनुमान को सक्षम बनाता है, विशेष रूप से अनुकूलित TensorFlow लाइट मॉडल। रास्पबेरी पाई का उपयोग करते समय, एज TPU एमएल मॉडल अनुमान को तेज करता है, विशेष रूप से प्रदर्शन को महत्वपूर्ण रूप से बढ़ाता है Ultralytics YOLOv8 मॉडल। आप कोरल एज के बारे में अधिक पढ़ सकते हैं TPU उनके होम पेज पर।

मैं कोरल एज कैसे स्थापित करूं TPU रास्पबेरी पाई पर रनटाइम?

कोरल एज स्थापित करने के लिए TPU अपने रास्पबेरी पाई पर रनटाइम, उपयुक्त डाउनलोड करें .deb से अपने रास्पबेरी पाई ओएस संस्करण के लिए पैकेज यह लिंक. एक बार डाउनलोड हो जाने के बाद, इसे स्थापित करने के लिए निम्न कमांड का उपयोग करें:

sudo dpkg -i path/to/package.deb

किसी भी पिछले कोरल एज की स्थापना रद्द करना सुनिश्चित करें TPU स्थापना वॉकथ्रू अनुभाग में दिए गए चरणों का पालन करके रनटाइम संस्करण।

क्या मैं अपना निर्यात कर सकता हूं Ultralytics YOLOv8 कोरल एज के साथ संगत होने के लिए मॉडल TPU?

हाँ, आप अपना निर्यात कर सकते हैं Ultralytics YOLOv8 कोरल एज के साथ संगत होने के लिए मॉडल TPU. पर निर्यात करने की सिफारिश की जाती है Google कोलाब, एक x86_64 लिनक्स मशीन, या Ultralytics डॉकर कंटेनर। आप भी उपयोग कर सकते हैं Ultralytics निर्यात के लिए हब। यहां बताया गया है कि आप अपने मॉडल का उपयोग करके कैसे निर्यात कर सकते हैं Python और CLI:

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/model.pt")  # Load an official model or custom model

# Export the model
model.export(format="edgetpu")

yolo export model=path/to/model.pt format=edgetpu  # Export an official model or custom model

अधिक जानकारी के लिए, निर्यात मोड दस्तावेज़ीकरण देखें।

मुझे क्या करना चाहिए अगर TensorFlow मेरे रास्पबेरी पाई पर पहले से ही स्थापित है लेकिन मैं इसके बजाय टफ्लिट-रनटाइम का उपयोग करना चाहता हूं?

यदि आपके पास है TensorFlow अपने रास्पबेरी पाई पर स्थापित है और करने के लिए स्विच करने की आवश्यकता है tflite-runtime, आपको अनइंस्टॉल करना होगा TensorFlow पहले का उपयोग कर:

pip uninstall tensorflow tensorflow-aarch64

फिर, स्थापित या अद्यतन करें tflite-runtime निम्न आदेश के साथ:

pip install -U tflite-runtime

एक विशिष्ट पहिया के लिए, जैसे TensorFlow 2.15.0 tflite-runtime, आप इसे यहां से डाउनलोड कर सकते हैं यह लिंक और इसका उपयोग करके इसे स्थापित करें pip. विस्तृत निर्देश मॉडल चलाने पर अनुभाग में उपलब्ध हैं मॉडल चलाना.

मैं निर्यात के साथ अनुमान कैसे चलाऊं YOLOv8 कोरल एज का उपयोग करके रास्पबेरी पाई पर मॉडल TPU?

अपना निर्यात करने के बाद YOLOv8 एक किनारे के लिए मॉडल TPU-संगत प्रारूप, आप निम्न कोड स्निपेट का उपयोग करके अनुमान चला सकते हैं:

from ultralytics import YOLO

# Load a model
model = YOLO("path/to/edgetpu_model.tflite")  # Load an official model or custom model

# Run Prediction
model.predict("path/to/source.png")

yolo predict model=path/to/edgetpu_model.tflite source=path/to/source.png  # Load an official model or custom model

पूर्ण भविष्यवाणी मोड सुविधाओं पर व्यापक विवरण भविष्यवाणी पृष्ठ पर पाया जा सकता है।

टिप्पणियाँ