TFLite Edge में निर्यात करना सीखें TPU से प्रारूपित करें YOLOv8 को गढ़ना

सीमित कम्प्यूटेशनल पावर, जैसे मोबाइल या एम्बेडेड सिस्टम वाले उपकरणों पर कंप्यूटर विज़न मॉडल तैनात करना मुश्किल हो सकता है। तेजी से प्रदर्शन के लिए अनुकूलित मॉडल प्रारूप का उपयोग करना प्रक्रिया को सरल बनाता है। वही TensorFlow लाइट किनारा TPU या TFLite एज TPU मॉडल प्रारूप को तंत्रिका नेटवर्क के लिए तेजी से प्रदर्शन प्रदान करते समय न्यूनतम शक्ति का उपयोग करने के लिए डिज़ाइन किया गया है।

TFLite Edge को निर्यात TPU प्रारूप सुविधा आपको अपने अनुकूलन की अनुमति देती है Ultralytics YOLOv8 उच्च गति और कम शक्ति के अनुमान के लिए मॉडल। इस गाइड में, हम आपको अपने मॉडलों को TFLite Edge में बदलने के बारे में बताएंगे TPU प्रारूप, आपके मॉडल के लिए विभिन्न मोबाइल और एम्बेडेड उपकरणों पर अच्छा प्रदर्शन करना आसान बनाता है।

आपको TFLite Edge को निर्यात क्यों करना चाहिए TPU?

करने के लिए निर्यात मॉडल TensorFlow किनारा TPU मशीन सीखने के कार्यों को तेज और कुशल बनाता है। यह तकनीक सीमित शक्ति, कंप्यूटिंग संसाधनों और कनेक्टिविटी वाले अनुप्रयोगों के अनुकूल है। धार TPU Google द्वारा एक हार्डवेयर त्वरक है। यह गति बढ़ाता है TensorFlow किनारे के उपकरणों पर लाइट मॉडल। नीचे दी गई छवि शामिल प्रक्रिया का एक उदाहरण दिखाती है।

धार TPU मात्रात्मक मॉडल के साथ काम करता है। परिमाणीकरण बहुत सटीकता खोने के बिना मॉडल को छोटा और तेज बनाता है। यह एज कंप्यूटिंग के सीमित संसाधनों के लिए आदर्श है, जिससे अनुप्रयोगों को विलंबता को कम करके और क्लाउड निर्भरता के बिना स्थानीय रूप से त्वरित डेटा प्रोसेसिंग की अनुमति देकर जल्दी से प्रतिक्रिया करने की अनुमति मिलती है। स्थानीय प्रसंस्करण उपयोगकर्ता डेटा को निजी और सुरक्षित रखता है क्योंकि यह दूरस्थ सर्वर पर नहीं भेजा जाता है।

TFLite Edge की मुख्य विशेषताएं TPU

यहाँ प्रमुख विशेषताएं हैं जो TFLite Edge बनाती हैं TPU डेवलपर्स के लिए एक महान मॉडल प्रारूप विकल्प:

• एज डिवाइसेस पर अनुकूलित प्रदर्शन: टीएफलाइट एज TPU परिमाणीकरण, मॉडल अनुकूलन, हार्डवेयर त्वरण और कंपाइलर अनुकूलन के माध्यम से उच्च गति तंत्रिका नेटवर्किंग प्रदर्शन प्राप्त करता है। इसकी न्यूनतर वास्तुकला इसके छोटे आकार और लागत-दक्षता में योगदान देती है।

• उच्च कम्प्यूटेशनल थ्रूपुट: TFLite एज TPU उच्च कम्प्यूटेशनल थ्रूपुट प्राप्त करने के लिए विशेष हार्डवेयर त्वरण और कुशल रनटाइम निष्पादन को जोड़ती है। यह किनारे के उपकरणों पर कड़े प्रदर्शन आवश्यकताओं के साथ मशीन लर्निंग मॉडल को तैनात करने के लिए अच्छी तरह से अनुकूल है।

• कुशल मैट्रिक्स संगणना: TensorFlow किनारा TPU मैट्रिक्स संचालन के लिए अनुकूलित है, जो तंत्रिका नेटवर्क गणना के लिए महत्वपूर्ण हैं। यह दक्षता मशीन लर्निंग मॉडल में महत्वपूर्ण है, विशेष रूप से उन लोगों को कई और जटिल मैट्रिक्स गुणा और परिवर्तनों की आवश्यकता होती है।

TFLite Edge के साथ परिनियोजन विकल्प TPU

इससे पहले कि हम निर्यात करने के तरीके में कूदें YOLOv8 TFLite Edge के लिए मॉडल TPU प्रारूप, आइए समझते हैं कि TFLite Edge कहां है TPU मॉडल आमतौर पर उपयोग किए जाते हैं।

टीलाइट एज TPU मशीन लर्निंग मॉडल के लिए विभिन्न परिनियोजन विकल्प प्रदान करता है, जिनमें शामिल हैं:

• ऑन-डिवाइस परिनियोजन: TensorFlow किनारा TPU मॉडल सीधे मोबाइल और एम्बेडेड उपकरणों पर तैनात किए जा सकते हैं। ऑन-डिवाइस परिनियोजन मॉडल को सीधे हार्डवेयर पर निष्पादित करने की अनुमति देता है, जिससे क्लाउड कनेक्टिविटी की आवश्यकता समाप्त हो जाती है।

• क्लाउड के साथ एज कंप्यूटिंग TensorFlow टीपीयू: उन परिदृश्यों में जहां एज डिवाइस में सीमित प्रसंस्करण क्षमताएं होती हैं, TensorFlow एज टीपीयू टीपीयू से लैस क्लाउड सर्वर पर अनुमान कार्यों को ऑफलोड कर सकते हैं।

• हाइब्रिड परिनियोजन: एक हाइब्रिड दृष्टिकोण ऑन-डिवाइस और क्लाउड परिनियोजन को जोड़ता है और मशीन लर्निंग मॉडल को तैनात करने के लिए एक बहुमुखी और स्केलेबल समाधान प्रदान करता है। लाभों में त्वरित प्रतिक्रियाओं के लिए ऑन-डिवाइस प्रोसेसिंग और अधिक जटिल संगणनाओं के लिए क्लाउड कंप्यूटिंग शामिल हैं।

निर्यात YOLOv8 TFLite Edge के मॉडल TPU

आप कनवर्ट करके मॉडल संगतता और परिनियोजन लचीलेपन का विस्तार कर सकते हैं YOLOv8 करने के लिए मॉडल TensorFlow किनारा TPU.

संस्थापन

आवश्यक पैकेज स्थापित करने के लिए, चलाएं:

# Install the required package for YOLOv8
pip install ultralytics

स्थापना प्रक्रिया से संबंधित विस्तृत निर्देशों और सर्वोत्तम प्रथाओं के लिए, हमारी जाँच करें Ultralytics इंस्टालेशन गाइड। के लिए आवश्यक पैकेज स्थापित करते समय YOLOv8, अगर आपको कोई कठिनाई आती है, तो समाधान और सुझावों के लिए हमारी सामान्य समस्याएं मार्गदर्शिका देखें.

उपयोग

उपयोग के निर्देशों में गोता लगाने से पहले, यह ध्यान रखना महत्वपूर्ण है कि सभी Ultralytics YOLOv8 मॉडल निर्यात के लिए उपलब्ध हैं, आप यह सुनिश्चित कर सकते हैं कि आपके द्वारा चुना गया मॉडल यहां निर्यात कार्यक्षमता का समर्थन करता है।

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO('yolov8n.pt')

# Export the model to TFLite Edge TPU format
model.export(format='edgetpu')  # creates 'yolov8n_full_integer_quant_edgetpu.tflite’

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO('yolov8n_full_integer_quant_edgetpu.tflite')

# Run inference
results = edgetpu_model('https://ultralytics.com/images/bus.jpg')

# Export a YOLOv8n PyTorch model to TFLite Edge TPU format
yolo export model=yolov8n.pt format=edgetpu  # creates 'yolov8n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolov8n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

समर्थित निर्यात विकल्पों के बारे में अधिक जानकारी के लिए, पर जाएँ Ultralytics परिनियोजन विकल्पों पर प्रलेखन पृष्ठ।

निर्यात की गई तैनाती YOLOv8 टीलाइट एज TPU मॉडल

सफलतापूर्वक निर्यात करने के बाद आपका Ultralytics YOLOv8 TFLite Edge के लिए मॉडल TPU प्रारूप, अब आप उन्हें तैनात कर सकते हैं। TFLite Edge चलाने के लिए प्राथमिक और अनुशंसित पहला कदम TPU मॉडल का उपयोग करना है YOLO("model_edgetpu.tflite") विधि, जैसा कि पिछले उपयोग कोड स्निपेट में उल्लिखित है।

हालाँकि, अपने TFLite Edge को परिनियोजित करने के गहन निर्देशों के लिए TPU मॉडल, निम्नलिखित संसाधनों पर एक नज़र डालें:

• कोरल एज TPU के साथ एक रास्पबेरी पाई पर Ultralytics YOLOv8: उन्नत मशीन सीखने की क्षमताओं के लिए रास्पबेरी पाई के साथ कोरल एज टीपीयू को एकीकृत करने का तरीका जानें।

• कोड उदाहरण: व्यावहारिक पहुँच TensorFlow किनारा TPU अपनी परियोजनाओं को किकस्टार्ट करने के लिए परिनियोजन उदाहरण।

• किनारे पर अनुमान चलाएं TPU के साथ Python: अन्वेषण करें कि कैसे उपयोग करें TensorFlow लाइट Python एज के लिए एपीआई TPU एप्लिकेशन, सेटअप और उपयोग दिशानिर्देशों सहित।

सारांश

इस गाइड में, हमने सीखा है कि निर्यात कैसे करें Ultralytics YOLOv8 TFLite Edge के लिए मॉडल TPU प्रारूप। ऊपर बताए गए चरणों का पालन करके, आप अपने कंप्यूटर विज़न अनुप्रयोगों की गति और शक्ति बढ़ा सकते हैं।

उपयोग के बारे में अधिक जानकारी के लिए, पर जाएँ किनारा TPU आधिकारिक वेबसाइट।

इसके अलावा, अन्य के बारे में अधिक जानकारी के लिए Ultralytics YOLOv8 एकीकरण, कृपया हमारे एकीकरण गाइड पृष्ठ पर जाएं। वहां, आपको मूल्यवान संसाधन और अंतर्दृष्टि मिलेगी।

टिप्पणियाँ