पर एक गाइड YOLOv8 परिनियोजन के लिए TFLite को मॉडल निर्यात

किनारे के उपकरणों या एम्बेडेड उपकरणों पर कंप्यूटर दृष्टि मॉडल को तैनात करने के लिए एक प्रारूप की आवश्यकता होती है जो सहज प्रदर्शन सुनिश्चित कर सके।

वही TensorFlow लाइट या TFLite निर्यात प्रारूप आपको अपना अनुकूलन करने की अनुमति देता है Ultralytics YOLOv8 एज डिवाइस-आधारित अनुप्रयोगों में ऑब्जेक्ट डिटेक्शन और छवि वर्गीकरण जैसे कार्यों के लिए मॉडल। इस गाइड में, हम आपके मॉडल को TFLite प्रारूप में बदलने के चरणों के माध्यम से चलेंगे, जिससे आपके मॉडल के लिए विभिन्न किनारे वाले उपकरणों पर अच्छा प्रदर्शन करना आसान हो जाएगा।

आपको TFLite को निर्यात क्यों करना चाहिए?

Google द्वारा मई 2017 में उनके हिस्से के रूप में पेश किया गया TensorFlow ढांचा TensorFlow लाइट, या संक्षेप में TFLite, एक ओपन-सोर्स डीप लर्निंग फ्रेमवर्क है जिसे ऑन-डिवाइस अनुमान के लिए डिज़ाइन किया गया है, जिसे एज कंप्यूटिंग के रूप में भी जाना जाता है। यह डेवलपर्स को मोबाइल, एम्बेडेड और IoT उपकरणों के साथ-साथ पारंपरिक कंप्यूटरों पर अपने प्रशिक्षित मॉडल को निष्पादित करने के लिए आवश्यक उपकरण देता है।

TensorFlow लाइट प्लेटफार्मों की एक विस्तृत श्रृंखला के साथ संगत है, जिसमें एम्बेडेड लिनक्स, एंड्रॉइड, आईओएस और एमसीयू शामिल हैं। अपने मॉडल को TFLite में निर्यात करने से आपके एप्लिकेशन तेज़, अधिक विश्वसनीय और ऑफ़लाइन चलने में सक्षम हो जाते हैं।

TFLite मॉडल की मुख्य विशेषताएं

TFLite मॉडल प्रमुख विशेषताओं की एक विस्तृत श्रृंखला प्रदान करते हैं जो डेवलपर्स को मोबाइल, एम्बेडेड और एज डिवाइस पर अपने मॉडल चलाने में मदद करके ऑन-डिवाइस मशीन लर्निंग को सक्षम करते हैं:

• ऑन-डिवाइस ऑप्टिमाइज़ेशन: TFLite ऑन-डिवाइस ML के लिए ऑप्टिमाइज़ करता है, स्थानीय रूप से डेटा को प्रोसेस करके विलंबता को कम करता है, व्यक्तिगत डेटा संचारित न करके गोपनीयता बढ़ाता है, और स्थान बचाने के लिए मॉडल का आकार कम करता है।

• एकाधिक प्लेटफ़ॉर्म समर्थन: TFLite व्यापक प्लेटफ़ॉर्म संगतता प्रदान करता है, Android, iOS, एम्बेडेड Linux और माइक्रोकंट्रोलर का समर्थन करता है।

• विविध भाषा समर्थन: TFLite जावा, स्विफ्ट, उद्देश्य-C, C++ और सहित विभिन्न प्रोग्रामिंग भाषाओं के साथ संगत है Python.

• उच्च प्रदर्शन: हार्डवेयर त्वरण और मॉडल अनुकूलन के माध्यम से बेहतर प्रदर्शन प्राप्त करता है।

TFLite में परिनियोजन विकल्प

इससे पहले कि हम निर्यात के लिए कोड देखें YOLOv8 TFLite प्रारूप के मॉडल, आइए समझते हैं कि TFLite मॉडल सामान्य रूप से कैसे उपयोग किए जाते हैं।

TFLite मशीन लर्निंग मॉडल के लिए विभिन्न ऑन-डिवाइस परिनियोजन विकल्प प्रदान करता है, जिनमें शामिल हैं:

• Android और iOS के साथ तैनाती: TFLite के साथ Android और iOS दोनों एप्लिकेशन वस्तुओं का पता लगाने और पहचानने के लिए एज-आधारित कैमरा फीड और सेंसर का विश्लेषण कर सकते हैं। TFLite स्विफ्ट और ऑब्जेक्टिव-सी में लिखी गई देशी iOS लाइब्रेरी भी प्रदान करता है। नीचे दिया गया आर्किटेक्चर आरेख एंड्रॉइड और आईओएस प्लेटफॉर्म पर एक प्रशिक्षित मॉडल को तैनात करने की प्रक्रिया को दर्शाता है TensorFlow लाइट।

• एंबेडेड लिनक्स के साथ कार्यान्वयन: यदि रास्पबेरी पाई पर चल रहे अनुमान Ultralytics गाइड आपके उपयोग के मामले के लिए गति आवश्यकताओं को पूरा नहीं करता है, आप अनुमान समय में तेजी लाने के लिए निर्यात किए गए TFLite मॉडल का उपयोग कर सकते हैं। इसके अतिरिक्त, एक का उपयोग करके प्रदर्शन को और बेहतर बनाना संभव है कोरल एज TPU उपकरण।

• माइक्रोकंट्रोलर के साथ तैनाती: TFLite मॉडल को माइक्रोकंट्रोलर और अन्य उपकरणों पर केवल कुछ किलोबाइट मेमोरी के साथ भी तैनात किया जा सकता है। कोर रनटाइम सिर्फ आर्म कॉर्टेक्स एम 16 पर 3 केबी में फिट बैठता है और कई बुनियादी मॉडल चला सकता है। इसके लिए ऑपरेटिंग सिस्टम समर्थन, किसी भी मानक सी या सी ++ पुस्तकालयों, या गतिशील मेमोरी आवंटन की आवश्यकता नहीं है।

TFLite में निर्यात करें: अपना परिवर्तित करना YOLOv8 को गढ़ना

आप ऑन-डिवाइस मॉडल निष्पादन दक्षता में सुधार कर सकते हैं और उन्हें TFLite प्रारूप में परिवर्तित करके प्रदर्शन का अनुकूलन कर सकते हैं।

संस्थापन

आवश्यक पैकेज स्थापित करने के लिए, चलाएं:

# Install the required package for YOLOv8
pip install ultralytics

स्थापना प्रक्रिया से संबंधित विस्तृत निर्देशों और सर्वोत्तम प्रथाओं के लिए, हमारी जाँच करें Ultralytics इंस्टालेशन गाइड। के लिए आवश्यक पैकेज स्थापित करते समय YOLOv8, अगर आपको कोई कठिनाई आती है, तो समाधान और सुझावों के लिए हमारी सामान्य समस्याएं मार्गदर्शिका देखें.

उपयोग

उपयोग के निर्देशों में गोता लगाने से पहले, यह ध्यान रखना महत्वपूर्ण है कि सभी Ultralytics YOLOv8 मॉडल निर्यात के लिए उपलब्ध हैं, आप यह सुनिश्चित कर सकते हैं कि आपके द्वारा चुना गया मॉडल यहां निर्यात कार्यक्षमता का समर्थन करता है।

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO('yolov8n.pt')

# Export the model to TFLite format
model.export(format='tflite') # creates 'yolov8n_float32.tflite'

# Load the exported TFLite model
tflite_model = YOLO('yolov8n_float32.tflite')

# Run inference
results = tflite_model('https://ultralytics.com/images/bus.jpg')

# Export a YOLOv8n PyTorch model to TFLite format
yolo export model=yolov8n.pt format=tflite  # creates 'yolov8n_float32.tflite'

# Run inference with the exported model
yolo predict model='yolov8n_float32.tflite' source='https://ultralytics.com/images/bus.jpg'

निर्यात प्रक्रिया के बारे में अधिक जानकारी के लिए, पर जाएँ Ultralytics निर्यात पर प्रलेखन पृष्ठ।

निर्यात की गई तैनाती YOLOv8 TFLite मॉडल

सफलतापूर्वक निर्यात करने के बाद आपका Ultralytics YOLOv8 TFLite प्रारूप के लिए मॉडल, अब आप उन्हें तैनात कर सकते हैं। TFLite मॉडल चलाने के लिए प्राथमिक और अनुशंसित पहला कदम YOLO("model.tflite") विधि, जैसा कि पिछले उपयोग कोड स्निपेट में उल्लिखित है। हालाँकि, अपने TFLite मॉडल को विभिन्न अन्य सेटिंग्स में परिनियोजित करने के गहन निर्देशों के लिए, निम्नलिखित संसाधनों पर एक नज़र डालें:

• एंड्रॉइड: एकीकृत करने के लिए एक त्वरित शुरुआत गाइड TensorFlow एंड्रॉइड एप्लिकेशन में लाइट, मशीन लर्निंग मॉडल स्थापित करने और चलाने के लिए आसान-से-पालन चरण प्रदान करता है।

• आईओएस: डेवलपर्स को एकीकृत करने और तैनात करने के लिए इस विस्तृत मार्गदर्शिका को देखें TensorFlow IOS अनुप्रयोगों में लाइट मॉडल, चरण-दर-चरण निर्देश और संसाधन प्रदान करते हैं।

• एंड-टू-एंड उदाहरण: यह पृष्ठ विभिन्न का अवलोकन प्रदान करता है TensorFlow लाइट उदाहरण, डेवलपर्स को लागू करने में मदद करने के लिए डिज़ाइन किए गए व्यावहारिक अनुप्रयोगों और ट्यूटोरियल को प्रदर्शित करते हैं TensorFlow मोबाइल और एज डिवाइस पर अपनी मशीन लर्निंग परियोजनाओं में लाइट।

सारांश

इस गाइड में, हमने TFLite प्रारूप में निर्यात करने के तरीके पर ध्यान केंद्रित किया। अपने परिवर्तित करके Ultralytics YOLOv8 TFLite मॉडल प्रारूप के लिए मॉडल, आप की दक्षता और गति में सुधार कर सकते हैं YOLOv8 मॉडल, उन्हें एज कंप्यूटिंग वातावरण के लिए अधिक प्रभावी और उपयुक्त बनाते हैं।

उपयोग के बारे में अधिक जानकारी के लिए, TFLite के आधिकारिक दस्तावेज़ पर जाएँ।

इसके अलावा, यदि आप अन्य के बारे में उत्सुक हैं Ultralytics YOLOv8 एकीकरण, हमारे एकीकरण गाइड पृष्ठ को देखना सुनिश्चित करें। आपको वहां ढेर सारी उपयोगी जानकारी और अंतर्दृष्टि आपकी प्रतीक्षा कर रही होगी।

टिप्पणियाँ