सामग्री पर जाएं

TFLite Edge में निर्यात करना सीखें TPU से प्रारूपित करें YOLOv8 को गढ़ना

सीमित कम्प्यूटेशनल पावर, जैसे मोबाइल या एम्बेडेड सिस्टम वाले उपकरणों पर कंप्यूटर विज़न मॉडल तैनात करना मुश्किल हो सकता है। तेजी से प्रदर्शन के लिए अनुकूलित मॉडल प्रारूप का उपयोग करना प्रक्रिया को सरल बनाता है। वही TensorFlow लाइट किनारा TPU या TFLite एज TPU मॉडल प्रारूप को तंत्रिका नेटवर्क के लिए तेजी से प्रदर्शन प्रदान करते समय न्यूनतम शक्ति का उपयोग करने के लिए डिज़ाइन किया गया है।

TFLite Edge को निर्यात TPU प्रारूप सुविधा आपको अपने अनुकूलन की अनुमति देती है Ultralytics YOLOv8 उच्च गति और कम शक्ति के अनुमान के लिए मॉडल। इस गाइड में, हम आपको अपने मॉडलों को TFLite Edge में बदलने के बारे में बताएंगे TPU प्रारूप, आपके मॉडल के लिए विभिन्न मोबाइल और एम्बेडेड उपकरणों पर अच्छा प्रदर्शन करना आसान बनाता है।

आपको TFLite Edge को निर्यात क्यों करना चाहिए TPU?

करने के लिए मॉडल निर्यात TensorFlow किनारा TPU मशीन सीखने के कार्यों को तेज और कुशल बनाता है। यह तकनीक सीमित शक्ति, कंप्यूटिंग संसाधनों और कनेक्टिविटी वाले अनुप्रयोगों के अनुकूल है। किनारा TPU द्वारा एक हार्डवेयर त्वरक है Google. यह गति बढ़ाता है TensorFlow किनारे उपकरणों पर लाइट मॉडल। नीचे दी गई छवि शामिल प्रक्रिया का एक उदाहरण दिखाती है।

टीलाइट एज TPU

किनारा TPU मात्रात्मक मॉडल के साथ काम करता है। परिमाणीकरण बहुत सटीकता खोए बिना मॉडल को छोटा और तेज बनाता है। यह एज कंप्यूटिंग के सीमित संसाधनों के लिए आदर्श है, जिससे अनुप्रयोगों को विलंबता को कम करके और क्लाउड निर्भरता के बिना स्थानीय रूप से त्वरित डेटा प्रोसेसिंग की अनुमति देकर जल्दी से प्रतिक्रिया करने की अनुमति मिलती है। स्थानीय प्रसंस्करण उपयोगकर्ता डेटा को निजी और सुरक्षित रखता है क्योंकि यह दूरस्थ सर्वर पर नहीं भेजा जाता है।

TFLite Edge की मुख्य विशेषताएं TPU

यहाँ प्रमुख विशेषताएं हैं जो TFLite Edge बनाती हैं TPU डेवलपर्स के लिए एक महान मॉडल प्रारूप विकल्प:

  • एज डिवाइसेस पर अनुकूलित प्रदर्शन: टीएफलाइट एज TPU परिमाणीकरण, मॉडल अनुकूलन, हार्डवेयर त्वरण और कंपाइलर अनुकूलन के माध्यम से उच्च गति तंत्रिका नेटवर्किंग प्रदर्शन प्राप्त करता है। इसकी न्यूनतर वास्तुकला इसके छोटे आकार और लागत-दक्षता में योगदान देती है।

  • उच्च कम्प्यूटेशनल थ्रूपुट: TFLite एज TPU उच्च कम्प्यूटेशनल थ्रूपुट प्राप्त करने के लिए विशेष हार्डवेयर त्वरण और कुशल रनटाइम निष्पादन को जोड़ती है। यह किनारे के उपकरणों पर कड़े प्रदर्शन आवश्यकताओं के साथ मशीन लर्निंग मॉडल को तैनात करने के लिए अच्छी तरह से अनुकूल है।

  • कुशल मैट्रिक्स संगणना: TensorFlow किनारा TPU मैट्रिक्स संचालन के लिए अनुकूलित है, जो तंत्रिका नेटवर्क गणना के लिए महत्वपूर्ण हैं। यह दक्षता मशीन लर्निंग मॉडल में महत्वपूर्ण है, विशेष रूप से उन लोगों को कई और जटिल मैट्रिक्स गुणा और परिवर्तनों की आवश्यकता होती है।

TFLite Edge के साथ परिनियोजन विकल्प TPU

इससे पहले कि हम निर्यात करने के तरीके में कूदें YOLOv8 TFLite एज के लिए मॉडल TPU प्रारूप, आइए समझते हैं कि TFLite Edge कहां है TPU मॉडल आमतौर पर उपयोग किए जाते हैं।

टीलाइट एज TPU मशीन लर्निंग मॉडल के लिए विभिन्न परिनियोजन विकल्प प्रदान करता है, जिनमें शामिल हैं:

  • ऑन-डिवाइस परिनियोजन: TensorFlow किनारा TPU मॉडल सीधे मोबाइल और एम्बेडेड उपकरणों पर तैनात किए जा सकते हैं। ऑन-डिवाइस परिनियोजन मॉडल को सीधे हार्डवेयर पर निष्पादित करने की अनुमति देता है, जिससे क्लाउड कनेक्टिविटी की आवश्यकता समाप्त हो जाती है।

  • क्लाउड के साथ एज कंप्यूटिंग TensorFlow टीपीयू: उन परिदृश्यों में जहां एज डिवाइस में सीमित प्रसंस्करण क्षमताएं होती हैं, TensorFlow एज टीपीयू टीपीयू से लैस क्लाउड सर्वर पर अनुमान कार्यों को ऑफलोड कर सकते हैं।

  • हाइब्रिड परिनियोजन: एक हाइब्रिड दृष्टिकोण ऑन-डिवाइस और क्लाउड परिनियोजन को जोड़ता है और मशीन लर्निंग मॉडल को तैनात करने के लिए एक बहुमुखी और स्केलेबल समाधान प्रदान करता है। लाभों में त्वरित प्रतिक्रियाओं के लिए ऑन-डिवाइस प्रोसेसिंग और अधिक जटिल संगणनाओं के लिए क्लाउड कंप्यूटिंग शामिल हैं।

निर्यात YOLOv8 TFLite Edge के मॉडल TPU

आप कनवर्ट करके मॉडल संगतता और परिनियोजन लचीलेपन का विस्तार कर सकते हैं YOLOv8 करने के लिए मॉडल TensorFlow किनारा TPU.

संस्थापन

आवश्यक पैकेज स्थापित करने के लिए, चलाएं:

संस्थापन

# Install the required package for YOLOv8
pip install ultralytics

स्थापना प्रक्रिया से संबंधित विस्तृत निर्देशों और सर्वोत्तम प्रथाओं के लिए, हमारी जाँच करें Ultralytics इंस्टालेशन गाइड। के लिए आवश्यक पैकेज स्थापित करते समय YOLOv8, अगर आपको कोई कठिनाई आती है, तो समाधान और सुझावों के लिए हमारी सामान्य समस्याएं मार्गदर्शिका देखें.

उपयोग

उपयोग के निर्देशों में गोता लगाने से पहले, यह ध्यान रखना महत्वपूर्ण है कि सभी Ultralytics YOLOv8 मॉडल निर्यात के लिए उपलब्ध हैं, आप यह सुनिश्चित कर सकते हैं कि आपके द्वारा चुना गया मॉडल यहां निर्यात कार्यक्षमता का समर्थन करता है।

उपयोग

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO("yolov8n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolov8n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolov8n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLOv8n PyTorch model to TFLite Edge TPU format
yolo export model=yolov8n.pt format=edgetpu  # creates 'yolov8n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolov8n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

समर्थित निर्यात विकल्पों के बारे में अधिक जानकारी के लिए, पर जाएँ Ultralytics परिनियोजन विकल्पों पर प्रलेखन पृष्ठ

निर्यात की गई तैनाती YOLOv8 टीलाइट एज TPU मॉडल

सफलतापूर्वक निर्यात करने के बाद आपका Ultralytics YOLOv8 TFLite Edge के लिए मॉडल TPU प्रारूप, अब आप उन्हें तैनात कर सकते हैं। TFLite Edge चलाने के लिए प्राथमिक और अनुशंसित पहला कदम TPU मॉडल का उपयोग करना है YOLO("model_edgetpu.tflite") विधि, जैसा कि पिछले उपयोग कोड स्निपेट में उल्लिखित है।

हालाँकि, अपने TFLite Edge को परिनियोजित करने के गहन निर्देशों के लिए TPU मॉडल, निम्नलिखित संसाधनों पर एक नज़र डालें:

सारांश

इस गाइड में, हमने सीखा है कि निर्यात कैसे करें Ultralytics YOLOv8 TFLite Edge के लिए मॉडल TPU प्रारूप। ऊपर बताए गए चरणों का पालन करके, आप अपने कंप्यूटर विज़न एप्लिकेशन की गति और शक्ति बढ़ा सकते हैं।

उपयोग के बारे में अधिक जानकारी के लिए, पर जाएँ किनारा TPU आधिकारिक वेबसाइट

इसके अलावा, अन्य के बारे में अधिक जानकारी के लिए Ultralytics YOLOv8 एकीकरण, कृपया हमारे एकीकरण गाइड पृष्ठ पर जाएं। वहां, आपको मूल्यवान संसाधन और अंतर्दृष्टि मिलेगी।

अक्सर पूछे जाने वाले प्रश्न

मैं एक निर्यात कैसे करूं YOLOv8 TFLite एज के लिए मॉडल TPU प्रारूप?

एक निर्यात करने के लिए YOLOv8 TFLite एज के लिए मॉडल TPU प्रारूप, आप इन चरणों का पालन कर सकते हैं:

उपयोग

from ultralytics import YOLO

# Load the YOLOv8 model
model = YOLO("yolov8n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolov8n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolov8n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLOv8n PyTorch model to TFLite Edge TPU format
yolo export model=yolov8n.pt format=edgetpu  # creates 'yolov8n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolov8n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

मॉडल को अन्य प्रारूपों में निर्यात करने के बारे में पूरी जानकारी के लिए, हमारी निर्यात मार्गदर्शिका देखें।

निर्यात करने के क्या लाभ हैं YOLOv8 TFLite Edge के लिए मॉडल TPU?

निर्यात YOLOv8 TFLite Edge के लिए मॉडल TPU कई लाभ प्रदान करता है:

  • अनुकूलित प्रदर्शन: न्यूनतम बिजली की खपत के साथ उच्च गति तंत्रिका नेटवर्क प्रदर्शन प्राप्त करें।
  • कम विलंबता: क्लाउड निर्भरता की आवश्यकता के बिना त्वरित स्थानीय डेटा प्रोसेसिंग।
  • बढ़ी हुई गोपनीयता: स्थानीय प्रसंस्करण उपयोगकर्ता डेटा को निजी और सुरक्षित रखता है।

यह एज कंप्यूटिंग में अनुप्रयोगों के लिए आदर्श बनाता है, जहां उपकरणों में सीमित शक्ति और कम्प्यूटेशनल संसाधन होते हैं। इस बारे में अधिक जानें कि आपको निर्यात क्यों करना चाहिए.

क्या मैं TFLite Edge को परिनियोजित कर सकता हूँ TPU मोबाइल और एम्बेडेड उपकरणों पर मॉडल?

हाँ TensorFlow लाइट एज TPU मॉडल सीधे मोबाइल और एम्बेडेड उपकरणों पर तैनात किए जा सकते हैं। यह परिनियोजन दृष्टिकोण मॉडल को सीधे हार्डवेयर पर निष्पादित करने की अनुमति देता है, जो तेजी से और अधिक कुशल अनुमान प्रदान करता है। एकीकरण उदाहरणों के लिए, हमारी जांच करें कोरल एज को तैनात करने पर गाइड TPU रास्पबेरी पाई पर

TFLite Edge के लिए कुछ सामान्य उपयोग के मामले क्या हैं TPU मॉडल?

TFLite Edge के लिए सामान्य उपयोग के मामले TPU मॉडल में शामिल हैं:

  • स्मार्ट कैमरा: वास्तविक समय छवि और वीडियो विश्लेषण को बढ़ाना।
  • IoT डिवाइस: स्मार्ट होम और औद्योगिक स्वचालन को सक्षम करना।
  • स्वास्थ्य देखभाल: चिकित्सा इमेजिंग और निदान में तेजी लाना।
  • खुदरा: इन्वेंट्री प्रबंधन और ग्राहक व्यवहार विश्लेषण में सुधार।

इन अनुप्रयोगों को TFLite Edge के उच्च प्रदर्शन और कम बिजली की खपत से लाभ होता है TPU मॉडल। उपयोग परिदृश्यों के बारे में अधिक जानें।

मैं TFLite Edge को निर्यात या परिनियोजित करते समय समस्याओं का निवारण कैसे कर सकता हूँ TPU मॉडल?

यदि आप TFLite Edge को निर्यात या परिनियोजित करते समय समस्याओं का सामना करते हैं TPU मॉडल, समस्या निवारण युक्तियों के लिए हमारी सामान्य समस्याएं मार्गदर्शिका देखें। यह मार्गदर्शिका सुचारू संचालन सुनिश्चित करने में आपकी मदद करने के लिए सामान्य समस्याओं और समाधानों को शामिल करती है। अतिरिक्त सहायता के लिए, हमारे सहायता केंद्र पर जाएं.



बनाया गया 2024-03-13, अपडेट किया गया 2024-07-05
लेखक: ग्लेन-जोचर (5), बुरहान-क्यू (1), अबिरामी-वीना (1)

टिप्पणियाँ