Lernen Sie, wie Sie aus einem YOLO11-Modell in das TFLite Edge TPU-Format exportieren

Das Bereitstellen von Computer-Vision-Modellen auf Geräten mit begrenzter Rechenleistung, wie z. B. mobilen oder eingebetteten Systemen, kann schwierig sein. Die Verwendung eines Modellformats, das für eine schnellere Leistung optimiert ist, vereinfacht den Prozess. Das TensorFlow Lite Edge TPU oder TFLite Edge TPU-Modellformat ist so konzipiert, dass es minimalen Strom verbraucht und gleichzeitig eine schnelle Leistung für neuronale Netze bietet.

Die Funktion zum Exportieren in das TFLite Edge TPU-Format ermöglicht es Ihnen, Ihre Ultralytics YOLO11-Modelle für High-Speed- und Low-Power-Inferencing zu optimieren. In diesem Leitfaden führen wir Sie durch die Konvertierung Ihrer Modelle in das TFLite Edge TPU-Format, um die Leistung Ihrer Modelle auf verschiedenen mobilen und eingebetteten Geräten zu verbessern.

Warum sollten Sie in TFLite Edge TPU exportieren?

Das Exportieren von Modellen in TensorFlow Edge TPU macht Machine-Learning-Aufgaben schnell und effizient. Diese Technologie eignet sich für Anwendungen mit begrenzter Leistung, Rechenressourcen und Konnektivität. Die Edge TPU ist ein Hardwarebeschleuniger von Google. Sie beschleunigt TensorFlow Lite-Modelle auf Edge-Geräten. Das Bild unten zeigt ein Beispiel für den beteiligten Prozess.

Die Edge TPU arbeitet mit quantisierten Modellen. Die Quantisierung macht Modelle kleiner und schneller, ohne viel Genauigkeit zu verlieren. Sie ist ideal für die begrenzten Ressourcen des Edge-Computing, da sie es Anwendungen ermöglicht, schnell zu reagieren, indem sie die Latenz reduziert und eine schnelle Datenverarbeitung lokal ermöglicht, ohne Cloud-Abhängigkeit. Die lokale Verarbeitung schützt auch die Privatsphäre und Sicherheit der Benutzerdaten, da diese nicht an einen Remote-Server gesendet werden.

Hauptmerkmale von TFLite Edge TPU

Hier sind die wichtigsten Funktionen, die TFLite Edge TPU zu einer ausgezeichneten Modellformatwahl für Entwickler machen:

• Optimierte Leistung auf Edge-Geräten: Die TFLite Edge TPU erzielt eine Hochgeschwindigkeits-Performance für neuronale Netze durch Quantisierung, Modelloptimierung, Hardwarebeschleunigung und Compiler-Optimierung. Ihre minimalistische Architektur trägt zu ihrer geringeren Größe und Kosteneffizienz bei.

• Hoher Rechen-Durchsatz: TFLite Edge TPU kombiniert spezialisierte Hardwarebeschleunigung und effiziente Laufzeitausführung, um einen hohen Rechen-Durchsatz zu erzielen. Sie eignet sich gut für die Bereitstellung von Machine-Learning-Modellen mit strengen Leistungsanforderungen auf Edge-Geräten.

• Effiziente Matrixberechnungen: Die TensorFlow Edge TPU ist für Matrixoperationen optimiert, die für neuronale Netzwerk-Berechnungen entscheidend sind. Diese Effizienz ist der Schlüssel in Machine-Learning-Modellen, insbesondere solchen, die zahlreiche und komplexe Matrixmultiplikationen und -transformationen erfordern.

Bereitstellungsoptionen mit TFLite Edge TPU

Bevor wir uns damit beschäftigen, wie man YOLO11-Modelle in das TFLite Edge TPU-Format exportiert, wollen wir verstehen, wo TFLite Edge TPU-Modelle üblicherweise eingesetzt werden.

TFLite Edge TPU bietet verschiedene Bereitstellungsoptionen für Machine-Learning-Modelle, darunter:

• On-Device-Bereitstellung: TensorFlow Edge TPU-Modelle können direkt auf mobilen und eingebetteten Geräten bereitgestellt werden. Die On-Device-Bereitstellung ermöglicht die Ausführung der Modelle direkt auf der Hardware, wodurch die Notwendigkeit einer Cloud-Konnektivität entfällt.

• Edge-Computing mit Cloud TensorFlow TPUs: In Szenarien, in denen Edge-Geräte über begrenzte Verarbeitungskapazitäten verfügen, können TensorFlow Edge TPUs Inferenzaufgaben an Cloud-Server auslagern, die mit TPUs ausgestattet sind.

• Hybride Bereitstellung: Ein hybrider Ansatz kombiniert On-Device- und Cloud-Bereitstellung und bietet eine vielseitige und skalierbare Lösung für die Bereitstellung von Machine-Learning-Modellen. Zu den Vorteilen gehören die On-Device-Verarbeitung für schnelle Antworten und Cloud-Computing für komplexere Berechnungen.

Exportieren von YOLO11-Modellen in TFLite Edge TPU

Sie können die Modellkompatibilität und Bereitstellungsflexibilität erweitern, indem Sie YOLO11-Modelle in TensorFlow Edge TPU konvertieren.

Installation

Um das erforderliche Paket zu installieren, führen Sie Folgendes aus:

# Install the required package for YOLO11
pip install ultralytics

Detaillierte Anweisungen und Best Practices zum Installationsprozess finden Sie in unserem Ultralytics Installationshandbuch. Wenn Sie bei der Installation der erforderlichen Pakete für YOLO11 auf Schwierigkeiten stoßen, konsultieren Sie unser Handbuch zu häufigen Problemen für Lösungen und Tipps.

Nutzung

Alle Ultralytics YOLO11 Modelle sind so konzipiert, dass sie den Export standardmäßig unterstützen, wodurch die Integration in Ihren bevorzugten Deployment-Workflow vereinfacht wird. Sie können die vollständige Liste der unterstützten Exportformate und Konfigurationsoptionen anzeigen, um das beste Setup für Ihre Anwendung auszuwählen.

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Export-Argumente

Weitere Informationen zum Exportprozess finden Sie auf der Ultralytics-Dokumentationsseite zum Exportieren.

Bereitstellung exportierter YOLO11 TFLite Edge TPU-Modelle

Nachdem Sie Ihre Ultralytics YOLO11-Modelle erfolgreich in das TFLite Edge TPU-Format exportiert haben, können Sie sie nun bereitstellen. Der primäre und empfohlene erste Schritt zum Ausführen eines TFLite Edge TPU-Modells ist die Verwendung der YOLO("model_edgetpu.tflite")-Methode, wie im vorherigen Code-Snippet zur Verwendung beschrieben.

Für detaillierte Anweisungen zur Bereitstellung Ihrer TFLite Edge TPU-Modelle sehen Sie sich jedoch die folgenden Ressourcen an:

• Coral Edge TPU auf einem Raspberry Pi mit Ultralytics YOLO11: Entdecken Sie, wie Sie Coral Edge TPUs mit Raspberry Pi für verbesserte Machine-Learning-Funktionen integrieren können.

• Code-Beispiele: Greifen Sie auf praktische TensorFlow Edge TPU-Bereitstellungsbeispiele zu, um Ihre Projekte zu starten.

• Inferenz auf der Edge TPU mit Python ausführen: Erfahren Sie, wie Sie die TensorFlow Lite python API für Edge TPU-Anwendungen verwenden, einschließlich Setup- und Nutzungsrichtlinien.

Zusammenfassung

In diesem Leitfaden haben wir gelernt, wie man Ultralytics YOLO11-Modelle in das TFLite Edge TPU-Format exportiert. Wenn Sie die oben genannten Schritte befolgen, können Sie die Geschwindigkeit und Leistung Ihrer Computer Vision-Anwendungen steigern.

Weitere Informationen zur Verwendung finden Sie auf der offiziellen Edge TPU-Website.

Weitere Informationen zu anderen Ultralytics YOLO11-Integrationen finden Sie auf unserer Seite mit Integrationsanleitungen. Dort finden Sie wertvolle Ressourcen und Einblicke.

FAQ

Wie exportiere ich ein YOLO11-Modell in das TFLite Edge TPU-Format?

Um ein YOLO11-Modell in das TFLite Edge TPU-Format zu exportieren, können Sie die folgenden Schritte ausführen:

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Vollständige Informationen zum Exportieren von Modellen in andere Formate finden Sie in unserem Exportleitfaden.

Welche Vorteile bietet das Exportieren von YOLO11-Modellen in TFLite Edge TPU?

Das Exportieren von YOLO11-Modellen in TFLite Edge TPU bietet mehrere Vorteile:

• Optimierte Leistung: Erzielen Sie eine High-Speed-Performance des neuronalen Netzes bei minimalem Stromverbrauch.
• Reduzierte Latenz: Schnelle lokale Datenverarbeitung ohne Cloud-Abhängigkeit.
• Erhöhter Datenschutz: Die lokale Verarbeitung schützt die Privatsphäre und Sicherheit der Benutzerdaten.

Dies macht es ideal für Anwendungen im Edge Computing, wo Geräte nur über begrenzte Leistungs- und Rechenressourcen verfügen. Erfahren Sie mehr darüber, warum Sie exportieren sollten.

Kann ich TFLite Edge TPU-Modelle auf mobilen und eingebetteten Geräten bereitstellen?

Ja, TensorFlow Lite Edge TPU-Modelle können direkt auf mobilen Geräten und Embedded-Geräten eingesetzt werden. Dieser Bereitstellungsansatz ermöglicht die direkte Ausführung von Modellen auf der Hardware, was eine schnellere und effizientere Inferenz ermöglicht. Beispiele für die Integration finden Sie in unserem Leitfaden zur Bereitstellung von Coral Edge TPU auf Raspberry Pi.

Was sind einige häufige Anwendungsfälle für TFLite Edge TPU-Modelle?

Häufige Anwendungsfälle für TFLite Edge TPU-Modelle sind:

• Smarte Kameras: Verbesserung der Echtzeit-Bild- und Videoanalyse.
• IoT-Geräte: Ermöglichen von Smart Home und industrieller Automatisierung.
• Gesundheitswesen: Beschleunigung der medizinischen Bildgebung und Diagnostik.
• Einzelhandel: Verbesserung des Bestandsmanagements und der Analyse des Kundenverhaltens.

Diese Anwendungen profitieren von der hohen Leistung und dem geringen Stromverbrauch von TFLite Edge TPU-Modellen. Entdecken Sie mehr über Anwendungsszenarien.

Wie kann ich Probleme beim Exportieren oder Bereitstellen von TFLite Edge TPU-Modellen beheben?

Wenn Sie beim Exportieren oder Bereitstellen von TFLite Edge TPU-Modellen auf Probleme stoßen, finden Sie in unserem Leitfaden zu häufigen Problemen Tipps zur Fehlerbehebung. Dieser Leitfaden behandelt häufige Probleme und Lösungen, die Ihnen helfen, einen reibungslosen Betrieb zu gewährleisten. Für zusätzlichen Support besuchen Sie unser Hilfezentrum.

📅 Vor 1 Jahr erstellt ✏️ Vor 5 Monaten aktualisiert

Kommentare