Lernen Sie, wie man vom YOLO11 ins TFLite Edge TPU exportiert
Der Einsatz von Computer-Vision-Modellen auf Geräten mit begrenzter Rechenleistung, wie z. B. mobilen oder eingebetteten Systemen, kann sich als schwierig erweisen. Die Verwendung eines Modellformats, das für schnellere Leistung optimiert ist, vereinfacht diesen Prozess. Das TensorFlow LiteEdge TPU oder TFLite Edge TPU Modellformat wurde entwickelt, um minimalen Strom zu verbrauchen und gleichzeitig eine schnelle Leistung für neuronale Netzwerke zu liefern.
Die Funktion für den Export in das TFLite Edge TPU ermöglicht Ihnen die Optimierung Ihrer Ultralytics YOLO11 Modelle für Hochgeschwindigkeits- und stromsparendes Inferencing zu optimieren. In diesem Leitfaden zeigen wir Ihnen, wie Sie Ihre Modelle in das TFLite Edge TPU konvertieren, damit Ihre Modelle auf verschiedenen mobilen und eingebetteten Geräten gut funktionieren.
Warum sollten Sie zu TFLite Edge TPU exportieren?
Das Exportieren von Modellen in TensorFlow Edge TPU macht Machine-Learning-Aufgaben schnell und effizient. Diese Technologie eignet sich für Anwendungen mit begrenzter Leistung, Rechenressourcen und Konnektivität. Die Edge TPU ist ein Hardwarebeschleuniger von Google. Sie beschleunigt TensorFlow Lite-Modelle auf Edge-Geräten. Das Bild unten zeigt ein Beispiel für den beteiligten Prozess.
Die Edge TPU arbeitet mit quantisierten Modellen. Die Quantisierung macht Modelle kleiner und schneller, ohne viel Genauigkeit zu verlieren. Sie ist ideal für die begrenzten Ressourcen des Edge-Computing, da sie es Anwendungen ermöglicht, schnell zu reagieren, indem sie die Latenz reduziert und eine schnelle Datenverarbeitung lokal ermöglicht, ohne Cloud-Abhängigkeit. Die lokale Verarbeitung schützt auch die Privatsphäre und Sicherheit der Benutzerdaten, da diese nicht an einen Remote-Server gesendet werden.
Hauptmerkmale von TFLite Edge TPU
Hier sind die wichtigsten Merkmale, die TFLite Edge TPU zu einem hervorragenden Modellformat für Entwickler machen:
Optimierte Leistung auf Edge-Geräten: Die TFLite Edge TPU erreicht durch Quantisierung, Modelloptimierung, Hardware-Beschleunigung und Compiler-Optimierung eine Hochgeschwindigkeitsleistung für neuronale Netzwerke. Ihre minimalistische Architektur trägt zu ihrer geringen Größe und Kosteneffizienz bei.
Hoher Rechendurchsatz: Die TFLite Edge TPU kombiniert spezialisierte Hardwarebeschleunigung und effiziente Laufzeitausführung, um einen hohen Rechendurchsatz zu erzielen. Sie eignet sich gut für den Einsatz von Machine-Learning-Modellen mit strengen Leistungsanforderungen auf Edge-Geräten.
Effiziente Matrixberechnungen: Die TensorFlow Edge TPU ist für Matrixoperationen optimiert, die für neuronale Netzwerk-Berechnungen entscheidend sind. Diese Effizienz ist der Schlüssel in Machine-Learning-Modellen, insbesondere solchen, die zahlreiche und komplexe Matrixmultiplikationen und -transformationen erfordern.
Einsatzmöglichkeiten mit TFLite Edge TPU
Bevor wir uns damit beschäftigen, wie man YOLO11 in das TFLite Edge TPU exportiert, sollten wir verstehen, wofür TFLite Edge TPU normalerweise verwendet werden.
TFLite Edge TPU bietet verschiedene Einsatzmöglichkeiten für Modelle des maschinellen Lernens, darunter:
Einsatz auf dem Gerät: TensorFlow Edge TPU Modelle können direkt auf mobilen und eingebetteten Geräten eingesetzt werden. Die Bereitstellung auf dem Gerät ermöglicht die Ausführung der Modelle direkt auf der Hardware, wodurch die Notwendigkeit einer Cloud-Konnektivität entfällt, entweder durch Einbettung des Modells in das Anwendungspaket oder durch Herunterladen bei Bedarf.
Edge-Computing mit Cloud TensorFlow TPUs: In Szenarien, in denen Edge-Geräte über begrenzte Verarbeitungskapazitäten verfügen, können TensorFlow Edge TPUs Inferenzaufgaben an Cloud-Server auslagern, die mit TPUs ausgestattet sind.
Hybride Bereitstellung: Ein hybrider Ansatz kombiniert On-Device- und Cloud-Bereitstellung und bietet eine vielseitige und skalierbare Lösung für die Bereitstellung von Machine-Learning-Modellen. Zu den Vorteilen gehören die On-Device-Verarbeitung für schnelle Antworten und Cloud-Computing für komplexere Berechnungen.
Exportieren von YOLO11 nach TFLite Edge TPU
Sie können die Modellkompatibilität und Bereitstellungsflexibilität erweitern, indem Sie YOLO11-Modelle in TensorFlow Edge TPU konvertieren.
Installation
Um das erforderliche Paket zu installieren, führen Sie Folgendes aus:
Installation
# Install the required package for YOLO11
pip install ultralytics
Detaillierte Anweisungen und Best Practices zum Installationsprozess finden Sie in unserem Ultralytics Installationshandbuch. Wenn Sie bei der Installation der erforderlichen Pakete für YOLO11 auf Schwierigkeiten stoßen, konsultieren Sie unser Handbuch zu häufigen Problemen für Lösungen und Tipps.
Nutzung
Alle Ultralytics YOLO11 Modelle sind so konzipiert, dass sie den Export standardmäßig unterstützen, wodurch die Integration in Ihren bevorzugten Deployment-Workflow vereinfacht wird. Sie können die vollständige Liste der unterstützten Exportformate und Konfigurationsoptionen anzeigen, um das beste Setup für Ihre Anwendung auszuwählen.
Nutzung
from ultralytics import YOLO
# Load the YOLO11 model
model = YOLO("yolo11n.pt")
# Export the model to TFLite Edge TPU format
model.export(format="edgetpu") # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")
# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'
Export-Argumente
| Argument | Typ | Standard | Beschreibung |
|---|---|---|---|
format | str | 'edgetpu' | Zielformat für das exportierte Modell, das die Kompatibilität mit verschiedenen Deployment-Umgebungen definiert. |
imgsz | int oder tuple | 640 | Gewünschte Bildgröße für die Modelleingabe. Kann eine ganze Zahl für quadratische Bilder oder ein Tupel (height, width) für bestimmte Abmessungen sein. |
device | str | None | Gibt das Gerät für den Export an: CPU (device=cpu), oder Auto-Modus mit angegebener Auslastungsfraktion ( |
Tipp
Bitte stellen Sie sicher, dass Sie einen x86-Linux-Rechner verwenden, wenn Sie nach EdgeTPU exportieren.
Weitere Informationen zum Exportprozess finden Sie auf der Ultralytics-Dokumentationsseite zum Exportieren.
Einsatz von exportierten YOLO11 TFLite Edge TPU Modellen
Nachdem Sie Ihre Ultralytics YOLO11 erfolgreich in das TFLite Edge TPU exportiert haben, können Sie sie nun einsetzen. Der wichtigste und empfohlene erste Schritt zur Ausführung eines TFLite Edge TPU ist die Verwendung der YOLO("model_edgetpu.tflite")-Methode, wie im vorhergehenden Codeausschnitt beschrieben.
Ausführliche Anleitungen zum Einsatz Ihrer TFLite Edge TPU finden Sie jedoch in den folgenden Ressourcen:
Coral Edge TPU auf einem Raspberry Pi mit Ultralytics YOLO11: Entdecken Sie, wie Sie Coral Edge TPUs mit Raspberry Pi für verbesserte Machine-Learning-Funktionen integrieren können.
Code-Beispiele: Greifen Sie auf praktische TensorFlow Edge TPU-Bereitstellungsbeispiele zu, um Ihre Projekte zu starten.
Inferenz auf der Edge TPU mit Python ausführen: Erfahren Sie, wie Sie die TensorFlow Lite python API für Edge TPU-Anwendungen verwenden, einschließlich Setup- und Nutzungsrichtlinien.
Zusammenfassung
In dieser Anleitung haben wir gelernt, wie man Ultralytics YOLO11 in das TFLite Edge TPU exportiert. Wenn Sie die oben genannten Schritte befolgen, können Sie die Geschwindigkeit und Leistung Ihrer Computer-Vision-Anwendungen erhöhen.
Weitere Informationen zur Verwendung finden Sie auf der offiziellen Edge TPU-Website.
Weitere Informationen zu anderen Ultralytics YOLO11-Integrationen finden Sie auf unserer Seite mit Integrationsanleitungen. Dort finden Sie wertvolle Ressourcen und Einblicke.
FAQ
Wie exportiere ich ein YOLO11 in das TFLite Edge TPU ?
Um ein YOLO11 in das TFLite Edge TPU zu exportieren, können Sie die folgenden Schritte ausführen:
Nutzung
from ultralytics import YOLO
# Load the YOLO11 model
model = YOLO("yolo11n.pt")
# Export the model to TFLite Edge TPU format
model.export(format="edgetpu") # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")
# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'
Vollständige Informationen zum Exportieren von Modellen in andere Formate finden Sie in unserem Exportleitfaden.
Was sind die Vorteile des Exports von YOLO11 in TFLite Edge TPU?
Der Export von YOLO11 nach TFLite Edge TPU bietet mehrere Vorteile:
- Optimierte Leistung: Erzielen Sie eine High-Speed-Performance des neuronalen Netzes bei minimalem Stromverbrauch.
- Reduzierte Latenz: Schnelle lokale Datenverarbeitung ohne Cloud-Abhängigkeit.
- Erhöhter Datenschutz: Die lokale Verarbeitung schützt die Privatsphäre und Sicherheit der Benutzerdaten.
Dies macht es ideal für Anwendungen im Edge Computing, wo Geräte nur über begrenzte Leistungs- und Rechenressourcen verfügen. Erfahren Sie mehr darüber, warum Sie exportieren sollten.
Kann ich TFLite Edge TPU auf mobilen und eingebetteten Geräten einsetzen?
Ja, TensorFlow Lite Edge TPU-Modelle können direkt auf mobilen Geräten und Embedded-Geräten eingesetzt werden. Dieser Bereitstellungsansatz ermöglicht die direkte Ausführung von Modellen auf der Hardware, was eine schnellere und effizientere Inferenz ermöglicht. Beispiele für die Integration finden Sie in unserem Leitfaden zur Bereitstellung von Coral Edge TPU auf Raspberry Pi.
Was sind die häufigsten Anwendungsfälle für TFLite Edge TPU ?
Häufige Anwendungsfälle für TFLite Edge TPU sind:
- Smarte Kameras: Verbesserung der Echtzeit-Bild- und Videoanalyse.
- IoT-Geräte: Ermöglichen von Smart Home und industrieller Automatisierung.
- Gesundheitswesen: Beschleunigung der medizinischen Bildgebung und Diagnostik.
- Einzelhandel: Verbesserung des Bestandsmanagements und der Analyse des Kundenverhaltens.
Diese Anwendungen profitieren von der hohen Leistung und dem geringen Stromverbrauch der TFLite Edge TPU . Erfahren Sie mehr über Anwendungsszenarien.
Wie kann ich Probleme beim Exportieren oder Bereitstellen von TFLite Edge TPU beheben?
Wenn Sie beim Exportieren oder Bereitstellen von TFLite Edge TPU auf Probleme stoßen, finden Sie in unserem Leitfaden für allgemeine Probleme Tipps zur Fehlerbehebung. Dieser Leitfaden behandelt häufige Probleme und Lösungen, um einen reibungslosen Betrieb zu gewährleisten. Weitere Unterstützung finden Sie in unserem Help Center.
