Lernen Sie das Exportieren in das TFLite Edge TPU Format von YOLO11 Model
Der Einsatz von Computer-Vision-Modellen auf Geräten mit begrenzter Rechenleistung, wie z. B. mobilen oder eingebetteten Systemen, kann schwierig sein. Die Verwendung eines Modellformats, das für eine schnellere Leistung optimiert ist, vereinfacht diesen Prozess. Das Modellformat TensorFlow Lite Edge TPU oder TFLite Edge TPU wurde entwickelt, um den Energieverbrauch zu minimieren und gleichzeitig eine schnelle Leistung für neuronale Netzwerke zu erzielen.
Mit der Funktion für den Export in das Format TFLite Edge TPU können Sie Ihre Modelle Ultralytics YOLO11 Modelle für Hochgeschwindigkeits- und stromsparende Inferenzverfahren zu optimieren. In diesem Leitfaden zeigen wir Ihnen, wie Sie Ihre Modelle in das TFLite Edge TPU Format konvertieren können, damit sie auf verschiedenen mobilen und eingebetteten Geräten gut funktionieren.
Warum sollten Sie nach TFLite Edge TPU exportieren?
Der Export von Modellen nach TensorFlow Edge TPU macht Aufgaben des maschinellen Lernens schnell und effizient. Diese Technologie eignet sich für Anwendungen mit begrenzter Leistung, Rechenressourcen und Konnektivität. Der Edge TPU ist ein Hardware-Beschleuniger von Google. Er beschleunigt TensorFlow Lite-Modelle auf Edge-Geräten. Die folgende Abbildung zeigt ein Beispiel für den Prozess.
Die Edge TPU arbeitet mit quantisierten Modellen. Durch die Quantisierung werden die Modelle kleiner und schneller, ohne an Genauigkeit zu verlieren. Sie ist ideal für die begrenzten Ressourcen des Edge-Computing und ermöglicht es Anwendungen, schnell zu reagieren, indem sie die Latenzzeit verringert und eine schnelle Datenverarbeitung vor Ort ermöglicht, ohne Abhängigkeit von der Cloud. Durch die lokale Verarbeitung bleiben die Benutzerdaten außerdem privat und sicher, da sie nicht an einen Remote-Server gesendet werden.
Hauptmerkmale von TFLite Edge TPU
Hier sind die wichtigsten Merkmale, die TFLite Edge TPU zu einem hervorragenden Modellformat für Entwickler machen:
-
Optimierte Leistung auf Edge-Geräten: Der TFLite Edge TPU erreicht durch Quantisierung, Modelloptimierung, Hardware-Beschleunigung und Compiler-Optimierung eine Hochgeschwindigkeitsleistung für neuronale Netzwerke. Seine minimalistische Architektur trägt zu seiner geringen Größe und Kosteneffizienz bei.
-
Hoher Rechendurchsatz: TFLite Edge TPU kombiniert spezielle Hardwarebeschleunigung und effiziente Laufzeitausführung, um einen hohen Rechendurchsatz zu erzielen. Es eignet sich gut für den Einsatz von Machine-Learning-Modellen mit strengen Leistungsanforderungen auf Edge-Geräten.
-
Effiziente Matrixberechnungen: Der TensorFlow Edge TPU ist für Matrixoperationen optimiert, die für Berechnungen in neuronalen Netzen entscheidend sind. Diese Effizienz ist für Modelle des maschinellen Lernens von entscheidender Bedeutung, insbesondere für solche, die zahlreiche und komplexe Matrixmultiplikationen und -transformationen erfordern.
Bereitstellungsoptionen mit TFLite Edge TPU
Bevor wir uns damit beschäftigen, wie man YOLO11 Modelle in das TFLite Edge TPU Format exportiert, sollten wir verstehen, wo TFLite Edge TPU Modelle normalerweise verwendet werden.
TFLite Edge TPU bietet verschiedene Bereitstellungsoptionen für Modelle des maschinellen Lernens, darunter:
-
Bereitstellung auf dem Gerät: TensorFlow Die Modelle von Edge TPU können direkt auf mobilen und eingebetteten Geräten eingesetzt werden. Durch die geräteinterne Bereitstellung können die Modelle direkt auf der Hardware ausgeführt werden, sodass keine Cloud-Konnektivität erforderlich ist.
-
Edge Computing mit Cloud TensorFlow TPUs: In Szenarien, in denen Edge-Geräte nur über begrenzte Verarbeitungskapazitäten verfügen, können TensorFlow Edge TPUs Inferenzaufgaben an Cloud-Server mit TPUs auslagern.
-
Hybrid-Bereitstellung: Ein hybrider Ansatz kombiniert die Bereitstellung auf Geräten und in der Cloud und bietet eine vielseitige und skalierbare Lösung für die Bereitstellung von Modellen für maschinelles Lernen. Zu den Vorteilen gehören die geräteinterne Verarbeitung für schnelle Antworten und Cloud-Computing für komplexere Berechnungen.
Exportieren von YOLO11 Modellen nach TFLite Edge TPU
Sie können die Modellkompatibilität und Bereitstellungsflexibilität erweitern, indem Sie YOLO11 Modelle in TensorFlow Edge TPU umwandeln.
Einrichtung
Führen Sie das erforderliche Paket aus, um es zu installieren:
Detaillierte Anweisungen und bewährte Verfahren für den Installationsprozess finden Sie in unserem Ultralytics Installationshandbuch. Wenn Sie bei der Installation der erforderlichen Pakete für YOLO11 auf Schwierigkeiten stoßen, finden Sie in unserem Leitfaden für häufige Probleme Lösungen und Tipps.
Verwendung
Bevor wir uns den Anweisungen zur Verwendung zuwenden, ist es wichtig zu wissen, dass alle Modelle vonUltralytics YOLO11 für den Export verfügbar sind.
Verwendung
from ultralytics import YOLO
# Load the YOLO11 model
model = YOLO("yolo11n.pt")
# Export the model to TFLite Edge TPU format
model.export(format="edgetpu") # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")
# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'
Weitere Einzelheiten zu den unterstützten Exportoptionen finden Sie auf der Dokumentationsseite zu den Bereitstellungsoptionen unter Ultralytics .
Bereitstellung der exportierten YOLO11 TFLite Edge TPU Modelle
Nachdem Sie Ihre Ultralytics YOLO11 Modelle erfolgreich in das TFLite Edge TPU Format exportiert haben, können Sie sie nun einsetzen. Der wichtigste und empfohlene erste Schritt für die Ausführung eines TFLite Edge TPU -Modells ist die Verwendung der Methode YOLO("model_edgetpu.tflite"), wie im vorherigen Codeausschnitt beschrieben.
Ausführliche Anleitungen zur Bereitstellung Ihrer TFLite Edge TPU Modelle finden Sie in den folgenden Ressourcen:
-
Coral Edge TPU auf einem Raspberry Pi mit Ultralytics YOLO11: Entdecken Sie, wie Sie Coral Edge TPUs mit dem Raspberry Pi integrieren können, um die Möglichkeiten des maschinellen Lernens zu erweitern.
-
Code Beispiele: Greifen Sie auf praktische TensorFlow Edge TPU Einsatzbeispiele zu, um Ihre Projekte in Gang zu bringen.
-
Inferenz auf dem Rand ausführen TPU mit Python: Erfahren Sie, wie Sie die TensorFlow Lite Python API für Edge TPU Anwendungen nutzen können, einschließlich Einrichtungs- und Nutzungsrichtlinien.
Zusammenfassung
In dieser Anleitung haben wir gelernt, wie man Ultralytics YOLO11 Modelle in das TFLite Edge TPU Format exportiert. Wenn Sie die oben genannten Schritte befolgen, können Sie die Geschwindigkeit und Leistungsfähigkeit Ihrer Bildverarbeitungsanwendungen erhöhen.
Weitere Informationen zur Verwendung finden Sie auf der offiziellen Edge-Website TPU .
Weitere Informationen über andere Ultralytics YOLO11 Integrationen finden Sie in unserem Integrationsleitfaden. Dort finden Sie wertvolle Ressourcen und Einblicke.
FAQ
Wie exportiere ich ein Modell von YOLO11 in das Format TFLite Edge TPU ?
Um ein Modell von YOLO11 in das TFLite Edge-Format TPU zu exportieren, können Sie die folgenden Schritte ausführen:
Verwendung
from ultralytics import YOLO
# Load the YOLO11 model
model = YOLO("yolo11n.pt")
# Export the model to TFLite Edge TPU format
model.export(format="edgetpu") # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")
# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'
Ausführliche Informationen zum Exportieren von Modellen in andere Formate finden Sie in unserer Exportanleitung.
Was sind die Vorteile des Exports von YOLO11 Modellen nach TFLite Edge TPU?
Der Export von YOLO11 Modellen nach TFLite Edge TPU bietet mehrere Vorteile:
- Optimierte Leistung: Erzielen Sie eine hohe Leistung des neuronalen Netzwerks bei minimalem Stromverbrauch.
- Geringere Latenzzeit: Schnelle lokale Datenverarbeitung ohne die Notwendigkeit einer Cloud-Abhängigkeit.
- Verbesserter Datenschutz: Durch die lokale Verarbeitung bleiben die Nutzerdaten privat und sicher.
Dies macht sie ideal für Anwendungen im Bereich des Edge-Computing, wo Geräte nur über begrenzte Energie und Rechenressourcen verfügen. Erfahren Sie mehr darüber, warum Sie exportieren sollten.
Kann ich TFLite Edge TPU Modelle auf mobilen und eingebetteten Geräten einsetzen?
Ja, TensorFlow Lite Edge TPU Modelle können direkt auf mobilen und eingebetteten Geräten eingesetzt werden. Dieser Bereitstellungsansatz ermöglicht es, Modelle direkt auf der Hardware auszuführen, was eine schnellere und effizientere Inferenzierung ermöglicht. Beispiele für die Integration finden Sie in unserem Leitfaden für die Bereitstellung von Coral Edge TPU auf dem Raspberry Pi.
Was sind die häufigsten Anwendungsfälle für die TFLite Edge TPU Modelle?
Zu den üblichen Anwendungsfällen für die TFLite Edge TPU Modelle gehören:
- Intelligente Kameras: Bessere Bild- und Videoanalyse in Echtzeit.
- IoT-Geräte: Intelligente Haus- und Industrieautomation.
- Gesundheitswesen: Beschleunigung der medizinischen Bildgebung und Diagnostik.
- Einzelhandel: Verbesserung der Bestandsverwaltung und Analyse des Kundenverhaltens.
Diese Anwendungen profitieren von der hohen Leistung und dem geringen Stromverbrauch der TFLite Edge TPU Modelle. Erfahren Sie mehr über Einsatzszenarien.
Wie kann ich Probleme beim Exportieren oder Bereitstellen von TFLite Edge TPU Modellen beheben?
Wenn Sie beim Exportieren oder Bereitstellen von TFLite Edge TPU Modellen auf Probleme stoßen, finden Sie in unserem Leitfaden für allgemeine Probleme Tipps zur Fehlerbehebung. In diesem Leitfaden werden häufige Probleme und Lösungen behandelt, um einen reibungslosen Betrieb zu gewährleisten. Weitere Unterstützung finden Sie in unserem Help Center.
