Exportieren lernen in das TFLite Edge TPU-Format vom YOLO26-Modell
Die Bereitstellung von Computer-Vision-Modellen auf Geräten mit begrenzter Rechenleistung, wie mobilen oder eingebetteten Systemen, kann schwierig sein. Die Verwendung eines Modellformats, das für eine schnellere Leistung optimiert ist, vereinfacht den Prozess. Das TensorFlow LiteEdge TPU- oder TFLite Edge TPU-Modellformat ist darauf ausgelegt, minimale Leistung zu verbrauchen und gleichzeitig eine schnelle Performance für neuronale Netze zu liefern.
Die Exportfunktion in das TFLite Edge TPU-Format ermöglicht es Ihnen, Ihre Ultralytics YOLO26-Modelle für Hochgeschwindigkeits- und stromsparende Inferenz zu optimieren. In diesem Leitfaden führen wir Sie durch die Konvertierung Ihrer Modelle in das TFLite Edge TPU-Format, wodurch Ihre Modelle auf verschiedenen mobilen und eingebetteten Geräten besser funktionieren.
Warum sollten Sie nach TFLite Edge TPU exportieren?
Das Exportieren von Modellen in TensorFlow Edge TPU macht Machine-Learning-Aufgaben schnell und effizient. Diese Technologie eignet sich für Anwendungen mit begrenzter Leistung, Rechenressourcen und Konnektivität. Die Edge TPU ist ein Hardwarebeschleuniger von Google. Sie beschleunigt TensorFlow Lite-Modelle auf Edge-Geräten. Das Bild unten zeigt ein Beispiel für den beteiligten Prozess.
Die Edge TPU arbeitet mit quantisierten Modellen. Die Quantisierung macht Modelle kleiner und schneller, ohne viel Genauigkeit zu verlieren. Sie ist ideal für die begrenzten Ressourcen des Edge-Computing, da sie es Anwendungen ermöglicht, schnell zu reagieren, indem sie die Latenz reduziert und eine schnelle Datenverarbeitung lokal ermöglicht, ohne Cloud-Abhängigkeit. Die lokale Verarbeitung schützt auch die Privatsphäre und Sicherheit der Benutzerdaten, da diese nicht an einen Remote-Server gesendet werden.
Hauptmerkmale von TFLite Edge TPU
Hier sind die wichtigsten Merkmale, die TFLite Edge TPU zu einer ausgezeichneten Wahl als Modellformat für Entwickler machen:
Optimierte Leistung auf Edge-Geräten: Der TFLite Edge TPU erreicht eine Hochgeschwindigkeitsleistung für neuronale Netze durch Quantisierung, Modelloptimierung, Hardwarebeschleunigung und Compileroptimierung. Seine minimalistische Architektur trägt zu seiner geringeren Größe und Kosteneffizienz bei.
Hoher Rechen-Durchsatz: TFLite Edge TPU kombiniert spezialisierte Hardware-Beschleunigung und effiziente Laufzeitausführung, um einen hohen Rechen-Durchsatz zu erzielen. Es eignet sich hervorragend für die Bereitstellung von Machine-Learning-Modellen mit strengen Leistungsanforderungen auf Edge-Geräten.
Effiziente Matrixberechnungen: Die TensorFlow Edge TPU ist für Matrixoperationen optimiert, die für neuronale Netzwerk-Berechnungen entscheidend sind. Diese Effizienz ist der Schlüssel in Machine-Learning-Modellen, insbesondere solchen, die zahlreiche und komplexe Matrixmultiplikationen und -transformationen erfordern.
Bereitstellungsoptionen mit TFLite Edge TPU
Bevor wir uns damit befassen, wie YOLO26-Modelle in das TFLite Edge TPU-Format exportiert werden, wollen wir verstehen, wo TFLite Edge TPU-Modelle üblicherweise eingesetzt werden.
TFLite Edge TPU bietet verschiedene Bereitstellungsoptionen für Machine-Learning-Modelle, darunter:
On-Device-Bereitstellung: TensorFlow Edge TPU-Modelle können direkt auf mobilen und eingebetteten Geräten bereitgestellt werden. Die On-Device-Bereitstellung ermöglicht es den Modellen, direkt auf der Hardware ausgeführt zu werden, wodurch die Notwendigkeit einer Cloud-Konnektivität entfällt, entweder durch Einbetten des Modells in das Anwendungspaket oder durch Herunterladen bei Bedarf.
Edge-Computing mit Cloud TensorFlow TPUs: In Szenarien, in denen Edge-Geräte über begrenzte Verarbeitungskapazitäten verfügen, können TensorFlow Edge TPUs Inferenzaufgaben an Cloud-Server auslagern, die mit TPUs ausgestattet sind.
Hybride Bereitstellung: Ein hybrider Ansatz kombiniert On-Device- und Cloud-Bereitstellung und bietet eine vielseitige und skalierbare Lösung für die Bereitstellung von Machine-Learning-Modellen. Zu den Vorteilen gehören die On-Device-Verarbeitung für schnelle Antworten und Cloud-Computing für komplexere Berechnungen.
Exportieren von YOLO26-Modellen nach TFLite Edge TPU
Sie können die Modellkompatibilität und Bereitstellungsflexibilität erweitern, indem Sie YOLO26-Modelle in TensorFlow Edge TPU konvertieren.
Installation
Um das erforderliche Paket zu installieren, führen Sie Folgendes aus:
Installation
# Install the required package for YOLO26
pip install ultralytics
Für detaillierte Anweisungen und Best Practices zum Installationsprozess lesen Sie unseren Ultralytics Installationsleitfaden. Sollten Sie beim Installieren der erforderlichen Pakete für YOLO26 auf Schwierigkeiten stoßen, konsultieren Sie unseren Leitfaden für häufige Probleme für Lösungen und Tipps.
Nutzung
Alle Ultralytics YOLO26-Modelle sind so konzipiert, dass sie den Export sofort unterstützen, was die Integration in Ihren bevorzugten Bereitstellungs-Workflow erleichtert. Sie können die vollständige Liste der unterstützten Exportformate und Konfigurationsoptionen einsehen, um die beste Einrichtung für Ihre Anwendung zu wählen.
Nutzung
from ultralytics import YOLO
# Load the YOLO26 model
model = YOLO("yolo26n.pt")
# Export the model to TFLite Edge TPU format
model.export(format="edgetpu") # creates 'yolo26n_full_integer_quant_edgetpu.tflite'
# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")
# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO26n PyTorch model to TFLite Edge TPU format
yolo export model=yolo26n.pt format=edgetpu # creates 'yolo26n_full_integer_quant_edgetpu.tflite'
# Run inference with the exported model
yolo predict model=yolo26n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'
Export-Argumente
| Argument | Typ | Standard | Beschreibung |
|---|---|---|---|
format | str | 'edgetpu' | Zielformat für das exportierte Modell, das die Kompatibilität mit verschiedenen Deployment-Umgebungen definiert. |
imgsz | int oder tuple | 640 | Gewünschte Bildgröße für die Modelleingabe. Kann eine ganze Zahl für quadratische Bilder oder ein Tupel (height, width) für bestimmte Abmessungen sein. |
device | str | None | Gibt das Gerät für den Export an: CPU (device=cpu), oder Auto-Modus mit angegebener Auslastungsfraktion ( |
Tipp
Bitte stellen Sie sicher, dass Sie einen x86-Linux-Rechner verwenden, wenn Sie nach EdgeTPU exportieren.
Weitere Informationen zum Exportprozess finden Sie auf der Ultralytics-Dokumentationsseite zum Exportieren.
Bereitstellung exportierter YOLO26 TFLite Edge TPU-Modelle
Nachdem Sie Ihre Ultralytics YOLO26-Modelle erfolgreich in das TFLite Edge TPU-Format exportiert haben, können Sie diese nun bereitstellen. Der primäre und empfohlene erste Schritt zum Ausführen eines TFLite Edge TPU-Modells ist die Verwendung der YOLO("model_edgetpu.tflite")-Methode, wie im vorherigen Code-Snippet beschrieben.
Für detaillierte Anweisungen zur Bereitstellung Ihrer TFLite Edge TPU Modelle werfen Sie jedoch einen Blick auf die folgenden Ressourcen:
Coral Edge TPU auf einem Raspberry Pi mit Ultralytics YOLO26: Entdecken Sie, wie Sie Coral Edge TPUs mit Raspberry Pi integrieren, um erweiterte Machine-Learning-Funktionen zu nutzen.
Code-Beispiele: Greifen Sie auf praktische TensorFlow Edge TPU-Bereitstellungsbeispiele zu, um Ihre Projekte zu starten.
Inferenz auf der Edge TPU mit Python ausführen: Erfahren Sie, wie Sie die TensorFlow Lite python API für Edge TPU-Anwendungen verwenden, einschließlich Setup- und Nutzungsrichtlinien.
Zusammenfassung
In diesem Leitfaden haben wir gelernt, wie man Ultralytics YOLO26-Modelle in das TFLite Edge TPU-Format exportiert. Durch Befolgen der oben genannten Schritte können Sie die Geschwindigkeit und Leistung Ihrer Computer-Vision-Anwendungen steigern.
Weitere Informationen zur Verwendung finden Sie auf der offiziellen Edge TPU-Website.
Für weitere Informationen zu anderen Ultralytics YOLO26-Integrationen besuchen Sie bitte unsere Integrationsanleitungsseite. Dort finden Sie wertvolle Ressourcen und Einblicke.
FAQ
Wie exportiere ich ein YOLO26-Modell in das TFLite Edge TPU-Format?
Um ein YOLO26-Modell in das TFLite Edge TPU-Format zu exportieren, können Sie die folgenden Schritte ausführen:
Nutzung
from ultralytics import YOLO
# Load the YOLO26 model
model = YOLO("yolo26n.pt")
# Export the model to TFLite Edge TPU format
model.export(format="edgetpu") # creates 'yolo26n_full_integer_quant_edgetpu.tflite'
# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")
# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO26n PyTorch model to TFLite Edge TPU format
yolo export model=yolo26n.pt format=edgetpu # creates 'yolo26n_full_integer_quant_edgetpu.tflite'
# Run inference with the exported model
yolo predict model=yolo26n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'
Vollständige Informationen zum Exportieren von Modellen in andere Formate finden Sie in unserem Exportleitfaden.
Welche Vorteile bietet der Export von YOLO26-Modellen nach TFLite Edge TPU?
Der Export von YOLO26-Modellen in das TFLite Edge TPU-Format bietet mehrere Vorteile:
- Optimierte Leistung: Erzielen Sie eine High-Speed-Performance des neuronalen Netzes bei minimalem Stromverbrauch.
- Reduzierte Latenz: Schnelle lokale Datenverarbeitung ohne Cloud-Abhängigkeit.
- Erhöhter Datenschutz: Die lokale Verarbeitung schützt die Privatsphäre und Sicherheit der Benutzerdaten.
Dies macht es ideal für Anwendungen im Edge Computing, wo Geräte nur über begrenzte Leistungs- und Rechenressourcen verfügen. Erfahren Sie mehr darüber, warum Sie exportieren sollten.
Kann ich TFLite Edge TPU-Modelle auf mobilen und eingebetteten Geräten bereitstellen?
Ja, TensorFlow Lite Edge TPU-Modelle können direkt auf mobilen Geräten und Embedded-Geräten eingesetzt werden. Dieser Bereitstellungsansatz ermöglicht die direkte Ausführung von Modellen auf der Hardware, was eine schnellere und effizientere Inferenz ermöglicht. Beispiele für die Integration finden Sie in unserem Leitfaden zur Bereitstellung von Coral Edge TPU auf Raspberry Pi.
Was sind gängige Anwendungsfälle für TFLite Edge TPU-Modelle?
Häufige Anwendungsfälle für TFLite Edge TPU Modelle sind:
- Smarte Kameras: Verbesserung der Echtzeit-Bild- und Videoanalyse.
- IoT-Geräte: Ermöglichen von Smart Home und industrieller Automatisierung.
- Gesundheitswesen: Beschleunigung der medizinischen Bildgebung und Diagnostik.
- Einzelhandel: Verbesserung des Bestandsmanagements und der Analyse des Kundenverhaltens.
Diese Anwendungen profitieren von der hohen Leistung und dem geringen Stromverbrauch der TFLite Edge TPU-Modelle. Erfahren Sie mehr über Anwendungsszenarien.
Wie behebe ich Probleme beim Exportieren oder Bereitstellen von TFLite Edge TPU-Modellen?
Wenn beim Exportieren oder Bereitstellen von TFLite Edge TPU-Modellen Probleme auftreten, lesen Sie unseren Leitfaden zu häufigen Problemen für Tipps zur Fehlerbehebung. Dieser Leitfaden behandelt gängige Probleme und Lösungen, um einen reibungslosen Betrieb zu gewährleisten. Für zusätzlichen Support besuchen Sie unser Hilfe-Center.
