Link to this sectionLerne, wie du YOLO26-Modelle in das TFLite Edge TPU-Format exportierst#

Die Bereitstellung von Computer-Vision-Modellen auf Geräten mit begrenzter Rechenleistung, wie z. B. Mobilgeräten oder eingebetteten Systemen, kann schwierig sein. Die Verwendung eines für schnellere Leistung optimierten Modellformats vereinfacht diesen Prozess. Das TensorFlow Lite Edge TPU oder TFLite Edge TPU-Modellformat ist darauf ausgelegt, bei minimalem Stromverbrauch eine schnelle Leistung für neuronale Netzwerke zu liefern.

Die Exportfunktion in das TFLite Edge TPU-Format ermöglicht es dir, deine Ultralytics YOLO26-Modelle für schnelle und stromsparende Inferenzen zu optimieren. In dieser Anleitung führen wir dich durch die Konvertierung deiner Modelle in das TFLite Edge TPU-Format, damit sie auf verschiedenen Mobil- und Embedded-Geräten besser funktionieren.

Link to this sectionWarum solltest du in das TFLite Edge TPU-Format exportieren?#

Das Exportieren von Modellen in TensorFlow Edge TPU macht Machine Learning-Aufgaben schnell und effizient. Diese Technologie eignet sich für Anwendungen mit begrenztem Stromverbrauch, begrenzten Rechenressourcen und eingeschränkter Konnektivität. Die Edge TPU ist ein Hardware-Beschleuniger von Google. Sie beschleunigt TensorFlow Lite-Modelle auf Edge-Geräten. Das Bild unten zeigt ein Beispiel für den dabei ablaufenden Prozess.

Die Edge TPU arbeitet mit quantisierten Modellen. Durch Quantisierung werden Modelle kleiner und schneller, ohne dass dabei nennenswert Genauigkeit verloren geht. Dies ist ideal für die begrenzten Ressourcen des Edge Computing und ermöglicht Anwendungen eine schnelle Reaktion durch reduzierte Latenz sowie eine schnelle lokale Datenverarbeitung ohne Cloud-Abhängigkeit. Die lokale Verarbeitung hält Nutzerdaten zudem privat und sicher, da sie nicht an einen Remote-Server gesendet werden.

Link to this sectionHauptmerkmale von TFLite Edge TPU#

Hier sind die Hauptmerkmale, die TFLite Edge TPU zu einer großartigen Wahl für Entwickler machen:

• Optimierte Leistung auf Edge-Geräten: Die TFLite Edge TPU erzielt durch Quantisierung, Modelloptimierung, Hardware-Beschleunigung und Compiler-Optimierung eine Hochgeschwindigkeitsleistung bei neuronalen Netzwerken. Ihre minimalistische Architektur trägt zu ihrer geringeren Größe und Kosteneffizienz bei.

• Hoher Berechnungsdurchsatz: TFLite Edge TPU kombiniert spezialisierte Hardware-Beschleunigung und eine effiziente Laufzeitausführung, um einen hohen Berechnungsdurchsatz zu erzielen. Es eignet sich gut für die Bereitstellung von Machine-Learning-Modellen mit strengen Leistungsanforderungen auf Edge-Geräten.

• Effiziente Matrixberechnungen: Die TensorFlow Edge TPU ist für Matrixoperationen optimiert, die für Berechnungen in neuronalen Netzwerken entscheidend sind. Diese Effizienz ist bei Machine-Learning-Modellen der Schlüssel, insbesondere bei solchen, die zahlreiche und komplexe Matrixmultiplikationen und -transformationen erfordern.

Link to this sectionBereitstellungsoptionen mit TFLite Edge TPU#

Bevor wir uns ansehen, wie du YOLO26-Modelle in das TFLite Edge TPU-Format exportierst, lass uns verstehen, wo TFLite Edge TPU-Modelle üblicherweise eingesetzt werden.

TFLite Edge TPU bietet verschiedene Bereitstellungsoptionen für Machine-Learning-Modelle, darunter:

• On-Device-Bereitstellung: TensorFlow Edge TPU-Modelle können direkt auf Mobil- und Embedded-Geräten bereitgestellt werden. Die On-Device-Bereitstellung ermöglicht es, dass Modelle direkt auf der Hardware ausgeführt werden, wodurch keine Cloud-Verbindung erforderlich ist – entweder durch Einbetten des Modells in das Anwendungspaket oder durch Herunterladen bei Bedarf.

• Edge Computing mit Cloud-TensorFlow-TPUs: In Szenarien, in denen Edge-Geräte über begrenzte Verarbeitungskapazitäten verfügen, können TensorFlow Edge TPUs Inferenzaufgaben an Cloud-Server auslagern, die mit TPUs ausgestattet sind.

• Hybride Bereitstellung: Ein hybrider Ansatz kombiniert On-Device- und Cloud-Bereitstellung und bietet eine vielseitige und skalierbare Lösung für die Bereitstellung von Machine-Learning-Modellen. Zu den Vorteilen gehören die Verarbeitung auf dem Gerät für schnelle Antworten sowie Cloud Computing für komplexere Berechnungen.

Link to this sectionExportieren von YOLO26-Modellen in TFLite Edge TPU#

Du kannst die Modellkompatibilität und die Bereitstellungsflexibilität erweitern, indem du YOLO26-Modelle in TensorFlow Edge TPU konvertierst.

Link to this sectionInstallation#

Um das erforderliche Paket zu installieren, führe Folgendes aus:

# Install the required package for YOLO26
pip install ultralytics

Detaillierte Anweisungen und bewährte Verfahren bezüglich des Installationsprozesses findest du in unserem Ultralytics-Installationsleitfaden. Falls du bei der Installation der erforderlichen Pakete für YOLO26 auf Schwierigkeiten stößt, konsultiere unseren Leitfaden für allgemeine Probleme für Lösungen und Tipps.

Link to this sectionVerwendung#

Alle Ultralytics YOLO26-Modelle sind so konzipiert, dass sie den Export sofort unterstützen, was es einfach macht, sie in deinen bevorzugten Bereitstellungs-Workflow zu integrieren. Du kannst die vollständige Liste der unterstützten Exportformate und Konfigurationsoptionen einsehen, um das beste Setup für deine Anwendung auszuwählen.

Das TFLite Edge TPU-Format unterstützt die Modi Exportieren, Vorhersagen und Validieren. Inferenz und Validierung werden auf Coral Edge TPU-Hardware ausgeführt. Exportiere dein Modell und lade es anschließend, um Inferenzen auszuführen oder die Genauigkeit zu validieren.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'

from ultralytics import YOLO

# Load the exported TFLite Edge TPU model
model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported TFLite Edge TPU model
model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this sectionExport-Argumente#

Für weitere Details zum Exportprozess besuche die Dokumentationsseite von Ultralytics zum Thema Exportieren.

Link to this sectionBereitstellung exportierter YOLO26 TFLite Edge TPU-Modelle#

Nachdem du deine Ultralytics YOLO26-Modelle erfolgreich in das TFLite Edge TPU-Format exportiert hast, kannst du sie nun bereitstellen. Der primäre und empfohlene erste Schritt für die Ausführung eines TFLite Edge TPU-Modells ist die Verwendung der Methode YOLO("model_edgetpu.tflite"), wie im vorherigen Code-Snippet zur Verwendung beschrieben.

Für detaillierte Anweisungen zur Bereitstellung deiner TFLite Edge TPU-Modelle wirf jedoch einen Blick auf die folgenden Ressourcen:

• Coral Edge TPU auf einem Raspberry Pi mit Ultralytics YOLO26: Entdecke, wie du Coral Edge TPUs mit Raspberry Pi für verbesserte Machine-Learning-Fähigkeiten integrieren kannst.

• Codebeispiele: Greife auf praktische Beispiele für die TensorFlow Edge TPU-Bereitstellung zu, um deine Projekte zu starten.

• Inferenz auf der Edge TPU mit Python ausführen: Erfahre, wie du die TensorFlow Lite Python API für Edge TPU-Anwendungen verwendest, einschließlich Einrichtungs- und Nutzungsrichtlinien.

Link to this sectionZusammenfassung#

In dieser Anleitung haben wir gelernt, wie man Ultralytics YOLO26-Modelle in das TFLite Edge TPU-Format exportiert. Indem du die oben genannten Schritte befolgst, kannst du die Geschwindigkeit und Leistungsfähigkeit deiner Computer Vision-Anwendungen steigern.

Für weitere Details zur Nutzung besuche die offizielle Edge TPU-Website.

Für weitere Informationen zu anderen Ultralytics YOLO26-Integrationen besuche bitte unsere Seite mit Integrationsanleitungen. Dort findest du wertvolle Ressourcen und Erkenntnisse.

Link to this sectionFAQ#

Link to this sectionWie exportiere ich ein YOLO26-Modell in das TFLite Edge TPU-Format?#

Um ein YOLO26-Modell in das TFLite Edge TPU-Format zu exportieren, kannst du diese Schritte befolgen:

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

Für vollständige Details zum Exportieren von Modellen in andere Formate, schau dir unsere Exportanleitung an.

Link to this sectionWas sind die Vorteile des Exports von YOLO26-Modellen in TFLite Edge TPU?#

Der Export von YOLO26-Modellen in TFLite Edge TPU bietet mehrere Vorteile:

• Optimierte Leistung: Erziele eine Hochgeschwindigkeitsleistung bei neuronalen Netzwerken bei minimalem Stromverbrauch.
• Reduzierte Latenz: Schnelle lokale Datenverarbeitung ohne Cloud-Abhängigkeit.
• Verbesserte Privatsphäre: Die lokale Verarbeitung hält Nutzerdaten privat und sicher.

Dies macht es ideal für Anwendungen im Edge Computing, wo Geräte über begrenzte Energie- und Rechenressourcen verfügen. Erfahre mehr darüber, warum du exportieren solltest.

Link to this sectionKann ich TFLite Edge TPU-Modelle auf Mobil- und Embedded-Geräten bereitstellen?#

Ja, TensorFlow Lite Edge TPU-Modelle können direkt auf Mobil- und Embedded-Geräten bereitgestellt werden. Dieser Bereitstellungsansatz ermöglicht es, dass Modelle direkt auf der Hardware ausgeführt werden, was eine schnellere und effizientere Inferenz bietet. Für Integrationsbeispiele sieh dir unsere Anleitung zur Bereitstellung von Coral Edge TPU auf Raspberry Pi an.

Link to this sectionWas sind gängige Anwendungsfälle für TFLite Edge TPU-Modelle?#

Gängige Anwendungsfälle für TFLite Edge TPU-Modelle umfassen:

• Smarte Kameras: Verbesserung der Echtzeit-Bild- und Videoanalyse.
• IoT-Geräte: Ermöglichung von Smart Home- und Industrieautomatisierung.
• Gesundheitswesen: Beschleunigung der medizinischen Bildgebung und Diagnostik.
• Einzelhandel: Verbesserung des Bestandsmanagements und der Analyse des Kundenverhaltens.

Diese Anwendungen profitieren von der hohen Leistung und dem geringen Stromverbrauch der TFLite Edge TPU-Modelle. Entdecke mehr zu Einsatzszenarien.

Link to this sectionWie kann ich Probleme beim Exportieren oder Bereitstellen von TFLite Edge TPU-Modellen beheben?#

Wenn du beim Exportieren oder Bereitstellen von TFLite Edge TPU-Modellen auf Probleme stößt, schau in unserem Leitfaden zu allgemeinen Problemen nach Tipps zur Fehlerbehebung. Dieser Leitfaden behandelt häufige Probleme und Lösungen, damit du einen reibungslosen Betrieb gewährleisten kannst. Für weitere Unterstützung besuche unser Hilfe-Center.