Lerne, wie du YOLO26-Modelle in das TFLite Edge TPU-Format exportierst

Die Bereitstellung von Computer-Vision-Modellen auf Geräten mit begrenzter Rechenleistung, wie mobilen oder eingebetteten Systemen, kann schwierig sein. Die Verwendung eines für schnellere Leistung optimierten Modellformats vereinfacht den Prozess. Das TensorFlow Lite Edge TPU bzw. TFLite Edge TPU-Modellformat ist darauf ausgelegt, bei minimalem Energieverbrauch eine schnelle Leistung für neuronale Netzwerke zu liefern.

Die Exportfunktion in das TFLite Edge TPU-Format ermöglicht es dir, deine Ultralytics YOLO26-Modelle für Inferenzen mit hoher Geschwindigkeit und geringem Energieverbrauch zu optimieren. In dieser Anleitung führen wir dich durch die Konvertierung deiner Modelle in das TFLite Edge TPU-Format, damit sie auf verschiedenen mobilen und eingebetteten Geräten besser funktionieren.

Warum solltest du in das TFLite Edge TPU-Format exportieren?

Der Export von Modellen zu TensorFlow Edge TPU macht Machine Learning-Aufgaben schnell und effizient. Diese Technologie eignet sich für Anwendungen mit begrenzter Energie, begrenzten Rechenressourcen und eingeschränkter Konnektivität. Die Edge TPU ist ein Hardware-Beschleuniger von Google. Sie beschleunigt TensorFlow Lite-Modelle auf Edge-Geräten. Das Bild unten zeigt ein Beispiel für den dazugehörigen Prozess.

Die Edge TPU arbeitet mit quantisierten Modellen. Quantisierung macht Modelle kleiner und schneller, ohne dass dabei nennenswert Genauigkeit verloren geht. Dies ist ideal für die begrenzten Ressourcen des Edge-Computings, da Anwendungen durch reduzierte Latenz schneller reagieren und Daten lokal verarbeiten können, ohne von der Cloud abhängig zu sein. Die lokale Verarbeitung hält zudem Benutzerdaten privat und sicher, da sie nicht an einen Remote-Server gesendet werden.

Hauptmerkmale von TFLite Edge TPU

Hier sind die wichtigsten Funktionen, die TFLite Edge TPU zu einer großartigen Modellformat-Wahl für Entwickler machen:

• Optimierte Leistung auf Edge-Geräten: Die TFLite Edge TPU erreicht eine Hochgeschwindigkeitsleistung bei neuronalen Netzwerken durch Quantisierung, Modelloptimierung, Hardwarebeschleunigung und Compiler-Optimierung. Ihre minimalistische Architektur trägt zu ihrer geringeren Größe und Kosteneffizienz bei.

• Hoher Berechnungsdurchsatz: TFLite Edge TPU kombiniert spezialisierte Hardwarebeschleunigung und effiziente Laufzeitausführung, um einen hohen Berechnungsdurchsatz zu erzielen. Sie eignet sich hervorragend für die Bereitstellung von Machine-Learning-Modellen mit strengen Leistungsanforderungen auf Edge-Geräten.

• Effiziente Matrixberechnungen: Die TensorFlow Edge TPU ist für Matrixoperationen optimiert, die für neuronale Netzwerke-Berechnungen entscheidend sind. Diese Effizienz ist bei Machine-Learning-Modellen der Schlüssel, insbesondere wenn zahlreiche komplexe Matrixmultiplikationen und Transformationen erforderlich sind.

Bereitstellungsoptionen mit TFLite Edge TPU

Bevor wir uns damit befassen, wie YOLO26-Modelle in das TFLite Edge TPU-Format exportiert werden, wollen wir verstehen, wo TFLite Edge TPU-Modelle normalerweise eingesetzt werden.

TFLite Edge TPU bietet verschiedene Bereitstellungsoptionen für Machine-Learning-Modelle, darunter:

• Bereitstellung auf dem Gerät (On-Device): TensorFlow Edge TPU-Modelle können direkt auf mobilen und eingebetteten Geräten bereitgestellt werden. Die Bereitstellung auf dem Gerät ermöglicht es den Modellen, direkt auf der Hardware ausgeführt zu werden, wodurch eine Cloud-Konnektivität überflüssig wird – entweder durch Einbetten des Modells in das Anwendungs-Bundle oder durch On-Demand-Download.

• Edge Computing mit Cloud TensorFlow TPUs: In Szenarien, in denen Edge-Geräte über begrenzte Rechenkapazitäten verfügen, können TensorFlow Edge TPUs Inferenzaufgaben an Cloud-Server auslagern, die mit TPUs ausgestattet sind.

• Hybride Bereitstellung: Ein hybrider Ansatz kombiniert die Bereitstellung auf dem Gerät und in der Cloud und bietet eine vielseitige und skalierbare Lösung für die Bereitstellung von Machine-Learning-Modellen. Zu den Vorteilen zählen die Verarbeitung auf dem Gerät für schnelle Antworten und Cloud-Computing für komplexere Berechnungen.

YOLO26-Modelle in TFLite Edge TPU exportieren

Du kannst die Modellkompatibilität und die Flexibilität bei der Bereitstellung erweitern, indem du YOLO26-Modelle in TensorFlow Edge TPU konvertierst.

Installation

Um das erforderliche Paket zu installieren, führe Folgendes aus:

# Install the required package for YOLO26
pip install ultralytics

Für detaillierte Anleitungen und Best Practices zur Installation, schau in unserem Ultralytics-Installationsleitfaden nach. Wenn du bei der Installation der erforderlichen Pakete für YOLO26 auf Schwierigkeiten stößt, konsultiere unseren Leitfaden für allgemeine Probleme für Lösungen und Tipps.

Verwendung

Alle Ultralytics YOLO26-Modelle sind so konzipiert, dass sie den Export direkt unterstützen, was eine einfache Integration in deinen bevorzugten Bereitstellungs-Workflow ermöglicht. Du kannst die vollständige Liste der unterstützten Exportformate und Konfigurationsoptionen ansehen, um die beste Einrichtung für deine Anwendung zu wählen.

from ultralytics import YOLO

# Load the YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

Export-Argumente

Weitere Details zum Exportprozess findest du auf der Ultralytics-Dokumentationsseite zum Export.

Exportierte YOLO26 TFLite Edge TPU-Modelle bereitstellen

Nachdem du deine Ultralytics YOLO26-Modelle erfolgreich in das TFLite Edge TPU-Format exportiert hast, kannst du sie nun bereitstellen. Der primäre und empfohlene erste Schritt zur Ausführung eines TFLite Edge TPU-Modells besteht in der Verwendung der YOLO("model_edgetpu.tflite")-Methode, wie im vorherigen Code-Snippet zur Verwendung beschrieben.

Für detaillierte Anweisungen zur Bereitstellung deiner TFLite Edge TPU-Modelle schau dir jedoch die folgenden Ressourcen an:

• Coral Edge TPU auf einem Raspberry Pi mit Ultralytics YOLO26: Entdecke, wie du Coral Edge TPUs mit Raspberry Pi für verbesserte Machine-Learning-Fähigkeiten integrierst.

• Codebeispiele: Greife auf praktische Beispiele zur Bereitstellung von TensorFlow Edge TPU zu, um deine Projekte zu starten.

• Inferenz auf der Edge TPU mit Python ausführen: Erforsche die Nutzung der TensorFlow Lite Python API für Edge TPU-Anwendungen, einschließlich Einrichtungs- und Nutzungsrichtlinien.

Zusammenfassung

In dieser Anleitung haben wir gelernt, wie man Ultralytics YOLO26-Modelle in das TFLite Edge TPU-Format exportiert. Wenn du die oben genannten Schritte befolgst, kannst du die Geschwindigkeit und Leistungsfähigkeit deiner Computer Vision-Anwendungen steigern.

Weitere Details zur Nutzung findest du auf der offiziellen Website der Edge TPU.

Für weitere Informationen zu anderen Ultralytics YOLO26-Integrationen besuche bitte unsere Seite mit Integrationsleitfäden. Dort entdeckst du wertvolle Ressourcen und Einblicke.

FAQ

Wie exportiere ich ein YOLO26-Modell in das TFLite Edge TPU-Format?

Um ein YOLO26-Modell in das TFLite Edge TPU-Format zu exportieren, kannst du diese Schritte befolgen:

from ultralytics import YOLO

# Load the YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

Vollständige Details zum Exportieren von Modellen in andere Formate findest du in unserem Export-Leitfaden.

Welche Vorteile hat der Export von YOLO26-Modellen in TFLite Edge TPU?

Der Export von YOLO26-Modellen in TFLite Edge TPU bietet mehrere Vorteile:

• Optimierte Leistung: Erziele eine Hochgeschwindigkeitsleistung bei neuronalen Netzwerken bei minimalem Energieverbrauch.
• Reduzierte Latenz: Schnelle lokale Datenverarbeitung ohne Cloud-Abhängigkeit.
• Erhöhte Privatsphäre: Die lokale Verarbeitung hält Benutzerdaten privat und sicher.

Dies macht es ideal für Anwendungen im Edge Computing, wo Geräte über begrenzte Energie- und Rechenressourcen verfügen. Erfahre mehr darüber, warum du exportieren solltest.

Kann ich TFLite Edge TPU-Modelle auf mobilen und eingebetteten Geräten bereitstellen?

Ja, TensorFlow Lite Edge TPU-Modelle können direkt auf mobilen und eingebetteten Geräten bereitgestellt werden. Dieser Bereitstellungsansatz ermöglicht es Modellen, direkt auf der Hardware ausgeführt zu werden, was schnellere und effizientere Inferenzen bietet. Beispiele zur Integration findest du in unserem Leitfaden zur Bereitstellung von Coral Edge TPU auf Raspberry Pi.

Was sind einige häufige Anwendungsfälle für TFLite Edge TPU-Modelle?

Häufige Anwendungsfälle für TFLite Edge TPU-Modelle umfassen:

• Intelligente Kameras: Verbesserung der Echtzeit-Bild- und Videoanalyse.
• IoT-Geräte: Ermöglichung von Smart Home- und Industrieautomatisierung.
• Gesundheitswesen: Beschleunigung der medizinischen Bildgebung und Diagnostik.
• Einzelhandel: Verbesserung der Bestandsverwaltung und Analyse des Kundenverhaltens.

Diese Anwendungen profitieren von der hohen Leistung und dem niedrigen Stromverbrauch von TFLite Edge TPU-Modellen. Entdecke mehr über Nutzungsszenarien.

Wie kann ich Probleme beim Exportieren oder Bereitstellen von TFLite Edge TPU-Modellen beheben?

Wenn du beim Exportieren oder Bereitstellen von TFLite Edge TPU-Modellen auf Probleme stößt, schlage in unserem Leitfaden für häufige Probleme nach, um Tipps zur Fehlerbehebung zu erhalten. Dieser Leitfaden deckt häufige Probleme und Lösungen ab, damit du einen reibungslosen Betrieb gewährleisten kannst. Für zusätzlichen Support besuche unser Hilfe-Center.