Link to this sectionLerne, wie du YOLO26-Modelle in das TFLite Edge TPU-Format exportierst#

Die Bereitstellung von Computer Vision-Modellen auf Geräten mit begrenzter Rechenleistung, wie z. B. mobilen oder eingebetteten Systemen, kann schwierig sein. Die Verwendung eines für schnellere Leistung optimierten Modellformats vereinfacht den Prozess. Das TensorFlow Lite Edge TPU oder TFLite Edge TPU-Modellformat wurde entwickelt, um bei minimalem Energieverbrauch eine hohe Leistung für neuronale Netze zu erzielen.

Die Exportfunktion in das TFLite Edge TPU-Format ermöglicht es dir, deine Ultralytics YOLO26-Modelle für schnelle und energieeffiziente Inferenzen zu optimieren. In dieser Anleitung führen wir dich durch die Konvertierung deiner Modelle in das TFLite Edge TPU-Format, damit sie auf verschiedenen mobilen und eingebetteten Geräten besser funktionieren.

Link to this sectionWarum solltest du in das TFLite Edge TPU-Format exportieren?#

Der Export von Modellen in die TensorFlow Edge TPU macht Machine Learning-Aufgaben schnell und effizient. Diese Technologie eignet sich für Anwendungen mit begrenzter Energie, begrenzten Rechenressourcen und Konnektivität. Die Edge TPU ist ein Hardwarebeschleuniger von Google. Sie beschleunigt TensorFlow Lite-Modelle auf Edge-Geräten. Das Bild unten zeigt ein Beispiel für den dabei ablaufenden Prozess.

Die Edge TPU arbeitet mit quantisierten Modellen. Durch Quantisierung werden Modelle kleiner und schneller, ohne dass dabei nennenswert Genauigkeit verloren geht. Dies ist ideal für die begrenzten Ressourcen des Edge Computing und ermöglicht Anwendungen, schnell auf Reize zu reagieren, indem die Latenz reduziert wird. Zudem wird eine schnelle Datenverarbeitung vor Ort ermöglicht, ganz ohne Cloud-Abhängigkeit. Die lokale Verarbeitung hält Nutzerdaten außerdem privat und sicher, da sie nicht an einen entfernten Server gesendet werden.

Link to this sectionHauptmerkmale von TFLite Edge TPU#

Hier sind die wichtigsten Funktionen, die TFLite Edge TPU zu einer großartigen Wahl für Entwickler machen:

• Optimierte Leistung auf Edge-Geräten: Die TFLite Edge TPU erzielt durch Quantisierung, Modelloptimierung, Hardwarebeschleunigung und Compiler-Optimierung eine Hochleistungs-Performance bei neuronalen Netzen. Ihre minimalistische Architektur trägt zu einer geringeren Größe und Kosteneffizienz bei.

• Hoher Berechnungsdurchsatz: TFLite Edge TPU kombiniert spezialisierte Hardwarebeschleunigung mit effizienter Laufzeitausführung, um einen hohen Berechnungsdurchsatz zu erzielen. Es eignet sich hervorragend für die Bereitstellung von Machine Learning-Modellen mit strengen Leistungsanforderungen auf Edge-Geräten.

• Effiziente Matrixberechnungen: Die TensorFlow Edge TPU ist für Matrixoperationen optimiert, die für neuronale Netzwerk-Berechnungen entscheidend sind. Diese Effizienz ist ein Schlüsselmerkmal bei Machine Learning-Modellen, insbesondere bei solchen, die zahlreiche und komplexe Matrixmultiplikationen und Transformationen erfordern.

Link to this sectionBereitstellungsoptionen mit TFLite Edge TPU#

Bevor wir dazu kommen, wie man YOLO26-Modelle in das TFLite Edge TPU-Format exportiert, lass uns verstehen, wo TFLite Edge TPU-Modelle üblicherweise eingesetzt werden.

TFLite Edge TPU bietet verschiedene Bereitstellungsoptionen für Machine Learning-Modelle, darunter:

• On-Device-Bereitstellung: TensorFlow Edge TPU-Modelle können direkt auf mobilen und eingebetteten Geräten bereitgestellt werden. Die On-Device-Bereitstellung ermöglicht es den Modellen, direkt auf der Hardware ausgeführt zu werden, wodurch keine Cloud-Verbindung erforderlich ist – entweder durch Einbetten des Modells in das Anwendungspaket oder durch bedarfsgesteuertes Herunterladen.

• Edge Computing mit Cloud TensorFlow TPUs: In Szenarien, in denen Edge-Geräte begrenzte Verarbeitungskapazitäten haben, können TensorFlow Edge TPUs Inferenzaufgaben an Cloud-Server auslagern, die mit TPUs ausgestattet sind.

• Hybride Bereitstellung: Ein hybrider Ansatz kombiniert On-Device- und Cloud-Bereitstellung und bietet eine vielseitige und skalierbare Lösung für die Bereitstellung von Machine Learning-Modellen. Zu den Vorteilen gehören die Verarbeitung auf dem Gerät für schnelle Antworten und Cloud Computing für komplexere Berechnungen.

Link to this sectionExportieren von YOLO26-Modellen in TFLite Edge TPU#

Du kannst die Modellkompatibilität und Flexibilität bei der Bereitstellung erweitern, indem du YOLO26-Modelle in TensorFlow Edge TPU konvertierst.

Link to this sectionInstallation#

Um das erforderliche Paket zu installieren, führe Folgendes aus:

# Install the required package for YOLO26
pip install ultralytics

Detaillierte Anweisungen und Best Practices für den Installationsprozess findest du in unserem Ultralytics-Installationsleitfaden. Wenn du bei der Installation der erforderlichen Pakete für YOLO26 auf Schwierigkeiten stößt, schau in unserem Leitfaden zu häufigen Problemen nach Lösungen und Tipps.

Link to this sectionVerwendung#

Alle Ultralytics YOLO26 models sind so konzipiert, dass sie den Export sofort unterstützen, was die Integration in deinen bevorzugten Bereitstellungs-Workflow vereinfacht. Du kannst die vollständige Liste der unterstützten Exportformate und Konfigurationsoptionen einsehen, um das beste Setup für deine Anwendung zu wählen.

Das TFLite Edge TPU-Format unterstützt die Modi Exportieren, Vorhersagen und Validieren. Inferenz und Validierung werden auf der Coral Edge TPU-Hardware ausgeführt. Exportiere dein Modell und lade es anschließend, um Inferenzen auszuführen oder die Genauigkeit zu validieren.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'

from ultralytics import YOLO

# Load the exported TFLite Edge TPU model
model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported TFLite Edge TPU model
model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this sectionExport-Argumente#

Weitere Details zum Exportprozess findest du auf der Ultralytics-Dokumentationsseite zum Exportieren.

Link to this sectionBereitstellung exportierter YOLO26 TFLite Edge TPU-Modelle#

Nachdem du deine Ultralytics YOLO26-Modelle erfolgreich in das TFLite Edge TPU-Format exportiert hast, kannst du sie bereitstellen. Der primäre und empfohlene erste Schritt zur Ausführung eines TFLite Edge TPU-Modells ist die Verwendung der Methode YOLO("model_edgetpu.tflite"), wie im obigen Code-Beispiel gezeigt.

Für tiefergehende Anleitungen zur Bereitstellung deiner TFLite Edge TPU-Modelle schau dir jedoch die folgenden Ressourcen an:

• Coral Edge TPU auf einem Raspberry Pi mit Ultralytics YOLO26: Entdecke, wie du Coral Edge TPUs mit Raspberry Pi für verbesserte Machine Learning-Funktionen integrierst.

• Codebeispiele: Greife auf praktische Beispiele für die TensorFlow Edge TPU-Bereitstellung zu, um deine Projekte zu starten.

• Inferenz auf der Edge TPU mit Python ausführen: Erfahre, wie du die TensorFlow Lite Python-API für Edge TPU-Anwendungen verwendest, einschließlich Einrichtungs- und Nutzungsrichtlinien.

Link to this sectionZusammenfassung#

In dieser Anleitung haben wir gelernt, wie man Ultralytics YOLO26-Modelle in das TFLite Edge TPU-Format exportiert. Wenn du die oben genannten Schritte befolgst, kannst du die Geschwindigkeit und Leistung deiner Computer Vision-Anwendungen steigern.

Weitere Details zur Nutzung findest du auf der offiziellen Website der Edge TPU.

Für weitere Informationen zu anderen Ultralytics YOLO26-Integrationen besuche bitte unsere Seite mit Integrationsanleitungen. Dort findest du wertvolle Ressourcen und Einblicke.

Link to this sectionFAQ#

Link to this sectionWie exportiere ich ein YOLO26-Modell in das TFLite Edge TPU-Format?#

Um ein YOLO26-Modell in das TFLite Edge TPU-Format zu exportieren, kannst du diese Schritte befolgen:

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

Vollständige Details zum Export von Modellen in andere Formate findest du in unserem Export-Leitfaden.

Link to this sectionWas sind die Vorteile des Exports von YOLO26-Modellen in TFLite Edge TPU?#

Der Export von YOLO26-Modellen in TFLite Edge TPU bietet mehrere Vorteile:

• Optimierte Leistung: Erziele eine hohe Performance bei neuronalen Netzen mit minimalem Stromverbrauch.
• Reduzierte Latenz: Schnelle lokale Datenverarbeitung ohne Abhängigkeit von der Cloud.
• Erhöhte Privatsphäre: Die lokale Verarbeitung hält Benutzerdaten privat und sicher.

Dies macht es ideal für Anwendungen im Edge Computing, wo Geräte nur über begrenzte Energie und Rechenressourcen verfügen. Erfahre mehr darüber, warum du exportieren solltest.

Link to this sectionKann ich TFLite Edge TPU-Modelle auf mobilen und eingebetteten Geräten bereitstellen?#

Ja, TensorFlow Lite Edge TPU-Modelle können direkt auf mobilen und eingebetteten Geräten bereitgestellt werden. Dieser Ansatz ermöglicht es den Modellen, direkt auf der Hardware ausgeführt zu werden, was eine schnellere und effizientere Inferenz bietet. Für Integrationsbeispiele sieh dir unseren Leitfaden zur Bereitstellung der Coral Edge TPU auf dem Raspberry Pi an.

Link to this sectionWas sind typische Anwendungsfälle für TFLite Edge TPU-Modelle?#

Typische Anwendungsfälle für TFLite Edge TPU-Modelle umfassen:

• Smart Kameras: Verbesserung der Bild- und Videoanalyse in Echtzeit.
• IoT-Geräte: Ermöglichung von Smart Home- und industrieller Automatisierung.
• Gesundheitswesen: Beschleunigung medizinischer Bildgebung und Diagnostik.
• Einzelhandel: Verbesserung des Bestandsmanagements und der Analyse des Kundenverhaltens.

Diese Anwendungen profitieren von der hohen Leistungsfähigkeit und dem geringen Stromverbrauch der TFLite Edge TPU-Modelle. Entdecke mehr über Nutzungsszenarien.

Link to this sectionWie kann ich Probleme beim Exportieren oder Bereitstellen von TFLite Edge TPU-Modellen beheben?#

Falls bei der Exportierung oder Bereitstellung von TFLite Edge TPU-Modellen Probleme auftreten, schau dir unseren Common Issues guide für Tipps zur Fehlerbehebung an. Dieser Leitfaden behandelt häufige Probleme und Lösungen, damit du einen reibungslosen Betrieb sicherstellen kannst. Für weitere Unterstützung besuche unser Help Center.