Lerne, wie du YOLO26-Modelle in das TFLite Edge TPU-Format exportierst#

Das Bereitstellen von Computer-Vision-Modellen auf Geräten mit begrenzter Rechenleistung, wie Mobil- oder Embedded-Systemen, kann knifflig sein. Die Verwendung eines Modellformats, das für eine schnellere Leistung optimiert ist, vereinfacht den Prozess. Das TensorFlow Lite Edge TPU- oder TFLite Edge TPU-Modellformat ist so konzipiert, dass es minimalen Strom verbraucht und gleichzeitig eine schnelle Leistung für neuronale Netze liefert.

Die Funktion zum Exportieren in das TFLite Edge TPU-Format ermöglicht es dir, deine Ultralytics YOLO26-Modelle für eine hochmoderne und stromsparende Inferenz zu optimieren. In diesem Leitfaden führen wir dich durch die Konvertierung deiner Modelle in das TFLite Edge TPU-Format, wodurch es einfacher wird, dass deine Modelle auf verschiedenen Mobil- und Embedded-Geräten gute Leistungen erbringen.

Warum solltest du in das TFLite Edge TPU-Format exportieren?#

Das Exportieren von Modellen auf TensorFlow Edge TPU macht machine learning-Aufgaben schnell und effizient. Diese Technologie eignet sich für Anwendungen mit begrenzter Leistung, Rechenressourcen und Konnektivität. Die Edge TPU ist ein Hardware-Beschleuniger von Google. Sie beschleunigt TensorFlow Lite-Modelle auf Edge-Geräten. Das Bild unten zeigt ein Beispiel für den dabei ablaufenden Prozess.

Die Edge TPU arbeitet mit quantisierten Modellen. Durch die Quantisierung werden Modelle kleiner und schneller, ohne dass dabei nennenswert Genauigkeit verloren geht. Sie ist ideal für die begrenzten Ressourcen des Edge Computings und ermöglicht es Anwendungen, durch reduzierte Latenzen schnell zu reagieren sowie Daten schnell lokal zu verarbeiten, ohne Abhängigkeit von der Cloud. Die lokale Verarbeitung schützt zudem die Privatsphäre und Sicherheit der Benutzerdaten, da diese nicht an einen Remote-Server gesendet werden.

Hauptmerkmale von TFLite Edge TPU#

Hier sind die wichtigsten Funktionen, die TFLite Edge TPU zu einer großartigen Wahl für Entwickler machen:

• Optimierte Leistung auf Edge-Geräten: Die TFLite Edge TPU erzielt durch Quantisierung, Modelloptimierung, Hardwarebeschleunigung und Compiler-Optimierung eine Hochleistungs-Performance bei neuronalen Netzen. Ihre minimalistische Architektur trägt zu einer geringeren Größe und Kosteneffizienz bei.

• Hoher Berechnungsdurchsatz: TFLite Edge TPU kombiniert spezialisierte Hardwarebeschleunigung mit effizienter Laufzeitausführung, um einen hohen Berechnungsdurchsatz zu erzielen. Es eignet sich hervorragend für die Bereitstellung von Machine Learning-Modellen mit strengen Leistungsanforderungen auf Edge-Geräten.

• Effiziente Matrixberechnungen: Die TensorFlow Edge TPU ist für Matrixoperationen optimiert, die für Berechnungen in neuronalen Netzen von entscheidender Bedeutung sind. Diese Effizienz ist der Schlüssel in Machine-Learning-Modellen, insbesondere bei solchen, die zahlreiche und komplexe Matrixmultiplikationen und -transformationen erfordern.

Bereitstellungsoptionen mit TFLite Edge TPU#

Bevor wir dazu kommen, wie man YOLO26-Modelle in das TFLite Edge TPU-Format exportiert, lass uns verstehen, wo TFLite Edge TPU-Modelle üblicherweise eingesetzt werden.

TFLite Edge TPU bietet verschiedene Bereitstellungsoptionen für Machine Learning-Modelle, darunter:

• On-Device-Bereitstellung: TensorFlow Edge TPU-Modelle können direkt auf mobilen und eingebetteten Geräten bereitgestellt werden. Die On-Device-Bereitstellung ermöglicht es den Modellen, direkt auf der Hardware ausgeführt zu werden, wodurch keine Cloud-Verbindung erforderlich ist – entweder durch Einbetten des Modells in das Anwendungspaket oder durch bedarfsgesteuertes Herunterladen.

• Edge Computing mit Cloud TensorFlow TPUs: In Szenarien, in denen Edge-Geräte begrenzte Verarbeitungskapazitäten haben, können TensorFlow Edge TPUs Inferenzaufgaben an Cloud-Server auslagern, die mit TPUs ausgestattet sind.

• Hybride Bereitstellung: Ein hybrider Ansatz kombiniert die Bereitstellung auf dem Gerät und in der Cloud und bietet eine vielseitige und skalierbare Lösung für das Deployment von Machine-Learning-Modellen. Zu den Vorteilen gehören die geräteinterne Verarbeitung für schnelle Reaktionen und Cloud Computing für komplexere Berechnungen.

Unterstützte Aufgaben#

Der Edge TPU-Export unterstützt sechs der sieben Ultralytics-Aufgaben. Semantische Segmentierung ist nur mit YOLO26 verfügbar, der einzigen Familie, die diesen Head bereitstellt. Tiefenschätzung wird nicht unterstützt, da ihr INT8-Modell einen EXP v2-Operator ausgibt, den der Edge TPU-Compiler nicht analysieren kann.

Der Edge TPU-Compiler bildet die von ihm unterstützten Operationen auf dem Beschleuniger ab und belässt den Rest auf der CPU, sodass die Aufgabenunterstützung nicht bedeutet, dass jede Operation auf der TPU läuft.

Exportieren von YOLO26-Modellen in TFLite Edge TPU#

Du kannst die Modellkompatibilität und Flexibilität bei der Bereitstellung erweitern, indem du YOLO26-Modelle in TensorFlow Edge TPU konvertierst.

Installation#

Um das erforderliche Paket zu installieren, führe Folgendes aus:

# Install the required package for YOLO26
pip install ultralytics

Detaillierte Anweisungen und bewährte Methoden zum Installationsprozess findest du in unserer Ultralytics-Installationsanleitung. Wenn während der Installation der erforderlichen Pakete für YOLO26 Schwierigkeiten auftreten, findest du in unserem Leitfaden zu häufigen Problemen Lösungen und Tipps.

Verwendung#

Alle Ultralytics YOLO26-Modelle sind so konzipiert, dass sie den Export von Haus aus unterstützen, was es einfach macht, sie in deinen bevorzugten Deployment-Workflow zu integrieren. Du kannst die vollständige Liste der unterstützten Exportformate und Konfigurationsoptionen einsehen, um das beste Setup für deine Anwendung auszuwählen.

Das TFLite Edge TPU-Format unterstützt die Modi Export, Predict und Validate. Inferenz und Validierung laufen auf Coral Edge TPU-Hardware. Exportiere dein Modell und lade es anschließend, um die Inferenz auszuführen oder dessen Genauigkeit zu validieren.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'

from ultralytics import YOLO

# Load the exported TFLite Edge TPU model
model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported TFLite Edge TPU model
model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Export-Argumente#

Weitere Details zum Exportprozess findest du auf der Ultralytics-Dokumentationsseite zum Exportieren.

Bereitstellung exportierter YOLO26 TFLite Edge TPU-Modelle#

Nachdem du deine Ultralytics YOLO26-Modelle erfolgreich in das TFLite Edge TPU-Format exportiert hast, kannst du sie bereitstellen. Der primäre und empfohlene erste Schritt zur Ausführung eines TFLite Edge TPU-Modells ist die Verwendung der Methode YOLO("model_edgetpu.tflite"), wie im obigen Code-Beispiel gezeigt.

Für tiefergehende Anleitungen zur Bereitstellung deiner TFLite Edge TPU-Modelle schau dir jedoch die folgenden Ressourcen an:

• Coral Edge TPU auf einem Raspberry Pi mit Ultralytics YOLO26: Erfahre, wie du Coral Edge TPUs mit Raspberry Pi für erweiterte Machine-Learning-Funktionen integrierst.

• Codebeispiele: Greife auf praxisnahe TensorFlow Edge TPU-Bereitstellungsbeispiele zu, um deine Projekte zu starten.

• Inferenz auf der Edge TPU mit Python ausführen: Erfahre, wie du die TensorFlow Lite Python API für Edge TPU-Anwendungen verwendest, einschließlich Einrichtungs- und Nutzungsrichtlinien.

Zusammenfassung#

In diesem Leitfaden haben wir gelernt, wie man Ultralytics YOLO26-Modelle in das TFLite Edge TPU-Format exportiert. Indem du den oben genannten Schritten folgst, kannst du die Geschwindigkeit und Leistung deiner Computer-Vision-Anwendungen steigern.

Weitere Details zur Verwendung findest du auf der offiziellen Edge TPU-Website.

Besuche außerdem unsere Integrations-Leitfaden-Seite, um weitere Informationen zu anderen Ultralytics YOLO26-Integrationen zu erhalten. Dort findest du wertvolle Ressourcen und Einblicke.

FAQ#

Wie exportiere ich ein YOLO26-Modell in das TFLite Edge TPU-Format?#

Um ein YOLO26-Modell in das TFLite Edge TPU-Format zu exportieren, kannst du diese Schritte befolgen:

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

Vollständige Details zum Exportieren von Modellen in andere Formate findest du in unserem Export-Leitfaden.

Was sind die Vorteile des Exports von YOLO26-Modellen in TFLite Edge TPU?#

Der Export von YOLO26-Modellen in TFLite Edge TPU bietet mehrere Vorteile:

• Optimierte Leistung: Erziele eine hohe Performance bei neuronalen Netzen mit minimalem Stromverbrauch.
• Reduzierte Latenz: Schnelle lokale Datenverarbeitung ohne Abhängigkeit von der Cloud.
• Erhöhte Privatsphäre: Die lokale Verarbeitung hält Benutzerdaten privat und sicher.

Dies prädestiniert es für Anwendungen im Edge Computing, bei denen Geräte nur über begrenzte Leistung und Rechenressourcen verfügen. Erfahre mehr darüber, warum du exportieren solltest.

Kann ich TFLite Edge TPU-Modelle auf mobilen und eingebetteten Geräten bereitstellen?#

Ja, TensorFlow Lite Edge TPU-Modelle können direkt auf Mobil- und Embedded-Geräten bereitgestellt werden. Dieser Ansatz ermöglicht es Modellen, direkt auf der Hardware ausgeführt zu werden, was eine schnellere und effizientere Inferenz bietet. Beispiele für die Integration findest du in unserem Leitfaden zur Bereitstellung von Coral Edge TPU auf dem Raspberry Pi.

Was sind typische Anwendungsfälle für TFLite Edge TPU-Modelle?#

Typische Anwendungsfälle für TFLite Edge TPU-Modelle umfassen:

• Smart Kameras: Verbesserung der Bild- und Videoanalyse in Echtzeit.
• IoT-Geräte: Ermöglichung von Smart Home- und industrieller Automatisierung.
• Gesundheitswesen: Beschleunigung medizinischer Bildgebung und Diagnostik.
• Einzelhandel: Verbesserung des Bestandsmanagements und der Analyse des Kundenverhaltens.

Diese Anwendungen profitieren von der hohen Leistung und dem geringen Stromverbrauch von TFLite Edge TPU-Modellen. Entdecke mehr über Anwendungsszenarien.

Wie kann ich Probleme beim Exportieren oder Bereitstellen von TFLite Edge TPU-Modellen beheben?#

Wenn beim Exportieren oder Bereitstellen von TFLite Edge TPU-Modellen Probleme auftreten, schaue in unserem Leitfaden zu häufigen Problemen nach Tipps zur Fehlerbehebung. Dieser Leitfaden behandelt gängige Probleme und Lösungen, um einen reibungslosen Betrieb zu gewährleisten. Für zusätzlichen Support besuche unser Hilfe-Center.