Lerne, ein YOLO26-Modell in das TFLite-Edge-TPU-Format zu exportieren#

Die Bereitstellung von Computer-Vision-Modellen auf Geräten mit begrenzter Rechenleistung, etwa mobilen oder eingebetteten Systemen, kann knifflig sein. Die Verwendung eines für höhere Leistung optimierten Modellformats vereinfacht diesen Prozess. Das Modellformat TensorFlow Lite Edge TPU beziehungsweise das TFLite-Edge-TPU-Format wurde entwickelt, um bei neuronalen Netzen möglichst wenig Energie zu verbrauchen und gleichzeitig eine hohe Geschwindigkeit zu bieten.

Mit dem Export in das TFLite-Edge-TPU-Format kannst du deine Ultralytics-YOLO26-Modelle für schnelle Inferenz bei geringem Energieverbrauch optimieren. In diesem Leitfaden zeigen wir dir, wie du deine Modelle in das TFLite-Edge-TPU-Format konvertierst, damit sie auf verschiedenen mobilen und eingebetteten Geräten zuverlässig leistungsfähig arbeiten.

Warum solltest du in das TFLite-Edge-TPU-Format exportieren?#

Der Export von Modellen in das TensorFlow-Edge-TPU-Format macht Aufgaben des maschinellen Lernens schnell und effizient. Diese Technologie eignet sich für Anwendungen mit begrenzter Energieversorgung, Rechenleistung und Konnektivität. Die Edge TPU ist ein Hardwarebeschleuniger von Google. Sie beschleunigt TensorFlow-Lite-Modelle auf Edge-Geräten. Das Bild unten zeigt ein Beispiel für den damit verbundenen Ablauf.

Die Edge TPU arbeitet mit quantisierten Modellen. Durch Quantisierung werden Modelle kleiner und schneller, ohne viel Genauigkeit einzubüßen. Das ist ideal für die begrenzten Ressourcen des Edge Computing: Anwendungen können durch geringere Latenz und schnelle lokale Datenverarbeitung zügig reagieren, ohne von einer Cloud abhängig zu sein. Die lokale Verarbeitung schützt die Privatsphäre und Sicherheit der Nutzerdaten, da diese nicht an einen entfernten Server gesendet werden.

Wichtige Funktionen von TFLite Edge TPU#

Hier sind die wichtigsten Funktionen, die TFLite Edge TPU zu einer guten Wahl für Entwickler machen:

• Optimierte Leistung auf Edge-Geräten: TFLite Edge TPU erzielt durch Quantisierung, Modelloptimierung, Hardwarebeschleunigung und Compileroptimierung eine hohe Geschwindigkeit bei neuronalen Netzen. Die minimalistische Architektur trägt zur geringeren Größe und Kosteneffizienz bei.

• Hoher Rechendurchsatz: TFLite Edge TPU kombiniert spezialisierte Hardwarebeschleunigung mit effizienter Laufzeitausführung und erzielt dadurch einen hohen Rechendurchsatz. Das Format eignet sich besonders für die Bereitstellung von Modellen des maschinellen Lernens mit strengen Leistungsanforderungen auf Edge-Geräten.

• Effiziente Matrixberechnungen: TensorFlow Edge TPU ist für Matrixoperationen optimiert, die für Berechnungen neuronaler Netze entscheidend sind. Diese Effizienz ist für Modelle des maschinellen Lernens besonders wichtig, vor allem für solche, die zahlreiche und komplexe Matrixmultiplikationen und -transformationen erfordern.

Bereitstellungsoptionen mit TFLite Edge TPU#

Bevor wir uns damit befassen, wie du YOLO26-Modelle in das TFLite-Edge-TPU-Format exportierst, sehen wir uns an, wo TFLite-Edge-TPU-Modelle üblicherweise eingesetzt werden.

TFLite Edge TPU bietet verschiedene Bereitstellungsoptionen für Modelle des maschinellen Lernens, darunter:

• Bereitstellung auf dem Gerät: TensorFlow-Edge-TPU-Modelle können direkt auf mobilen und eingebetteten Geräten bereitgestellt werden. Bei der Bereitstellung auf dem Gerät werden die Modelle direkt auf der Hardware ausgeführt. Dadurch ist keine Cloud-Verbindung erforderlich – das Modell kann entweder in das Anwendungspaket eingebettet oder bei Bedarf heruntergeladen werden.

• Hybride Bereitstellung: Ein hybrider Ansatz kombiniert die Bereitstellung auf dem Gerät und in der Cloud und bietet eine vielseitige und skalierbare Lösung für die Bereitstellung von Modellen des maschinellen Lernens. Zu den Vorteilen gehören die Verarbeitung auf dem Gerät für schnelle Antworten und Cloud Computing für komplexere Berechnungen.

Unterstützte Aufgaben#

Der Edge-TPU-Export unterstützt sechs der sieben Ultralytics-Aufgaben. Die semantische Segmentierung ist nur mit YOLO26 verfügbar, der einzigen Familie, die diesen Kopf enthält. Die Tiefenschätzung wird nicht unterstützt, da das INT8-Modell dafür einen EXP-Operator der Version 2 ausgibt, den der Edge-TPU-Compiler nicht analysieren kann.

Der Edge-TPU-Compiler ordnet die unterstützten Operationen dem Beschleuniger zu und führt die übrigen auf der CPU aus. Die Unterstützung einer Aufgabe bedeutet daher nicht, dass jede Operation auf der TPU ausgeführt wird.

YOLO26-Modelle in das TFLite-Edge-TPU-Format exportieren#

Du kannst die Modellkompatibilität und Flexibilität bei der Bereitstellung erhöhen, indem du YOLO26-Modelle in TensorFlow Edge TPU konvertierst.

Installation#

Führe zur Installation des erforderlichen Pakets folgenden Befehl aus:

# Install the required package for YOLO26
pip install ultralytics

Ausführliche Anweisungen und bewährte Vorgehensweisen zur Installation findest du in unserem Installationsleitfaden von Ultralytics. Sollten bei der Installation der für YOLO26 erforderlichen Pakete Schwierigkeiten auftreten, findest du in unserem Leitfaden zu häufigen Problemen Lösungen und Tipps.

Verwendung#

Alle Ultralytics YOLO26-Modelle sind so konzipiert, dass sie standardmäßig den Export unterstützen, sodass du sie problemlos in deinen bevorzugten Bereitstellungsablauf integrieren kannst. Du kannst die vollständige Liste der unterstützten Exportformate und Konfigurationsoptionen anzeigen, um die beste Konfiguration für deine Anwendung auszuwählen.

Das TFLite-Edge-TPU-Format unterstützt die Modi Export, Predict und Validate. Inferenz und Validierung werden auf Coral-Edge-TPU-Hardware ausgeführt. Exportiere dein Modell und lade anschließend das exportierte Modell, um Inferenz auszuführen oder seine Genauigkeit zu validieren.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo26n_full_integer_quant_edgetpu.tflite'

from ultralytics import YOLO

# Load the exported TFLite Edge TPU model
model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported TFLite Edge TPU model
model = YOLO("yolo26n_full_integer_quant_edgetpu.tflite")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Exportargumente#

Weitere Informationen zum Exportvorgang findest du auf der Ultralytics-Dokumentationsseite zum Export.

Exportierte YOLO26-TFLite-Edge-TPU-Modelle bereitstellen#

Nachdem du deine Ultralytics-YOLO26-Modelle erfolgreich in das TFLite-Edge-TPU-Format exportiert hast, kannst du sie bereitstellen. Der wichtigste und empfohlene erste Schritt zum Ausführen eines TFLite-Edge-TPU-Modells ist die Methode YOLO("model_edgetpu.tflite"), wie im vorherigen Codebeispiel zur Verwendung beschrieben.

Ausführliche Anweisungen zur Bereitstellung deiner TFLite-Edge-TPU-Modelle findest du in den folgenden Ressourcen:

• Coral Edge TPU auf einem Raspberry Pi mit Ultralytics YOLO26: Erfahre, wie du Coral Edge TPUs mit Raspberry Pi integrierst, um die Fähigkeiten des maschinellen Lernens zu erweitern.

• Codebeispiele: Greife auf praktische Beispiele für die Bereitstellung mit TensorFlow Edge TPU zu, um deine Projekte zu starten.

• Inferenz auf der Edge TPU mit Python ausführen: Erfahre, wie du die TensorFlow-Lite-Python-API für Edge-TPU-Anwendungen verwendest, einschließlich Anleitungen zur Einrichtung und Nutzung.

Zusammenfassung#

In diesem Leitfaden haben wir gelernt, wie du Ultralytics-YOLO26-Modelle in das TFLite-Edge-TPU-Format exportierst. Wenn du die oben genannten Schritte befolgst, kannst du die Geschwindigkeit und Energieeffizienz deiner Computer-Vision-Anwendungen steigern.

Weitere Details zur Verwendung findest du auf der offiziellen Website von Coral Edge TPU.

Weitere Informationen zu anderen Ultralytics-YOLO26-Integrationen findest du auf unserer Seite mit Integrationsleitfäden. Dort findest du wertvolle Ressourcen und Informationen.

FAQ#