Ultralytics YOLO27:

So exportierst du YOLO26 für die Bereitstellung in TF GraphDef#

Wenn du hochmoderne Computer-Vision-Modelle wie YOLO26 in verschiedenen Umgebungen bereitstellst, können Kompatibilitätsprobleme auftreten. Googles TensorFlow GraphDef, kurz TF GraphDef, bietet eine Lösung, indem es eine serialisierte, plattformunabhängige Darstellung deines Modells bereitstellt. Mit dem TF-GraphDef-Modellformat kannst du dein YOLO26-Modell in Umgebungen bereitstellen, in denen möglicherweise nicht das gesamte TensorFlow-Ökosystem verfügbar ist, etwa auf Mobilgeräten oder spezialisierter Hardware.

In diesem Leitfaden zeigen wir dir Schritt für Schritt, wie du deine Ultralytics YOLO26-Modelle in das TF-GraphDef-Modellformat exportierst. Durch die Konvertierung deines Modells kannst du die Bereitstellung vereinfachen und die Computer-Vision-Funktionen von YOLO26 in einer größeren Bandbreite von Anwendungen und auf mehr Plattformen nutzen.

TensorFlow GraphDef model serialization format

Warum solltest du nach TF GraphDef exportieren?#

TF GraphDef ist eine leistungsstarke Komponente des von Google entwickelten TensorFlow-Ökosystems. Es kann zur Optimierung und Bereitstellung von Modellen wie YOLO26 verwendet werden. Der Export nach TF GraphDef ermöglicht es dir, Modelle aus der Forschung in reale Anwendungen zu überführen. Dadurch können Modelle in Umgebungen ohne das vollständige TensorFlow-Framework ausgeführt werden.

Das GraphDef-Format stellt das Modell als serialisierten Berechnungsgraphen dar. Dadurch werden verschiedene Optimierungstechniken wie Constant Folding, Quantisierung und Graphtransformationen ermöglicht. Diese Optimierungen sorgen für eine effiziente Ausführung, einen geringeren Speicherbedarf und schnellere Inferenz.

GraphDef-Modelle können Hardwarebeschleuniger wie GPUs, TPUs und KI-Chips nutzen und dadurch erhebliche Leistungssteigerungen für die YOLO26-Inferenzpipeline erzielen. Das TF-GraphDef-Format erstellt ein eigenständiges Paket mit dem Modell und seinen Abhängigkeiten, was die Bereitstellung und Integration in unterschiedliche Systeme vereinfacht.

Wichtige Merkmale von TF-GraphDef-Modellen#

TF GraphDef bietet spezielle Funktionen zur Vereinfachung von Modellbereitstellung und Optimierung.

Hier ein Überblick über die wichtigsten Eigenschaften:

  • Modellserialisierung: TF GraphDef bietet eine Möglichkeit, TensorFlow-Modelle zu serialisieren und in einem plattformunabhängigen Format zu speichern. Diese serialisierte Darstellung ermöglicht es dir, deine Modelle ohne die ursprüngliche Python-Codebasis zu laden und auszuführen, wodurch die Bereitstellung vereinfacht wird.

  • Graphoptimierung: TF GraphDef ermöglicht die Optimierung von Berechnungsgraphen. Diese Optimierungen können die Leistung steigern, indem sie den Ausführungsablauf vereinfachen, Redundanzen reduzieren und Operationen an bestimmte Hardware anpassen.

  • Flexible Bereitstellung: In das GraphDef-Format exportierte Modelle können in verschiedenen Umgebungen eingesetzt werden, darunter ressourcenbeschränkte Geräte, Webbrowser und Systeme mit spezialisierter Hardware. Dadurch ergeben sich zusätzliche Möglichkeiten für die Bereitstellung deiner TensorFlow-Modelle.

  • Fokus auf den Produktionseinsatz: GraphDef wurde für die Bereitstellung in Produktionsumgebungen entwickelt. Es unterstützt eine effiziente Ausführung, Serialisierungsfunktionen und Optimierungen, die auf reale Anwendungsfälle abgestimmt sind.

Bereitstellungsoptionen mit TF GraphDef#

Bevor wir uns mit dem Export von YOLO26-Modellen nach TF GraphDef befassen, sehen wir uns einige typische Bereitstellungsszenarien an, in denen dieses Format verwendet wird.

So kannst du TF GraphDef effizient auf verschiedenen Plattformen bereitstellen.

  • TensorFlow Serving: Dieses Framework wurde für die Bereitstellung von TensorFlow-Modellen in Produktionsumgebungen entwickelt. TensorFlow Serving bietet Modellverwaltung, Versionsverwaltung und die Infrastruktur für die effiziente Bereitstellung von Modellen in großem Maßstab. So kannst du deine GraphDef-basierten Modelle nahtlos in Webdienste oder APIs für den Produktionseinsatz integrieren.

  • Mobil- und Embedded-Geräte: Mit Tools wie LiteRT kannst du TF-GraphDef-Modelle in Formate konvertieren, die für Smartphones, Tablets und verschiedene Embedded-Geräte optimiert sind. Deine Modelle können anschließend für die geräteinterne Inferenz verwendet werden, bei der die Ausführung lokal erfolgt und häufig sowohl Leistungsvorteile als auch Offline-Funktionen geboten werden.

  • Webbrowser: TensorFlow.js ermöglicht die direkte Bereitstellung von TF-GraphDef-Modellen in Webbrowsern. Damit werden Echtzeitanwendungen zur Objekterkennung auf der Clientseite möglich, die die Funktionen von YOLO26 über JavaScript nutzen.

  • Spezialisierte Hardware: Die Plattformunabhängigkeit von TF GraphDef ermöglicht die Unterstützung kundenspezifischer Hardware wie Beschleunigern und TPUs (Tensorverarbeitungseinheiten). Diese Geräte können bei rechenintensiven Modellen Leistungsvorteile bieten.

Unterstützte Aufgaben#

Der TF-GraphDef-Export unterstützt sechs der sieben Ultralytics-Aufgaben. Semantische Segmentierung und Tiefenschätzung sind nur mit YOLO26 verfügbar, der einzigen Modellfamilie, die diese Köpfe enthält. Posenschätzungsmodelle können exportiert werden, aber die Ultralytics-GraphDef-Inferenz wird für sie derzeit nicht unterstützt.

AufgabeYOLOv8YOLO11YOLO26
Erkennen
Segmentieren
Semantisch
Tiefe
Klassifizieren
Pose
OBB

YOLO26-Modelle nach TF GraphDef exportieren#

Du kannst dein YOLO26-Modell in das TF-GraphDef-Format konvertieren, das mit verschiedenen Systemen kompatibel ist, um seine Leistung auf unterschiedlichen Plattformen zu verbessern.

Installation#

Führe zur Installation des erforderlichen Pakets folgenden Befehl aus:

Installation
# Install the required package for YOLO26
pip install ultralytics

Ausführliche Anweisungen und bewährte Vorgehensweisen zur Installation findest du in unserem Installationsleitfaden von Ultralytics. Sollten bei der Installation der für YOLO26 erforderlichen Pakete Schwierigkeiten auftreten, findest du in unserem Leitfaden zu häufigen Problemen Lösungen und Tipps.

Verwendung#

Alle Ultralytics YOLO26-Modelle sind so konzipiert, dass sie standardmäßig den Export unterstützen, sodass du sie problemlos in deinen bevorzugten Bereitstellungsablauf integrieren kannst. Du kannst die vollständige Liste der unterstützten Exportformate und Konfigurationsoptionen anzeigen, um die beste Konfiguration für deine Anwendung auszuwählen.

Das TF-GraphDef-Format unterstützt die Modi Export, Vorhersage und Validierung, wobei Posenschätzungsmodelle derzeit nur den Export unterstützen. Exportiere dein Modell und lade das exportierte Modell anschließend, um Inferenz auszuführen oder seine Genauigkeit zu validieren.

Export
from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TF GraphDef format
model.export(format="pb")  # creates 'yolo26n.pb'
Vorhersage
from ultralytics import YOLO

# Load the exported TF GraphDef model
model = YOLO("yolo26n.pb")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")
Validieren
from ultralytics import YOLO

# Load the exported TF GraphDef model
model = YOLO("yolo26n.pb")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Exportargumente#

ArgumentTypStandardwertBeschreibung
formatstr'pb'Zielformat für das exportierte Modell, das die Kompatibilität mit verschiedenen Bereitstellungsumgebungen festlegt.
imgszint oder tuple640Gewünschte Bildgröße für die Modelleingabe. Kann für quadratische Bilder eine Ganzzahl oder für bestimmte Abmessungen ein Tupel (height, width) sein.
quantizeint oder strNoneFester FP32-Export. GraphDef unterstützt keine FP16-, INT8- oder W8A16-Präzisionskonvertierung während des Exports.
opsetintNoneLegt die ONNX-Operationssatzversion für den Zwischenstand des ONNX-Graphen fest. Wenn keine Angabe erfolgt, wird die neueste unterstützte Version verwendet.
batchint1Legt die Batchgröße für die Inferenz des exportierten Modells oder die maximale Anzahl der Bilder fest, die das exportierte Modell im Modus predict gleichzeitig verarbeitet.
devicestrNoneGibt das Gerät für den Export an: CPU (device=cpu), MPS für Apple-Chips (device=mps).

Weitere Informationen zum Exportvorgang findest du auf der Ultralytics-Dokumentationsseite zum Export.

Exportierte YOLO26-TF-GraphDef-Modelle bereitstellen#

Nachdem du dein YOLO26-Modell in das TF-GraphDef-Format exportiert hast, besteht der nächste Schritt in der Bereitstellung. Der wichtigste und empfohlene erste Schritt zum Ausführen eines TF-GraphDef-Modells ist die Verwendung der Methode YOLO("model.pb"), wie zuvor im Codebeispiel zur Verwendung gezeigt.

Weitere Informationen zur Bereitstellung deiner TF-GraphDef-Modelle findest du in den folgenden Ressourcen:

  • TensorFlow Serving: Ein Leitfaden zu TensorFlow Serving, der dir zeigt, wie du Machine-Learning-Modelle effizient in Produktionsumgebungen bereitstellst und ausführst.

  • TensorFlow Lite: Diese Seite beschreibt, wie du Machine-Learning-Modelle in ein für die geräteinterne Inferenz mit TensorFlow Lite optimiertes Format konvertierst.

  • TensorFlow.js: Ein Leitfaden zur Modellkonvertierung, der dir zeigt, wie du TensorFlow- oder Keras-Modelle für die Verwendung in Webanwendungen in das TensorFlow.js-Format konvertierst.

Zusammenfassung#

In diesem Leitfaden haben wir gezeigt, wie du Ultralytics YOLO26-Modelle in das TF-GraphDef-Format exportierst. Dadurch kannst du deine optimierten YOLO26-Modelle flexibel in verschiedenen Umgebungen bereitstellen.

Weitere Informationen zur Verwendung findest du in der offiziellen TF-GraphDef-Dokumentation.

Weitere Informationen zur Integration von Ultralytics YOLO26 in andere Plattformen und Frameworks findest du auf unserer Seite zum Integrationsleitfaden.

FAQ#

  • Ultralytics YOLO26-Modelle können nahtlos in das TensorFlow-GraphDef-Format (TF GraphDef) exportiert werden. Dieses Format bietet eine serialisierte, plattformunabhängige Darstellung des Modells und eignet sich ideal für die Bereitstellung in verschiedenen Umgebungen wie Mobilgeräten und im Web. Führe zum Exportieren eines YOLO26-Modells in TF GraphDef die folgenden Schritte aus:

    Verwendung
    from ultralytics import YOLO
    
    # Load a YOLO26 model
    model = YOLO("yolo26n.pt")
    
    # Export the model to TF GraphDef format
    model.export(format="pb")  # creates 'yolo26n.pb'
    
    # Load the exported TF GraphDef model
    tf_graphdef_model = YOLO("yolo26n.pb")
    
    # Run inference
    results = tf_graphdef_model("https://ultralytics.com/images/bus.jpg")

    Weitere Informationen zu verschiedenen Exportoptionen findest du in der Ultralytics-Dokumentation zum Modellexport.

  • Der Export von YOLO26-Modellen in das TF-GraphDef-Format bietet mehrere Vorteile, darunter:

    1. Plattformunabhängigkeit: TF GraphDef stellt ein plattformunabhängiges Format bereit, sodass Modelle in verschiedenen Umgebungen einschließlich Mobilgeräten und Webbrowsern bereitgestellt werden können.
    2. Optimierungen: Das Format ermöglicht mehrere Optimierungen wie Constant Folding, Quantisierung und Graphtransformationen, die die Ausführungseffizienz erhöhen und den Speicherbedarf reduzieren.
    3. Hardwarebeschleunigung: Modelle im TF-GraphDef-Format können Hardwarebeschleuniger wie GPUs, TPUs und KI-Chips nutzen, um die Leistung zu steigern.

    Weitere Informationen zu den Vorteilen findest du im Abschnitt TF GraphDef unserer Dokumentation.

  • Ultralytics YOLO26 bietet im Vergleich zu anderen Modellen wie YOLOv5 und YOLOv7 zahlreiche Vorteile. Zu den wichtigsten zählen:

    1. Spitzenleistung: YOLO26 bietet außergewöhnliche Geschwindigkeit und Genauigkeit für Objekterkennung, Instanzsegmentierung, semantische Segmentierung und Klassifizierung in Echtzeit.
    2. Einfache Bedienung: Bietet eine benutzerfreundliche API für das Training, die Validierung, die Vorhersage und den Export von Modellen und ist damit sowohl für Anfänger als auch für Experten zugänglich.
    3. Breite Kompatibilität: Unterstützt mehrere Exportformate wie ONNX, TensorRT, CoreML und TensorFlow und bietet dadurch vielseitige Optionen für die Bereitstellung.

    Weitere Einzelheiten findest du in unserer Einführung in YOLO26.

  • Nachdem ein YOLO26-Modell in das TF-GraphDef-Format exportiert wurde, kannst du es auf verschiedenen Plattformen mit spezialisierter Hardware bereitstellen. Typische Bereitstellungsszenarien sind:

    • TensorFlow Serving: Verwende TensorFlow Serving für die skalierbare Modellbereitstellung in Produktionsumgebungen. Es unterstützt die Modellverwaltung und eine effiziente Bereitstellung.
    • Mobilgeräte: Konvertiere TF-GraphDef-Modelle in TensorFlow Lite, das für Mobil- und Embedded-Geräte optimiert ist und geräteinterne Inferenz ermöglicht.
    • Webbrowser: Stelle Modelle mit TensorFlow.js für die clientseitige Inferenz in Webanwendungen bereit.
    • KI-Beschleuniger: Nutze TPUs und kundenspezifische KI-Chips für beschleunigte Inferenz.

    Ausführliche Informationen findest du im Abschnitt zu den Bereitstellungsoptionen.

  • Zur Fehlerbehebung bei häufigen Problemen mit dem Export von YOLO26-Modellen stellt Ultralytics umfassende Leitfäden und Ressourcen bereit. Wenn während der Installation oder beim Modellexport Probleme auftreten, findest du Hilfe in:

    Diese Ressourcen sollten dir helfen, die meisten Probleme im Zusammenhang mit dem Export und der Bereitstellung von YOLO26-Modellen zu lösen.

Kommentare