Ultralytics YOLO27:
Get Started

Erfahre, wie du YOLO26 in das TF-SavedModel-Format exportierst#

Die Bereitstellung von Modellen für maschinelles Lernen kann eine Herausforderung sein. Mit einem effizienten und flexiblen Modellformat wird die Aufgabe jedoch einfacher. TF SavedModel ist das Standardserialisierungsformat von TensorFlow, mit dem sich Modelle für maschinelles Lernen einheitlich speichern und laden lassen. Es ist wie ein Koffer für TensorFlow-Modelle: So kannst du sie einfach transportieren und auf verschiedenen Geräten und Systemen verwenden.

Wenn du lernst, wie du Modelle von Ultralytics YOLO26 in TF SavedModel exportierst, kannst du sie problemlos auf verschiedenen Plattformen und in unterschiedlichen Umgebungen bereitstellen. In dieser Anleitung zeigen wir dir, wie du deine Modelle in das TF-SavedModel-Format konvertierst. So wird die Ausführung von Inferenz mit deinen Modellen auf verschiedenen Geräten einfacher.

Warum solltest du nach TF SavedModel exportieren?#

Das TensorFlow-SavedModel-Format gehört zum unten gezeigten, von Google entwickelten TensorFlow-Ökosystem. Es wurde für die nahtlose Speicherung und Serialisierung von TensorFlow-Modellen konzipiert. Es umfasst alle wichtigen Modelldetails wie Architektur, Gewichte und sogar Kompilierungsinformationen. Dadurch lassen sich Modelle ganz einfach in verschiedenen Umgebungen teilen, bereitstellen und weitertrainieren.

TensorFlow SavedModel export format structure

TF SavedModel bietet einen entscheidenden Vorteil: Kompatibilität. Es funktioniert gut mit TensorFlow Serving, LiteRT (früher TensorFlow Lite) und TensorFlow.js. Dank dieser Kompatibilität lassen sich Modelle einfacher auf verschiedenen Plattformen teilen und bereitstellen, auch in Web- und Mobilanwendungen. Das TF-SavedModel-Format eignet sich sowohl für die Forschung als auch für den Produktiveinsatz. Es bietet eine einheitliche Möglichkeit, deine Modelle zu verwalten und sicherzustellen, dass sie für jede Anwendung bereit sind.

Wichtige Merkmale von TF SavedModel#

Hier sind die wichtigsten Merkmale, die TF SavedModel zu einer hervorragenden Option für KI-Entwickler machen:

  • Portabilität: TF SavedModel bietet ein sprachneutrales, wiederherstellbares und hermetisches Serialisierungsformat. Damit können übergeordnete Systeme und Tools TensorFlow-Modelle erstellen, verwenden und transformieren. SavedModels lassen sich einfach auf verschiedenen Plattformen und in unterschiedlichen Umgebungen teilen und bereitstellen.

  • Einfache Bereitstellung: TF SavedModel bündelt den Berechnungsgraphen, die trainierten Parameter und die erforderlichen Metadaten in einem einzigen Paket. Es lässt sich einfach laden und für Inferenz verwenden, ohne dass der ursprüngliche Code benötigt wird, mit dem das Modell erstellt wurde. Dadurch können TensorFlow-Modelle problemlos und effizient in verschiedenen Produktivumgebungen bereitgestellt werden.

  • Verwaltung von Ressourcen: TF SavedModel unterstützt die Einbindung externer Ressourcen wie Vokabulare, Embeddings oder Nachschlagetabellen. Diese Ressourcen werden zusammen mit der Graphdefinition und den Variablen gespeichert, sodass sie beim Laden des Modells verfügbar sind. Dadurch wird die Verwaltung und Verteilung von Modellen vereinfacht, die auf externe Ressourcen angewiesen sind.

Bereitstellungsoptionen mit TF SavedModel#

Bevor wir uns mit dem Export von YOLO26-Modellen in das TF-SavedModel-Format befassen, schauen wir uns typische Bereitstellungsszenarien für dieses Format an.

TF SavedModel bietet verschiedene Möglichkeiten, deine Modelle für maschinelles Lernen bereitzustellen:

  • TensorFlow Serving: TensorFlow Serving ist ein flexibles, leistungsstarkes Bereitstellungssystem für Produktivumgebungen. Es unterstützt TF SavedModels nativ und erleichtert so die Bereitstellung und Ausführung deiner Modelle auf Cloudplattformen, lokalen Servern oder Edge-Geräten.

  • Cloudplattformen: Große Cloudanbieter wie Google Cloud Platform (GCP), Amazon Web Services (AWS) und Microsoft Azure bieten Dienste für die Bereitstellung und Ausführung von TensorFlow-Modellen, einschließlich TF SavedModels. Diese Dienste stellen eine skalierbare, verwaltete Infrastruktur bereit, mit der du deine Modelle einfach bereitstellen und skalieren kannst.

  • Mobilgeräte und eingebettete Geräte: LiteRT (früher TensorFlow Lite) ist eine leichtgewichtige Lösung zur Ausführung von Modellen für maschinelles Lernen auf Mobilgeräten, eingebetteten Geräten und IoT-Geräten. Die Lösung unterstützt die Konvertierung von TF SavedModels in das LiteRT-Format. So kannst du deine Modelle auf einer Vielzahl von Geräten bereitstellen – von Smartphones und Tablets bis hin zu Mikrocontrollern und Edge-Geräten.

  • TensorFlow Runtime: TensorFlow Runtime (tfrt) ist eine leistungsstarke Laufzeitumgebung zur Ausführung von TensorFlow-Graphen. Sie bietet APIs auf niedrigerer Ebene, um TF SavedModels in C++-Umgebungen zu laden und auszuführen. TensorFlow Runtime bietet eine bessere Leistung als die standardmäßige TensorFlow-Laufzeitumgebung. Sie eignet sich für Bereitstellungsszenarien, die Inferenz mit niedriger Latenz und eine enge Integration in bestehende C++-Codebasen erfordern.

Unterstützte Aufgaben#

Der TF-SavedModel-Export unterstützt alle sieben Ultralytics-Aufgaben. Semantische Segmentierung und Tiefenschätzung sind nur mit YOLO26 verfügbar, der einzigen Modellfamilie mit diesen Köpfen.

AufgabeYOLOv8YOLO11YOLO26
Erkennung✅✅✅
Segmentierung✅✅✅
Semantik❌❌✅
Tiefe❌❌✅
Klassifizierung✅✅✅
Pose✅✅✅
OBB✅✅✅

YOLO26-Modelle in TF SavedModel exportieren#

Durch den Export von YOLO26-Modellen in das TF-SavedModel-Format erhöhst du ihre Anpassungsfähigkeit und erleichterst die Bereitstellung auf verschiedenen Plattformen.

Installation#

Führe zum Installieren des erforderlichen Pakets Folgendes aus:

Installation
# Install the required package for YOLO26
pip install ultralytics

Ausführliche Anweisungen und bewährte Vorgehensweisen zur Installation findest du in unserer Installationsanleitung von Ultralytics. Falls bei der Installation der für YOLO26 erforderlichen Pakete Probleme auftreten, findest du Lösungen und Tipps in unserer Anleitung zu häufigen Problemen.

Verwendung#

Alle Ultralytics YOLO26-Modelle sind so ausgelegt, dass sie sofort exportiert werden können. Dadurch lassen sie sich problemlos in deinen bevorzugten Bereitstellungsablauf integrieren. In der vollständigen Liste der unterstützten Exportformate und Konfigurationsoptionen findest du die passende Konfiguration für deine Anwendung.

Das TF-SavedModel-Format unterstützt die Modi Export, Vorhersage und Validierung. Exportiere dein Modell und lade anschließend das exportierte Modell, um Inferenz auszuführen oder seine Genauigkeit zu validieren.

Exportieren
from ultralytics import YOLO

# Ein YOLO26-Modell laden
model = YOLO("yolo26n.pt")

# Modell in das TF-SavedModel-Format exportieren
model.export(format="saved_model")  # creates 'yolo26n_saved_model'
Vorhersagen
from ultralytics import YOLO

# Exportiertes TF-SavedModel-Modell laden
model = YOLO("./yolo26n_saved_model")

# Inferenz ausführen
results = model("https://ultralytics.com/images/bus.jpg")
Validieren
from ultralytics import YOLO

# Exportiertes TF-SavedModel-Modell laden
model = YOLO("./yolo26n_saved_model")

# Die Genauigkeit anhand des COCO8-Datensatzes validieren
metrics = model.val(data="coco8.yaml")

Exportargumente#

ArgumentTypStandardBeschreibung
formatstr'saved_model'Zielformat des exportierten Modells, das die Kompatibilität mit verschiedenen Bereitstellungsumgebungen festlegt.
imgszint oder tuple640Gewünschte Bildgröße für die Modelleingabe. Kann eine Ganzzahl für quadratische Bilder oder ein Tupel (height, width) für bestimmte Abmessungen sein.
quantizeint oder strNoneQuantisierungspräzision: 8 (INT8/PTQ; benötigt Kalibrierung data/fraction) oder 32/nicht angegeben (FP32). FP16 wird beim SavedModel-Export nicht unterstützt. Ersetzt das veraltete Flag int8.
opsetintNoneLegt die ONNX-Operatorensatz-Version für den zwischengeschalteten ONNX-Graphen fest. Wenn nichts angegeben ist, wird die neueste unterstützte Version verwendet.
nmsbool, optionalNoneWähle die Rohausgabe (None, Standard), eingebettetes NMS (True) oder den NMS-freien Kopf (False).
batchint1Gibt die Batchgröße für die Inferenz des Exportmodells oder die Höchstzahl der Bilder an, die das exportierte Modell gleichzeitig im predict-Modus verarbeiten kann.
datastrNonePfad zur YAML-Datei des Datensatzes, die für die Quantisierung erforderlich ist; bei der Klassifizierung wird stattdessen ein Datensatzverzeichnis oder der Name eines integrierten Datensatzes verwendet. Wenn quantize=8 nicht angegeben ist, wählt Ultralytics den Standard-Kalibrierungsdatensatz für die jeweilige Modellaufgabe aus.
fractionfloat, int oder list1.0Kalibrierungsteilstichprobe als Verhältnis, Bildanzahl oder [train, val, test]-Verhältnisse/-Anzahlen. Bei Listen mit zwei Elementen bleibt test vollständig erhalten, während 0 es überspringt.
devicestrNoneGibt das Gerät für den Export an: CPU (device=cpu), MPS für Apple-Chips (device=mps).

Weitere Informationen zum Exportvorgang findest du auf der Ultralytics-Dokumentationsseite zum Export.

Exportierte YOLO26-TF-SavedModel-Modelle bereitstellen#

Nachdem du dein YOLO26-Modell in das TF-SavedModel-Format exportiert hast, kannst du es als Nächstes bereitstellen. Als ersten und empfohlenen Schritt zum Ausführen eines TF-SavedModel-Modells verwendest du die Methode YOLO("yolo26n_saved_model/"), wie zuvor im Codebeispiel zur Verwendung gezeigt.

Ausführliche Anweisungen zur Bereitstellung deiner TF-SavedModel-Modelle findest du in den folgenden Ressourcen:

Zusammenfassung#

In dieser Anleitung haben wir uns angesehen, wie du Ultralytics YOLO26-Modelle in das TF-SavedModel-Format exportierst. Durch den Export in das TF-SavedModel-Format kannst du deine YOLO26-Modelle flexibel optimieren, bereitstellen und auf einer Vielzahl von Plattformen skalieren.

Weitere Informationen zur Verwendung findest du in der offiziellen Dokumentation zu TF SavedModel.

Weitere Informationen zur Integration von Ultralytics YOLO26 mit anderen Plattformen und Frameworks findest du auf unserer Seite mit Integrationsanleitungen. Dort findest du zahlreiche hilfreiche Ressourcen, mit denen du das Beste aus YOLO26 in deinen Projekten herausholen kannst.

Häufig gestellte Fragen#

  • Der Export eines Ultralytics-YOLO-Modells in das TensorFlow-SavedModel-Format ist ganz einfach. Du kannst dazu entweder Python oder die CLI verwenden:

    YOLO26 in TF SavedModel exportieren
    from ultralytics import YOLO
    
    # Ein YOLO26-Modell laden
    model = YOLO("yolo26n.pt")
    
    # Modell in das TF-SavedModel-Format exportieren
    model.export(format="saved_model")  # creates 'yolo26n_saved_model'
    
    # Das exportierte TF SavedModel für die Inferenz laden
    tf_savedmodel_model = YOLO("./yolo26n_saved_model")
    results = tf_savedmodel_model("https://ultralytics.com/images/bus.jpg")

    Weitere Informationen findest du in der Ultralytics-Exportdokumentation.

  • Das TensorFlow-SavedModel-Format bietet mehrere Vorteile für die Modellbereitstellung:

    • Portabilität: Es bietet ein sprachunabhängiges Format, sodass du Modelle einfach in verschiedenen Umgebungen teilen und bereitstellen kannst.
    • Kompatibilität: Es lässt sich nahtlos in Tools wie TensorFlow Serving, LiteRT und TensorFlow.js integrieren. Diese Tools sind für die Bereitstellung von Modellen auf verschiedenen Plattformen, einschließlich Web- und Mobilanwendungen, unverzichtbar.
    • Vollständige Kapselung: Die Modellarchitektur, Gewichte und Kompilierungsinformationen werden codiert. So lassen sich Modelle einfach teilen und das Training fortsetzen.

    Weitere Vorteile und Bereitstellungsmöglichkeiten findest du unter Bereitstellungsoptionen für Ultralytics-YOLO-Modelle.

  • TF SavedModel lässt sich in verschiedenen Umgebungen bereitstellen, darunter:

    • TensorFlow Serving: Ideal für Produktionsumgebungen, in denen eine skalierbare und leistungsstarke Modellbereitstellung erforderlich ist.
    • Cloud-Plattformen: Unterstützt große Clouddienste wie Google Cloud Platform (GCP), Amazon Web Services (AWS) und Microsoft Azure für eine skalierbare Modellbereitstellung.
    • Mobilgeräte und eingebettete Geräte: Wenn du TF-SavedModel-Modelle mit LiteRT (früher TensorFlow Lite) konvertierst, kannst du sie auf Mobilgeräten, IoT-Geräten und Mikrocontrollern bereitstellen.
    • TensorFlow Runtime: Für C++-Umgebungen, die Inferenz mit geringer Latenz und höherer Leistung benötigen.

    Ausführliche Informationen zu den Bereitstellungsoptionen findest du in den offiziellen Anleitungen zur Bereitstellung von TensorFlow-Modellen.

  • Zum Exportieren von YOLO26-Modellen musst du das Paket ultralytics installieren. Führe den folgenden Befehl in deinem Terminal aus:

    pip install ultralytics

    Ausführlichere Installationsanweisungen und bewährte Vorgehensweisen findest du in unserer Ultralytics-Installationsanleitung. Falls Probleme auftreten, lies unsere Anleitung zu häufigen Problemen.

  • Das TF-SavedModel-Format bietet KI-Entwicklern folgende Vorteile:

    • Portabilität: Ermöglicht das mühelose Teilen und Bereitstellen in verschiedenen Umgebungen.
    • Einfache Bereitstellung: Kapselt den Berechnungsgraphen, die trainierten Parameter und Metadaten in einem einzigen Paket. Das vereinfacht das Laden und die Inferenz.
    • Verwaltung von Ressourcen: Unterstützt externe Ressourcen wie Vokabulare und stellt sicher, dass diese beim Laden des Modells verfügbar sind.

    Weitere Informationen findest du in der offiziellen TensorFlow-Dokumentation.

Kommentare