Meet YOLO26: next-gen vision AI.

Link to this sectionVerstehe, wie man in das TF SavedModel-Format von YOLO26 exportiert#

Die Bereitstellung von Machine Learning-Modellen kann eine Herausforderung sein. Ein effizientes und flexibles Modellformat kann dir die Arbeit jedoch erleichtern. TF SavedModel ist ein Open-Source-Framework für Machine Learning, das von TensorFlow verwendet wird, um Machine-Learning-Modelle konsistent zu laden. Es ist wie ein Koffer für TensorFlow-Modelle, der sie einfach zu transportieren und auf verschiedenen Geräten und Systemen nutzbar macht.

Zu lernen, wie du Ultralytics YOLO26-Modelle in das TF SavedModel-Format exportierst, kann dir helfen, Modelle einfach auf verschiedenen Plattformen und in verschiedenen Umgebungen bereitzustellen. In diesem Leitfaden führen wir dich durch die Konvertierung deiner Modelle in das TF SavedModel-Format, was den Prozess der Durchführung von Inferenzen mit deinen Modellen auf verschiedenen Geräten vereinfacht.

Link to this sectionWarum solltest du in das TF SavedModel-Format exportieren?#

Das TensorFlow SavedModel-Format ist Teil des TensorFlow-Ökosystems, das von Google entwickelt wurde, wie unten dargestellt. Es wurde entwickelt, um TensorFlow-Modelle nahtlos zu speichern und zu serialisieren. Es kapselt die vollständigen Details von Modellen wie die Architektur, Gewichte und sogar Kompilierungsinformationen. Dies macht es unkompliziert, Modelle in verschiedenen Umgebungen zu teilen, bereitzustellen und weiter zu trainieren.

TensorFlow SavedModel export format structure

Das TF SavedModel hat einen entscheidenden Vorteil: seine Kompatibilität. Es funktioniert gut mit TensorFlow Serving, TensorFlow Lite und TensorFlow.js. Diese Kompatibilität erleichtert das Teilen und Bereitstellen von Modellen auf verschiedenen Plattformen, einschließlich Web- und mobilen Anwendungen. Das TF SavedModel-Format ist sowohl für die Forschung als auch für die Produktion nützlich. Es bietet eine einheitliche Methode zur Verwaltung deiner Modelle und stellt sicher, dass sie für jede Anwendung bereit sind.

Link to this sectionHauptmerkmale von TF SavedModels#

Hier sind die Hauptmerkmale, die TF SavedModel zu einer großartigen Option für KI-Entwickler machen:

  • Portabilität: TF SavedModel bietet ein sprachneutrales, wiederherstellbares und hermetisches Serialisierungsformat. Es ermöglicht Systemen und Tools auf höherer Ebene, TensorFlow-Modelle zu erstellen, zu konsumieren und umzuwandeln. SavedModels können einfach über verschiedene Plattformen und Umgebungen hinweg geteilt und bereitgestellt werden.

  • Einfache Bereitstellung: TF SavedModel bündelt den Rechengraphen, trainierte Parameter und notwendige Metadaten in einem einzigen Paket. Sie können problemlos geladen und für Inferenzen verwendet werden, ohne dass der ursprüngliche Code erforderlich ist, der das Modell erstellt hat. Dies macht die Bereitstellung von TensorFlow-Modellen unkompliziert und effizient in verschiedenen Produktionsumgebungen.

  • Asset-Management: TF SavedModel unterstützt die Einbindung externer Assets wie Vokabulare, Embeddings oder Lookup-Tabellen. Diese Assets werden neben der Graphdefinition und den Variablen gespeichert, wodurch sichergestellt wird, dass sie beim Laden des Modells verfügbar sind. Diese Funktion vereinfacht die Verwaltung und Verteilung von Modellen, die auf externe Ressourcen angewiesen sind.

Link to this sectionBereitstellungsoptionen mit TF SavedModel#

Bevor wir in den Prozess des Exports von YOLO26-Modellen in das TF SavedModel-Format eintauchen, lass uns einige typische Bereitstellungsszenarien erkunden, in denen dieses Format verwendet wird.

TF SavedModel bietet eine Reihe von Optionen zur Bereitstellung deiner Machine-Learning-Modelle:

  • TensorFlow Serving: TensorFlow Serving ist ein flexibles, leistungsstarkes Serving-System, das für Produktionsumgebungen entwickelt wurde. Es unterstützt nativ TF SavedModels, was es einfach macht, deine Modelle auf Cloud-Plattformen, lokalen Servern oder Edge-Geräten bereitzustellen und auszuführen.

  • Cloud-Plattformen: Große Cloud-Anbieter wie Google Cloud Platform (GCP), Amazon Web Services (AWS) und Microsoft Azure bieten Dienste für die Bereitstellung und Ausführung von TensorFlow-Modellen an, einschließlich TF SavedModels. Diese Dienste bieten eine skalierbare und verwaltete Infrastruktur, die es dir ermöglicht, deine Modelle einfach bereitzustellen und zu skalieren.

  • Mobile und eingebettete Geräte: LiteRT (ehemals TensorFlow Lite), eine leichtgewichtige Lösung zum Ausführen von Machine-Learning-Modellen auf mobilen, eingebetteten und IoT-Geräten, unterstützt die Konvertierung von TF SavedModels in das LiteRT-Format. Damit kannst du deine Modelle auf einer Vielzahl von Geräten bereitstellen, von Smartphones und Tablets bis hin zu Mikrocontrollern und Edge-Geräten.

  • TensorFlow Runtime: TensorFlow Runtime (tfrt) ist eine leistungsstarke Laufzeitumgebung zur Ausführung von TensorFlow-Graphen. Sie bietet APIs auf niedrigerer Ebene zum Laden und Ausführen von TF SavedModels in C++-Umgebungen. TensorFlow Runtime bietet eine bessere Leistung im Vergleich zur Standard-TensorFlow-Laufzeitumgebung. Sie ist für Bereitstellungsszenarien geeignet, die Inferenzen mit geringer Latenz und eine enge Integration in bestehende C++-Codebasen erfordern.

Link to this sectionExportieren von YOLO26-Modellen in TF SavedModel#

Durch den Export von YOLO26-Modellen in das TF SavedModel-Format verbesserst du deren Anpassungsfähigkeit und die Leichtigkeit der Bereitstellung auf verschiedenen Plattformen.

Link to this sectionInstallation#

Um das erforderliche Paket zu installieren, führe Folgendes aus:

Installation
# Install the required package for YOLO26
pip install ultralytics

Detaillierte Anweisungen und Best Practices für den Installationsprozess findest du in unserem Ultralytics-Installationsleitfaden. Wenn du bei der Installation der erforderlichen Pakete für YOLO26 auf Schwierigkeiten stößt, schau in unserem Leitfaden zu häufigen Problemen nach Lösungen und Tipps.

Link to this sectionVerwendung#

Alle Ultralytics YOLO26 models sind so konzipiert, dass sie den Export sofort unterstützen, was die Integration in deinen bevorzugten Bereitstellungs-Workflow vereinfacht. Du kannst die vollständige Liste der unterstützten Exportformate und Konfigurationsoptionen einsehen, um das beste Setup für deine Anwendung zu wählen.

Das TF SavedModel-Format unterstützt die Modi Export, Predict und Validate. Exportiere dein Modell und lade dann das exportierte Modell, um Inferenzen auszuführen oder dessen Genauigkeit zu validieren.

Exportieren
from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TF SavedModel format
model.export(format="saved_model")  # creates '/yolo26n_saved_model'
Vorhersagen
from ultralytics import YOLO

# Load the exported TF SavedModel model
model = YOLO("./yolo26n_saved_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")
Validieren
from ultralytics import YOLO

# Load the exported TF SavedModel model
model = YOLO("./yolo26n_saved_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this sectionExport-Argumente#

ArgumentTypStandardBeschreibung
formatstr'saved_model'Zielformat für das exportierte Modell, das die Kompatibilität mit verschiedenen Bereitstellungsumgebungen definiert.
imgszint oder tuple640Gewünschte Bildgröße für den Modelleingang. Kann eine Ganzzahl für quadratische Bilder oder ein Tupel (height, width) für spezifische Dimensionen sein.
kerasboolFalseErmöglicht den Export in das Keras-Format und bietet Kompatibilität mit TensorFlow Serving und APIs.
quantizeint oder strNoneQuantisierungspräzision: 8 (INT8/PTQ; benötigt Kalibrierungs-data/fraction) oder 32/nicht festgelegt (FP32). FP16 wird für den SavedModel-Export nicht unterstützt. Ersetzt das veraltete int8-Flag.
nmsboolFalseFügt Non-Maximum Suppression (NMS) hinzu, was für eine genaue und effiziente Detektions-Nachbearbeitung unerlässlich ist.
batchint1Gibt die Batch-Größe für die Modellausführung oder die maximale Anzahl an Bildern an, die das exportierte Modell gleichzeitig im predict-Modus verarbeitet.
datastr'coco8.yaml'Pfad zur dataset Konfigurationsdatei (Standard: coco8.yaml), die für die Quantisierung essenziell ist.
fractionfloat1.0Gibt den Teil des Datensatzes an, der für die INT8-Quantisierungskalibrierung verwendet werden soll. Ermöglicht die Kalibrierung auf einer Teilmenge des vollständigen Datensatzes, nützlich für Experimente oder bei begrenzten Ressourcen. Wenn bei aktivierter INT8-Quantisierung nicht spezifiziert, wird der vollständige Datensatz verwendet.
devicestrNoneGibt das Gerät für den Export an: CPU (device=cpu), MPS für Apple Silicon (device=mps).

Weitere Details zum Exportprozess findest du auf der Ultralytics-Dokumentationsseite zum Exportieren.

Link to this sectionBereitstellung exportierter YOLO26 TF SavedModel-Modelle#

Jetzt, da du dein YOLO26-Modell in das TF SavedModel-Format exportiert hast, ist der nächste Schritt die Bereitstellung. Der primäre und empfohlene erste Schritt zur Ausführung eines TF SavedModel-Modells ist die Verwendung der Methode YOLO("yolo26n_saved_model/"), wie zuvor im Codebeispiel gezeigt.

Für detaillierte Anweisungen zur Bereitstellung deiner TF SavedModel-Modelle schau dir jedoch die folgenden Ressourcen an:

Link to this sectionZusammenfassung#

In diesem Leitfaden haben wir untersucht, wie Ultralytics YOLO26-Modelle in das TF SavedModel-Format exportiert werden. Durch den Export in TF SavedModel erhältst du die Flexibilität, deine YOLO26-Modelle auf einer Vielzahl von Plattformen zu optimieren, bereitzustellen und zu skalieren.

Für weitere Details zur Nutzung besuche die offizielle TF SavedModel-Dokumentation.

Für weitere Informationen zur Integration von Ultralytics YOLO26 mit anderen Plattformen und Frameworks vergiss nicht, unsere Integrationsleitfaden-Seite zu besuchen. Sie ist vollgepackt mit großartigen Ressourcen, die dir helfen, das Beste aus YOLO26 in deinen Projekten herauszuholen.

Link to this sectionFAQ#

Link to this sectionWie exportiere ich ein Ultralytics YOLO-Modell in das TensorFlow SavedModel-Format?#

Das Exportieren eines Ultralytics YOLO-Modells in das TensorFlow SavedModel-Format ist unkompliziert. Du kannst dazu entweder Python oder die CLI verwenden:

Exportieren von YOLO26 in TF SavedModel
from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TF SavedModel format
model.export(format="saved_model")  # creates '/yolo26n_saved_model'

# Load the exported TF SavedModel for inference
tf_savedmodel_model = YOLO("./yolo26n_saved_model")
results = tf_savedmodel_model("https://ultralytics.com/images/bus.jpg")

Weitere Details findest du in der Ultralytics Export-Dokumentation.

Link to this sectionWarum sollte ich das TensorFlow SavedModel-Format verwenden?#

Das TensorFlow SavedModel-Format bietet mehrere Vorteile für die Modellbereitstellung:

  • Portabilität: Es bietet ein sprachneutrales Format, was es einfach macht, Modelle in verschiedenen Umgebungen zu teilen und bereitzustellen.
  • Kompatibilität: Lässt sich nahtlos in Tools wie TensorFlow Serving, TensorFlow Lite und TensorFlow.js integrieren, die für die Bereitstellung von Modellen auf verschiedenen Plattformen, einschließlich Web- und mobilen Anwendungen, unerlässlich sind.
  • Vollständige Kapselung: Kodiert die Modellarchitektur, Gewichte und Kompilierungsinformationen, was ein unkompliziertes Teilen und Fortsetzen des Trainings ermöglicht.

Für weitere Vorteile und Bereitstellungsoptionen schau dir die Ultralytics YOLO-Modellbereitstellungsoptionen an.

Link to this sectionWas sind typische Bereitstellungsszenarien für TF SavedModel?#

TF SavedModel kann in verschiedenen Umgebungen bereitgestellt werden, darunter:

  • TensorFlow Serving: Ideal für Produktionsumgebungen, die skalierbare und leistungsstarke Modellbereitstellung erfordern.
  • Cloud-Plattformen: Unterstützt große Cloud-Dienste wie Google Cloud Platform (GCP), Amazon Web Services (AWS) und Microsoft Azure für skalierbare Modellbereitstellung.
  • Mobile und eingebettete Geräte: Die Verwendung von LiteRT (ehemals TensorFlow Lite) zur Konvertierung von TF SavedModels ermöglicht die Bereitstellung auf mobilen Geräten, IoT-Geräten und Mikrocontrollern.
  • TensorFlow Runtime: Für C++-Umgebungen, die Inferenzen mit geringer Latenz und besserer Leistung benötigen.

Für detaillierte Bereitstellungsoptionen besuche die offiziellen Leitfäden zur Bereitstellung von TensorFlow-Modellen.

Link to this sectionWie kann ich die notwendigen Pakete installieren, um YOLO26-Modelle zu exportieren?#

Um YOLO26-Modelle zu exportieren, musst du das Paket ultralytics installieren. Führe den folgenden Befehl in deinem Terminal aus:

pip install ultralytics

Für detailliertere Installationsanweisungen und bewährte Verfahren siehe unseren Ultralytics-Installationsleitfaden. Falls du auf Probleme stößt, konsultiere unseren Leitfaden für allgemeine Probleme.

Link to this sectionWas sind die Hauptmerkmale des TensorFlow SavedModel-Formats?#

Das TF SavedModel-Format ist für KI-Entwickler aufgrund der folgenden Funktionen von Vorteil:

  • Portabilität: Ermöglicht das mühelose Teilen und Bereitstellen in verschiedenen Umgebungen.
  • Einfache Bereitstellung: Kapselt den Rechengraphen, trainierte Parameter und Metadaten in einem einzigen Paket, was das Laden und die Inferenz vereinfacht.
  • Asset-Management: Unterstützt externe Assets wie Vokabulare und stellt sicher, dass sie beim Laden des Modells verfügbar sind.

Für weitere Details erkunde die offizielle TensorFlow-Dokumentation.

Kommentare