Seite auf GitHub bearbeiten (EN)

Erfahre, wie du YOLO26 in das TF SavedModel-Format exportierst

Die Bereitstellung von Machine Learning-Modellen kann eine Herausforderung sein. Ein effizientes und flexibles Modellformat kann dir die Arbeit jedoch erleichtern. TF SavedModel ist ein Open-Source-Framework für Machine Learning, das von TensorFlow verwendet wird, um Machine Learning-Modelle konsistent zu laden. Es ist wie ein Koffer für TensorFlow-Modelle, der sie leicht transportierbar macht und den Einsatz auf verschiedenen Geräten und Systemen ermöglicht.

Wenn du lernst, wie du Ultralytics YOLO26-Modelle in das TF SavedModel-Format exportierst, kannst du Modelle einfach auf verschiedenen Plattformen und in unterschiedlichen Umgebungen bereitstellen. In diesem Leitfaden gehen wir Schritt für Schritt durch, wie du deine Modelle in das TF SavedModel-Format konvertierst, was die Durchführung von Inferenzen mit deinen Modellen auf verschiedenen Geräten vereinfacht.

Warum solltest du in das TF SavedModel-Format exportieren?

Das TensorFlow SavedModel-Format ist Teil des TensorFlow-Ökosystems, das von Google entwickelt wurde, wie unten dargestellt. Es wurde entwickelt, um TensorFlow-Modelle nahtlos zu speichern und zu serialisieren. Es kapselt alle Details der Modelle wie Architektur, Gewichte und sogar Kompilierungsinformationen. Dadurch ist es unkompliziert, Modelle in verschiedenen Umgebungen zu teilen, bereitzustellen und weiter zu trainieren.

TensorFlow SavedModel export format structure

Das TF SavedModel hat einen entscheidenden Vorteil: seine Kompatibilität. Es funktioniert gut mit TensorFlow Serving, TensorFlow Lite und TensorFlow.js. Diese Kompatibilität macht es einfacher, Modelle plattformübergreifend zu teilen und bereitzustellen, einschließlich Web- und Mobilanwendungen. Das TF SavedModel-Format ist sowohl für die Forschung als auch für die Produktion nützlich. Es bietet eine einheitliche Methode zur Verwaltung deiner Modelle und stellt sicher, dass sie für jede Anwendung bereit sind.

Hauptmerkmale von TF SavedModels

Hier sind die Hauptmerkmale, die TF SavedModel zu einer großartigen Option für KI-Entwickler machen:

  • Portabilität: TF SavedModel bietet ein sprachneutrales, wiederherstellbares und hermetisches Serialisierungsformat. Sie ermöglichen es Systemen und Tools höherer Ebene, TensorFlow-Modelle zu erstellen, zu konsumieren und umzuwandeln. SavedModels können problemlos auf verschiedenen Plattformen und in verschiedenen Umgebungen geteilt und bereitgestellt werden.

  • Einfache Bereitstellung: TF SavedModel bündelt den Berechnungsgraphen, trainierte Parameter und notwendige Metadaten in einem einzigen Paket. Sie können einfach geladen und für die Inferenz verwendet werden, ohne dass der ursprüngliche Code, der das Modell erstellt hat, erforderlich ist. Dies macht die Bereitstellung von TensorFlow-Modellen in verschiedenen Produktionsumgebungen einfach und effizient.

  • Asset-Management: TF SavedModel unterstützt die Einbindung externer Assets wie Vokabulare, Embeddings oder Lookup-Tabellen. Diese Assets werden zusammen mit der Graphdefinition und den Variablen gespeichert, wodurch sichergestellt wird, dass sie verfügbar sind, wenn das Modell geladen wird. Diese Funktion vereinfacht die Verwaltung und Verteilung von Modellen, die auf externe Ressourcen angewiesen sind.

Bereitstellungsoptionen mit TF SavedModel

Bevor wir uns mit dem Prozess des Exports von YOLO26-Modellen in das TF SavedModel-Format befassen, schauen wir uns einige typische Bereitstellungsszenarien an, in denen dieses Format verwendet wird.

TF SavedModel bietet eine Reihe von Optionen zur Bereitstellung deiner Machine Learning-Modelle:

  • TensorFlow Serving: TensorFlow Serving ist ein flexibles, leistungsstarkes Bereitstellungssystem, das für Produktionsumgebungen entwickelt wurde. Es unterstützt nativ TF SavedModels, was es einfach macht, deine Modelle auf Cloud-Plattformen, lokalen Servern oder Edge-Geräten bereitzustellen und zu bedienen.

  • Cloud-Plattformen: Große Cloud-Anbieter wie Google Cloud Platform (GCP), Amazon Web Services (AWS) und Microsoft Azure bieten Dienste für die Bereitstellung und Ausführung von TensorFlow-Modellen an, einschließlich TF SavedModels. Diese Dienste bieten skalierbare und verwaltete Infrastrukturen, mit denen du deine Modelle einfach bereitstellen und skalieren kannst.

  • Mobil- und Embedded-Geräte: TensorFlow Lite, eine leichtgewichtige Lösung zum Ausführen von Machine Learning-Modellen auf Mobil-, Embedded- und IoT-Geräten, unterstützt die Konvertierung von TF SavedModels in das TensorFlow Lite-Format. Dies ermöglicht es dir, deine Modelle auf einer Vielzahl von Geräten bereitzustellen, von Smartphones und Tablets bis hin zu Mikrocontrollern und Edge-Geräten.

  • TensorFlow Runtime: TensorFlow Runtime (tfrt) ist eine hochleistungsfähige Laufzeitumgebung zur Ausführung von TensorFlow-Graphen. Sie bietet APIs auf niedrigerer Ebene zum Laden und Ausführen von TF SavedModels in C++-Umgebungen. TensorFlow Runtime bietet eine bessere Leistung im Vergleich zur Standard-TensorFlow-Laufzeit. Sie eignet sich für Bereitstellungsszenarien, die eine Inferenz mit geringer Latenz und eine enge Integration in bestehende C++-Codebasen erfordern.

Exportieren von YOLO26-Modellen in TF SavedModel

Durch den Export von YOLO26-Modellen in das TF SavedModel-Format verbesserst du deren Anpassungsfähigkeit und vereinfachst die Bereitstellung auf verschiedenen Plattformen.

Installation

Um das erforderliche Paket zu installieren, führe Folgendes aus:

Installation
# Install the required package for YOLO26
pip install ultralytics

Für detaillierte Anleitungen und Best Practices zur Installation, schau in unserem Ultralytics-Installationsleitfaden nach. Wenn du bei der Installation der erforderlichen Pakete für YOLO26 auf Schwierigkeiten stößt, konsultiere unseren Leitfaden für allgemeine Probleme für Lösungen und Tipps.

Verwendung

Alle Ultralytics YOLO26-Modelle sind so konzipiert, dass sie den Export direkt unterstützen, was eine einfache Integration in deinen bevorzugten Bereitstellungs-Workflow ermöglicht. Du kannst die vollständige Liste der unterstützten Exportformate und Konfigurationsoptionen ansehen, um die beste Einrichtung für deine Anwendung zu wählen.

Verwendung
from ultralytics import YOLO

# Load the YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TF SavedModel format
model.export(format="saved_model")  # creates '/yolo26n_saved_model'

# Load the exported TF SavedModel model
tf_savedmodel_model = YOLO("./yolo26n_saved_model")

# Run inference
results = tf_savedmodel_model("https://ultralytics.com/images/bus.jpg")

Export-Argumente

ArgumentTypStandardBeschreibung
formatstr'saved_model'Zielformat für das exportierte Modell, das die Kompatibilität mit verschiedenen Bereitstellungsumgebungen definiert.
imgszint oder tuple640Gewünschte Bildgröße für den Modelleingang. Kann eine Ganzzahl für quadratische Bilder oder ein Tupel (height, width) für spezifische Dimensionen sein.
kerasboolFalseErmöglicht den Export in das Keras-Format und bietet Kompatibilität mit TensorFlow Serving und APIs.
int8boolFalseAktiviert die INT8-Quantisierung, die das Modell weiter komprimiert und die Inferenz mit minimalem Verlust an accuracy beschleunigt, hauptsächlich für Edge-Geräte.
nmsboolFalseFügt Non-Maximum Suppression (NMS) hinzu, was für eine genaue und effiziente Nachbearbeitung der Erkennung unerlässlich ist.
batchint1Legt die Batch-Inferenzgröße für den Export fest oder die maximale Anzahl an Bildern, die das exportierte Modell gleichzeitig im predict Modus verarbeitet.
datastr'coco8.yaml'Pfad zur Konfigurationsdatei für das Datenset (Standard: coco8.yaml), essenziell für die Quantisierung.
fractionfloat1.0Gibt den Anteil des Datensatzes an, der für die INT8-Quantisierungskalibrierung verwendet werden soll. Ermöglicht die Kalibrierung auf einer Teilmenge des gesamten Datensatzes, was für Experimente oder bei begrenzten Ressourcen nützlich ist. Wenn bei aktivierter INT8-Option nichts angegeben ist, wird der gesamte Datensatz verwendet.
devicestrNoneGibt das Gerät für den Export an: CPU (device=cpu), MPS für Apple Silicon (device=mps).

Weitere Details zum Exportprozess findest du auf der Ultralytics-Dokumentationsseite zum Export.

Bereitstellung exportierter YOLO26 TF SavedModel-Modelle

Da du dein YOLO26-Modell nun in das TF SavedModel-Format exportiert hast, ist der nächste Schritt die Bereitstellung. Der primäre und empfohlene erste Schritt zur Ausführung eines TF SavedModel-Modells ist die Verwendung der YOLO("yolo26n_saved_model/")-Methode, wie zuvor im Codebeispiel zur Verwendung gezeigt.

Für detaillierte Anweisungen zur Bereitstellung deiner TF SavedModel-Modelle wirf jedoch einen Blick auf die folgenden Ressourcen:

Zusammenfassung

In diesem Leitfaden haben wir untersucht, wie man Ultralytics YOLO26-Modelle in das TF SavedModel-Format exportiert. Durch den Export in TF SavedModel gewinnst du die Flexibilität, deine YOLO26-Modelle auf einer Vielzahl von Plattformen zu optimieren, bereitzustellen und zu skalieren.

Weitere Details zur Verwendung findest du in der offiziellen TF SavedModel-Dokumentation.

Für weitere Informationen zur Integration von Ultralytics YOLO26 mit anderen Plattformen und Frameworks, vergiss nicht, unsere Integrationsanleitungsseite zu besuchen. Sie ist vollgepackt mit großartigen Ressourcen, die dir helfen, das Beste aus YOLO26 in deinen Projekten herauszuholen.

FAQ

Wie exportiere ich ein Ultralytics YOLO-Modell in das TensorFlow SavedModel-Format?

Das Exportieren eines Ultralytics YOLO-Modells in das TensorFlow SavedModel-Format ist unkompliziert. Du kannst entweder Python oder die CLI verwenden, um dies zu erreichen:

Exportieren von YOLO26 in TF SavedModel
from ultralytics import YOLO

# Load the YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TF SavedModel format
model.export(format="saved_model")  # creates '/yolo26n_saved_model'

# Load the exported TF SavedModel for inference
tf_savedmodel_model = YOLO("./yolo26n_saved_model")
results = tf_savedmodel_model("https://ultralytics.com/images/bus.jpg")

Weitere Details findest du in der Ultralytics Export-Dokumentation.

Warum sollte ich das TensorFlow SavedModel-Format verwenden?

Das TensorFlow SavedModel-Format bietet mehrere Vorteile für die Modellbereitstellung:

  • Portabilität: Es bietet ein sprachneutrales Format, das das Teilen und Bereitstellen von Modellen in verschiedenen Umgebungen einfach macht.
  • Kompatibilität: Lässt sich nahtlos in Tools wie TensorFlow Serving, TensorFlow Lite und TensorFlow.js integrieren, die für die Bereitstellung von Modellen auf verschiedenen Plattformen, einschließlich Web- und Mobilanwendungen, unerlässlich sind.
  • Vollständige Kapselung: Kodiert die Modellarchitektur, Gewichte und Kompilierungsinformationen, was eine unkomplizierte gemeinsame Nutzung und Fortsetzung des Trainings ermöglicht.

Weitere Vorteile und Bereitstellungsoptionen findest du unter Ultralytics YOLO Modell-Bereitstellungsoptionen.

Was sind die typischen Bereitstellungsszenarien für TF SavedModel?

TF SavedModel kann in verschiedenen Umgebungen bereitgestellt werden, darunter:

  • TensorFlow Serving: Ideal für Produktionsumgebungen, die eine skalierbare und leistungsstarke Modellbereitstellung erfordern.
  • Cloud-Plattformen: Unterstützt wichtige Cloud-Dienste wie Google Cloud Platform (GCP), Amazon Web Services (AWS) und Microsoft Azure für eine skalierbare Modellbereitstellung.
  • Mobil- und Embedded-Geräte: Die Verwendung von TensorFlow Lite zur Konvertierung von TF SavedModels ermöglicht die Bereitstellung auf Mobilgeräten, IoT-Geräten und Mikrocontrollern.
  • TensorFlow Runtime: Für C++-Umgebungen, die eine Inferenz mit geringer Latenz und besserer Leistung benötigen.

Ausführliche Bereitstellungsoptionen findest du in den offiziellen Anleitungen zur Bereitstellung von TensorFlow-Modellen.

Wie kann ich die notwendigen Pakete installieren, um YOLO26-Modelle zu exportieren?

Um YOLO26-Modelle zu exportieren, musst du das ultralytics-Paket installieren. Führe den folgenden Befehl in deinem Terminal aus:

pip install ultralytics

Weitere detaillierte Installationsanweisungen und bewährte Verfahren findest du in unserer Ultralytics Installationsanleitung. Falls du auf Probleme stößt, konsultiere unsere Anleitung zu häufigen Problemen.

Was sind die Hauptmerkmale des TensorFlow SavedModel-Formats?

Das TF SavedModel-Format ist aufgrund der folgenden Merkmale für KI-Entwickler von Vorteil:

  • Portabilität: Ermöglicht müheloses Teilen und Bereitstellen in verschiedenen Umgebungen.
  • Einfache Bereitstellung: Kapselt den Berechnungsgraphen, trainierte Parameter und Metadaten in einem einzigen Paket, was das Laden und die Inferenz vereinfacht.
  • Asset-Management: Unterstützt externe Assets wie Vokabulare und stellt sicher, dass diese beim Laden des Modells verfügbar sind.

Weitere Details findest du in der offiziellen TensorFlow-Dokumentation.

Contributors
Seite auf GitHub bearbeiten (EN)
GLglenn-jocher14LAlakshanthad4RIRizwanMunawar2LEleonnil1MAMatthewNoyce1BUBurhan-Q1ABabirami-vina1

Kommentare