YOLO26 Modell-Export nach TorchScript für schnelle Bereitstellung

Die Bereitstellung von Computer Vision Modellen in verschiedenen Umgebungen, einschließlich eingebetteter Systeme, Webbrowser oder Plattformen mit eingeschränkter Python-Unterstützung, erfordert eine flexible und portable Lösung. TorchScript konzentriert sich auf Portabilität und die Fähigkeit, Modelle in Umgebungen auszuführen, in denen das vollständige Python-Framework nicht verfügbar ist. Dies macht es ideal für Szenarien, in denen du deine Computer Vision-Funktionen über verschiedene Geräte oder Plattformen hinweg bereitstellen musst.

Exportiere in TorchScript, um deine Ultralytics YOLO26 Modelle für plattformübergreifende Kompatibilität und optimierte Bereitstellung zu serialisieren. In diesem Leitfaden zeigen wir dir, wie du deine YOLO26-Modelle in das TorchScript-Format exportierst, damit du sie einfacher in einer breiteren Palette von Anwendungen nutzen kannst.

Warum solltest du in TorchScript exportieren?

TorchScript wurde von den Entwicklern von PyTorch entwickelt und ist ein leistungsstarkes Werkzeug zur Optimierung und Bereitstellung von PyTorch-Modellen auf einer Vielzahl von Plattformen. Der Export von YOLO26-Modellen in TorchScript ist entscheidend für den Übergang von der Forschung zu realen Anwendungen. TorchScript, Teil des PyTorch-Frameworks, erleichtert diesen Übergang, indem es die Nutzung von PyTorch-Modellen in Umgebungen ermöglicht, die kein Python unterstützen.

Der Prozess umfasst zwei Techniken: Tracing und Scripting. Tracing zeichnet Operationen während der Modellausführung auf, während Scripting die Definition von Modellen mittels einer Teilmenge von Python ermöglicht. Diese Techniken stellen sicher, dass Modelle wie YOLO26 ihre Magie auch außerhalb ihrer gewohnten Python-Umgebung entfalten können.

TorchScript-Modelle können auch durch Techniken wie Operator-Fusion und Verfeinerungen bei der Speichernutzung optimiert werden, um eine effiziente Ausführung zu gewährleisten. Ein weiterer Vorteil des Exports nach TorchScript ist das Potenzial zur Beschleunigung der Modellausführung auf verschiedenen Hardwareplattformen. Es erstellt eine eigenständige, produktionsreife Repräsentation deines PyTorch-Modells, die in C++-Umgebungen, eingebettete Systeme integriert oder in Web- oder Mobilanwendungen bereitgestellt werden kann.

Hauptfunktionen von TorchScript-Modellen

TorchScript, ein wesentlicher Bestandteil des PyTorch-Ökosystems, bietet leistungsstarke Funktionen zur Optimierung und Bereitstellung von Deep Learning Modellen.

Hier sind die Hauptfunktionen, die TorchScript zu einem wertvollen Werkzeug für Entwickler machen:

• Statische Graphenausführung: TorchScript verwendet eine statische Graphenrepräsentation der Modellberechnung, was sich von der dynamischen Graphenausführung von PyTorch unterscheidet. Bei der statischen Graphenausführung wird der Berechnungsgraph definiert und einmal vor der eigentlichen Ausführung kompiliert, was zu einer verbesserten Leistung während der Inferenz führt.

• Modellserialisierung: TorchScript ermöglicht es dir, PyTorch-Modelle in ein plattformunabhängiges Format zu serialisieren. Serialisierte Modelle können geladen werden, ohne dass der ursprüngliche Python-Code erforderlich ist, was die Bereitstellung in verschiedenen Laufzeitumgebungen ermöglicht.

• JIT-Kompilierung: TorchScript verwendet Just-In-Time (JIT) Kompilierung, um PyTorch-Modelle in eine optimierte Zwischenrepräsentation zu konvertieren. JIT kompiliert den Berechnungsgraph des Modells und ermöglicht so eine effiziente Ausführung auf Zielgeräten.

• Sprachübergreifende Integration: Mit TorchScript kannst du PyTorch-Modelle in andere Sprachen wie C++, Java und JavaScript exportieren. Dies erleichtert die Integration von PyTorch-Modellen in bestehende Softwaresysteme, die in verschiedenen Sprachen geschrieben sind.

• Schrittweise Konvertierung: TorchScript bietet einen Ansatz zur schrittweisen Konvertierung, der es dir erlaubt, Teile deines PyTorch-Modells inkrementell in TorchScript umzuwandeln. Diese Flexibilität ist besonders nützlich bei komplexen Modellen oder wenn du bestimmte Teile des Codes optimieren möchtest.

Bereitstellungsoptionen in TorchScript

Bevor wir uns den Code zum Exportieren von YOLO26-Modellen in das TorchScript-Format ansehen, lass uns verstehen, wo TorchScript-Modelle normalerweise verwendet werden.

TorchScript bietet verschiedene Bereitstellungsoptionen für Machine Learning Modelle, wie zum Beispiel:

• C++ API: Der häufigste Anwendungsfall für TorchScript ist die C++ API, mit der du optimierte TorchScript-Modelle direkt in C++-Anwendungen laden und ausführen kannst. Dies ist ideal für Produktionsumgebungen, in denen Python möglicherweise nicht geeignet oder verfügbar ist. Die C++ API bietet eine effiziente Ausführung von TorchScript-Modellen mit geringem Overhead und maximiert das Leistungspotenzial.

• Mobile Bereitstellung: TorchScript bietet Werkzeuge zur Konvertierung von Modellen in Formate, die auf mobilen Geräten bereitgestellt werden können. PyTorch Mobile bietet eine Laufzeitumgebung für die Ausführung dieser Modelle in iOS- und Android-Apps. Dies ermöglicht Inferenzfunktionen mit geringer Latenz offline, was die Benutzererfahrung und den Datenschutz verbessert.

• Cloud-Bereitstellung: TorchScript-Modelle können mithilfe von Lösungen wie TorchServe auf Cloud-Servern bereitgestellt werden. Es bietet Funktionen wie Modell-Versionierung, Batching und Metrik-Monitoring für eine skalierbare Bereitstellung in Produktionsumgebungen. Cloud-Bereitstellung mit TorchScript kann deine Modelle über APIs oder andere Webdienste zugänglich machen.

Export in TorchScript: Konvertierung deines YOLO26-Modells

Der Export von YOLO26-Modellen nach TorchScript erleichtert deren Verwendung an verschiedenen Orten und hilft ihnen, schneller und effizienter zu laufen. Das ist ideal für alle, die Deep-Learning-Modelle effektiver in realen Anwendungen einsetzen möchten.

Installation

Um das erforderliche Paket zu installieren, führe Folgendes aus:

# Install the required package for YOLO26
pip install ultralytics

Für detaillierte Anleitungen und Best Practices zur Installation, schau in unserem Ultralytics-Installationsleitfaden nach. Wenn du bei der Installation der erforderlichen Pakete für YOLO26 auf Schwierigkeiten stößt, konsultiere unseren Leitfaden für allgemeine Probleme für Lösungen und Tipps.

Verwendung

Alle Ultralytics YOLO26-Modelle sind so konzipiert, dass sie den Export direkt unterstützen, was eine einfache Integration in deinen bevorzugten Bereitstellungs-Workflow ermöglicht. Du kannst die vollständige Liste der unterstützten Exportformate und Konfigurationsoptionen ansehen, um die beste Einrichtung für deine Anwendung zu wählen.

from ultralytics import YOLO

# Load the YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TorchScript format
model.export(format="torchscript")  # creates 'yolo26n.torchscript'

# Load the exported TorchScript model
torchscript_model = YOLO("yolo26n.torchscript")

# Run inference
results = torchscript_model("https://ultralytics.com/images/bus.jpg")

Export-Argumente

Weitere Details zum Exportprozess findest du auf der Ultralytics-Dokumentationsseite zum Export.

Bereitstellung exportierter YOLO26 TorchScript-Modelle

Nachdem du deine Ultralytics YOLO26-Modelle erfolgreich in das TorchScript-Format exportiert hast, kannst du sie nun bereitstellen. Der primäre und empfohlene erste Schritt zur Ausführung eines TorchScript-Modells ist die Verwendung der YOLO("model.torchscript") Methode, wie im vorherigen Code-Beispiel dargestellt. Für detaillierte Anweisungen zur Bereitstellung deiner TorchScript-Modelle in anderen Umgebungen wirf einen Blick auf die folgenden Ressourcen:

• Mobile Bereitstellung erkunden: Die PyTorch Mobile-Dokumentation bietet umfassende Richtlinien für die Bereitstellung von Modellen auf mobilen Geräten, um sicherzustellen, dass deine Anwendungen effizient und reaktionsschnell sind.

• Server-seitige Bereitstellung meistern: Lerne, wie du Modelle server-seitig mit TorchServe bereitstellst; dies bietet ein Schritt-für-Schritt-Tutorial für skalierbare, effiziente Modellbereitstellung.

• C++ Bereitstellung implementieren: Tauche ein in das Tutorial zum Laden eines TorchScript-Modells in C++, das die Integration deiner TorchScript-Modelle in C++-Anwendungen für verbesserte Leistung und Vielseitigkeit erleichtert.

Zusammenfassung

In diesem Leitfaden haben wir den Prozess des Exports von Ultralytics YOLO26-Modellen in das TorchScript-Format untersucht. Durch Befolgen der bereitgestellten Anweisungen kannst du YOLO26-Modelle hinsichtlich der Leistung optimieren und gewinnst die Flexibilität, sie auf verschiedenen Plattformen und in unterschiedlichen Umgebungen bereitzustellen.

Weitere Details zur Verwendung findest du in der offiziellen TorchScript-Dokumentation.

Wenn du außerdem mehr über andere Ultralytics YOLO26-Integrationen erfahren möchtest, besuche unsere Integrations-Leitfaden-Seite. Dort findest du viele nützliche Ressourcen und Einblicke.

FAQ

Was ist der Ultralytics YOLO26 Modell-Export nach TorchScript?

Der Export eines Ultralytics YOLO26-Modells nach TorchScript ermöglicht eine flexible, plattformübergreifende Bereitstellung. TorchScript, ein Teil des PyTorch-Ökosystems, erleichtert die Serialisierung von Modellen, die dann in Umgebungen ohne Python-Unterstützung ausgeführt werden können. Dies macht es ideal für die Bereitstellung von Modellen auf eingebetteten Systemen, C++-Umgebungen, mobilen Anwendungen und sogar Webbrowsern. Der Export nach TorchScript ermöglicht eine effiziente Leistung und breitere Anwendbarkeit deiner YOLO26-Modelle auf verschiedenen Plattformen.

Wie kann ich mein YOLO26-Modell mit Ultralytics in TorchScript exportieren?

Um ein YOLO26-Modell nach TorchScript zu exportieren, kannst du den folgenden Beispielcode verwenden:

from ultralytics import YOLO

# Load the YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TorchScript format
model.export(format="torchscript")  # creates 'yolo26n.torchscript'

# Load the exported TorchScript model
torchscript_model = YOLO("yolo26n.torchscript")

# Run inference
results = torchscript_model("https://ultralytics.com/images/bus.jpg")

Weitere Details zum Exportprozess findest du in der Ultralytics-Dokumentation zum Exportieren.

Warum sollte ich TorchScript für die Bereitstellung von YOLO26-Modellen verwenden?

Die Verwendung von TorchScript für die Bereitstellung von YOLO26-Modellen bietet mehrere Vorteile:

• Portabilität: Exportierte Modelle können in Umgebungen ohne die Notwendigkeit von Python ausgeführt werden, wie z. B. C++-Anwendungen, eingebettete Systeme oder mobile Geräte.
• Optimierung: TorchScript unterstützt die Ausführung statischer Graphen und die Just-In-Time (JIT) Kompilierung, was die Modellleistung optimieren kann.
• Sprachübergreifende Integration: TorchScript-Modelle können in andere Programmiersprachen integriert werden, was die Flexibilität und Erweiterbarkeit erhöht.
• Serialisierung: Modelle können serialisiert werden, was plattformunabhängiges Laden und Inferenz ermöglicht.

Weitere Einblicke in die Bereitstellung findest du in der PyTorch Mobile-Dokumentation, der TorchServe-Dokumentation und dem C++ Bereitstellungsleitfaden.

Was sind die Installationsschritte für den Export von YOLO26-Modellen nach TorchScript?

Um das erforderliche Paket für den Export von YOLO26-Modellen zu installieren, verwende den folgenden Befehl:

# Install the required package for YOLO26
pip install ultralytics

Für detaillierte Anweisungen besuche den Ultralytics Installationsleitfaden. Sollten während der Installation Probleme auftreten, konsultiere den Leitfaden für allgemeine Probleme.

Wie stelle ich meine exportierten TorchScript YOLO26-Modelle bereit?

Nachdem du YOLO26-Modelle in das TorchScript-Format exportiert hast, kannst du sie auf verschiedenen Plattformen bereitstellen:

• C++ API: Ideal für Produktionsumgebungen mit geringem Overhead und hoher Effizienz.
• Mobile Bereitstellung: Verwende PyTorch Mobile für iOS- und Android-Anwendungen.
• Cloud-Bereitstellung: Nutze Dienste wie TorchServe für eine skalierbare server-seitige Bereitstellung.

Erkunde umfassende Richtlinien für die Bereitstellung von Modellen in diesen Umgebungen, um die Fähigkeiten von TorchScript voll auszuschöpfen.