Link to this sectionYOLO26 Modell-Export zu TorchScript für schnelle Bereitstellung#

Die Bereitstellung von Computer Vision Modellen in verschiedenen Umgebungen, einschließlich eingebetteter Systeme, Webbrowser oder Plattformen mit eingeschränkter Python-Unterstützung, erfordert eine flexible und portierbare Lösung. TorchScript konzentriert sich auf Portabilität und die Fähigkeit, Modelle in Umgebungen auszuführen, in denen das vollständige Python-Framework nicht verfügbar ist. Dies macht es ideal für Szenarien, in denen du deine Computer Vision-Funktionen über verschiedene Geräte oder Plattformen hinweg bereitstellen musst.

Exportiere zu TorchScript, um deine Ultralytics YOLO26 Modelle für plattformübergreifende Kompatibilität und optimierte Bereitstellung zu serialisieren. In diesem Leitfaden zeigen wir dir, wie du deine YOLO26 Modelle in das TorchScript-Format exportierst, damit du sie einfacher in einer größeren Bandbreite von Anwendungen nutzen kannst.

Link to this sectionWarum solltest du zu TorchScript exportieren?#

TorchScript wurde von den Entwicklern von PyTorch entwickelt und ist ein leistungsstarkes Werkzeug zur Optimierung und Bereitstellung von PyTorch Modellen auf einer Vielzahl von Plattformen. Das Exportieren von YOLO26 Modellen zu TorchScript ist entscheidend, um den Übergang von der Forschung zu realen Anwendungen zu meistern. Als Teil des PyTorch-Frameworks trägt TorchScript dazu bei, diesen Übergang reibungsloser zu gestalten, indem es die Nutzung von PyTorch Modellen in Umgebungen ermöglicht, die kein Python unterstützen.

Der Prozess umfasst zwei Techniken: Tracing und Scripting. Tracing zeichnet Operationen während der Modellausführung auf, während Scripting die Definition von Modellen mithilfe einer Teilmenge von Python ermöglicht. Diese Techniken stellen sicher, dass Modelle wie YOLO26 ihre Magie auch außerhalb ihrer gewohnten Python-Umgebung entfalten können.

TorchScript Modelle können auch durch Techniken wie Operator-Fusion und Verfeinerungen der Speichernutzung optimiert werden, um eine effiziente Ausführung zu gewährleisten. Ein weiterer Vorteil des Exports zu TorchScript ist das Potenzial, die Modellausführung auf verschiedenen Hardware-Plattformen zu beschleunigen. Es erstellt eine eigenständige, produktionsreife Repräsentation deines PyTorch Modells, die in C++-Umgebungen, eingebettete Systeme integriert oder in Web- oder Mobilanwendungen bereitgestellt werden kann.

Link to this sectionHauptfunktionen von TorchScript Modellen#

TorchScript, ein wesentlicher Bestandteil des PyTorch-Ökosystems, bietet leistungsstarke Funktionen zur Optimierung und Bereitstellung von Deep Learning Modellen.

Hier sind die Hauptfunktionen, die TorchScript zu einem wertvollen Werkzeug für Entwickler machen:

• Statische Graph-Ausführung: TorchScript verwendet eine statische Graph-Repräsentation der Berechnungen des Modells, was sich von der dynamischen Graph-Ausführung von PyTorch unterscheidet. Bei der statischen Graph-Ausführung wird der Berechnungsgraph einmal definiert und kompiliert, bevor die eigentliche Ausführung stattfindet, was zu einer verbesserten Leistung während der Inferenz führt.

• Modellserialisierung: TorchScript ermöglicht es dir, PyTorch Modelle in ein plattformunabhängiges Format zu serialisieren. Serialisierte Modelle können geladen werden, ohne dass der ursprüngliche Python-Code erforderlich ist, was die Bereitstellung in verschiedenen Laufzeitumgebungen ermöglicht.

• JIT-Kompilierung: TorchScript nutzt Just-In-Time (JIT) Kompilierung, um PyTorch Modelle in eine optimierte Zwischenrepräsentation zu konvertieren. JIT kompiliert den Berechnungsgraphen des Modells und ermöglicht so eine effiziente Ausführung auf Zielgeräten.

• Sprachübergreifende Integration: Mit TorchScript kannst du PyTorch Modelle in andere Sprachen wie C++, Java und JavaScript exportieren. Dies erleichtert die Integration von PyTorch Modellen in bestehende Softwaresysteme, die in verschiedenen Sprachen geschrieben sind.

• Schrittweise Konvertierung: TorchScript bietet einen Ansatz zur schrittweisen Konvertierung, der es dir erlaubt, Teile deines PyTorch Modells inkrementell in TorchScript umzuwandeln. Diese Flexibilität ist besonders nützlich bei komplexen Modellen oder wenn du bestimmte Teile des Codes optimieren möchtest.

Link to this sectionBereitstellungsoptionen in TorchScript#

Bevor wir uns den Code für den Export von YOLO26 Modellen in das TorchScript-Format ansehen, lass uns verstehen, wo TorchScript Modelle normalerweise eingesetzt werden.

TorchScript bietet verschiedene Bereitstellungsoptionen für Machine Learning Modelle, wie z.B.:

• C++ API: Der häufigste Anwendungsfall für TorchScript ist die C++ API, mit der du optimierte TorchScript Modelle direkt in C++-Anwendungen laden und ausführen kannst. Dies ist ideal für Produktionsumgebungen, in denen Python möglicherweise nicht geeignet oder verfügbar ist. Die C++ API bietet einen geringen Overhead und eine effiziente Ausführung von TorchScript Modellen, wodurch das Leistungspotenzial maximiert wird.

• Mobile Bereitstellung: TorchScript bietet Tools zur Konvertierung von Modellen in Formate, die einfach auf mobilen Geräten bereitgestellt werden können. PyTorch Mobile bietet eine Laufzeitumgebung für die Ausführung dieser Modelle in iOS- und Android-Apps. Dies ermöglicht Inferenz mit geringer Latenz im Offline-Modus, was die Benutzererfahrung und den Datenschutz verbessert.

• Cloud-Bereitstellung: TorchScript Modelle können mithilfe von Lösungen wie TorchServe auf Cloud-basierten Servern bereitgestellt werden. Es bietet Funktionen wie Modellversionierung, Batching und Metriküberwachung für eine skalierbare Bereitstellung in Produktionsumgebungen. Die Cloud-Bereitstellung mit TorchScript kann deine Modelle über APIs oder andere Webdienste zugänglich machen.

Link to this sectionExport zu TorchScript: Konvertierung deines YOLO26 Modells#

Der Export von YOLO26 Modellen zu TorchScript erleichtert deren Nutzung an verschiedenen Orten und trägt dazu bei, dass sie schneller und effizienter ausgeführt werden. Dies ist großartig für jeden, der Deep-Learning-Modelle effektiver in realen Anwendungen einsetzen möchte.

Link to this sectionInstallation#

Um das erforderliche Paket zu installieren, führe Folgendes aus:

# Install the required package for YOLO26
pip install ultralytics

Detaillierte Anweisungen und bewährte Verfahren bezüglich des Installationsprozesses findest du in unserem Ultralytics-Installationsleitfaden. Falls du bei der Installation der erforderlichen Pakete für YOLO26 auf Schwierigkeiten stößt, konsultiere unseren Leitfaden für allgemeine Probleme für Lösungen und Tipps.

Link to this sectionVerwendung#

Alle Ultralytics YOLO26-Modelle sind so konzipiert, dass sie den Export sofort unterstützen, was es einfach macht, sie in deinen bevorzugten Bereitstellungs-Workflow zu integrieren. Du kannst die vollständige Liste der unterstützten Exportformate und Konfigurationsoptionen einsehen, um das beste Setup für deine Anwendung auszuwählen.

Das TorchScript-Format unterstützt die Modi Export, Predict und Validate. Exportiere dein Modell und lade es dann, um Inferenz auszuführen oder dessen Genauigkeit zu validieren.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TorchScript format
model.export(format="torchscript")  # creates 'yolo26n.torchscript'

from ultralytics import YOLO

# Load the exported TorchScript model
model = YOLO("yolo26n.torchscript")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported TorchScript model
model = YOLO("yolo26n.torchscript")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this sectionExport-Argumente#

Für weitere Details zum Exportprozess besuche die Dokumentationsseite von Ultralytics zum Thema Exportieren.

Link to this sectionBereitstellung exportierter YOLO26 TorchScript Modelle#

Nachdem du deine Ultralytics YOLO26 Modelle erfolgreich in das TorchScript-Format exportiert hast, kannst du sie nun bereitstellen. Der primäre und empfohlene erste Schritt zur Ausführung eines TorchScript Modells ist die Verwendung der Methode YOLO("model.torchscript"), wie im vorherigen Anwendungsbeispiel gezeigt. Ausführliche Anweisungen zur Bereitstellung deiner TorchScript Modelle in anderen Umgebungen findest du in den folgenden Ressourcen:

• Mobile Bereitstellung erkunden: Die PyTorch Mobile-Dokumentation bietet umfassende Richtlinien für die Bereitstellung von Modellen auf mobilen Geräten und stellt sicher, dass deine Anwendungen effizient und reaktionsschnell sind.

• Serverseitige Bereitstellung meistern: Lerne, wie du Modelle serverseitig mit TorchServe bereitstellst. Das Tutorial bietet eine Schritt-für-Schritt-Anleitung für skalierbares und effizientes Modell-Serving.

• C++ Bereitstellung implementieren: Tauche in das Tutorial zum Laden eines TorchScript Modells in C++ ein, um die Integration deiner TorchScript Modelle in C++-Anwendungen für eine verbesserte Leistung und Vielseitigkeit zu erleichtern.

Link to this sectionZusammenfassung#

In diesem Leitfaden haben wir den Prozess des Exports von Ultralytics YOLO26 Modellen in das TorchScript-Format untersucht. Indem du den bereitgestellten Anweisungen folgst, kannst du YOLO26 Modelle hinsichtlich der Leistung optimieren und gewinnst die Flexibilität, sie auf verschiedenen Plattformen und in unterschiedlichen Umgebungen bereitzustellen.

Für weitere Details zur Verwendung besuche die offizielle TorchScript-Dokumentation.

Wenn du außerdem mehr über andere Ultralytics YOLO26-Integrationen erfahren möchtest, besuche unsere Seite mit Integrationsleitfäden. Dort findest du zahlreiche nützliche Ressourcen und Einblicke.

Link to this sectionFAQ#

Link to this sectionWas ist der Ultralytics YOLO26 Modell-Export zu TorchScript?#

Der Export eines Ultralytics YOLO26 Modells zu TorchScript ermöglicht eine flexible, plattformübergreifende Bereitstellung. TorchScript, Teil des PyTorch-Ökosystems, erleichtert die Serialisierung von Modellen, die dann in Umgebungen ausgeführt werden können, denen die Python-Unterstützung fehlt. Dies macht es ideal für die Bereitstellung von Modellen auf eingebetteten Systemen, in C++-Umgebungen, in mobilen Anwendungen und sogar in Webbrowsern. Der Export zu TorchScript ermöglicht eine effiziente Leistung und eine breitere Anwendbarkeit deiner YOLO26 Modelle über verschiedene Plattformen hinweg.

Link to this sectionWie kann ich mein YOLO26 Modell mit Ultralytics zu TorchScript exportieren?#

Um ein YOLO26 Modell zu TorchScript zu exportieren, kannst du den folgenden Beispielcode verwenden:

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TorchScript format
model.export(format="torchscript")  # creates 'yolo26n.torchscript'

# Load the exported TorchScript model
torchscript_model = YOLO("yolo26n.torchscript")

# Run inference
results = torchscript_model("https://ultralytics.com/images/bus.jpg")

Für weitere Details zum Exportprozess siehe die Ultralytics-Dokumentation zum Export.

Link to this sectionWarum sollte ich TorchScript für die Bereitstellung von YOLO26 Modellen verwenden?#

Die Verwendung von TorchScript zur Bereitstellung von YOLO26 Modellen bietet mehrere Vorteile:

• Portabilität: Exportierte Modelle können in Umgebungen ohne Python-Bedarf ausgeführt werden, wie z. B. in C++-Anwendungen, eingebetteten Systemen oder mobilen Geräten.
• Optimierung: TorchScript unterstützt die statische Graph-Ausführung und Just-In-Time (JIT) Kompilierung, was die Modellleistung optimieren kann.
• Sprachübergreifende Integration: TorchScript Modelle können in andere Programmiersprachen integriert werden, was die Flexibilität und Erweiterbarkeit erhöht.
• Serialisierung: Modelle können serialisiert werden, was ein plattformunabhängiges Laden und Inferenz ermöglicht.

Weitere Einblicke zur Bereitstellung findest du in der TorchServe-Dokumentation und im C++ Bereitstellungsleitfaden. Für die mobile Bereitstellung direkt auf dem Gerät empfiehlt PyTorch jetzt ExecuTorch, das eine eigene, separate torch.export() → .pte Pipeline verwendet, anstatt TorchScript.

Link to this sectionWas sind die Installationsschritte für den Export von YOLO26 Modellen zu TorchScript?#

Um das erforderliche Paket für den Export von YOLO26 Modellen zu installieren, verwende den folgenden Befehl:

# Install the required package for YOLO26
pip install ultralytics

Für detaillierte Anweisungen besuche den Ultralytics Installationsleitfaden. Falls bei der Installation Probleme auftreten, konsultiere den Leitfaden zu häufigen Problemen.

Link to this sectionWie stelle ich meine exportierten TorchScript YOLO26 Modelle bereit?#

Nachdem du YOLO26 Modelle in das TorchScript-Format exportiert hast, kannst du sie auf einer Vielzahl von Plattformen bereitstellen:

• C++ API: Ideal für Produktionsumgebungen mit geringem Overhead und hoher Effizienz.
• Mobile Deployment: Run TorchScript models on-device with LibTorch (the PyTorch C++ runtime). For new mobile projects, PyTorch recommends ExecuTorch, a separate .pte export pipeline.
• Cloud-Bereitstellung: Nutze Dienste wie TorchServe für eine skalierbare serverseitige Bereitstellung.

Erkunde die umfassenden Richtlinien zur Bereitstellung von Modellen in diesen Umgebungen, um die Funktionen von TorchScript voll auszuschöpfen.