Link to this sectionYOLO26 Modell-Export nach TorchScript für schnelle Bereitstellung#

Die Bereitstellung von Computer Vision Modellen in verschiedenen Umgebungen, einschließlich eingebetteter Systeme, Webbrowser oder Plattformen mit eingeschränkter Python-Unterstützung, erfordert eine flexible und portierbare Lösung. TorchScript konzentriert sich auf Portabilität und die Fähigkeit, Modelle in Umgebungen auszuführen, in denen das vollständige Python-Framework nicht verfügbar ist. Dies macht es ideal für Szenarien, in denen du deine Computer Vision-Funktionen über verschiedene Geräte oder Plattformen hinweg bereitstellen musst.

Exportiere in das TorchScript-Format, um deine Ultralytics YOLO26 Modelle für plattformübergreifende Kompatibilität und optimierte Bereitstellung zu serialisieren. In diesem Leitfaden zeigen wir dir, wie du deine YOLO26-Modelle in das TorchScript-Format exportierst, damit du sie einfacher in einer größeren Bandbreite an Anwendungen verwenden kannst.

Link to this sectionWarum solltest du nach TorchScript exportieren?#

TorchScript wurde von den Entwicklern von PyTorch entwickelt und ist ein leistungsstarkes Werkzeug zur Optimierung und Bereitstellung von PyTorch-Modellen auf verschiedenen Plattformen. Der Export von YOLO26-Modellen nach TorchScript ist entscheidend für den Übergang von der Forschung zu realen Anwendungen. Als Teil des PyTorch-Frameworks hilft TorchScript dabei, diesen Übergang reibungsloser zu gestalten, indem es ermöglicht, PyTorch-Modelle in Umgebungen zu verwenden, die kein Python unterstützen.

Der Prozess umfasst zwei Techniken: Tracing und Scripting. Tracing zeichnet Operationen während der Modellausführung auf, während Scripting die Definition von Modellen mithilfe einer Teilmenge von Python ermöglicht. Diese Techniken stellen sicher, dass Modelle wie YOLO26 ihre Magie auch außerhalb ihrer gewohnten Python-Umgebung entfalten können.

TorchScript-Modelle können zudem durch Techniken wie Operator-Fusion und Verfeinerungen bei der Speichernutzung optimiert werden, was eine effiziente Ausführung sicherstellt. Ein weiterer Vorteil des Exports nach TorchScript ist das Potenzial, die Modellausführung auf verschiedenen Hardwareplattformen zu beschleunigen. Es erstellt eine eigenständige, produktionsreife Repräsentation deines PyTorch-Modells, die in C++-Umgebungen, eingebettete Systeme oder in Web- und Mobilanwendungen integriert werden kann.

Link to this sectionHauptfunktionen von TorchScript-Modellen#

TorchScript, ein wesentlicher Teil des PyTorch-Ökosystems, bietet leistungsstarke Funktionen zur Optimierung und Bereitstellung von Deep Learning Modellen.

Hier sind die wichtigsten Funktionen, die TorchScript zu einem wertvollen Werkzeug für Entwickler machen:

• Statische Graph-Ausführung: TorchScript verwendet eine statische Graph-Repräsentation der Berechnung des Modells, was sich von der dynamischen Graph-Ausführung von PyTorch unterscheidet. Bei der statischen Graph-Ausführung wird der Berechnungsgraph definiert und einmal vor der tatsächlichen Ausführung kompiliert, was zu einer verbesserten Leistung während der Inferenz führt.

• Modell-Serialisierung: TorchScript ermöglicht es dir, PyTorch-Modelle in ein plattformunabhängiges Format zu serialisieren. Serialisierte Modelle können geladen werden, ohne dass der ursprüngliche Python-Code erforderlich ist, was die Bereitstellung in verschiedenen Laufzeitumgebungen ermöglicht.

• JIT-Kompilierung: TorchScript verwendet Just-In-Time (JIT) Kompilierung, um PyTorch-Modelle in eine optimierte Zwischenrepräsentation zu konvertieren. JIT kompiliert den Berechnungsgraph des Modells, was eine effiziente Ausführung auf Zielgeräten ermöglicht.

• Sprachübergreifende Integration: Mit TorchScript kannst du PyTorch-Modelle in andere Sprachen wie C++, Java und JavaScript exportieren. Dies erleichtert die Integration von PyTorch-Modellen in bestehende Softwaresysteme, die in verschiedenen Sprachen geschrieben sind.

• Schrittweise Konvertierung: TorchScript bietet einen Ansatz für eine schrittweise Konvertierung, der es dir ermöglicht, Teile deines PyTorch-Modells inkrementell in TorchScript zu konvertieren. Diese Flexibilität ist besonders nützlich bei komplexen Modellen oder wenn du bestimmte Teile des Codes optimieren möchtest.

Link to this sectionBereitstellungsoptionen in TorchScript#

Bevor wir uns den Code für den Export von YOLO26-Modellen in das TorchScript-Format ansehen, lass uns verstehen, wo TorchScript-Modelle normalerweise verwendet werden.

TorchScript bietet verschiedene Bereitstellungsoptionen für Machine Learning Modelle, wie zum Beispiel:

• C++ API: Der häufigste Anwendungsfall für TorchScript ist die C++ API, mit der du optimierte TorchScript-Modelle direkt in C++-Anwendungen laden und ausführen kannst. Dies ist ideal für Produktionsumgebungen, in denen Python möglicherweise nicht geeignet oder verfügbar ist. Die C++ API bietet eine geringe Belastung und eine effiziente Ausführung von TorchScript-Modellen, um das Leistungspotenzial zu maximieren.

• Mobile Bereitstellung: TorchScript bietet Werkzeuge, um Modelle in Formate zu konvertieren, die leicht auf mobilen Geräten bereitgestellt werden können. PyTorch Mobile bietet eine Laufzeitumgebung zur Ausführung dieser Modelle innerhalb von iOS- und Android-Apps. Dies ermöglicht Inferenzfähigkeiten mit geringer Latenz und im Offline-Modus, was die Benutzererfahrung und den Datenschutz verbessert.

• Cloud-Bereitstellung: TorchScript-Modelle können mithilfe von Lösungen wie TorchServe auf cloudbasierten Servern bereitgestellt werden. Es bietet Funktionen wie Modellversionierung, Batching und Metriküberwachung für eine skalierbare Bereitstellung in Produktionsumgebungen. Die Cloud-Bereitstellung mit TorchScript kann deine Modelle über APIs oder andere Webdienste zugänglich machen.

Link to this sectionExport nach TorchScript: Konvertierung deines YOLO26-Modells#

Der Export von YOLO26-Modellen nach TorchScript macht es einfacher, sie an verschiedenen Orten zu verwenden, und trägt dazu bei, dass sie schneller und effizienter laufen. Dies ist großartig für jeden, der Deep-Learning-Modelle effektiver in realen Anwendungen einsetzen möchte.

Link to this sectionInstallation#

Um das erforderliche Paket zu installieren, führe Folgendes aus:

# Install the required package for YOLO26
pip install ultralytics

Detaillierte Anweisungen und Best Practices für den Installationsprozess findest du in unserem Ultralytics-Installationsleitfaden. Wenn du bei der Installation der erforderlichen Pakete für YOLO26 auf Schwierigkeiten stößt, schau in unserem Leitfaden zu häufigen Problemen nach Lösungen und Tipps.

Link to this sectionVerwendung#

Alle Ultralytics YOLO26 models sind so konzipiert, dass sie den Export sofort unterstützen, was die Integration in deinen bevorzugten Bereitstellungs-Workflow vereinfacht. Du kannst die vollständige Liste der unterstützten Exportformate und Konfigurationsoptionen einsehen, um das beste Setup für deine Anwendung zu wählen.

Das TorchScript-Format unterstützt die Export, Predict und Validate Modi. Exportiere dein Modell und lade dann das exportierte Modell, um Inferenz auszuführen oder die Genauigkeit zu validieren.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TorchScript format
model.export(format="torchscript")  # creates 'yolo26n.torchscript'

from ultralytics import YOLO

# Load the exported TorchScript model
model = YOLO("yolo26n.torchscript")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported TorchScript model
model = YOLO("yolo26n.torchscript")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this sectionExport-Argumente#

Weitere Details zum Exportprozess findest du auf der Ultralytics-Dokumentationsseite zum Exportieren.

Link to this sectionBereitstellung exportierter YOLO26 TorchScript-Modelle#

Nachdem du deine Ultralytics YOLO26 Modelle erfolgreich in das TorchScript-Format exportiert hast, kannst du sie nun bereitstellen. Der primäre und empfohlene erste Schritt zur Ausführung eines TorchScript-Modells besteht in der Verwendung der YOLO("model.torchscript") Methode, wie im vorherigen Code-Beispiel erläutert. Für detaillierte Anleitungen zur Bereitstellung deiner TorchScript-Modelle in anderen Umgebungen wirf einen Blick auf die folgenden Ressourcen:

• Mobile Bereitstellung erkunden: Die PyTorch Mobile-Dokumentation bietet umfassende Richtlinien für die Bereitstellung von Modellen auf mobilen Geräten, um sicherzustellen, dass deine Anwendungen effizient und reaktionsfähig sind.

• Serverseitige Bereitstellung meistern: Erfahre, wie du Modelle serverseitig mit TorchServe bereitstellst; dies bietet ein Schritt-für-Schritt-Tutorial für eine skalierbare und effiziente Modellbereitstellung.

• C++ Bereitstellung implementieren: Tauche ein in das Tutorial zum Laden eines TorchScript-Modells in C++, das die Integration deiner TorchScript-Modelle in C++-Anwendungen für verbesserte Leistung und Vielseitigkeit erleichtert.

Link to this sectionZusammenfassung#

In diesem Leitfaden haben wir den Prozess des Exports von Ultralytics YOLO26 Modellen in das TorchScript-Format untersucht. Indem du die bereitgestellten Anweisungen befolgst, kannst du YOLO26-Modelle auf Leistung optimieren und die Flexibilität gewinnen, sie auf verschiedenen Plattformen und in unterschiedlichen Umgebungen bereitzustellen.

Weitere Details zur Nutzung findest du in der offiziellen Dokumentation von TorchScript.

Wenn du außerdem mehr über andere Ultralytics YOLO26-Integrationen erfahren möchtest, besuche unsere Integrations-Guide-Seite. Dort findest du viele nützliche Ressourcen und Einblicke.

Link to this sectionFAQ#

Link to this sectionWas ist der Ultralytics YOLO26 Modell-Export nach TorchScript?#

Das Exportieren eines Ultralytics YOLO26 Modells nach TorchScript ermöglicht eine flexible, plattformübergreifende Bereitstellung. TorchScript, ein Teil des PyTorch-Ökosystems, erleichtert die Serialisierung von Modellen, die dann in Umgebungen ausgeführt werden können, denen die Python-Unterstützung fehlt. Dies macht es ideal für die Bereitstellung von Modellen auf eingebetteten Systemen, in C++-Umgebungen, mobilen Anwendungen und sogar Webbrowsern. Der Export nach TorchScript ermöglicht eine effiziente Leistung und eine breitere Anwendbarkeit deiner YOLO26-Modelle auf diversen Plattformen.

Link to this sectionWie kann ich mein YOLO26-Modell mit Ultralytics nach TorchScript exportieren?#

Um ein YOLO26-Modell nach TorchScript zu exportieren, kannst du den folgenden Beispielcode verwenden:

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to TorchScript format
model.export(format="torchscript")  # creates 'yolo26n.torchscript'

# Load the exported TorchScript model
torchscript_model = YOLO("yolo26n.torchscript")

# Run inference
results = torchscript_model("https://ultralytics.com/images/bus.jpg")

Für weitere Details zum Exportprozess siehe die Ultralytics Dokumentation zum Exportieren.

Link to this sectionWarum sollte ich TorchScript für die Bereitstellung von YOLO26-Modellen verwenden?#

Die Verwendung von TorchScript für die Bereitstellung von YOLO26-Modellen bietet mehrere Vorteile:

• Portabilität: Exportierte Modelle können in Umgebungen ohne die Notwendigkeit von Python ausgeführt werden, wie zum Beispiel in C++-Anwendungen, eingebetteten Systemen oder auf mobilen Geräten.
• Optimierung: TorchScript unterstützt die statische Graph-Ausführung und die Just-In-Time (JIT) Kompilierung, was die Modellleistung optimieren kann.
• Sprachübergreifende Integration: TorchScript-Modelle können in andere Programmiersprachen integriert werden, was die Flexibilität und Erweiterbarkeit erhöht.
• Serialisierung: Modelle können serialisiert werden, was ein plattformunabhängiges Laden und Inferenzieren ermöglicht.

Für weitere Einblicke in die Bereitstellung besuche die TorchServe-Dokumentation und das C++ Bereitstellungs-Handbuch. Für die mobile Bereitstellung auf Geräten empfiehlt PyTorch jetzt ExecuTorch, das seine eigene separate torch.export() → .pte Pipeline anstelle von TorchScript verwendet.

Link to this sectionWas sind die Installationsschritte für den Export von YOLO26-Modellen nach TorchScript?#

Um das erforderliche Paket für den Export von YOLO26-Modellen zu installieren, verwende den folgenden Befehl:

# Install the required package for YOLO26
pip install ultralytics

Für detaillierte Anweisungen besuche das Ultralytics Installations-Handbuch. Falls während der Installation Probleme auftreten, ziehe das Handbuch für häufige Probleme zu Rate.

Link to this sectionWie stelle ich meine exportierten TorchScript YOLO26-Modelle bereit?#

Nachdem du YOLO26-Modelle in das TorchScript-Format exportiert hast, kannst du sie auf einer Vielzahl von Plattformen bereitstellen:

• C++ API: Ideal für Produktionsumgebungen mit geringer Belastung und hoher Effizienz.
• Mobile Bereitstellung: Führe TorchScript-Modelle on-device mit LibTorch (der PyTorch C++ Laufzeitumgebung) aus. Für neue mobile Projekte empfiehlt PyTorch ExecuTorch, eine separate .pte Export-Pipeline.
• Cloud-Bereitstellung: Nutze Dienste wie TorchServe für eine skalierbare serverseitige Bereitstellung.

Entdecke umfassende Richtlinien für die Bereitstellung von Modellen in diesen Umgebungen, um die Fähigkeiten von TorchScript voll auszuschöpfen.