Modell Export mit Ultralytics YOLO

Einführung

Das ultimative Ziel des Trainings eines Modells ist es, es für reale Anwendungen einzusetzen. Der Exportmodus in Ultralytics YOLOv8 bietet eine Vielzahl von Optionen, um dein trainiertes Modell in verschiedene Formate zu exportieren, damit es auf verschiedenen Plattformen und Geräten eingesetzt werden kann. Dieser umfassende Leitfaden führt dich durch die Feinheiten des Modellexports und zeigt dir, wie du maximale Kompatibilität und Leistung erreichst.

Pass auf: Wie exportiere ich ein individuell trainiertes Ultralytics YOLOv8 Modell und führe Live-Inferenz auf der Webcam durch?

Warum der Exportmodus von YOLOv8?

• Vielseitigkeit: Exportiere in verschiedene Formate wie ONNX, TensorRT, CoreML und mehr.
• Leistung: Bis zu 5x schneller als GPU mit TensorRT und 3x schneller als CPU mit ONNX oder OpenVINO.
• Kompatibilität: Mach dein Modell universell einsetzbar in zahlreichen Hardware- und Softwareumgebungen.
• Benutzerfreundlichkeit: Einfache CLI und Python API für den schnellen und unkomplizierten Export von Modellen.

Hauptmerkmale des Exportmodus

Hier sind einige der herausragenden Funktionen:

• Ein-Klick-Export: Einfache Befehle zum Exportieren in verschiedene Formate.
• Batch-Export: Exportiere Batch-Inferenz-fähige Modelle.
• Optimierte Inferenz: Exportierte Modelle sind für schnellere Inferenzzeiten optimiert.
• Tutorial-Videos: Ausführliche Anleitungen und Tutorials für ein reibungsloses Exporterlebnis.

Verwendungsbeispiele

Exportiere ein YOLOv8n Modell in ein anderes Format wie ONNX oder TensorRT. Eine vollständige Liste der Exportargumente findest du im Abschnitt Argumente weiter unten.

from ultralytics import YOLO

# Load a model
model = YOLO("yolov8n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom trained model

# Export the model
model.export(format="onnx")

yolo export model=yolov8n.pt format=onnx  # export official model
yolo export model=path/to/best.pt format=onnx  # export custom trained model

Argumente

In dieser Tabelle sind die Konfigurationen und Optionen aufgeführt, die für den Export von YOLO Modellen in verschiedene Formate verfügbar sind. Diese Einstellungen sind entscheidend für die Optimierung der Leistung, Größe und Kompatibilität des exportierten Modells auf verschiedenen Plattformen und in verschiedenen Umgebungen. Die richtige Konfiguration stellt sicher, dass das Modell für den Einsatz in der vorgesehenen Anwendung mit optimaler Effizienz bereit ist.

Die Anpassung dieser Parameter ermöglicht die Anpassung des Exportprozesses an spezifische Anforderungen, wie z. B. die Einsatzumgebung, Hardwarebeschränkungen und Leistungsziele. Die Wahl des richtigen Formats und der richtigen Einstellungen ist wichtig, um das beste Gleichgewicht zwischen Modellgröße, Geschwindigkeit und Genauigkeit zu erreichen.

Formate exportieren

Die verfügbaren YOLOv8 Exportformate findest du in der Tabelle unten. Du kannst in jedes beliebige Format exportieren, indem du die format Argument, d.h. format='onnx' oder format='engine'. Du kannst exportierte Modelle direkt vorhersagen oder validieren, d.h. yolo predict model=yolov8n.onnx. Nach Abschluss des Exports werden Anwendungsbeispiele für dein Modell angezeigt.

FAQ

Wie exportiere ich ein Modell von YOLOv8 in das Format ONNX ?

Der Export eines YOLOv8 Modells in das ONNX Format ist mit Ultralytics ganz einfach. Es bietet sowohl Python als auch CLI Methoden für den Export von Modellen.

from ultralytics import YOLO

# Load a model
model = YOLO("yolov8n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom trained model

# Export the model
model.export(format="onnx")

yolo export model=yolov8n.pt format=onnx  # export official model
yolo export model=path/to/best.pt format=onnx  # export custom trained model

Weitere Einzelheiten zu diesem Prozess, einschließlich erweiterter Optionen wie die Handhabung unterschiedlicher Eingabegrößen, findest du im ONNX Abschnitt.

Was sind die Vorteile von TensorRT für den Modellexport?

Die Verwendung von TensorRT für den Modellexport bietet erhebliche Leistungsverbesserungen. YOLOv8 Modelle, die nach TensorRT exportiert werden, können bis zu 5x schneller sein als GPU , was sie ideal für Echtzeit-Inferenzanwendungen macht.

• Vielseitigkeit: Optimiere die Modelle für ein bestimmtes Hardware-Setup.
• Geschwindigkeit: Erreiche schnellere Schlussfolgerungen durch erweiterte Optimierungen.
• Kompatibilität: Reibungslose Integration mit NVIDIA Hardware.

Wenn du mehr über die Integration von TensorRT erfahren möchtest, lies den TensorRT Integrationsleitfaden.

Wie aktiviere ich die INT8-Quantisierung, wenn ich mein YOLOv8 Modell exportiere?

Die INT8-Quantisierung ist eine hervorragende Möglichkeit, das Modell zu komprimieren und die Inferenz zu beschleunigen, insbesondere auf Edge-Geräten. Hier erfährst du, wie du die INT8-Quantisierung aktivieren kannst:

from ultralytics import YOLO

model = YOLO("yolov8n.pt")  # Load a model
model.export(format="onnx", int8=True)

yolo export model=yolov8n.pt format=onnx int8=True   # export model with INT8 quantization

Die INT8-Quantisierung kann auf verschiedene Formate angewendet werden, z. B. TensorRT und CoreML. Weitere Einzelheiten findest du im Abschnitt Export.

Warum ist die dynamische Eingabegröße beim Export von Modellen wichtig?

Die dynamische Eingabegröße ermöglicht es dem exportierten Modell, mit unterschiedlichen Bildgrößen umzugehen, was für Flexibilität sorgt und die Verarbeitungseffizienz für verschiedene Anwendungsfälle optimiert. Beim Export in Formate wie ONNX oder TensorRT sorgt die Aktivierung der dynamischen Eingabegröße dafür, dass sich das Modell nahtlos an unterschiedliche Eingabeformen anpassen kann.

Um diese Funktion zu aktivieren, verwenden Sie die dynamic=True Flagge beim Export:

from ultralytics import YOLO

model = YOLO("yolov8n.pt")
model.export(format="onnx", dynamic=True)

yolo export model=yolov8n.pt format=onnx dynamic=True

Weitere Informationen findest du in der Konfiguration der dynamischen Eingangsgröße.

Was sind die wichtigsten Exportargumente, die bei der Optimierung der Modellleistung zu berücksichtigen sind?

Das Verständnis und die Konfiguration von Exportargumenten sind entscheidend für die Optimierung der Modellleistung:

• format: Das Zielformat für das exportierte Modell (z.B., onnx, torchscript, tensorflow).
• imgsz: Gewünschte Bildgröße für die Modelleingabe (z. B., 640 oder (height, width)).
• half: Ermöglicht die FP16-Quantisierung, wodurch die Modellgröße reduziert und die Inferenz potenziell beschleunigt wird.
• optimize: Wendet spezielle Optimierungen für mobile oder eingeschränkte Umgebungen an.
• int8: Ermöglicht die INT8-Quantisierung, was für den Einsatz an den Rändern von großem Vorteil ist.

Eine detaillierte Liste und Erklärungen zu allen Exportargumenten findest du im Abschnitt Exportargumente.

Kommentare