Modellexport mit Ultralytics YOLO

Einführung

Das ultimative Ziel des Modelltrainings ist der Einsatz in realen Anwendungen. Der Exportmodus in Ultralytics YOLO11 bietet eine vielseitige Auswahl an Optionen, um Ihr trainiertes Modell in verschiedene Formate zu exportieren und es so auf verschiedenen Plattformen und Geräten einsetzbar zu machen. Dieser umfassende Leitfaden soll Sie durch die Nuancen des Modellexports führen und zeigen, wie Sie maximale Kompatibilität und Leistung erzielen.

Ansehen: So exportieren Sie ein benutzerdefiniert trainiertes Ultralytics YOLO-Modell und führen Live-Inferenz auf der Webcam aus.

Warum den Exportmodus von YOLO11 wählen?

• Vielseitigkeit: Export in verschiedene Formate, darunter ONNX, TensorRT, CoreML und mehr.
• Leistung: Erziele bis zu 5x GPU-Beschleunigung mit TensorRT und 3x CPU-Beschleunigung mit ONNX oder OpenVINO.
• Kompatibilität: Machen Sie Ihr Modell universell einsetzbar in zahlreichen Hardware- und Softwareumgebungen.
• Benutzerfreundlichkeit: Einfache CLI und Python API für schnellen und unkomplizierten Modellexport.

Hauptmerkmale des Exportmodus

Hier sind einige der herausragenden Funktionalitäten:

• One-Click-Export: Einfache Befehle zum Exportieren in verschiedene Formate.
• Batch-Export: Export von Modellen, die für Batched-Inference geeignet sind.
• Optimierte Inferenz: Exportierte Modelle sind für schnellere Inferenzzeiten optimiert.
• Tutorial-Videos: Ausführliche Anleitungen und Tutorials für ein reibungsloses Exporterlebnis.

Anwendungsbeispiele

Exportieren Sie ein YOLO11n-Modell in ein anderes Format wie ONNX oder TensorRT. Eine vollständige Liste der Exportargumente finden Sie im Abschnitt Argumente weiter unten.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo11n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom trained model

# Export the model
model.export(format="onnx")

yolo export model=yolo11n.pt format=onnx      # export official model
yolo export model=path/to/best.pt format=onnx # export custom trained model

Argumente

Diese Tabelle beschreibt detailliert die Konfigurationen und Optionen, die für den Export von YOLO-Modellen in verschiedene Formate verfügbar sind. Diese Einstellungen sind entscheidend für die Optimierung der Leistung, Größe und Kompatibilität des exportierten Modells auf verschiedenen Plattformen und in verschiedenen Umgebungen. Die richtige Konfiguration stellt sicher, dass das Modell für den Einsatz in der vorgesehenen Anwendung mit optimaler Effizienz bereit ist.

Die Anpassung dieser Parameter ermöglicht die Anpassung des Exportprozesses an spezifische Anforderungen, wie z. B. Einsatzumgebung, Hardwarebeschränkungen und Leistungsziele. Die Auswahl des geeigneten Formats und der geeigneten Einstellungen ist entscheidend, um das beste Gleichgewicht zwischen Modellgröße, Geschwindigkeit und Genauigkeit zu erreichen.

Exportformate

Die verfügbaren YOLO11-Exportformate sind in der folgenden Tabelle aufgeführt. Sie können in jedes Format exportieren, indem Sie die format Argument in ein beliebiges Format exportieren, z. B. format='onnx' oder format='engine'. Sie können direkt mit exportierten Modellen Vorhersagen treffen oder diese validieren, z. B. yolo predict model=yolo11n.onnx. Anwendungsbeispiele werden nach Abschluss des Exports für Ihr Modell angezeigt.

FAQ

Wie exportiere ich ein YOLO11-Modell in das ONNX-Format?

Das Exportieren eines YOLO11-Modells in das ONNX-Format ist mit Ultralytics unkompliziert. Es bietet sowohl Python- als auch CLI-Methoden zum Exportieren von Modellen.

from ultralytics import YOLO

# Load a model
model = YOLO("yolo11n.pt")  # load an official model
model = YOLO("path/to/best.pt")  # load a custom trained model

# Export the model
model.export(format="onnx")

yolo export model=yolo11n.pt format=onnx      # export official model
yolo export model=path/to/best.pt format=onnx # export custom trained model

Weitere Informationen zu diesem Prozess, einschließlich erweiterter Optionen wie dem Umgang mit unterschiedlichen Eingabegrößen, finden Sie im ONNX-Integrationsleitfaden.

Welche Vorteile bietet die Verwendung von TensorRT für den Modellexport?

Die Verwendung von TensorRT für den Modellexport bietet erhebliche Leistungsverbesserungen. YOLO11-Modelle, die nach TensorRT exportiert werden, können eine bis zu 5-fache GPU-Beschleunigung erreichen, was sie ideal für Echtzeit-Inferenzanwendungen macht.

• Vielseitigkeit: Optimieren Sie Modelle für ein bestimmtes Hardware-Setup.
• Geschwindigkeit: Erzielen Sie eine schnellere Inferenz durch fortschrittliche Optimierungen.
• Kompatibilität: Nahtlose Integration mit NVIDIA Hardware.

Um mehr über die Integration von TensorRT zu erfahren, lesen Sie den TensorRT-Integrationsleitfaden.

Wie aktiviere ich die INT8-Quantisierung beim Exportieren meines YOLO11-Modells?

Die INT8-Quantisierung ist eine ausgezeichnete Möglichkeit, das Modell zu komprimieren und die Inferenz zu beschleunigen, insbesondere auf Edge-Geräten. Hier erfahren Sie, wie Sie die INT8-Quantisierung aktivieren können:

from ultralytics import YOLO

model = YOLO("yolo11n.pt")  # Load a model
model.export(format="engine", int8=True)

yolo export model=yolo11n.pt format=engine int8=True # export TensorRT model with INT8 quantization

Die INT8-Quantisierung kann auf verschiedene Formate angewendet werden, wie z. B. TensorRT, OpenVINOund CoreML. Um optimale Quantisierungsergebnisse zu erzielen, stellen Sie eine repräsentative Datensatz Verwendung des data Parameter.

Warum ist eine dynamische Eingabegröße beim Exportieren von Modellen wichtig?

Die dynamische Eingabegröße ermöglicht es dem exportierten Modell, unterschiedliche Bilddimensionen zu verarbeiten, was Flexibilität bietet und die Verarbeitungseffizienz für verschiedene Anwendungsfälle optimiert. Beim Export in Formate wie ONNX oder TensorRT stellt die Aktivierung der dynamischen Eingabegröße sicher, dass sich das Modell nahtlos an verschiedene Eingabeformen anpassen kann.

Um diese Funktion zu aktivieren, verwenden Sie das dynamic=True Flag während des Exports:

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="onnx", dynamic=True)

yolo export model=yolo11n.pt format=onnx dynamic=True

Die dynamische Eingabegrößenanpassung ist besonders nützlich für Anwendungen, bei denen die Eingabedimensionen variieren können, wie z. B. bei der Videoverarbeitung oder bei der Verarbeitung von Bildern aus verschiedenen Quellen.

Welche wichtigen Exportargumente sind für die Optimierung der Modellleistung zu berücksichtigen?

Das Verständnis und die Konfiguration von Exportargumenten ist entscheidend für die Optimierung der Modellleistung:

• format: Das Zielformat für das exportierte Modell (z. B. onnx, torchscript, tensorflow), oder Auto-Modus mit angegebener Auslastungsfraktion (
• imgsz: Gewünschte Bildgröße für die Modelleingabe (z. B. 640 oder (height, width)), oder Auto-Modus mit angegebener Auslastungsfraktion (
• half: Aktiviert die FP16-Quantisierung, wodurch die Modellgröße reduziert und potenziell die Inferenz beschleunigt wird.
• optimize: Wendet spezifische Optimierungen für mobile oder eingeschränkte Umgebungen an.
• int8: Aktiviert die INT8-Quantisierung, was sehr vorteilhaft ist für Edge-KI Bereitstellungen.

Für die Bereitstellung auf bestimmten Hardwareplattformen sollten Sie die Verwendung spezieller Exportformate wie TensorRT für NVIDIA-GPUs, CoreML für Apple-Geräte oder Edge TPU für Google Coral-Geräte in Betracht ziehen.

📅 Vor 1 Jahr erstellt ✏️ Vor 5 Monaten aktualisiert

Kommentare