ONNX-Export für YOLO26-Modelle#

Wenn du computer vision-Modelle bereitstellst, benötigst du oft ein Modellformat, das sowohl flexibel als auch mit mehreren Plattformen kompatibel ist.

Das Exportieren von Ultralytics YOLO26-Modellen in das ONNX-Format optimiert die Bereitstellung und sorgt für optimale Leistung in verschiedenen Umgebungen. Diese Anleitung zeigt dir, wie du deine YOLO26-Modelle einfach nach ONNX konvertierst und ihre Skalierbarkeit sowie Effektivität in realen Anwendungen steigerst.

ONNX und ONNX Runtime#

ONNX, was für Open Neural Network Exchange steht, ist ein Gemeinschaftsprojekt, das anfangs von Facebook und Microsoft entwickelt wurde. Die fortlaufende Entwicklung von ONNX ist eine gemeinsame Anstrengung, die von verschiedenen Organisationen wie IBM, Amazon (über AWS) und Google unterstützt wird. Ziel des Projekts ist es, ein offenes Dateiformat zu schaffen, das machine learning-Modelle so darstellt, dass sie über verschiedene KI-Frameworks und -Hardware hinweg verwendet werden können.

ONNX-Modelle können verwendet werden, um nahtlos zwischen verschiedenen Frameworks zu wechseln. Beispielsweise kann ein in PyTorch trainiertes deep learning-Modell in das ONNX-Format exportiert und anschließend problemlos in TensorFlow importiert werden.

Alternativ können ONNX-Modelle mit ONNX Runtime verwendet werden. ONNX Runtime ist ein vielseitiger plattformübergreifender Beschleuniger für Machine-Learning-Modelle, der mit Frameworks wie PyTorch, TensorFlow, scikit-learn usw. kompatibel ist.

ONNX Runtime optimiert die Ausführung von ONNX-Modellen durch die Nutzung hardwarespezifischer Funktionen. Diese Optimierung ermöglicht es, dass Modelle effizient und mit hoher Leistung auf verschiedenen Hardwareplattformen ausgeführt werden können, einschließlich CPUs, GPUs und spezialisierten Beschleunigern.

Ob unabhängig oder zusammen mit ONNX Runtime verwendet, bietet ONNX eine flexible Lösung für die model deployment und Kompatibilität im Bereich des Machine Learnings.

Hauptmerkmale von ONNX-Modellen#

Die Fähigkeit von ONNX, verschiedene Formate zu verarbeiten, ist auf die folgenden Hauptmerkmale zurückzuführen:

• Gemeinsame Modellrepräsentation: ONNX definiert eine gemeinsame Menge von Operatoren (wie Faltungen, Schichten usw.) und ein Standarddatenformat. Wenn ein Modell in das ONNX-Format konvertiert wird, werden seine Architektur und Gewichte in diese gemeinsame Repräsentation übersetzt. Diese Einheitlichkeit stellt sicher, dass das Modell von jedem Framework verstanden werden kann, das ONNX unterstützt.

• Versionierung und Abwärtskompatibilität: ONNX unterhält ein Versionierungssystem für seine Operatoren. Dies stellt sicher, dass Modelle, die in älteren Versionen erstellt wurden, auch bei der Weiterentwicklung des Standards weiterhin verwendet werden können. Abwärtskompatibilität ist eine entscheidende Eigenschaft, die verhindert, dass Modelle schnell obsolet werden.

• Graph-basierte Modellrepräsentation: ONNX stellt Modelle als Berechnungsgraphen dar. Diese graphbasierte Struktur ist eine universelle Art der Darstellung von Machine-Learning-Modellen, bei der Knoten Operationen oder Berechnungen darstellen und Kanten die zwischen ihnen fließenden Tensoren repräsentieren. Dieses Format ist leicht an verschiedene Frameworks anpassbar, die Modelle ebenfalls als Graphen darstellen.

• Werkzeuge und Ökosystem: Es gibt ein reichhaltiges Ökosystem an Werkzeugen rund um ONNX, die bei der Modellkonvertierung, Visualisierung und Optimierung unterstützen. Diese Tools machen es für Entwickler einfacher, mit ONNX-Modellen zu arbeiten und Modelle nahtlos zwischen verschiedenen Frameworks zu konvertieren.

Häufige Verwendung von ONNX#

Bevor wir uns damit befassen, wie man YOLO26-Modelle in das ONNX-Format exportiert, werfen wir einen Blick darauf, wo ONNX-Modelle üblicherweise eingesetzt werden.

CPU-Bereitstellung#

ONNX-Modelle werden häufig auf CPUs bereitgestellt, da sie mit ONNX Runtime kompatibel sind. Diese Laufzeitumgebung ist für die CPU-Ausführung optimiert. Sie verbessert die Inferenzgeschwindigkeit erheblich und macht CPU-Bereitstellungen in Echtzeit praktikabel.

Unterstützte Bereitstellungsoptionen#

Obwohl ONNX-Modelle häufig auf CPUs verwendet werden, können sie auch auf den folgenden Plattformen bereitgestellt werden:

• GPU-Beschleunigung: ONNX unterstützt die GPU-Beschleunigung, insbesondere NVIDIA CUDA, vollständig. Für das native Training und die Inferenz auf AMD-GPUs verwendest du PyTorch ROCm; eine ONNX-Datei erfordert weiterhin eine AMD-kompatible Laufzeitumgebung.

• Edge- und Mobilgeräte: ONNX lässt sich auf Edge- und Mobilgeräte ausdehnen und eignet sich perfekt für Szenarien mit On-Device- und Echtzeit-Inferenz. Es ist leichtgewichtig, mit Edge-Hardware kompatibel und dient als Basis für Hersteller-NPU-Formate wie Huawei Ascend, Qualcomm QNN für Snapdragon-Geräte und RKNN für Rockchip-NPUs.

• Webbrowser: ONNX kann direkt in Webbrowsern ausgeführt werden und treibt interaktive sowie dynamische webbasierte KI-Anwendungen an.

Unterstützte Aufgaben#

Der ONNX-Export unterstützt alle sieben Ultralytics Aufgaben. Semantische Segmentierung und Tiefenschätzung sind nur mit YOLO26 verfügbar, der einzigen Familie, die diese Heads enthält.

Exportieren von YOLO26-Modellen nach ONNX#

Du kannst die Modellkompatibilität und Bereitstellungsflexibilität erweitern, indem du YOLO26-Modelle in das ONNX-Format konvertierst. Ultralytics YOLO26 bietet einen unkomplizierten Exportprozess, der die Leistung deines Modells auf verschiedenen Plattformen erheblich steigern kann.

Installation#

Um das erforderliche Paket zu installieren, führe Folgendes aus:

# Install the required package for YOLO26
pip install ultralytics

Detaillierte Anweisungen und Best Practices zum Installationsprozess findest du in unserer YOLO26-Installationsanleitung. Solltest du bei der Installation der erforderlichen Pakete für YOLO26 auf Schwierigkeiten stoßen, ziehe unsere Anleitung für häufige Probleme für Lösungen und Tipps heran.

Verwendung#

Bevor du in die Nutzungshinweise eintauchst, solltest du dir unbedingt die Reihe der von Ultralytics angebotenen YOLO26-Modelle ansehen. Dies hilft dir dabei, das am besten geeignete Modell für deine Projektanforderungen auszuwählen.

Das ONNX-Format unterstützt die Modi Export, Predict und Validate. Exportiere dein Modell und lade es anschließend, um Inferenz auszuführen oder seine Genauigkeit zu validieren.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to ONNX format
model.export(format="onnx")  # creates 'yolo26n.onnx'

# Export an INT8-quantized ONNX model with calibration data
model.export(format="onnx", quantize=8, data="coco8.yaml")  # creates 'yolo26n_int8.onnx'

from ultralytics import YOLO

# Load the exported ONNX model
model = YOLO("yolo26n.onnx")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported ONNX model
model = YOLO("yolo26n.onnx")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Export-Argumente#

Beim Export deines YOLO26-Modells in das ONNX-Format kannst du den Prozess mit verschiedenen Argumenten anpassen, um ihn für deine spezifischen Bereitstellungsanforderungen zu optimieren:

Weitere Details zum Exportprozess findest du auf der Ultralytics-Dokumentationsseite zum Exportieren.

Bereitstellung exportierter YOLO26-ONNX-Modelle#

Sobald du deine Ultralytics YOLO26-Modelle erfolgreich in das ONNX-Format exportiert hast, ist der nächste Schritt die Bereitstellung dieser Modelle in verschiedenen Umgebungen. Für detaillierte Anweisungen zur Bereitstellung deiner ONNX-Modelle schau dir die folgenden Ressourcen an:

• ONNX Runtime Python API Documentation: Diese Anleitung bietet wichtige Informationen zum Laden und Ausführen von ONNX-Modellen mit ONNX Runtime.

• Deploying on Edge Devices: Sieh dir diese Dokumentationsseite an, um verschiedene Beispiele für die Bereitstellung von ONNX-Modellen auf Edge-Geräten zu erhalten.

• ONNX Tutorials on GitHub: Eine Sammlung umfassender Tutorials, die verschiedene Aspekte der Verwendung und Implementierung von ONNX-Modellen in unterschiedlichen Szenarien abdecken.

• Triton Inference Server: Erfahre, wie du deine ONNX-Modelle mit dem Triton Inference Server von NVIDIA für leistungsstarke, skaliert einsetzbare Bereitstellungen nutzt.

Zusammenfassung#

In diesem Leitfaden hast du gelernt, wie du Ultralytics YOLO26-Modelle in das ONNX-Format exportierst, um ihre Interoperabilität und Leistung auf verschiedenen Plattformen zu erhöhen. Du wurdest außerdem in die ONNX Runtime und die ONNX-Bereitstellungsoptionen eingeführt.

Der ONNX-Export ist nur eines von vielen export formats, die von Ultralytics YOLO26 unterstützt werden, sodass du deine Modelle in nahezu jeder Umgebung bereitstellen kannst. Je nach deinen spezifischen Anforderungen möchtest du vielleicht auch andere Exportoptionen wie TensorRT für maximale GPU-Leistung oder CoreML für Apple-Geräte erkunden.

Weitere Details zur Verwendung findest du in der ONNX official documentation.

Wenn du außerdem mehr über andere Ultralytics YOLO26-Integrationen erfahren möchtest, besuche unsere Seite zum Integrationsleitfaden. Dort findest du zahlreiche nützliche Ressourcen und Einblicke.

FAQ#