Link to this sectionModell-Benchmarking mit Ultralytics YOLO#
Link to this sectionBenchmark-Visualisierung#
Du musst die Seite möglicherweise aktualisieren, um die Diagramme aufgrund potenzieller Cookie-Probleme korrekt anzuzeigen.
Link to this sectionEinführung#
Sobald dein Modell trainiert und validiert ist, ist der nächste logische Schritt die Bewertung seiner Leistung in verschiedenen realen Szenarien. Der Benchmark-Modus in Ultralytics YOLO26 erfüllt diesen Zweck, indem er ein robustes Framework zur Bewertung der Geschwindigkeit und Genauigkeit deines Modells über eine Reihe von Exportformaten hinweg bereitstellt.
Watch: Benchmark Ultralytics YOLO26 Models | How to Compare Model Performance on Different Hardware?
Link to this sectionWarum ist Benchmarking entscheidend?#
- Fundierte Entscheidungen: Gewinne Einblicke in die Kompromisse zwischen Geschwindigkeit und Genauigkeit.
- Ressourcenzuweisung: Verstehe, wie verschiedene Exportformate auf unterschiedlicher Hardware abschneiden.
- Optimierung: Erfahre, welches Exportformat die beste Leistung für deinen spezifischen Anwendungsfall bietet.
- Kosteneffizienz: Nutze Hardware-Ressourcen basierend auf Benchmark-Ergebnissen effizienter.
Link to this sectionWichtige Metriken im Benchmark-Modus#
- mAP50-95: Für Objekterkennung, Segmentierung und Pose-Schätzung.
- accuracy_top1: Für die Bildklassifizierung.
- Inferenzzeit: Die benötigte Zeit für jedes Bild in Millisekunden.
Link to this sectionUnterstützte Exportformate#
- ONNX: Für optimale CPU-Leistung
- TensorRT: Für maximale GPU-Effizienz
- OpenVINO: Für Intel-Hardware-Optimierung
- CoreML, TensorFlow SavedModel und mehr: Für diverse Bereitstellungsanforderungen.
- Exportiere zu ONNX oder OpenVINO für bis zu 3x CPU-Beschleunigung.
- Exportiere zu TensorRT für bis zu 5x GPU-Beschleunigung.
Link to this sectionAnwendungsbeispiele#
Installiere Ultralytics mit Export-Abhängigkeiten vor dem Benchmarking, um fehlende Pakete zu vermeiden.
pip install ultralytics[export]Führe YOLO26n-Benchmarks über alle unterstützten Exportformate hinweg aus (ONNX, TensorRT etc.). Siehe den Abschnitt „Argumente“ unten für eine vollständige Liste der Exportoptionen.
from ultralytics.utils.benchmarks import benchmark
# Benchmark on GPU
benchmark(model="yolo26n.pt", data="coco8.yaml", imgsz=640, half=False, device=0)
# Benchmark specific export format
benchmark(model="yolo26n.pt", data="coco8.yaml", imgsz=640, format="onnx")Link to this sectionArgumente#
Argumente wie model, data, imgsz, half, device, verbose und format bieten dir die Flexibilität, die Benchmarks an deine spezifischen Bedürfnisse anzupassen und die Leistung verschiedener Exportformate einfach zu vergleichen.
| Schlüssel | Standardwert | Beschreibung |
|---|---|---|
model | None | Gibt den Pfad zur Modelldatei an. Akzeptiert sowohl .pt- als auch .yaml-Formate, z. B. "yolo26n.pt" für vortrainierte Modelle oder Konfigurationsdateien. |
data | None | Pfad zu einer YAML-Datei, die den Datensatz für das Benchmarking definiert, üblicherweise einschließlich Pfaden und Einstellungen für Validierungsdaten. Beispiel: "coco8.yaml". |
imgsz | 640 | Die Eingabebildgröße für das Modell. Muss eine einzelne Ganzzahl für quadratische Bilder sein (z. B. 640); benchmark() unterstützt nur quadratische Bildgrößen. |
half | False | Aktiviert FP16-Inferenz (halbe Präzision), was den Speicherbedarf reduziert und möglicherweise die Geschwindigkeit auf kompatibler Hardware erhöht. Verwende half=True zum Aktivieren. |
int8 | False | Aktiviert die INT8-Quantisierung für eine weiter optimierte Leistung auf unterstützten Geräten, besonders nützlich für Edge-Geräte. Setze int8=True zur Verwendung. |
device | 'cpu' | Definiert das Berechnungsgerät bzw. die -geräte für das Benchmarking, wie z. B. "cpu" oder "cuda:0". |
verbose | False | Steuert den Detaillierungsgrad der Protokollausgabe. Setze verbose=True für detaillierte Protokolle. |
format | '' | Benchmarkt nur das angegebene Exportformat (z. B. format=onnx). Lass es leer, um automatisch jedes unterstützte Format zu testen. |
Link to this sectionExportformate#
Benchmarks versuchen automatisch, auf allen unten aufgeführten möglichen Exportformaten zu laufen. Alternativ kannst du Benchmarks für ein spezifisches Format ausführen, indem du das Argument format verwendest, welches jedes der unten genannten Formate akzeptiert.
| Format | format-Argument | Modell | Metadaten | Argumente |
|---|---|---|---|---|
| PyTorch | - | yolo26n.pt | ✅ | - |
| TorchScript | torchscript | yolo26n.torchscript | ✅ | imgsz, half, dynamic, optimize, nms, batch, device |
| ONNX | onnx | yolo26n.onnx | ✅ | imgsz, half, int8, dynamic, simplify, opset, nms, batch, data, fraction, device |
| OpenVINO | openvino | yolo26n_openvino_model/ | ✅ | imgsz, half, dynamic, int8, nms, batch, data, fraction, device |
| TensorRT | engine | yolo26n.engine | ✅ | imgsz, half, dynamic, simplify, workspace, int8, nms, batch, data, fraction, device |
| CoreML | coreml | yolo26n.mlpackage | ✅ | imgsz, dynamic, half, int8, nms, batch, device |
| TF SavedModel | saved_model | yolo26n_saved_model/ | ✅ | imgsz, keras, int8, nms, batch, data, fraction, device |
| TF GraphDef | pb | yolo26n.pb | ❌ | imgsz, batch, device |
| TF Lite | tflite | yolo26n.tflite | ✅ | imgsz, half, int8, nms, batch, data, fraction, device |
| TF Edge TPU | edgetpu | yolo26n_edgetpu.tflite | ✅ | imgsz, int8, data, fraction, device |
| TF.js | tfjs | yolo26n_web_model/ | ✅ | imgsz, half, int8, nms, batch, data, fraction, device |
| PaddlePaddle | paddle | yolo26n_paddle_model/ | ✅ | imgsz, batch, device |
| MNN | mnn | yolo26n.mnn | ✅ | imgsz, batch, int8, half, device |
| NCNN | ncnn | yolo26n_ncnn_model/ | ✅ | imgsz, half, batch, device |
| IMX500 | imx | yolo26n_imx_model/ | ✅ | imgsz, int8, data, fraction, nms, device |
| RKNN | rknn | yolo26n_rknn_model/ | ✅ | imgsz, batch, name, int8, data, fraction, device |
| ExecuTorch | executorch | yolo26n_executorch_model/ | ✅ | imgsz, batch, device |
| Axelera | axelera | yolo26n_axelera_model/ | ✅ | imgsz, batch, int8, data, fraction, device |
| DEEPX | deepx | yolo26n_deepx_model/ | ✅ | imgsz, int8, data, optimize, device |
| Qualcomm QNN | qnn | yolo26n_qnn_model/ | ✅ | imgsz, batch, name, int8, data, fraction, device |
Siehe vollständige export Details auf der Export Seite.
Link to this sectionFAQ#
Link to this sectionWie benche ich die Leistung meines YOLO26 Modells mit Ultralytics?#
Ultralytics YOLO26 bietet einen Benchmark-Modus, um die Leistung deines Modells über verschiedene Exportformate hinweg zu bewerten. Dieser Modus liefert Einblicke in wichtige Metriken wie die mean Average Precision (mAP50-95), Genauigkeit und Inferenzzeit in Millisekunden. Um Benchmarks auszuführen, kannst du entweder Python oder CLI-Befehle verwenden. Hier ist ein Beispiel für ein Benchmark auf einer GPU:
from ultralytics.utils.benchmarks import benchmark
# Benchmark on GPU
benchmark(model="yolo26n.pt", data="coco8.yaml", imgsz=640, half=False, device=0)Weitere Details zu Benchmark-Argumenten findest du im Abschnitt Argumente.
Link to this sectionWelche Vorteile hat es, YOLO26 Modelle in verschiedene Formate zu exportieren?#
Das Exportieren von YOLO26 Modellen in verschiedene Formate wie ONNX, TensorRT und OpenVINO ermöglicht es dir, die Leistung basierend auf deiner Bereitstellungsumgebung zu optimieren. Zum Beispiel:
- ONNX: Bietet bis zu 3x CPU-Beschleunigung.
- TensorRT: Bietet bis zu 5x GPU-Beschleunigung.
- OpenVINO: Speziell für Intel-Hardware optimiert.
Diese Formate verbessern sowohl die Geschwindigkeit als auch die Genauigkeit deiner Modelle, was sie effizienter für verschiedene reale Anwendungen macht. Besuche die Export Seite für vollständige Details.
Link to this sectionWarum ist Benchmarking entscheidend bei der Evaluierung von YOLO26 Modellen?#
Das Benchmarking deiner YOLO26 Modelle ist aus mehreren Gründen unerlässlich:
- Fundierte Entscheidungen: Verstehe die Abwägungen zwischen Geschwindigkeit und Genauigkeit.
- Ressourcenzuweisung: Messe die Leistung über verschiedene Hardware-Optionen hinweg.
- Optimierung: Bestimme, welches Exportformat die beste Leistung für spezifische Anwendungsfälle bietet.
- Kosteneffizienz: Optimiere die Hardwarenutzung basierend auf Benchmark-Ergebnissen.
Wichtige Metriken wie mAP50-95, Top-1-Genauigkeit und Inferenzzeit helfen bei diesen Bewertungen. Weitere Informationen findest du im Abschnitt Wichtige Metriken.
Link to this sectionWelche Exportformate werden von YOLO26 unterstützt und was sind ihre Vorteile?#
YOLO26 unterstützt eine Vielzahl von Exportformaten, die jeweils auf spezifische Hardware und Anwendungsfälle zugeschnitten sind:
- ONNX: Am besten für CPU-Leistung.
- TensorRT: Ideal für GPU-Effizienz.
- OpenVINO: Optimiert für Intel-Hardware.
- CoreML & TensorFlow: Nützlich für iOS und allgemeine ML-Anwendungen.
Für eine vollständige Liste der unterstützten Formate und deren jeweilige Vorteile schaue dir den Abschnitt Unterstützte Exportformate an.
Link to this sectionWelche Argumente kann ich verwenden, um meine YOLO26 Benchmarks fein abzustimmen?#
Beim Ausführen von Benchmarks können mehrere Argumente an spezifische Bedürfnisse angepasst werden:
- model: Pfad zur Modelldatei (z. B. "yolo26n.pt").
- data: Pfad zu einer YAML-Datei, die den Datensatz definiert (z. B. "coco8.yaml").
- imgsz: Die Eingabebildgröße, entweder als einzelne Ganzzahl oder als Tupel.
- half: Aktiviere FP16-Inferenz für bessere Leistung.
- int8: Aktiviere INT8-Quantisierung für Edge-Geräte.
- device: Gib das Berechnungsgerät an (z. B. "cpu", "cuda:0").
- verbose: Steuere den Grad der Protokollierungsdetails.
Für eine vollständige Liste der Argumente siehe den Abschnitt Argumente.