Sicherheit für Unternehmen: ISO 27001 + SOC 2 Typ I konform.

Link to this sectionUltralytics YOLO26 auf Intel Core Ultra Series 3 unter Verwendung des DL Streamer Pipeline Frameworks und OpenVINO™#

Dieser umfassende Leitfaden bietet eine detaillierte Anleitung für die Bereitstellung von Ultralytics YOLO26 auf Intel Core Ultra Series 3 Plattformen unter Verwendung des DL Streamer Pipeline Frameworks und des OpenVINO™ toolkits. Hier nutzen wir OpenVINO™, um die Inferenzleistung auf Intel CPUs, integrierten und dedizierten GPUs sowie NPUs zu maximieren.

Intel DL Streamer

Inhalt: Was ist Intel DL Streamer? • Voraussetzungen • Vorbereitung des YOLO26-Modells • Inferenz mit YOLO26 ausführen • Multi-Stream-Einrichtung • FAQ

Link to this sectionWas ist Intel DL Streamer?#

Das Deep Learning Streamer (DL Streamer) Pipeline Framework ist ein Open-Source-Framework für die Analyse von Streaming-Medien, das auf dem GStreamer Multimedia-Framework basiert und für die Erstellung komplexer Medienanalyse-Pipelines in der Cloud oder am Edge entwickelt wurde.

DL Streamer ermöglicht die Analyse von Audio- und Videoströmen, um Objekte, Ereignisse und Personen zu erkennen, zu klassifizieren, zu verfolgen, zu identifizieren und zu zählen. Es ist für Intel-Hardware optimiert und bietet Interoperabilität zwischen GStreamer-Plugins, die auf verschiedenen Backend-Bibliotheken basieren:

  • Inferenz: OpenVINO™ Inferenz-Engine, optimiert für Intel CPU, GPU und NPU
  • Video-Kodierung/-Dekodierung: GPU-Beschleunigung via VA-API
  • Bildverarbeitung: GPU-Beschleunigung via VA-API
  • Metadaten: GStreamer Analytics für strukturierte Inferenz-Ergebnisse
  • Ökosystem: Hunderte von GStreamer-Plugins für Medien-I/O, Muxing/Demuxing, Codec-Unterstützung und mehr

DL Streamer unterstützt viele KI-Modelle, einschließlich der gesamten Ultralytics YOLO-Familie (YOLOv5 bis YOLO26), alle im OpenVINO™-Format.

DL Streamer wird regelmäßig mit Systemen validiert, die unter System Requirements — Open Edge Platform Documentation aufgeführt sind.

Link to this sectionVoraussetzungen#

Bevor du beginnst, stelle sicher, dass die folgenden Komponenten auf deinem Intel-System installiert und konfiguriert sind:

Link to this sectionVorbereitung des YOLO26-Modells#

DL Streamer verwendet Modelle im OpenVINO™ IR-Format. Ultralytics YOLO26-Modelle werden mit dem Ultralytics-Exporter von PyTorch nach OpenVINO™ IR exportiert. DL Streamer nutzt die offizielle Ultralytics OpenVINO™-Integration, die optimierte Export- und Inferenzfunktionen für Intel-Hardware bietet.

  1. Erstelle den Ordner ~/intel/dlstreamer_demo und installiere OpenVINO™ sowie Ultralytics in einer virtuellen Umgebung
mkdir -p ~/intel/dlstreamer_demo && cd ~/intel/dlstreamer_demo
python3 -m venv .dls-venv && source .dls-venv/bin/activate
pip install openvino==2026.2.0 ultralytics==8.4.92
  1. Lade das PyTorch YOLO26s-Modell von Ultralytics herunter, konvertiere es in das OpenVINO™ IR-Format und generiere eine Variante mit INT8-Präzision.
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yaml

Das Modell sollte in den Ordner ~/intel/dlstreamer_demo/yolo26s_int8_openvino_model heruntergeladen werden.

Link to this sectionModellpräzision#

DL Streamer unterstützt Modelle mit FP32-, FP16- und INT8-Präzision. Jeder Typ erfordert einen separaten Exportschritt:

# FP32 (default precision, highest accuracy)
yolo export model=yolo26s.pt format=openvino dynamic=True

# FP16 (recommended for GPU inference, good accuracy/performance balance)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=16

# INT8 (maximum performance, requires calibration dataset)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yaml

Die folgenden Beispiele verwenden das INT8-Modell, das im Vorbereitungsschritt exportiert wurde. Um FP32- oder FP16-Modelle zu verwenden, ersetze den Modellpfad entsprechend (z. B. yolo26s_openvino_model/yolo26s.xml).

Link to this sectionInferenz mit YOLO26 ausführen#

Bevor du die DL Streamer YOLO26 Inferenz-Erkennungspipeline ausführst, starte das DL Streamer Docker-Image im interaktiven Modus. Stelle sicher, dass du den Schritt Vorbereitung des YOLO26-Modells befolgt und die folgende Videodatei aus der Pexels-Datenbank heruntergeladen hast.

curl -L https://videos.pexels.com/video-files/1192116/1192116-sd_640_360_30fps.mp4 --output ~/intel/dlstreamer_demo/video1.mp4

Führe das DL Streamer Docker-Image im interaktiven Modus aus.

Hinweis

Dieser Befehl ist für Systeme gedacht, die mit Intel Core Ultra Series 3 Prozessoren mit integrierter GPU (iGPU) und NPU ausgestattet sind.

docker run -it --rm \
  -v ~/intel/dlstreamer_demo:/home/dlstreamer/demo \
  -v "$HOME/.Xauthority:/root/.Xauthority:rw" \
  -e DISPLAY=$DISPLAY \
  -e XDG_RUNTIME_DIR=/tmp \
  -v /tmp/.X11-unix:/tmp/.X11-unix \
  --device /dev/dri \
  --group-add $(stat -c "%g" /dev/dri/render*) \
  --device /dev/accel \
  --group-add $(stat -c "%g" /dev/accel/accel*) \
  -e ZE_ENABLE_ALT_DRIVERS=libze_intel_npu.so \
  intel/dlstreamer:latest

Link to this sectionINT8-Präzision (Maximale Leistung)#

INT8-Quantisierung liefert den höchsten Durchsatz, indem Modellgewichte auf 8-Bit-Integer reduziert werden. Der Ultralytics-Exporter übernimmt die Kalibrierung automatisch.

Link to this sectionYOLO26s mit INT8 auf GPU ausführen#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false
Intel DL Streamer GPU

Link to this sectionYOLO26s mit INT8 auf GPU ausführen, Ausgabe in einer Videodatei speichern (~/intel/dlstreamer_demo/yolo_video1_yolo26s_INT8_GPU.mp4)#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! vah264enc ! h264parse ! mp4mux ! filesink location=/home/dlstreamer/demo/yolo_video1_yolo26s_INT8_GPU.mp4

Link to this sectionYOLO26s mit INT8 auf NPU ausführen#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=NPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false
Intel DL Streamer NPU

Link to this sectionMulti-Stream-Einrichtung#

DL Streamer unterstützt Multi-Stream-Verarbeitung, bei der mehrere Videoquellen gleichzeitig dekodiert und inferiert werden. Du kannst mehrere Pipelines parallel starten und dabei das vacompositor-Element von GStreamer verwenden, um mehrere Streams zu kombinieren.

Link to this sectionAusführung mehrerer Pipelines (4 Streams) parallel (GPU)#

gst-launch-1.0 vacompositor name=comp sink_0::xpos=0 sink_0::ypos=0 sink_1::xpos=660 sink_1::ypos=0 sink_2::xpos=0 sink_2::ypos=380 sink_3::xpos=660 sink_3::ypos=380 ! autovideosink sync=false \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_0 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_1 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_2 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_3
Intel DL Streamer Multistream GPU

Link to this sectionFAQ#

Link to this sectionWie richte ich Ultralytics YOLO26 auf einer Intel-Plattform mit DL Streamer ein?#

Installiere DL Streamer gemäß der Installationsanleitung, richte die Umgebung mit source /opt/intel/dlstreamer/scripts/setup_dls_env.sh ein, installiere Ultralytics und OpenVINO™ und lade Modelle mit download_ultralytics_models.sh herunter. Führe dann die Inferenz mit der DL Streamer-Beispielanwendung yolo_detect.sh aus, die ein fertiges Skript zum Ausführen von YOLO26-Inferenz-Pipelines bereitstellt. Schau dir das kurze Tutorial an, wie du es ausführst.

Link to this sectionWas ist der Vorteil der Verwendung von OpenVINO™ mit YOLO26 auf Intel-Hardware?#

OpenVINO™ optimiert das YOLO26-Modell speziell für Intel-Hardware durch Techniken wie Graph-Optimierung, Layer-Fusion und hardwarespezifische Kernel-Anpassungen. In Kombination mit der VA-API-beschleunigten Dekodierung und der Zero-Copy va-surface-sharing-Vorverarbeitung des DL Streamers erreicht die gesamte Videoanalyse-Pipeline einen deutlich höheren Durchsatz als nicht optimierte Frameworks.

Link to this sectionKann ich YOLO26 mit DL Streamer auf verschiedenen Intel-Geräten ausführen?#

Ja. DL Streamer unterstützt die Inferenz auf Intel CPUs (Core, Core Ultra, Xeon), integrierten GPUs (Iris Xe, Arc), dedizierten GPUs (Arc A-Series, B-Series) und NPUs (AI Boost) über mehrere Intel-Plattformgenerationen hinweg. Ändere einfach den DEVICE-Parameter auf CPU, GPU oder NPU.

Link to this sectionWie wähle ich zwischen FP16- und INT8-Präzision?#

  • FP16 wird als Standard für die GPU-Inferenz empfohlen – es bietet eine Genauigkeit nahe FP32 bei einer etwa 2-fachen Durchsatzverbesserung.
  • INT8 liefert die höchste Leistung (2–3x gegenüber FP32) bei einem geringen Genauigkeitsverlust und ist ideal, wenn maximaler Durchsatz Priorität hat. INT8-Modelle werden während des Ultralytics-Exports automatisch kalibriert.

Link to this sectionWelche YOLO26-Aufgaben werden unterstützt?#

DL Streamer unterstützt alle YOLO26-Aufgabenvarianten: - Erkennung (Detection): yolo26n, yolo26s, yolo26m, yolo26l, yolo26x - Orientierte Bounding Box (OBB): yolo26s-obb (und alle Größenvarianten) - Instanz-Segmentierung: yolo26s-seg (und alle Größenvarianten) - Pose-Schätzung: yolo26s-pose (und alle Größenvarianten) - Klassifizierung: yolo26s-cls (zusammengesetzte Pipeline mit Erkennung)

Link to this sectionWie kann ich Erkennungen als strukturierte Daten exportieren?#

Verwende die json-Ausgabeoption, um Erkennungsergebnisse als JSON-Zeilen in eine Datei zu schreiben:

./yolo_detect.sh yolo26s GPU input_video.mp4 json va-surface-sharing INT8

Alternativ kannst du das gvametapublish-Element in benutzerdefinierten Pipelines verwenden, um Metadaten in Dateien, MQTT oder Kafka zu veröffentlichen.

Link to this sectionZusätzliche Ressourcen#

Mitwirkende
TBtbujewsk1

Kommentare