Intel Core Ultra Series 3 üzerinde DL Streamer Pipeline Framework ve OpenVINO™ ile Ultralytics YOLO26#

Bu kapsamlı kılavuz, DL Streamer Pipeline Framework ve OpenVINO™ toolkit kullanarak Ultralytics YOLO26 modelini Intel Core Ultra Series 3 platformlarında dağıtma sürecini ayrıntılı olarak açıklar. Burada Intel CPU'ları, tümleşik ve ayrık GPU'ları ve NPU'lar üzerinde çıkarım performansını en üst düzeye çıkarmak için OpenVINO™ kullanıyoruz.

İçindekiler: Intel DL Streamer nedir? • Ön koşullar • YOLO26 Modeli Hazırlama • YOLO26 ile Çıkarım Çalıştırma • Çoklu Akış Kurulumu • SSS

Intel DL Streamer nedir?#

Deep Learning Streamer (DL Streamer) Pipeline Framework, GStreamer multimedya framework'ünü temel alan ve Bulut'ta veya Edge'de karmaşık medya analitiği işlem hatları oluşturmak için tasarlanmış açık kaynaklı bir akış medya analitiği framework'üdür.

DL Streamer, nesneleri, olayları ve insanları tespit etmek, sınıflandırmak, takip etmek, tanımlamak ve saymak için ses ve video akışlarının analizini sağlar. Intel donanımı için optimize edilmiştir ve çeşitli arka uç kütüphaneleri üzerine inşa edilmiş GStreamer eklentileri arasında birlikte çalışabilirlik sağlar:

• Çıkarım: Intel CPU, GPU ve NPU için optimize edilmiş OpenVINO™ çıkarım motoru
• Video Kodlama/Kod Çözme: VA-API üzerinden GPU hızlandırması
• Görüntü İşleme: VA-API üzerinden GPU hızlandırması
• Meta veriler: Yapılandırılmış çıkarım sonuçları için GStreamer Analytics
• Ekosistem: Medya G/Ç, çoklama/çoklama çözme, codec desteği ve daha fazlası için yüzlerce GStreamer eklentisi

DL Streamer, OpenVINO™ formatındaki tam Ultralytics YOLO ailesi (YOLOv5'ten YOLO26'ya kadar) dahil olmak üzere çok sayıda AI modelini destekler.

DL Streamer, System Requirements — Open Edge Platform Documentation üzerinde sağlanan sistemlerle düzenli olarak doğrulanmaktadır.

Ön koşullar#

Başlamadan önce Intel sisteminde aşağıdakilerin yüklü ve yapılandırılmış olduğundan emin ol:

• Intel GPU/NPU sürücüleri yüklü Ubuntu 24.04 (kurulum kılavuzuna bak)

• docker engine (kurulum kılavuzuna bak)

YOLO26 Modeli Hazırlama#

DL Streamer, OpenVINO™ IR formatındaki modelleri kullanır. Ultralytics YOLO26 modelleri, Ultralytics dışa aktarıcısı kullanılarak PyTorch'tan OpenVINO™ IR formatına aktarılır. DL Streamer, Intel donanımı için optimize edilmiş dışa aktarma ve çıkarım özellikleri sağlayan resmi Ultralytics OpenVINO™ entegrasyonundan yararlanır.

1. ~/intel/dlstreamer_demo klasörünü oluştur ve sanal ortama OpenVINO™ ile Ultralytics'i yükle

mkdir -p ~/intel/dlstreamer_demo && cd ~/intel/dlstreamer_demo
python3 -m venv .dls-venv && source .dls-venv/bin/activate
pip install openvino==2026.2.0 ultralytics==8.4.92

2. PyTorch YOLO26s modelini Ultralytics'ten indir, modeli OpenVINO™ IR formatına dönüştür ve bir INT8 hassasiyet varyantı oluştur.

yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yaml

Model ~/intel/dlstreamer_demo/yolo26s_int8_openvino_model klasörüne aktarılır.

Model Hassasiyeti#

DL Streamer, FP32, FP16 ve INT8 hassasiyetli modelleri destekler. Her biri için ayrı bir dışa aktarma adımı gerekir:

# FP32 (default precision, highest accuracy)
yolo export model=yolo26s.pt format=openvino dynamic=True

# FP16 (recommended for GPU inference, good accuracy/performance balance)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=16

# INT8 (maximum performance, requires calibration dataset)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yaml

Aşağıdaki örneklerde hazırlık adımında dışa aktarılan INT8 modeli kullanılır. FP32 veya FP16 modellerini kullanmak için model yolunu uygun şekilde değiştir (yolo26s_openvino_model/yolo26s.xml gibi).

YOLO26 ile Çıkarım Çalıştırma#

DL Streamer YOLO26 çıkarım algılama boru hattını çalıştırmadan önce, DL Streamer Docker görüntüsünü interaktif modda çalıştır. YOLO26 Model Preparation adımını takip ettiğinden emin ol ve aşağıdaki video dosyasını Pexels veritabanından indir.

curl -L https://videos.pexels.com/video-files/1192116/1192116-sd_640_360_30fps.mp4 --output ~/intel/dlstreamer_demo/video1.mp4

DL Streamer docker imajını etkileşimli modda çalıştır.

docker run -it --rm \
  -v ~/intel/dlstreamer_demo:/home/dlstreamer/demo \
  -v "$HOME/.Xauthority:/root/.Xauthority:rw" \
  -e DISPLAY=$DISPLAY \
  -e XDG_RUNTIME_DIR=/tmp \
  -v /tmp/.X11-unix:/tmp/.X11-unix \
  --device /dev/dri \
  --group-add $(stat -c "%g" /dev/dri/render*) \
  --device /dev/accel \
  --group-add $(stat -c "%g" /dev/accel/accel*) \
  -e ZE_ENABLE_ALT_DRIVERS=libze_intel_npu.so \
  intel/dlstreamer:latest

INT8 Hassasiyeti (Maksimum Performans)#

INT8 niceleme, model ağırlıklarını 8 bitlik tam sayılara indirerek en yüksek iş hacmini sağlar. Ultralytics dışa aktarıcısı kalibrasyonu otomatik olarak gerçekleştirir.

GPU üzerinde INT8 ile YOLO26s çalıştırma#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false

GPU üzerinde INT8 ile YOLO26s çalıştır ve çıktıyı video dosyasına kaydet (~/intel/dlstreamer_demo/yolo_video1_yolo26s_INT8_GPU.mp4)#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! vah264enc ! h264parse ! mp4mux ! filesink location=/home/dlstreamer/demo/yolo_video1_yolo26s_INT8_GPU.mp4

NPU üzerinde INT8 ile YOLO26s çalıştırma#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=NPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false

Çoklu Akış Kurulumu#

DL Streamer, birden fazla video kaynağının aynı anda kodunun çözüldüğü ve çıkarımının yapıldığı çoklu akış işlemeyi destekler. Birden fazla akışı birleştirmek için GStreamer'ın vacompositor öğesini kullanarak aynı anda birden fazla boru hattı başlatabilirsin.

Birden Çok İşlem Hattını (4 akış) Paralel Olarak Çalıştırma (GPU)#

gst-launch-1.0 vacompositor name=comp sink_0::xpos=0 sink_0::ypos=0 sink_1::xpos=660 sink_1::ypos=0 sink_2::xpos=0 sink_2::ypos=380 sink_3::xpos=660 sink_3::ypos=380 ! autovideosink sync=false \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_0 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_1 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_2 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_3

Ek Kaynaklar#

• DL Streamer GitHub Deposu
• DL Streamer Belgeleri
• DL Streamer Öğeleri
• OpenVINO™ Toolkit
• Ultralytics YOLO26
• GStreamer Framework
• Desteklenen Modeller Tablosu

SSS#