DL Streamer İşlem Hattı Çerçevesi ve OpenVINO™ kullanan Intel Core Ultra Series 3 üzerinde Ultralytics YOLO26#

DL Streamer Pipeline Framework ve OpenVINO™ toolkit kullanarak Intel Core Ultra Series 3 platformlarında Ultralytics YOLO26 dağıtımı için bu kapsamlı rehber ayrıntılı bir adım adım kılavuz sunar. Burada, Intel CPU'lar, entegre ve harici GPU'lar ve NPU'lar üzerindeki çıkarım performansını en üst düzeye çıkarmak için OpenVINO™ kullanıyoruz.

İçindekiler: What is Intel DL Streamer? • Prerequisites • YOLO26 Model Preparation • Running Inference with YOLO26 • Multi-Stream Setup • FAQ

Intel DL Streamer nedir?#

Deep Learning Streamer (DL Streamer) Pipeline Framework, Cloud veya Edge üzerinde karmaşık medya analitiği işlem hatları oluşturmak için tasarlanmış, GStreamer multimedya çerçevesine dayanan açık kaynaklı bir akışlı medya analitiği çerçevesidir.

DL Streamer, nesneleri, olayları ve kişileri tespit etmek, sınıflandırmak, izlemek, tanımlamak ve saymak için ses ve video akışlarının analizini sağlar. Intel donanımı için optimize edilmiştir ve çeşitli arka uç kütüphaneleri üzerine inşa edilmiş GStreamer eklentileri arasında birlikte çalışabilirlik sağlar:

Çıkarım (Inference): Intel CPU, GPU ve NPU için optimize edilmiş OpenVINO™ çıkarım motoru
Video Kodlama/Kod Çözme: VA-API aracılığıyla GPU hızlandırma
Görüntü İşleme: VA-API aracılığıyla GPU hızlandırma
Meta Veri: Yapılandırılmış çıkarım sonuçları için GStreamer Analitiği
Ekosistem: Medya G/Ç, muxing/demuxing, kodek desteği ve daha fazlası için yüzlerce GStreamer eklentisi

DL Streamer, tamamı OpenVINO™ formatında olan tüm Ultralytics YOLO ailesi (YOLOv5'ten YOLO26'ya kadar) dahil olmak üzere birçok yapay zeka modelini destekler.

DL Streamer, System Requirements — Open Edge Platform Documentation adresinde sağlanan sistemlerle düzenli olarak doğrulanmaktadır.

Ön koşullar#

Başlamadan önce, Intel sisteminizde şunların yüklü ve yapılandırılmış olduğundan emin ol:

Intel GPU/NPU sürücüleri kurulu Ubuntu 24.04 (kurulum kılavuzunu kontrol edin)
docker motoru (kurulum kılavuzunu kontrol edin)

YOLO26 Model Hazırlığı#

DL Streamer, modelleri OpenVINO™ IR formatında kullanır. Ultralytics YOLO26 modelleri, Ultralytics dışarı aktarıcısı kullanılarak PyTorch'tan OpenVINO™ IR formatına aktarılır. DL Streamer, Intel donanımı için optimize edilmiş dışarı aktarma ve çıkarım yetenekleri sağlayan resmi Ultralytics OpenVINO™ entegrasyonundan yararlanır.

~/intel/dlstreamer_demo klasörünü oluştur ve sanal ortamda OpenVINO™ ile Ultralytics'i kur

mkdir -p ~/intel/dlstreamer_demo && cd ~/intel/dlstreamer_demo
python3 -m venv .dls-venv && source .dls-venv/bin/activate
pip install openvino==2026.2.0 ultralytics==8.4.92

PyTorch YOLO26s modelini Ultralytics'ten indir, OpenVINO™ IR formatına dönüştür ve INT8 hassasiyet varyantını oluştur.

yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yaml

Model ~/intel/dlstreamer_demo/yolo26s_int8_openvino_model klasörüne indirilmelidir.

Model Hassasiyeti#

DL Streamer, FP32, FP16 ve INT8 hassasiyet modellerini destekler. Her biri ayrı bir dışa aktarma adımı gerektirir:

# FP32 (default precision, highest accuracy)
yolo export model=yolo26s.pt format=openvino dynamic=True

# FP16 (recommended for GPU inference, good accuracy/performance balance)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=16

# INT8 (maximum performance, requires calibration dataset)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yaml

Aşağıdaki örnekler hazırlık adımında dışarı aktarılan INT8 modelini kullanır. FP32 veya FP16 modellerini kullanmak için model yolunu buna göre değiştir (örn. yolo26s_openvino_model/yolo26s.xml).

YOLO26 ile Çıkarım Çalıştırma#

DL Streamer YOLO26 çıkarım algılama işlem hattını çalıştırmadan önce, DL Streamer docker görüntüsünü interaktif modda çalıştır. YOLO26 Model Preparation adımını takip ettiğinden ve Pexels veritabanından aşağıdaki video dosyasını indirdiğinden emin ol.

curl -L https://videos.pexels.com/video-files/1192116/1192116-sd_640_360_30fps.mp4 --output ~/intel/dlstreamer_demo/video1.mp4

DL Streamer docker imajını etkileşimli modda çalıştır.

Not

Bu komut, tümleşik GPU (iGPU) ve NPU ile donatılmış Intel Core Ultra Series 3 işlemcili sistemler içindir.

docker run -it --rm \
  -v ~/intel/dlstreamer_demo:/home/dlstreamer/demo \
  -v "$HOME/.Xauthority:/root/.Xauthority:rw" \
  -e DISPLAY=$DISPLAY \
  -e XDG_RUNTIME_DIR=/tmp \
  -v /tmp/.X11-unix:/tmp/.X11-unix \
  --device /dev/dri \
  --group-add $(stat -c "%g" /dev/dri/render*) \
  --device /dev/accel \
  --group-add $(stat -c "%g" /dev/accel/accel*) \
  -e ZE_ENABLE_ALT_DRIVERS=libze_intel_npu.so \
  intel/dlstreamer:latest

INT8 Hassasiyeti (Maksimum Performans)#

INT8 niceleme, model ağırlıklarını 8-bit tam sayılara indirgeyerek en yüksek verimi sağlar. Ultralytics dışa aktarıcı, kalibrasyonu otomatik olarak gerçekleştirir.

GPU üzerinde INT8 ile YOLO26s çalıştırma#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false

GPU üzerinde INT8 ile YOLO26s çalıştır, çıktıyı video dosyasına kaydet (~/intel/dlstreamer_demo/yolo_video1_yolo26s_INT8_GPU.mp4)#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! vah264enc ! h264parse ! mp4mux ! filesink location=/home/dlstreamer/demo/yolo_video1_yolo26s_INT8_GPU.mp4

NPU üzerinde INT8 ile YOLO26s çalıştırma#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=NPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false

Çoklu Akış Kurulumu#

DL Streamer, birden fazla video kaynağının aynı anda kodunun çözüldüğü ve çıkarımının yapıldığı çoklu akış işlemeyi destekler. Birden fazla akışı birleştirmek için GStreamer'ın vacompositor öğesini kullanarak paralel olarak birden fazla işlem hattı başlatabilirsin.

Paralel Olarak Birden Fazla İşlem Hattı (4 akış) Çalıştırma (GPU)#

gst-launch-1.0 vacompositor name=comp sink_0::xpos=0 sink_0::ypos=0 sink_1::xpos=660 sink_1::ypos=0 sink_2::xpos=0 sink_2::ypos=380 sink_3::xpos=660 sink_3::ypos=380 ! autovideosink sync=false \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_0 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_1 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_2 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_3

SSS#

Bir Intel platformunda DL Streamer ile Ultralytics YOLO26'yı nasıl kurarım?#

Installation Guide izleyerek DL Streamer'ı kur, ortamı source /opt/intel/dlstreamer/scripts/setup_dls_env.sh ile ayarla, Ultralytics ve OpenVINO™'yu kur, download_ultralytics_models.sh kullanarak modelleri indir. Ardından YOLO26 çıkarım işlem hatlarını çalıştırmak için kullanıma hazır bir betik sağlayan DL Streamer örnek uygulaması yolo_detect.sh ile çıkarımı çalıştır. Nasıl çalıştırılacağına dair kısa eğitime göz at.

Intel donanımında YOLO26 ile OpenVINO™ kullanmanın faydası nedir?#

OpenVINO™, grafik optimizasyonu, katman birleştirme ve donanıma özel çekirdek ayarı gibi teknikler aracılığıyla YOLO26 modelini özellikle Intel donanımı için optimize eder. DL Streamer'ın VA-API hızlandırmalı kod çözme ve sıfır kopyalı (zero-copy) va-surface-sharing ön işleme özelliğiyle birleştiğinde, tam video analitiği işlem hattı optimize edilmemiş çerçevelere göre önemli ölçüde daha yüksek performans elde eder.

YOLO26'yı DL Streamer ile farklı Intel cihazlarında çalıştırabilir miyim?#

Evet. DL Streamer; birden fazla Intel platform nesli boyunca Intel CPU'lar (Core, Core Ultra, Xeon), tümleşik GPU'lar (Iris Xe, Arc), harici GPU'lar (Arc A-Series, B-Series) ve NPU'lar (AI Boost) üzerinde çıkarımı destekler. DEVICE parametresini CPU, GPU veya NPU olarak değiştirmen yeterlidir.

FP16 ve INT8 hassasiyeti arasında nasıl seçim yaparım?#

FP16, GPU çıkarımı için varsayılan olarak önerilir — FP32'ye yakın doğruluk ve yaklaşık 2 kat daha fazla verim artışı sağlar.
INT8, düşük doğruluk kaybıyla en yüksek performansı (FP32'ye göre 2–3 kat) sunar ve maksimum verimin öncelikli olduğu durumlar için idealdir. INT8 modelleri, Ultralytics dışa aktarma sırasında otomatik olarak kalibre edilir.

Hangi YOLO26 görevleri destekleniyor?#

DL Streamer, tüm YOLO26 görev varyantlarını destekler: - Tespit (Detection): yolo26n, yolo26s, yolo26m, yolo26l, yolo26x - Yönelimli Sınırlayıcı Kutu (OBB): yolo26s-obb (ve tüm boyut varyantları) - Örnek Segmentasyonu (Instance Segmentation): yolo26s-seg (ve tüm boyut varyantları) - Poz Tahmini (Pose Estimation): yolo26s-pose (ve tüm boyut varyantları) - Sınıflandırma (Classification): yolo26s-cls (tespit ile kompozit işlem hattı)

Tespitleri yapılandırılmış veri olarak nasıl dışa aktarabilirim?#

Algılama sonuçlarını bir dosyaya JSON-lines olarak yazmak için json çıktı seçeneğini kullan:

./yolo_detect.sh yolo26s GPU input_video.mp4 json va-surface-sharing INT8

Alternatif olarak, meta verileri dosyalara, MQTT'ye veya Kafka'ya yayınlamak için özel işlem hatlarında gvametapublish öğesini kullan.

Ek Kaynaklar#

Katkıda Bulunanlar

ONonuralpszr¹ TBtbujewsk¹

Oluşturulma 2 hafta önceGüncellendi 3 gün önce