DL Streamer Pipeline Framework ve OpenVINO™ Kullanarak Intel Core Ultra Series 3'te Ultralytics YOLO26
Bu kılavuz, DL Streamer Pipeline Framework ve OpenVINO™ araç setini kullanarak Ultralytics YOLO26'yı Intel Core Ultra Series 3 platformlarında dağıtma adımlarını anlatır. Burada Intel CPU'larında, tümleşik ve ayrı GPU'larında ve NPU'larında çıkarım performansını en üst düzeye çıkarmak için OpenVINO™ kullanıyoruz.
İçindekiler: Intel DL Streamer nedir? • Ön koşullar • YOLO26 Modelini Hazırlama • YOLO26 ile Çıkarım Çalıştırma • Çoklu Akış Kurulumu • SSS
Intel DL Streamer nedir?#
Deep Learning Streamer (DL Streamer) Pipeline Framework, bulutta veya uçta karmaşık medya analitiği işlem hatları oluşturmak için tasarlanmış, GStreamer çoklu ortam çatısını temel alan açık kaynaklı bir akışlı medya analitiği çatısıdır.
DL Streamer; nesneleri, olayları ve kişileri tespit etmek, sınıflandırmak, izlemek, tanımlamak ve saymak için ses ve video akışlarının analiz edilmesini sağlar. Intel donanımı için optimize edilmiştir ve çeşitli arka uç kitaplıkları üzerine kurulmuş GStreamer eklentileri arasında birlikte çalışabilirlik sunar:
- Çıkarım: Intel CPU, GPU ve NPU için optimize edilmiş OpenVINO™ çıkarım motoru
- Video Kodlama/Çözme: VA-API üzerinden GPU hızlandırması
- Görüntü İşleme: VA-API üzerinden GPU hızlandırması
- Meta Veriler: Yapılandırılmış çıkarım sonuçları için GStreamer Analytics
- Ekosistem: Medya G/Ç, çoklama/ayrıştırma, kodek desteği ve daha fazlası için yüzlerce GStreamer eklentisi
DL Streamer, OpenVINO™ biçimindeki Ultralytics YOLO ailesinin tamamı (YOLOv5'ten YOLO26'ya) dâhil olmak üzere birçok yapay zekâ modelini destekler.
DL Streamer, DL Streamer sistem gereksinimlerinde listelenen sistemlerde düzenli olarak doğrulanır.
Ön koşullar#
Başlamadan önce Intel sisteminde aşağıdakilerin yüklü ve yapılandırılmış olduğundan emin ol:
-
Intel GPU/NPU sürücüleri yüklü Ubuntu 24.04
YOLO26 Modelini Hazırlama#
DL Streamer, OpenVINO™ IR biçimindeki modelleri kullanır. Ultralytics YOLO26 modelleri, Ultralytics dışa aktarıcısı kullanılarak PyTorch'tan OpenVINO™ IR'ye aktarılır. DL Streamer, Intel donanımı için optimize edilmiş dışa aktarma ve çıkarım özellikleri sunan resmî Ultralytics OpenVINO™ entegrasyonunu kullanır.
~/intel/dlstreamer_demoklasörünü oluştur ve OpenVINO™ ile Ultralytics'i sanal bir ortama yükle
mkdir -p ~/intel/dlstreamer_demo && cd ~/intel/dlstreamer_demo
python3 -m venv .dls-venv && source .dls-venv/bin/activate
pip install openvino==2026.2.0 ultralytics==8.4.92- Ultralytics'ten PyTorch YOLO26s modelini indir, OpenVINO™ IR biçimine dönüştür ve INT8 hassasiyetli bir varyant oluştur.
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yamlModel ~/intel/dlstreamer_demo/yolo26s_int8_openvino_model klasörüne aktarılır.
Model Hassasiyeti#
DL Streamer, FP32, FP16 ve INT8 hassasiyetindeki modelleri destekler. Her biri için ayrı bir dışa aktarma adımı gerekir:
# FP32 (default precision, highest accuracy)
yolo export model=yolo26s.pt format=openvino dynamic=True
# FP16 (recommended for GPU inference, good accuracy/performance balance)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=16
# INT8 (maximum performance, requires calibration dataset)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yamlAşağıdaki örneklerde hazırlık adımında dışa aktarılan INT8 modeli kullanılıyor. FP32 veya FP16 modellerini kullanmak için model yolunu buna göre değiştir (ör. yolo26s_openvino_model/yolo26s.xml).
YOLO26 ile Çıkarım Çalıştırma#
DL Streamer YOLO26 algılama işlem hattını çalıştırmadan önce YOLO26 Model Hazırlığı adımını tamamla ve Pexels'ten aşağıdaki örnek videoyu indir.
curl -L https://videos.pexels.com/video-files/1192116/1192116-sd_640_360_30fps.mp4 --output ~/intel/dlstreamer_demo/video1.mp4Ardından DL Streamer Docker imajını etkileşimli modda çalıştır.
Bu komut, tümleşik GPU'su (iGPU) ve dahili NPU'su bulunan Intel Core Ultra Series 3 işlemcilerle donatılmış sistemler için tasarlanmıştır.
docker run -it --rm \
-v ~/intel/dlstreamer_demo:/home/dlstreamer/demo \
-v "$HOME/.Xauthority:/root/.Xauthority:rw" \
-e DISPLAY=$DISPLAY \
-e XDG_RUNTIME_DIR=/tmp \
-v /tmp/.X11-unix:/tmp/.X11-unix \
--device /dev/dri \
--group-add $(stat -c "%g" /dev/dri/render*) \
--device /dev/accel \
--group-add $(stat -c "%g" /dev/accel/accel*) \
-e ZE_ENABLE_ALT_DRIVERS=libze_intel_npu.so \
intel/dlstreamer:latestINT8 Hassasiyeti (Maksimum Performans)#
INT8 kuantizasyonu, model ağırlıklarını 8 bitlik tam sayılara indirgeyerek en yüksek verimi sağlar. Ultralytics dışa aktarıcısı kalibrasyonu otomatik olarak gerçekleştirir.
YOLO26s modelini GPU'da INT8 ile çalıştır#
gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false
YOLO26s modelini GPU'da INT8 ile çalıştır ve çıktıyı bir video dosyasına kaydet#
gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! vah264enc ! h264parse ! mp4mux ! filesink location=/home/dlstreamer/demo/yolo_video1_yolo26s_INT8_GPU.mp4YOLO26s modelini NPU'da INT8 ile çalıştır#
gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=NPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false
Çoklu Akış Kurulumu#
DL Streamer, birden çok video kaynağının eş zamanlı olarak çözümlendiği ve çıkarımının yapıldığı çoklu akış işlemeyi destekler. Birden çok akışı birleştirmek için GStreamer'ın vacompositor öğesini kullanarak birden fazla işlem hattını paralel başlatabilirsin.
Birden Fazla İşlem Hattını (4 akış) Paralel Çalıştırma (GPU)#
gst-launch-1.0 vacompositor name=comp sink_0::xpos=0 sink_0::ypos=0 sink_1::xpos=660 sink_1::ypos=0 sink_2::xpos=0 sink_2::ypos=380 sink_3::xpos=660 sink_3::ypos=380 ! autovideosink sync=false \
filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_0 \
filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_1 \
filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_2 \
filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_3
Ek Kaynaklar#
- DL Streamer GitHub Deposu
- DL Streamer Belgeleri
- DL Streamer Öğeleri
- OpenVINO™ Araç Seti
- Ultralytics YOLO26
- GStreamer Çatısı
- Desteklenen Modeller Tablosu
Sık Sorulan Sorular#
DL Streamer'ı Kurulum Kılavuzu'ndaki adımları izleyerek yükle, ortamı
source /opt/intel/dlstreamer/scripts/setup_dls_env.shile ayarla, Ultralytics ve OpenVINO™'yu yükle, modelleridownload_ultralytics_models.shkullanarak indir. Ardından, YOLO26 çıkarım işlem hatlarını çalıştırmaya hazır bir betik sağlayan DL Streamer örnek uygulamasıyolo_detect.shile çıkarım yap.OpenVINO™, grafik optimizasyonu, katman birleştirme ve donanıma özgü çekirdek ayarı gibi tekniklerle YOLO26 modelini özellikle Intel donanımı için optimize eder. DL Streamer'ın VA-API hızlandırmalı çözümlemesi ve sıfır kopyalı
va-surface-sharingön işlemesiyle birlikte, tüm video analizi işlem hattı optimize edilmemiş çerçevelere kıyasla çok daha yüksek işlem hacmi sunar.Evet. DL Streamer; çeşitli Intel platform nesillerinde Intel CPU'larda (Core, Core Ultra, Xeon), tümleşik GPU'larda (Iris Xe, Arc), ayrık GPU'larda (Arc A-Series, B-Series) ve NPU'larda (AI Boost) çıkarımı destekler.
gvadetectöğesinindeviceözelliğiniCPU,GPUveyaNPUolarak değiştir.- GPU çıkarımı için varsayılan olarak FP16 önerilir; daha yüksek verimle FP32'ye yakın doğruluk sunar.
- INT8, küçük bir doğruluk ödünü karşılığında en yüksek performansı sunar ve önceliğin en yüksek verim olduğu durumlar için idealdir. INT8 modelleri, Ultralytics dışa aktarma işlemi sırasında otomatik olarak kalibre edilir.
DL Streamer şu YOLO26 görev varyantlarını destekler:
- Algılama: yolo26n, yolo26s, yolo26m, yolo26l, yolo26x
- Örnek Segmentasyonu: yolo26s-seg (ve tüm boyut varyantları)
- Sınıflandırma: yolo26s-cls (algılamalı bileşik işlem hattı)
- Poz Tahmini: yolo26s-pose (ve tüm boyut varyantları)
- Yönlendirilmiş Sınırlayıcı Kutu (OBB): yolo26s-obb (ve tüm boyut varyantları)
Algılama sonuçlarını JSON satırları olarak bir dosyaya yazmak için
jsonçıktı seçeneğini kullan:./yolo_detect.sh yolo26s GPU input_video.mp4 json va-surface-sharing INT8Alternatif olarak, meta verileri dosyalara, MQTT'ye veya Kafka'ya yayımlamak için özel işlem hatlarında
gvametapublishöğesini kullan.
Yorumlar
Bir soru sor, sonuçlarını paylaş veya başka birine yardım et.