Intel Core Ultra Series 3 üzerinde DL Streamer Pipeline Framework ve OpenVINO™ ile Ultralytics YOLO26#
Bu kapsamlı kılavuz, DL Streamer Pipeline Framework ve OpenVINO™ toolkit kullanarak Ultralytics YOLO26 modelini Intel Core Ultra Series 3 platformlarında dağıtma sürecini ayrıntılı olarak açıklar. Burada Intel CPU'ları, tümleşik ve ayrık GPU'ları ve NPU'lar üzerinde çıkarım performansını en üst düzeye çıkarmak için OpenVINO™ kullanıyoruz.
İçindekiler: Intel DL Streamer nedir? • Ön koşullar • YOLO26 Modeli Hazırlama • YOLO26 ile Çıkarım Çalıştırma • Çoklu Akış Kurulumu • SSS
Intel DL Streamer nedir?#
Deep Learning Streamer (DL Streamer) Pipeline Framework, GStreamer multimedya framework'ünü temel alan ve Bulut'ta veya Edge'de karmaşık medya analitiği işlem hatları oluşturmak için tasarlanmış açık kaynaklı bir akış medya analitiği framework'üdür.
DL Streamer; nesneleri, olayları ve kişileri algılamak, sınıflandırmak, izlemek, tanımlamak ve saymak için ses ve video akışlarının analiz edilmesini sağlar. Intel donanımı için optimize edilmiştir ve çeşitli arka uç kitaplıkları üzerine kurulmuş GStreamer eklentileri arasında birlikte çalışabilirlik sağlar:
- Çıkarım: Intel CPU, GPU ve NPU için optimize edilmiş OpenVINO™ çıkarım motoru
- Video Kodlama/Kod Çözme: VA-API üzerinden GPU hızlandırması
- Görüntü İşleme: VA-API üzerinden GPU hızlandırması
- Meta veriler: Yapılandırılmış çıkarım sonuçları için GStreamer Analytics
- Ekosistem: Medya G/Ç, çoklama/çoklama çözme, codec desteği ve daha fazlası için yüzlerce GStreamer eklentisi
DL Streamer, OpenVINO™ formatındaki tam Ultralytics YOLO ailesi (YOLOv5'ten YOLO26'ya kadar) dahil olmak üzere çok sayıda AI modelini destekler.
DL Streamer, System Requirements — Open Edge Platform Documentation sayfasında sağlanan sistemlerle düzenli olarak doğrulanmaktadır.
Ön koşullar#
Başlamadan önce Intel sisteminde aşağıdakilerin yüklü ve yapılandırılmış olduğundan emin ol:
-
Intel GPU/NPU sürücüleri yüklü Ubuntu 24.04 (kurulum kılavuzuna bak)
-
docker engine (kurulum kılavuzuna bak)
YOLO26 Modeli Hazırlama#
DL Streamer, OpenVINO™ IR formatındaki modelleri kullanır. Ultralytics YOLO26 modelleri, Ultralytics dışa aktarıcısı kullanılarak PyTorch'tan OpenVINO™ IR formatına aktarılır. DL Streamer, Intel donanımı için optimize edilmiş dışa aktarma ve çıkarım özellikleri sağlayan resmi Ultralytics OpenVINO™ entegrasyonundan yararlanır.
~/intel/dlstreamer_demoklasörünü oluştur ve sanal ortama OpenVINO™ ile Ultralytics'i yükle
mkdir -p ~/intel/dlstreamer_demo && cd ~/intel/dlstreamer_demo
python3 -m venv .dls-venv && source .dls-venv/bin/activate
pip install openvino==2026.2.0 ultralytics==8.4.92- Ultralytics'ten PyTorch YOLO26s modelini indirir, OpenVINO™ IR formatına dönüştürür ve INT8 hassasiyetli varyantı oluşturur.
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yamlModel ~/intel/dlstreamer_demo/yolo26s_int8_openvino_model klasörüne indirilmelidir.
Model Hassasiyeti#
DL Streamer, FP32, FP16 ve INT8 hassasiyetli modelleri destekler. Her biri için ayrı bir dışa aktarma adımı gerekir:
# FP32 (default precision, highest accuracy)
yolo export model=yolo26s.pt format=openvino dynamic=True
# FP16 (recommended for GPU inference, good accuracy/performance balance)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=16
# INT8 (maximum performance, requires calibration dataset)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yamlAşağıdaki örneklerde hazırlık adımında dışa aktarılan INT8 modeli kullanılır. FP32 veya FP16 modellerini kullanmak için model yolunu uygun şekilde değiştir (yolo26s_openvino_model/yolo26s.xml gibi).
YOLO26 ile Çıkarım Çalıştırma#
DL Streamer YOLO26 çıkarım algılama işlem hattını çalıştırmadan önce DL Streamer docker imajını etkileşimli modda çalıştır. YOLO26 Modeli Hazırlama adımını uyguladığından ve aşağıdaki video dosyasını Pexels veritabanından indirdiğinden emin ol.
curl -L https://videos.pexels.com/video-files/1192116/1192116-sd_640_360_30fps.mp4 --output ~/intel/dlstreamer_demo/video1.mp4DL Streamer docker imajını etkileşimli modda çalıştır.
Bu komut, tümleşik GPU (iGPU) ve yerleşik NPU'ya sahip Intel Core Ultra Series 3 işlemcilerle donatılmış sistemler için tasarlanmıştır.
docker run -it --rm \
-v ~/intel/dlstreamer_demo:/home/dlstreamer/demo \
-v "$HOME/.Xauthority:/root/.Xauthority:rw" \
-e DISPLAY=$DISPLAY \
-e XDG_RUNTIME_DIR=/tmp \
-v /tmp/.X11-unix:/tmp/.X11-unix \
--device /dev/dri \
--group-add $(stat -c "%g" /dev/dri/render*) \
--device /dev/accel \
--group-add $(stat -c "%g" /dev/accel/accel*) \
-e ZE_ENABLE_ALT_DRIVERS=libze_intel_npu.so \
intel/dlstreamer:latestINT8 Hassasiyeti (Maksimum Performans)#
INT8 niceleme, model ağırlıklarını 8 bitlik tam sayılara indirerek en yüksek iş hacmini sağlar. Ultralytics dışa aktarıcısı kalibrasyonu otomatik olarak gerçekleştirir.
GPU üzerinde INT8 ile YOLO26s çalıştırma#
gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false
GPU üzerinde INT8 ile YOLO26s çalıştır ve çıktıyı video dosyasına kaydet (~/intel/dlstreamer_demo/yolo_video1_yolo26s_INT8_GPU.mp4)#
gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! vah264enc ! h264parse ! mp4mux ! filesink location=/home/dlstreamer/demo/yolo_video1_yolo26s_INT8_GPU.mp4NPU üzerinde INT8 ile YOLO26s çalıştırma#
gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=NPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false
Çoklu Akış Kurulumu#
DL Streamer, birden çok video kaynağının aynı anda kodunun çözüldüğü ve çıkarım uygulandığı çoklu akış işlemeyi destekler. Birden çok akışı birleştirmek için GStreamer'ın vacompositor öğesini kullanarak paralel olarak birden çok işlem hattı başlatabilirsin.
Birden Çok İşlem Hattını (4 akış) Paralel Olarak Çalıştırma (GPU)#
gst-launch-1.0 vacompositor name=comp sink_0::xpos=0 sink_0::ypos=0 sink_1::xpos=660 sink_1::ypos=0 sink_2::xpos=0 sink_2::ypos=380 sink_3::xpos=660 sink_3::ypos=380 ! autovideosink sync=false \
filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_0 \
filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_1 \
filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_2 \
filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_3
Ek Kaynaklar#
- DL Streamer GitHub Deposu
- DL Streamer Belgeleri
- DL Streamer Öğeleri
- OpenVINO™ Toolkit
- Ultralytics YOLO26
- GStreamer Framework
- Desteklenen Modeller Tablosu
SSS#
DL Streamer'ı Kurulum Kılavuzunu izleyerek yükle, ortamı
source /opt/intel/dlstreamer/scripts/setup_dls_env.shile kur, Ultralytics ve OpenVINO™'yu yükle, modelleridownload_ultralytics_models.shkullanarak indir. Ardından YOLO26 çıkarım işlem hatlarını çalıştırmaya hazır bir komut dosyası sağlayan DL Streamer örnek uygulamasıyolo_detect.shile çıkarımı çalıştır. Nasıl çalıştıracağını öğrenmek için kısa eğitime bak.OpenVINO™, grafik optimizasyonu, katman birleştirme ve donanıma özgü kernel ayarlama gibi tekniklerle YOLO26 modelini Intel donanımı için özel olarak optimize eder. DL Streamer'ın VA-API hızlandırmalı kod çözmesi ve sıfır kopyalı
va-surface-sharingön işleme özelliğiyle birlikte tüm video analitiği işlem hattı, optimize edilmemiş framework'lere kıyasla önemli ölçüde daha yüksek iş hacmi elde eder.Evet. DL Streamer, birden çok Intel platformu neslinde Intel CPU'ları (Core, Core Ultra, Xeon), tümleşik GPU'ları (Iris Xe, Arc), ayrık GPU'ları (Arc A-Series, B-Series) ve NPU'ları (AI Boost) üzerinde çıkarımı destekler.
DEVICEparametresiniCPU,GPUveyaNPUolarak değiştirmen yeterlidir.- FP16, GPU çıkarımı için varsayılan seçenek olarak önerilir — yaklaşık 2 kat iş hacmi artışıyla FP32'ye yakın doğruluk sağlar.
- INT8, küçük bir doğruluk ödünü karşılığında en yüksek performansı (FP32'ye göre 2–3 kat) sağlar ve en yüksek iş hacminin öncelikli olduğu durumlar için idealdir. INT8 modelleri, Ultralytics dışa aktarma işlemi sırasında otomatik olarak kalibre edilir.
DL Streamer, tüm YOLO26 görev varyantlarını destekler: - Algılama: yolo26n, yolo26s, yolo26m, yolo26l, yolo26x - Yönlendirilmiş Sınırlayıcı Kutu (OBB): yolo26s-obb (ve tüm boyut varyantları) - Örnek Segmentasyonu: yolo26s-seg (ve tüm boyut varyantları) - Poz Tahmini: yolo26s-pose (ve tüm boyut varyantları) - Sınıflandırma: yolo26s-cls (algılama içeren bileşik işlem hattı)
Algılama sonuçlarını JSON-lines olarak bir dosyaya yazmak için
jsonçıktı seçeneğini kullan:./yolo_detect.sh yolo26s GPU input_video.mp4 json va-surface-sharing INT8Alternatif olarak, meta verileri dosyalara, MQTT'ye veya Kafka'ya yayımlamak için özel işlem hatlarında
gvametapublishöğesini kullanabilirsin.