Ultralytics YOLO27: Bekleme listesine katıl.
Başla

DL Streamer Pipeline Framework ve OpenVINO™ Kullanarak Intel Core Ultra Series 3'te Ultralytics YOLO26

Bu kılavuz, DL Streamer Pipeline Framework ve OpenVINO™ araç setini kullanarak Ultralytics YOLO26'yı Intel Core Ultra Series 3 platformlarında dağıtma adımlarını anlatır. Burada Intel CPU'larında, tümleşik ve ayrı GPU'larında ve NPU'larında çıkarım performansını en üst düzeye çıkarmak için OpenVINO™ kullanıyoruz.

Intel DL Streamer Pipeline Framework with Ultralytics YOLO26

İçindekiler: Intel DL Streamer nedir? • Ön koşullar • YOLO26 Modelini Hazırlama • YOLO26 ile Çıkarım Çalıştırma • Çoklu Akış Kurulumu • SSS

Intel DL Streamer nedir?#

Deep Learning Streamer (DL Streamer) Pipeline Framework, bulutta veya uçta karmaşık medya analitiği işlem hatları oluşturmak için tasarlanmış, GStreamer çoklu ortam çatısını temel alan açık kaynaklı bir akışlı medya analitiği çatısıdır.

DL Streamer; nesneleri, olayları ve kişileri tespit etmek, sınıflandırmak, izlemek, tanımlamak ve saymak için ses ve video akışlarının analiz edilmesini sağlar. Intel donanımı için optimize edilmiştir ve çeşitli arka uç kitaplıkları üzerine kurulmuş GStreamer eklentileri arasında birlikte çalışabilirlik sunar:

  • Çıkarım: Intel CPU, GPU ve NPU için optimize edilmiş OpenVINO™ çıkarım motoru
  • Video Kodlama/Çözme: VA-API üzerinden GPU hızlandırması
  • Görüntü İşleme: VA-API üzerinden GPU hızlandırması
  • Meta Veriler: Yapılandırılmış çıkarım sonuçları için GStreamer Analytics
  • Ekosistem: Medya G/Ç, çoklama/ayrıştırma, kodek desteği ve daha fazlası için yüzlerce GStreamer eklentisi

DL Streamer, OpenVINO™ biçimindeki Ultralytics YOLO ailesinin tamamı (YOLOv5'ten YOLO26'ya) dâhil olmak üzere birçok yapay zekâ modelini destekler.

DL Streamer, DL Streamer sistem gereksinimlerinde listelenen sistemlerde düzenli olarak doğrulanır.

Ön koşullar#

Başlamadan önce Intel sisteminde aşağıdakilerin yüklü ve yapılandırılmış olduğundan emin ol:

YOLO26 Modelini Hazırlama#

DL Streamer, OpenVINO™ IR biçimindeki modelleri kullanır. Ultralytics YOLO26 modelleri, Ultralytics dışa aktarıcısı kullanılarak PyTorch'tan OpenVINO™ IR'ye aktarılır. DL Streamer, Intel donanımı için optimize edilmiş dışa aktarma ve çıkarım özellikleri sunan resmî Ultralytics OpenVINO™ entegrasyonunu kullanır.

  1. ~/intel/dlstreamer_demo klasörünü oluştur ve OpenVINO™ ile Ultralytics'i sanal bir ortama yükle
mkdir -p ~/intel/dlstreamer_demo && cd ~/intel/dlstreamer_demo
python3 -m venv .dls-venv && source .dls-venv/bin/activate
pip install openvino==2026.2.0 ultralytics==8.4.92
  1. Ultralytics'ten PyTorch YOLO26s modelini indir, OpenVINO™ IR biçimine dönüştür ve INT8 hassasiyetli bir varyant oluştur.
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yaml

Model ~/intel/dlstreamer_demo/yolo26s_int8_openvino_model klasörüne aktarılır.

Model Hassasiyeti#

DL Streamer, FP32, FP16 ve INT8 hassasiyetindeki modelleri destekler. Her biri için ayrı bir dışa aktarma adımı gerekir:

# FP32 (default precision, highest accuracy)
yolo export model=yolo26s.pt format=openvino dynamic=True

# FP16 (recommended for GPU inference, good accuracy/performance balance)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=16

# INT8 (maximum performance, requires calibration dataset)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yaml

Aşağıdaki örneklerde hazırlık adımında dışa aktarılan INT8 modeli kullanılıyor. FP32 veya FP16 modellerini kullanmak için model yolunu buna göre değiştir (ör. yolo26s_openvino_model/yolo26s.xml).

YOLO26 ile Çıkarım Çalıştırma#

DL Streamer YOLO26 algılama işlem hattını çalıştırmadan önce YOLO26 Model Hazırlığı adımını tamamla ve Pexels'ten aşağıdaki örnek videoyu indir.

curl -L https://videos.pexels.com/video-files/1192116/1192116-sd_640_360_30fps.mp4 --output ~/intel/dlstreamer_demo/video1.mp4

Ardından DL Streamer Docker imajını etkileşimli modda çalıştır.

Not

Bu komut, tümleşik GPU'su (iGPU) ve dahili NPU'su bulunan Intel Core Ultra Series 3 işlemcilerle donatılmış sistemler için tasarlanmıştır.

docker run -it --rm \
  -v ~/intel/dlstreamer_demo:/home/dlstreamer/demo \
  -v "$HOME/.Xauthority:/root/.Xauthority:rw" \
  -e DISPLAY=$DISPLAY \
  -e XDG_RUNTIME_DIR=/tmp \
  -v /tmp/.X11-unix:/tmp/.X11-unix \
  --device /dev/dri \
  --group-add $(stat -c "%g" /dev/dri/render*) \
  --device /dev/accel \
  --group-add $(stat -c "%g" /dev/accel/accel*) \
  -e ZE_ENABLE_ALT_DRIVERS=libze_intel_npu.so \
  intel/dlstreamer:latest

INT8 Hassasiyeti (Maksimum Performans)#

INT8 kuantizasyonu, model ağırlıklarını 8 bitlik tam sayılara indirgeyerek en yüksek verimi sağlar. Ultralytics dışa aktarıcısı kalibrasyonu otomatik olarak gerçekleştirir.

YOLO26s modelini GPU'da INT8 ile çalıştır#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false
YOLO26s INT8 detections in a DL Streamer pipeline on an Intel GPU

YOLO26s modelini GPU'da INT8 ile çalıştır ve çıktıyı bir video dosyasına kaydet#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! vah264enc ! h264parse ! mp4mux ! filesink location=/home/dlstreamer/demo/yolo_video1_yolo26s_INT8_GPU.mp4

YOLO26s modelini NPU'da INT8 ile çalıştır#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=NPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false
YOLO26s INT8 detections in a DL Streamer pipeline on an Intel NPU

Çoklu Akış Kurulumu#

DL Streamer, birden çok video kaynağının eş zamanlı olarak çözümlendiği ve çıkarımının yapıldığı çoklu akış işlemeyi destekler. Birden çok akışı birleştirmek için GStreamer'ın vacompositor öğesini kullanarak birden fazla işlem hattını paralel başlatabilirsin.

Birden Fazla İşlem Hattını (4 akış) Paralel Çalıştırma (GPU)#

gst-launch-1.0 vacompositor name=comp sink_0::xpos=0 sink_0::ypos=0 sink_1::xpos=660 sink_1::ypos=0 sink_2::xpos=0 sink_2::ypos=380 sink_3::xpos=660 sink_3::ypos=380 ! autovideosink sync=false \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_0 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_1 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_2 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_3
Four-stream DL Streamer YOLO26 detection grid on an Intel GPU

Ek Kaynaklar#

Sık Sorulan Sorular#

  • DL Streamer'ı Kurulum Kılavuzu'ndaki adımları izleyerek yükle, ortamı source /opt/intel/dlstreamer/scripts/setup_dls_env.sh ile ayarla, Ultralytics ve OpenVINO™'yu yükle, modelleri download_ultralytics_models.sh kullanarak indir. Ardından, YOLO26 çıkarım işlem hatlarını çalıştırmaya hazır bir betik sağlayan DL Streamer örnek uygulaması yolo_detect.sh ile çıkarım yap.

  • OpenVINO™, grafik optimizasyonu, katman birleştirme ve donanıma özgü çekirdek ayarı gibi tekniklerle YOLO26 modelini özellikle Intel donanımı için optimize eder. DL Streamer'ın VA-API hızlandırmalı çözümlemesi ve sıfır kopyalı va-surface-sharing ön işlemesiyle birlikte, tüm video analizi işlem hattı optimize edilmemiş çerçevelere kıyasla çok daha yüksek işlem hacmi sunar.

  • Evet. DL Streamer; çeşitli Intel platform nesillerinde Intel CPU'larda (Core, Core Ultra, Xeon), tümleşik GPU'larda (Iris Xe, Arc), ayrık GPU'larda (Arc A-Series, B-Series) ve NPU'larda (AI Boost) çıkarımı destekler. gvadetect öğesinin device özelliğini CPU, GPU veya NPU olarak değiştir.

    • GPU çıkarımı için varsayılan olarak FP16 önerilir; daha yüksek verimle FP32'ye yakın doğruluk sunar.
    • INT8, küçük bir doğruluk ödünü karşılığında en yüksek performansı sunar ve önceliğin en yüksek verim olduğu durumlar için idealdir. INT8 modelleri, Ultralytics dışa aktarma işlemi sırasında otomatik olarak kalibre edilir.
  • DL Streamer şu YOLO26 görev varyantlarını destekler:

    • Algılama: yolo26n, yolo26s, yolo26m, yolo26l, yolo26x
    • Örnek Segmentasyonu: yolo26s-seg (ve tüm boyut varyantları)
    • Sınıflandırma: yolo26s-cls (algılamalı bileşik işlem hattı)
    • Poz Tahmini: yolo26s-pose (ve tüm boyut varyantları)
    • Yönlendirilmiş Sınırlayıcı Kutu (OBB): yolo26s-obb (ve tüm boyut varyantları)
  • Algılama sonuçlarını JSON satırları olarak bir dosyaya yazmak için json çıktı seçeneğini kullan:

    ./yolo_detect.sh yolo26s GPU input_video.mp4 json va-surface-sharing INT8

    Alternatif olarak, meta verileri dosyalara, MQTT'ye veya Kafka'ya yayımlamak için özel işlem hatlarında gvametapublish öğesini kullan.

Yorumlar

Bir soru sor, sonuçlarını paylaş veya başka birine yardım et.