Ultralytics YOLO27:

DL Streamer Pipeline Framework ve OpenVINO™ Kullanarak Intel Core Ultra Series 3'te Ultralytics YOLO26#

Bu kapsamlı kılavuz, DL Streamer Pipeline Framework ve OpenVINO™ araç takımını kullanarak Intel Core Ultra Series 3 platformlarında Ultralytics YOLO26 dağıtımını ayrıntılı adımlarla açıklar. Burada, Intel CPU'larında, tümleşik ve ayrık GPU'larda ve NPU'larda çıkarım performansını en üst düzeye çıkarmak için OpenVINO™ kullanıyoruz.

Intel DL Streamer

İçindekiler: Intel DL Streamer nedir? • Ön koşullar • YOLO26 Modelini Hazırlama • YOLO26 ile Çıkarım Çalıştırma • Çoklu Akış Kurulumu • SSS

Intel DL Streamer nedir?#

Deep Learning Streamer (DL Streamer) Pipeline Framework, Bulutta veya Uçta karmaşık medya analitiği işlem hatları oluşturmak için tasarlanmış, GStreamer multimedya çerçevesini temel alan açık kaynaklı bir akışlı medya analitiği çerçevesidir.

DL Streamer; nesneleri, olayları ve kişileri tespit etmek, sınıflandırmak, izlemek, tanımlamak ve saymak için ses ve video akışlarının analiz edilmesini sağlar. Intel donanımı için optimize edilmiştir ve çeşitli arka uç kitaplıkları üzerine kurulmuş GStreamer eklentileri arasında birlikte çalışabilirlik sunar:

  • Çıkarım: Intel CPU, GPU ve NPU için optimize edilmiş OpenVINO™ çıkarım motoru
  • Video Kodlama/Çözme: VA-API üzerinden GPU hızlandırması
  • Görüntü İşleme: VA-API üzerinden GPU hızlandırması
  • Meta Veriler: Yapılandırılmış çıkarım sonuçları için GStreamer Analytics
  • Ekosistem: Medya G/Ç, çoklama/ayrıştırma, kodek desteği ve daha fazlası için yüzlerce GStreamer eklentisi

DL Streamer, OpenVINO™ biçimindeki Ultralytics YOLO ailesinin tamamı (YOLOv5'ten YOLO26'ya) dâhil olmak üzere birçok yapay zekâ modelini destekler.

DL Streamer, Sistem Gereksinimleri — Open Edge Platform Documentation sayfasında belirtilen sistemlerle düzenli olarak doğrulanmaktadır.

Ön koşullar#

Başlamadan önce Intel sisteminde aşağıdakilerin yüklü ve yapılandırılmış olduğundan emin ol:

YOLO26 Modelini Hazırlama#

DL Streamer, modeller için OpenVINO™ IR biçimini kullanır. Ultralytics YOLO26 modelleri, Ultralytics dışa aktarıcısı kullanılarak PyTorch'tan OpenVINO™ IR biçimine aktarılır. DL Streamer, Intel donanımı için optimize edilmiş dışa aktarma ve çıkarım özellikleri sunan resmî Ultralytics OpenVINO™ entegrasyonundan yararlanır.

  1. ~/intel/dlstreamer_demo klasörünü oluştur ve sanal ortama OpenVINO™ ile Ultralytics'i yükle
mkdir -p ~/intel/dlstreamer_demo && cd ~/intel/dlstreamer_demo
python3 -m venv .dls-venv && source .dls-venv/bin/activate
pip install openvino==2026.2.0 ultralytics==8.4.92
  1. PyTorch YOLO26s modelini Ultralytics'ten indir, OpenVINO™ IR biçimine dönüştür ve INT8 hassasiyetinde bir sürüm oluştur.
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yaml

Model ~/intel/dlstreamer_demo/yolo26s_int8_openvino_model klasörüne aktarılır.

Model Hassasiyeti#

DL Streamer, FP32, FP16 ve INT8 hassasiyetindeki modelleri destekler. Her biri için ayrı bir dışa aktarma adımı gerekir:

# FP32 (default precision, highest accuracy)
yolo export model=yolo26s.pt format=openvino dynamic=True

# FP16 (recommended for GPU inference, good accuracy/performance balance)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=16

# INT8 (maximum performance, requires calibration dataset)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yaml

Aşağıdaki örneklerde hazırlık adımında dışa aktarılan INT8 modeli kullanılıyor. FP32 veya FP16 modellerini kullanmak için model yolunu buna göre değiştir (ör. yolo26s_openvino_model/yolo26s.xml).

YOLO26 ile Çıkarım Çalıştırma#

DL Streamer YOLO26 çıkarım algılama işlem hattını çalıştırmadan önce DL Streamer Docker imajını etkileşimli modda çalıştır. YOLO26 Model Hazırlığı adımını uyguladığından emin ol ve Pexels veritabanından aşağıdaki video dosyasını indir.

curl -L https://videos.pexels.com/video-files/1192116/1192116-sd_640_360_30fps.mp4 --output ~/intel/dlstreamer_demo/video1.mp4

DL Streamer Docker imajını etkileşimli modda çalıştır.

Not

Bu komut, tümleşik GPU'su (iGPU) ve dahili NPU'su bulunan Intel Core Ultra Series 3 işlemcilerle donatılmış sistemler için tasarlanmıştır.

docker run -it --rm \
  -v ~/intel/dlstreamer_demo:/home/dlstreamer/demo \
  -v "$HOME/.Xauthority:/root/.Xauthority:rw" \
  -e DISPLAY=$DISPLAY \
  -e XDG_RUNTIME_DIR=/tmp \
  -v /tmp/.X11-unix:/tmp/.X11-unix \
  --device /dev/dri \
  --group-add $(stat -c "%g" /dev/dri/render*) \
  --device /dev/accel \
  --group-add $(stat -c "%g" /dev/accel/accel*) \
  -e ZE_ENABLE_ALT_DRIVERS=libze_intel_npu.so \
  intel/dlstreamer:latest

INT8 Hassasiyeti (Maksimum Performans)#

INT8 niceleme, model ağırlıklarını 8 bitlik tam sayılara indirgeyerek en yüksek işlem hacmini sağlar. Ultralytics dışa aktarıcısı kalibrasyonu otomatik olarak gerçekleştirir.

YOLO26s modelini GPU'da INT8 ile çalıştır#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false
Intel DL Streamer GPU

YOLO26s modelini GPU'da INT8 ile çalıştır ve çıktıyı bir video dosyasına kaydet#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! vah264enc ! h264parse ! mp4mux ! filesink location=/home/dlstreamer/demo/yolo_video1_yolo26s_INT8_GPU.mp4

YOLO26s modelini NPU'da INT8 ile çalıştır#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=NPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false
Intel DL Streamer NPU

Çoklu Akış Kurulumu#

DL Streamer, birden çok video kaynağının eş zamanlı olarak çözümlendiği ve çıkarımının yapıldığı çoklu akış işlemeyi destekler. Birden çok akışı birleştirmek için GStreamer'ın vacompositor öğesini kullanarak birden fazla işlem hattını paralel başlatabilirsin.

Birden Fazla İşlem Hattını (4 akış) Paralel Çalıştırma (GPU)#

gst-launch-1.0 vacompositor name=comp sink_0::xpos=0 sink_0::ypos=0 sink_1::xpos=660 sink_1::ypos=0 sink_2::xpos=0 sink_2::ypos=380 sink_3::xpos=660 sink_3::ypos=380 ! autovideosink sync=false \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_0 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_1 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_2 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_3
Intel DL Streamer Multistream GPU

Ek Kaynaklar#

Sık Sorulan Sorular#

  • DL Streamer'ı Kurulum Kılavuzu doğrultusunda yükle, ortamı source /opt/intel/dlstreamer/scripts/setup_dls_env.sh ile ayarla, Ultralytics ve OpenVINO™'yu yükle, modelleri download_ultralytics_models.sh ile indir. Ardından, YOLO26 çıkarım işlem hatlarını çalıştırmaya hazır bir komut dosyası sağlayan DL Streamer örnek uygulaması yolo_detect.sh ile çıkarımı çalıştır. Nasıl çalıştıracağını öğrenmek için kısa eğitime göz at.

  • OpenVINO™, grafik optimizasyonu, katman birleştirme ve donanıma özgü çekirdek ayarı gibi tekniklerle YOLO26 modelini özellikle Intel donanımı için optimize eder. DL Streamer'ın VA-API hızlandırmalı çözümlemesi ve sıfır kopyalı va-surface-sharing ön işlemesiyle birlikte, tüm video analizi işlem hattı optimize edilmemiş çerçevelere kıyasla çok daha yüksek işlem hacmi sunar.

  • Evet. DL Streamer, farklı Intel platform nesillerinde Intel CPU'larında (Core, Core Ultra, Xeon), tümleşik GPU'larda (Iris Xe, Arc), ayrık GPU'larda (Arc A-Series, B-Series) ve NPU'larda (AI Boost) çıkarımı destekler. gvadetect öğesinin device özelliğini CPU, GPU veya NPU olarak değiştirmen yeterlidir.

    • GPU çıkarımı için varsayılan seçenek olarak FP16 önerilir; yaklaşık 2 kat işlem hacmi artışıyla FP32'ye yakın doğruluk sağlar.
    • INT8, küçük bir doğruluk ödünü karşılığında en yüksek performansı (FP32'den 2–3 kat daha yüksek) sunar ve en yüksek işlem hacminin öncelikli olduğu durumlar için idealdir. INT8 modelleri, Ultralytics dışa aktarma işlemi sırasında otomatik olarak kalibre edilir.
  • DL Streamer, YOLO26'nın tüm görev varyantlarını destekler:

    • Algılama: yolo26n, yolo26s, yolo26m, yolo26l, yolo26x
    • Yönlendirilmiş Sınırlayıcı Kutu (OBB): yolo26s-obb (ve tüm boyut varyantları)
    • Örnek Segmentasyonu: yolo26s-seg (ve tüm boyut varyantları)
    • Poz Tahmini: yolo26s-pose (ve tüm boyut varyantları)
    • Sınıflandırma: yolo26s-cls (algılamalı bileşik işlem hattı)
  • Algılama sonuçlarını JSON satırları olarak bir dosyaya yazmak için json çıktı seçeneğini kullan:

    ./yolo_detect.sh yolo26s GPU input_video.mp4 json va-surface-sharing INT8

    Alternatif olarak, meta verileri dosyalara, MQTT'ye veya Kafka'ya yayımlamak için özel işlem hatlarında gvametapublish öğesini kullan.

Yorumlar