Ultralytics YOLO26 trên Intel Core Ultra Series 3 sử dụng DL Streamer Pipeline Framework và OpenVINO™#

Hướng dẫn toàn diện này cung cấp quy trình chi tiết để triển khai Ultralytics YOLO26 trên các nền tảng Intel Core Ultra Series 3 bằng DL Streamer Pipeline Framework và bộ công cụ OpenVINO™. Tại đây, chúng ta sử dụng OpenVINO™ để tối đa hóa hiệu năng inference trên CPU Intel, GPU tích hợp và GPU rời, cũng như NPU.

Nội dung: Intel DL Streamer là gì? • Điều kiện tiên quyết • Chuẩn bị model YOLO26 • Chạy inference với YOLO26 • Thiết lập đa luồng • FAQ

Intel DL Streamer là gì?#

Deep Learning Streamer (DL Streamer) Pipeline Framework là một framework phân tích media trực tuyến mã nguồn mở dựa trên framework đa phương tiện GStreamer, được thiết kế để tạo các pipeline phân tích media phức tạp trên Cloud hoặc tại Edge.

DL Streamer cho phép phân tích các luồng âm thanh và video để phát hiện, phân loại, theo dõi, nhận diện và đếm các đối tượng, sự kiện và con người. Công cụ này được tối ưu hóa cho phần cứng Intel và cung cấp khả năng tương tác giữa các plugin GStreamer được xây dựng trên các thư viện backend khác nhau:

• Inference: inference engine OpenVINO™, được tối ưu hóa cho CPU, GPU và NPU Intel
• Mã hóa/Giải mã video: tăng tốc bằng GPU thông qua VA-API
• Xử lý ảnh: tăng tốc bằng GPU thông qua VA-API
• Metadata: GStreamer Analytics cho các kết quả inference có cấu trúc
• Hệ sinh thái: Hàng trăm plugin GStreamer cho I/O media, muxing/demuxing, hỗ trợ codec và nhiều chức năng khác

DL Streamer hỗ trợ nhiều AI model, bao gồm toàn bộ họ Ultralytics YOLO (từ YOLOv5 đến YOLO26) ở định dạng OpenVINO™.

DL Streamer đang được kiểm định thường xuyên với các hệ thống được cung cấp trên System Requirements — Open Edge Platform Documentation

Điều kiện tiên quyết#

Trước khi bắt đầu, hãy đảm bảo các thành phần sau đã được cài đặt và cấu hình trên hệ thống Intel của bạn:

• Ubuntu 24.04 với driver GPU/NPU Intel đã được cài đặt (xem hướng dẫn cài đặt)

• docker engine (xem hướng dẫn cài đặt)

Chuẩn bị model YOLO26#

DL Streamer sử dụng các model ở định dạng OpenVINO™ IR. Các model Ultralytics YOLO26 được export từ PyTorch sang OpenVINO™ IR bằng exporter của Ultralytics. DL Streamer tận dụng tích hợp Ultralytics OpenVINO™ chính thức, cung cấp khả năng export và inference được tối ưu hóa cho phần cứng Intel.

1. Tạo thư mục ~/intel/dlstreamer_demo và cài đặt OpenVINO™ cùng Ultralytics trong virtual environment

mkdir -p ~/intel/dlstreamer_demo && cd ~/intel/dlstreamer_demo
python3 -m venv .dls-venv && source .dls-venv/bin/activate
pip install openvino==2026.2.0 ultralytics==8.4.92

2. Tải xuống model PyTorch YOLO26s từ Ultralytics, chuyển đổi model sang định dạng OpenVINO™ IR và tạo một biến thể độ chính xác INT8.

yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yaml

Model được xuất ra thư mục ~/intel/dlstreamer_demo/yolo26s_int8_openvino_model.

Độ chính xác của model#

DL Streamer hỗ trợ các model có độ chính xác FP32, FP16 và INT8. Mỗi loại yêu cầu một bước export riêng:

# FP32 (default precision, highest accuracy)
yolo export model=yolo26s.pt format=openvino dynamic=True

# FP16 (recommended for GPU inference, good accuracy/performance balance)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=16

# INT8 (maximum performance, requires calibration dataset)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yaml

Các ví dụ bên dưới sử dụng model INT8 được export trong bước chuẩn bị. Để sử dụng model FP32 hoặc FP16, hãy thay thế đường dẫn model tương ứng (ví dụ: yolo26s_openvino_model/yolo26s.xml).

Chạy inference với YOLO26#

Trước khi chạy pipeline phát hiện suy luận DL Streamer YOLO26, hãy chạy image Docker DL Streamer ở chế độ tương tác. Hãy đảm bảo bạn đã thực hiện bước YOLO26 Model Preparation và tải xuống tệp video sau từ cơ sở dữ liệu Pexels.

curl -L https://videos.pexels.com/video-files/1192116/1192116-sd_640_360_30fps.mp4 --output ~/intel/dlstreamer_demo/video1.mp4

Chạy Docker image DL Streamer ở chế độ tương tác.

docker run -it --rm \
  -v ~/intel/dlstreamer_demo:/home/dlstreamer/demo \
  -v "$HOME/.Xauthority:/root/.Xauthority:rw" \
  -e DISPLAY=$DISPLAY \
  -e XDG_RUNTIME_DIR=/tmp \
  -v /tmp/.X11-unix:/tmp/.X11-unix \
  --device /dev/dri \
  --group-add $(stat -c "%g" /dev/dri/render*) \
  --device /dev/accel \
  --group-add $(stat -c "%g" /dev/accel/accel*) \
  -e ZE_ENABLE_ALT_DRIVERS=libze_intel_npu.so \
  intel/dlstreamer:latest

Độ chính xác INT8 (Hiệu năng tối đa)#

Lượng tử hóa INT8 mang lại throughput cao nhất bằng cách giảm trọng số của model xuống các số nguyên 8-bit. Exporter của Ultralytics tự động xử lý việc calibration.

Chạy YOLO26s với INT8 trên GPU#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false

Chạy YOLO26s với INT8 trên GPU, lưu output vào tệp video (~/intel/dlstreamer_demo/yolo_video1_yolo26s_INT8_GPU.mp4)#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! vah264enc ! h264parse ! mp4mux ! filesink location=/home/dlstreamer/demo/yolo_video1_yolo26s_INT8_GPU.mp4

Chạy YOLO26s với INT8 trên NPU#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=NPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false

Thiết lập đa luồng#

DL Streamer hỗ trợ xử lý đa luồng, trong đó nhiều nguồn video được giải mã và suy luận đồng thời. Bạn có thể khởi chạy nhiều pipeline song song bằng phần tử vacompositor của GStreamer để kết hợp nhiều luồng.

Chạy song song nhiều pipeline (4 luồng) (GPU)#

gst-launch-1.0 vacompositor name=comp sink_0::xpos=0 sink_0::ypos=0 sink_1::xpos=660 sink_1::ypos=0 sink_2::xpos=0 sink_2::ypos=380 sink_3::xpos=660 sink_3::ypos=380 ! autovideosink sync=false \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_0 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_1 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_2 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_3

Tài nguyên bổ sung#

• Repository DL Streamer trên GitHub
• Tài liệu DL Streamer
• Các element DL Streamer
• Bộ công cụ OpenVINO™
• Ultralytics YOLO26
• Framework GStreamer
• Bảng model được hỗ trợ

FAQ#