Como configuro o Ultralytics YOLO26 em uma plataforma Intel com DL Streamer?

Instale o DL Streamer seguindo o Installation Guide, configure o ambiente com source /opt/intel/dlstreamer/scripts/setup_dls_env.sh, instale o Ultralytics e o OpenVINO™, baixe os modelos usando download_ultralytics_models.sh. Em seguida, execute a inferência com o aplicativo de exemplo do DL Streamer yolo_detect.sh que fornece um script pronto para uso para executar pipelines de inferência do YOLO26. Consulte o short tutorial sobre como executá-lo.

Qual é o benefício de usar o OpenVINO™ com YOLO26 em hardware Intel?

O OpenVINO™ otimiza o modelo YOLO26 especificamente para hardware Intel por meio de técnicas como otimização de grafos, fusão de camadas e ajuste de kernel específico para hardware. Combinado com a decodificação acelerada por VA-API do DL Streamer e o pré-processamento de zero-copy va-surface-sharing, o pipeline completo de análise de vídeo atinge um rendimento significativamente maior do que frameworks não otimizados.

Posso executar o YOLO26 com DL Streamer em diferentes dispositivos Intel?

Sim. O DL Streamer suporta inferência em CPUs Intel (Core, Core Ultra, Xeon), GPUs integradas (Iris Xe, Arc), GPUs discretas (Arc A-Series, B-Series) e NPUs (AI Boost) em várias gerações de plataformas Intel. Basta alterar o parâmetro DEVICE para CPU, GPU ou NPU.

Como escolho entre a precisão FP16 e INT8?

FP16 é recomendado como padrão para inferência em GPU — ele oferece precisão próxima ao FP32 com um aumento de aproximadamente 2x no throughput. INT8 oferece o maior desempenho (2-3x em relação ao FP32) com uma pequena compensação de precisão e é ideal quando o throughput máximo é a prioridade. Os modelos INT8 são calibrados automaticamente durante a exportação do Ultralytics.

Quais tarefas do YOLO26 são suportadas?

O DL Streamer suporta todas as variantes de tarefas do YOLO26: - Detecção: yolo26n, yolo26s, yolo26m, yolo26l, yolo26x - Caixa delimitadora orientada (OBB): yolo26s-obb (e todas as variantes de tamanho) - Segmentação de instância: yolo26s-seg (e todas as variantes de tamanho) - Estimativa de pose: yolo26s-pose (e todas as variantes de tamanho) - Classificação: yolo26s-cls (pipeline composto com detecção)

Como posso exportar detecções como dados estruturados?

Use a opção de saída json para gravar os resultados da detecção como linhas JSON em um arquivo: Como alternativa, use o elemento gvametapublish em pipelines personalizados para publicar metadados em arquivos, MQTT ou Kafka.

Ultralytics YOLO26 na série Intel Core Ultra 3 usando o framework de pipeline DL Streamer e o OpenVINO™#

Este guia abrangente fornece um passo a passo detalhado para implantar o Ultralytics YOLO26 em plataformas Intel Core Ultra Series 3 usando o DL Streamer Pipeline Framework e o OpenVINO™ toolkit. Aqui usamos o OpenVINO™ para maximizar o desempenho de inferência em CPUs Intel, GPUs integradas e discretas e NPUs.

Conteúdo: What is Intel DL Streamer? • Prerequisites • YOLO26 Model Preparation • Running Inference with YOLO26 • Multi-Stream Setup • FAQ

O que é o Intel DL Streamer?#

O Deep Learning Streamer (DL Streamer) Pipeline Framework é um framework de análise de mídia em streaming de código aberto baseado no GStreamer multimedia framework, projetado para criar pipelines complexas de análise de mídia para a Nuvem ou na Edge.

O DL Streamer permite a análise de fluxos de áudio e vídeo para detectar, classificar, rastrear, identificar e contar objetos, eventos e pessoas. Ele é otimizado para hardware Intel e oferece interoperabilidade entre plugins GStreamer baseados em várias bibliotecas de backend:

Inferência: Mecanismo de inferência OpenVINO™, otimizado para CPU, GPU e NPU Intel
Codificação/Decodificação de Vídeo: Aceleração de GPU via VA-API
Processamento de Imagem: Aceleração de GPU via VA-API
Metadados: GStreamer Analytics para resultados de inferência estruturados
Ecossistema: Centenas de plugins GStreamer para I/O de mídia, muxing/demuxing, suporte a codec e mais

O DL Streamer suporta muitos modelos de IA, incluindo toda a família Ultralytics YOLO (do YOLOv5 ao YOLO26), todos no formato OpenVINO™.

O DL Streamer é validado regularmente com sistemas fornecidos em System Requirements — Open Edge Platform Documentation

Pré-requisitos#

Antes de começar, certifique-se de que o seguinte esteja instalado e configurado no seu sistema Intel:

Ubuntu 24.04 com drivers de GPU/NPU Intel instalados (consulte o installation guide)
docker engine (consulte o installation guide)

Preparação do Modelo YOLO26#

O DL Streamer usa modelos no OpenVINO™ IR format. Os modelos Ultralytics YOLO26 são exportados do PyTorch para OpenVINO™ IR usando o exportador do Ultralytics. O DL Streamer aproveita a oficial Ultralytics OpenVINO™ integration, que fornece capacidades otimizadas de exportação e inferência para hardware Intel.

Crie a pasta ~/intel/dlstreamer_demo e instale o OpenVINO™ e o Ultralytics no ambiente virtual

mkdir -p ~/intel/dlstreamer_demo && cd ~/intel/dlstreamer_demo
python3 -m venv .dls-venv && source .dls-venv/bin/activate
pip install openvino==2026.2.0 ultralytics==8.4.92

Baixe o modelo PyTorch YOLO26s da Ultralytics, converta-o para o formato OpenVINO™ IR e gere a variante de precisão INT8.

yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yaml

O modelo deve ser baixado para a pasta ~/intel/dlstreamer_demo/yolo26s_int8_openvino_model.

Precisão do Modelo#

O DL Streamer suporta modelos com precisão FP32, FP16 e INT8. Cada um requer uma etapa de exportação separada:

# FP32 (default precision, highest accuracy)
yolo export model=yolo26s.pt format=openvino dynamic=True

# FP16 (recommended for GPU inference, good accuracy/performance balance)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=16

# INT8 (maximum performance, requires calibration dataset)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yaml

Os exemplos abaixo usam o modelo INT8 exportado na preparation step. Para usar modelos FP32 ou FP16, substitua o caminho do modelo de acordo (por exemplo, yolo26s_openvino_model/yolo26s.xml).

Executando Inferência com YOLO26#

Antes de executar o pipeline de detecção de inferência DL Streamer YOLO26, execute a imagem do docker do DL Streamer no modo interativo. Certifique-se de seguir a etapa YOLO26 Model Preparation e baixar o seguinte arquivo de vídeo do banco de dados do Pexels.

curl -L https://videos.pexels.com/video-files/1192116/1192116-sd_640_360_30fps.mp4 --output ~/intel/dlstreamer_demo/video1.mp4

Execute a imagem docker do DL Streamer no modo interativo.

Nota

Este comando destina-se a sistemas equipados com processadores Intel Core Ultra Series 3 com GPU integrada (iGPU) e NPU integrada.

docker run -it --rm \
  -v ~/intel/dlstreamer_demo:/home/dlstreamer/demo \
  -v "$HOME/.Xauthority:/root/.Xauthority:rw" \
  -e DISPLAY=$DISPLAY \
  -e XDG_RUNTIME_DIR=/tmp \
  -v /tmp/.X11-unix:/tmp/.X11-unix \
  --device /dev/dri \
  --group-add $(stat -c "%g" /dev/dri/render*) \
  --device /dev/accel \
  --group-add $(stat -c "%g" /dev/accel/accel*) \
  -e ZE_ENABLE_ALT_DRIVERS=libze_intel_npu.so \
  intel/dlstreamer:latest

Precisão INT8 (Desempenho Máximo)#

A quantização INT8 oferece o maior throughput ao reduzir os pesos do modelo para inteiros de 8 bits. O exportador Ultralytics gerencia a calibração automaticamente.

Execute o YOLO26s com INT8 na GPU#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false

Execute o YOLO26s com INT8 na GPU, salve a saída em um arquivo de vídeo (~/intel/dlstreamer_demo/yolo_video1_yolo26s_INT8_GPU.mp4)#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! vah264enc ! h264parse ! mp4mux ! filesink location=/home/dlstreamer/demo/yolo_video1_yolo26s_INT8_GPU.mp4

Execute o YOLO26s com INT8 na NPU#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=NPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false

Configuração Multi-Stream#

O DL Streamer suporta processamento de múltiplos fluxos, onde várias fontes de vídeo são decodificadas e inferidas simultaneamente. Podes iniciar múltiplos pipelines em paralelo usando o elemento vacompositor do GStreamer para combinar múltiplos fluxos.

Executando Múltiplos Pipelines (4 fluxos) em Paralelo (GPU)#

gst-launch-1.0 vacompositor name=comp sink_0::xpos=0 sink_0::ypos=0 sink_1::xpos=660 sink_1::ypos=0 sink_2::xpos=0 sink_2::ypos=380 sink_3::xpos=660 sink_3::ypos=380 ! autovideosink sync=false \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_0 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_1 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_2 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_3

Recursos adicionais#

FAQ#

Instale o DL Streamer seguindo o Installation Guide, configure o ambiente com source /opt/intel/dlstreamer/scripts/setup_dls_env.sh, instale o Ultralytics e o OpenVINO™, baixe os modelos usando download_ultralytics_models.sh. Em seguida, execute a inferência com o aplicativo de exemplo do DL Streamer yolo_detect.sh que fornece um script pronto para uso para executar pipelines de inferência do YOLO26. Consulte o short tutorial sobre como executá-lo.
O OpenVINO™ otimiza o modelo YOLO26 especificamente para hardware Intel por meio de técnicas como otimização de grafos, fusão de camadas e ajuste de kernel específico para hardware. Combinado com a decodificação acelerada por VA-API do DL Streamer e o pré-processamento de zero-copy va-surface-sharing, o pipeline completo de análise de vídeo atinge um rendimento significativamente maior do que frameworks não otimizados.
Sim. O DL Streamer suporta inferência em CPUs Intel (Core, Core Ultra, Xeon), GPUs integradas (Iris Xe, Arc), GPUs discretas (Arc A-Series, B-Series) e NPUs (AI Boost) em várias gerações de plataformas Intel. Basta alterar o parâmetro DEVICE para CPU, GPU ou NPU.
- FP16 é recomendado como padrão para inferência em GPU — ele oferece precisão próxima ao FP32 com um aumento de aproximadamente 2x no throughput.
- INT8 oferece o maior desempenho (2-3x em relação ao FP32) com uma pequena compensação de precisão e é ideal quando o throughput máximo é a prioridade. Os modelos INT8 são calibrados automaticamente durante a exportação do Ultralytics.
O DL Streamer suporta todas as variantes de tarefas do YOLO26: - Detecção: yolo26n, yolo26s, yolo26m, yolo26l, yolo26x - Caixa delimitadora orientada (OBB): yolo26s-obb (e todas as variantes de tamanho) - Segmentação de instância: yolo26s-seg (e todas as variantes de tamanho) - Estimativa de pose: yolo26s-pose (e todas as variantes de tamanho) - Classificação: yolo26s-cls (pipeline composto com detecção)
Use a opção de saída json para gravar os resultados da detecção como linhas JSON em um arquivo:
./yolo_detect.sh yolo26s GPU input_video.mp4 json va-surface-sharing INT8
Como alternativa, use o elemento gvametapublish em pipelines personalizados para publicar metadados em arquivos, MQTT ou Kafka.

Contribuidores

GLglenn-jocher² RAraimbekovm¹ ONonuralpszr¹ TBtbujewsk¹

Criado mês passadoAtualizado há 12 horas