Link to this sectionUltralytics YOLO26 na série Intel Core Ultra 3 usando o framework de pipeline DL Streamer e o OpenVINO™#

Q: Como escolho entre a precisão FP16 e INT8?

FP16 é recomendado como padrão para inferência em GPU — ele oferece precisão próxima ao FP32 com um aumento de aproximadamente 2x no throughput. INT8 oferece o maior desempenho (2-3x em relação ao FP32) com uma pequena compensação de precisão e é ideal quando o throughput máximo é a prioridade. Os modelos INT8 são calibrados automaticamente durante a exportação do Ultralytics.

Q: Como posso exportar detecções como dados estruturados?

Use a opção de saída json para gravar resultados de detecção como linhas JSON em um arquivo: Alternativamente, use o elemento gvametapublish em pipelines personalizados para publicar metadados em arquivos, MQTT ou Kafka.

Este guia abrangente fornece um passo a passo detalhado para implantar o Ultralytics YOLO26 em plataformas Intel Core Ultra Series 3 usando o DL Streamer Pipeline Framework e o toolkit OpenVINO™. Aqui, usamos o OpenVINO™ para maximizar o desempenho de inferência em CPUs Intel, GPUs integradas e discretas, e NPUs.

Conteúdo: O que é o Intel DL Streamer? • Pré-requisitos • Preparação do Modelo YOLO26 • Executando Inferência com YOLO26 • Configuração Multi-Stream • FAQ

Link to this sectionO que é o Intel DL Streamer?#

O Deep Learning Streamer (DL Streamer) Pipeline Framework é um framework de análise de mídia em streaming de código aberto baseado no framework multimídia GStreamer, projetado para criar pipelines complexos de análise de mídia para a nuvem ou na borda (Edge).

O DL Streamer permite a análise de fluxos de áudio e vídeo para detectar, classificar, rastrear, identificar e contar objetos, eventos e pessoas. Ele é otimizado para hardware Intel e oferece interoperabilidade entre plugins GStreamer baseados em várias bibliotecas de backend:

Inferência: Motor de inferência OpenVINO™, otimizado para CPU, GPU e NPU Intel
Codificação/Decodificação de Vídeo: Aceleração de GPU via VA-API
Processamento de Imagem: Aceleração de GPU via VA-API
Metadados: GStreamer Analytics para resultados de inferência estruturados
Ecossistema: Centenas de plugins GStreamer para I/O de mídia, muxing/demuxing, suporte a codec e mais

O DL Streamer suporta muitos modelos de IA, incluindo toda a família Ultralytics YOLO (do YOLOv5 ao YOLO26), todos no formato OpenVINO™.

O DL Streamer é validado regularmente com sistemas fornecidos na Documentação de Requisitos de Sistema — Open Edge Platform

Link to this sectionPré-requisitos#

Antes de começar, certifique-se de que o seguinte esteja instalado e configurado no seu sistema Intel:

Ubuntu 24.04 com drivers de GPU/NPU Intel instalados (consulte o guia de instalação)
docker engine (consulte o guia de instalação)

Link to this sectionPreparação do Modelo YOLO26#

O DL Streamer usa modelos no formato OpenVINO™ IR. Os modelos Ultralytics YOLO26 são exportados do PyTorch para o OpenVINO™ IR usando o exportador Ultralytics. O DL Streamer aproveita a integração oficial Ultralytics OpenVINO™, que oferece recursos otimizados de exportação e inferência para hardware Intel.

Crie a pasta ~/intel/dlstreamer_demo e instale o OpenVINO™ e o Ultralytics em um ambiente virtual

mkdir -p ~/intel/dlstreamer_demo && cd ~/intel/dlstreamer_demo
python3 -m venv .dls-venv && source .dls-venv/bin/activate
pip install openvino==2026.2.0 ultralytics==8.4.92

Baixe o modelo PyTorch YOLO26s da Ultralytics, converta-o para o formato OpenVINO™ IR e gere a variante de precisão INT8.

yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yaml

O modelo deve ser baixado para a pasta ~/intel/dlstreamer_demo/yolo26s_int8_openvino_model.

Link to this sectionPrecisão do Modelo#

O DL Streamer suporta modelos com precisão FP32, FP16 e INT8. Cada um requer uma etapa de exportação separada:

# FP32 (default precision, highest accuracy)
yolo export model=yolo26s.pt format=openvino dynamic=True

# FP16 (recommended for GPU inference, good accuracy/performance balance)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=16

# INT8 (maximum performance, requires calibration dataset)
yolo export model=yolo26s.pt format=openvino dynamic=True quantize=8 data=coco128.yaml

Os exemplos abaixo usam o modelo INT8 exportado na etapa de preparação. Para usar modelos FP32 ou FP16, substitua o caminho do modelo adequadamente (por exemplo, yolo26s_openvino_model/yolo26s.xml).

Link to this sectionExecutando Inferência com YOLO26#

Antes de executar o pipeline de detecção de inferência YOLO26 do DL Streamer, execute a imagem docker do DL Streamer no modo interativo. Certifique-se de ter seguido a etapa de Preparação do Modelo YOLO26 e baixe o seguinte arquivo de vídeo do banco de dados Pexels.

curl -L https://videos.pexels.com/video-files/1192116/1192116-sd_640_360_30fps.mp4 --output ~/intel/dlstreamer_demo/video1.mp4

Execute a imagem docker do DL Streamer no modo interativo.

Nota

Este comando destina-se a sistemas equipados com processadores Intel Core Ultra Series 3 com GPU integrada (iGPU) e NPU integrada.

docker run -it --rm \
  -v ~/intel/dlstreamer_demo:/home/dlstreamer/demo \
  -v "$HOME/.Xauthority:/root/.Xauthority:rw" \
  -e DISPLAY=$DISPLAY \
  -e XDG_RUNTIME_DIR=/tmp \
  -v /tmp/.X11-unix:/tmp/.X11-unix \
  --device /dev/dri \
  --group-add $(stat -c "%g" /dev/dri/render*) \
  --device /dev/accel \
  --group-add $(stat -c "%g" /dev/accel/accel*) \
  -e ZE_ENABLE_ALT_DRIVERS=libze_intel_npu.so \
  intel/dlstreamer:latest

Link to this sectionPrecisão INT8 (Desempenho Máximo)#

A quantização INT8 oferece o maior throughput ao reduzir os pesos do modelo para inteiros de 8 bits. O exportador Ultralytics gerencia a calibração automaticamente.

Link to this sectionExecute o YOLO26s com INT8 na GPU#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false

Link to this sectionExecute o YOLO26s com INT8 na GPU, salve a saída em um arquivo de vídeo (~/intel/dlstreamer_demo/yolo_video1_yolo26s_INT8_GPU.mp4)#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! vah264enc ! h264parse ! mp4mux ! filesink location=/home/dlstreamer/demo/yolo_video1_yolo26s_INT8_GPU.mp4

Link to this sectionExecute o YOLO26s com INT8 na NPU#

gst-launch-1.0 filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=NPU ! queue ! vapostproc ! gvawatermark ! gvafpscounter ! autovideosink sync=false

Link to this sectionConfiguração Multi-Stream#

O DL Streamer suporta processamento multi-stream, onde várias fontes de vídeo são decodificadas e inferidas simultaneamente. Você pode iniciar vários pipelines em paralelo usando o elemento vacompositor do GStreamer para combinar vários fluxos.

Link to this sectionExecutando Múltiplos Pipelines (4 fluxos) em Paralelo (GPU)#

gst-launch-1.0 vacompositor name=comp sink_0::xpos=0 sink_0::ypos=0 sink_1::xpos=660 sink_1::ypos=0 sink_2::xpos=0 sink_2::ypos=380 sink_3::xpos=660 sink_3::ypos=380 ! autovideosink sync=false \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_0 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_1 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_2 \
  filesrc location=/home/dlstreamer/demo/video1.mp4 ! decodebin3 ! gvadetect model=/home/dlstreamer/demo/yolo26s_int8_openvino_model/yolo26s.xml device=GPU model-instance-id=inf0 scheduling-policy="latency" ! queue ! gvawatermark ! gvafpscounter ! comp.sink_3

Link to this sectionFAQ#

Link to this sectionComo configuro o Ultralytics YOLO26 em uma plataforma Intel com DL Streamer?#

Instale o DL Streamer seguindo o Guia de Instalação, configure o ambiente com source /opt/intel/dlstreamer/scripts/setup_dls_env.sh, instale o Ultralytics e o OpenVINO™, e baixe os modelos usando download_ultralytics_models.sh. Em seguida, execute a inferência com o aplicativo de exemplo do DL Streamer yolo_detect.sh, que fornece um script pronto para uso para executar pipelines de inferência YOLO26. Consulte o tutorial curto sobre como executá-lo.

Link to this sectionQual é o benefício de usar o OpenVINO™ com YOLO26 em hardware Intel?#

O OpenVINO™ otimiza o modelo YOLO26 especificamente para hardware Intel por meio de técnicas como otimização de grafo, fusão de camadas e ajuste de kernel específico para hardware. Combinado com a decodificação acelerada por VA-API do DL Streamer e o pré-processamento va-surface-sharing de cópia zero, o pipeline completo de análise de vídeo atinge um throughput significativamente maior do que frameworks não otimizados.

Link to this sectionPosso executar o YOLO26 com DL Streamer em diferentes dispositivos Intel?#

Sim. O DL Streamer suporta inferência em CPUs Intel (Core, Core Ultra, Xeon), GPUs integradas (Iris Xe, Arc), GPUs discretas (Arc A-Series, B-Series) e NPUs (AI Boost) em várias gerações de plataformas Intel. Basta alterar o parâmetro DEVICE para CPU, GPU ou NPU.

Link to this sectionComo escolho entre a precisão FP16 e INT8?#

FP16 é recomendado como padrão para inferência em GPU — ele oferece precisão próxima ao FP32 com um aumento de aproximadamente 2x no throughput.
INT8 oferece o maior desempenho (2-3x em relação ao FP32) com uma pequena compensação de precisão e é ideal quando o throughput máximo é a prioridade. Os modelos INT8 são calibrados automaticamente durante a exportação do Ultralytics.

Link to this sectionQuais tarefas do YOLO26 são suportadas?#

O DL Streamer suporta todas as variantes de tarefas do YOLO26: - Detecção: yolo26n, yolo26s, yolo26m, yolo26l, yolo26x - Caixa delimitadora orientada (OBB): yolo26s-obb (e todas as variantes de tamanho) - Segmentação de instância: yolo26s-seg (e todas as variantes de tamanho) - Estimativa de pose: yolo26s-pose (e todas as variantes de tamanho) - Classificação: yolo26s-cls (pipeline composto com detecção)

Link to this sectionComo posso exportar detecções como dados estruturados?#

Use a opção de saída json para gravar resultados de detecção como linhas JSON em um arquivo:

./yolo_detect.sh yolo26s GPU input_video.mp4 json va-surface-sharing INT8

Alternativamente, use o elemento gvametapublish em pipelines personalizados para publicar metadados em arquivos, MQTT ou Kafka.

Link to this sectionRecursos adicionais#

Contribuidores

TBtbujewsk¹

Criado há 2 horasAtualizado há 2 horas