Ultralytics YOLO27: Inscreve-te na lista de espera.
Começar

Poda e esparsidade de modelos no YOLOv5

Este guia explica como aplicar a poda aos modelos YOLOv5 para criar redes mais eficientes sem comprometer o desempenho.

O que é a poda de modelos?#

A poda de modelos é uma técnica usada para reduzir o tamanho e a complexidade das redes neurais, removendo parâmetros menos importantes (pesos e conexões). Esse processo cria um modelo mais eficiente, com vários benefícios:

  • Redução do tamanho do modelo para facilitar a implementação em dispositivos com recursos limitados
  • Inferência mais rápida com impacto mínimo na precisão
  • Menor utilização de memória e consumo de energia
  • Maior eficiência geral em aplicações em tempo real

A poda identifica e remove parâmetros que contribuem minimamente para o desempenho do modelo, resultando em um modelo mais leve com precisão semelhante.

Antes de começar#

Clone o repositório e instale requirements.txt em um ambiente Python>=3.8.0, incluindo PyTorch>=1.8. Os modelos e conjuntos de dados são baixados automaticamente da versão mais recente do YOLOv5.

git clone https://github.com/ultralytics/yolov5 # clone
cd yolov5
pip install -r requirements.txt # install

Testar o desempenho de referência#

Antes da poda, estabeleça um desempenho de referência para comparação. Este comando testa YOLOv5x no COCO val2017 com tamanho de imagem de 640 pixels. yolov5x.pt é o maior e mais preciso modelo P5. Outras opções são os pontos de verificação pré-treinados menores yolov5n.pt, yolov5s.pt, yolov5m.pt e yolov5l.pt, ou seu próprio ponto de verificação de treinamento em um conjunto de dados personalizado, como runs/train/exp/weights/best.pt.

python val.py --weights yolov5x.pt --data coco.yaml --img 640 --half

Saída:

val: data=/content/yolov5/data/coco.yaml, weights=['yolov5x.pt'], batch_size=32, imgsz=640, conf_thres=0.001, iou_thres=0.65, task=val, device=, workers=8, single_cls=False, augment=False, verbose=False, save_txt=False, save_conf=False, save_json=True, project=runs/val, name=exp, exist_ok=False, half=True, dnn=False
YOLOv5 🚀 v6.0-224-g4c40933 torch 1.10.0+cu111 CUDA:0 (Tesla V100-SXM2-16GB, 16160MiB)

Fusing layers...
Model Summary: 444 layers, 86705005 parameters, 0 gradients
val: Scanning '/content/datasets/coco/val2017.cache' images and labels... 4952 found, 48 missing, 0 empty, 0 corrupt: 100% 5000/5000 [00:00<?, ?it/s]
               Class     Images  Instances          P          R      mAP50   mAP50-95: 100% 157/157 [01:12<00:00,  2.16it/s]
                 all       5000      36335      0.732      0.628      0.683      0.496
Speed: 0.1ms pre-process, 5.2ms inference, 1.7ms NMS per image at shape (32, 3, 640, 640)  # <--- base speed

Evaluating pycocotools mAP... saving runs/val/exp2/yolov5x_predictions.json...
...
 Average Precision  (AP) @[ IoU=0.50:0.95 | area=   all | maxDets=100 ] = 0.507  # <--- base mAP
 Average Precision  (AP) @[ IoU=0.50      | area=   all | maxDets=100 ] = 0.689
 Average Precision  (AP) @[ IoU=0.75      | area=   all | maxDets=100 ] = 0.552
 Average Precision  (AP) @[ IoU=0.50:0.95 | area= small | maxDets=100 ] = 0.345
 Average Precision  (AP) @[ IoU=0.50:0.95 | area=medium | maxDets=100 ] = 0.559
 Average Precision  (AP) @[ IoU=0.50:0.95 | area= large | maxDets=100 ] = 0.652
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets=  1 ] = 0.381
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets= 10 ] = 0.630
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets=100 ] = 0.682
 Average Recall     (AR) @[ IoU=0.50:0.95 | area= small | maxDets=100 ] = 0.526
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=medium | maxDets=100 ] = 0.731
 Average Recall     (AR) @[ IoU=0.50:0.95 | area= large | maxDets=100 ] = 0.829
Results saved to runs/val/exp2

Aplicar poda ao YOLOv5x (30% de esparsidade)#

Podemos aplicar a poda ao modelo usando a função prune() definida em utils/torch_utils.py. Para testar um modelo podado, atualizamos val.py para podar o YOLOv5x com uma esparsidade de 0.3 (30% dos pesos definidos como zero):

YOLOv5 model pruning to 30% sparsity code

Resultado com 30% de poda:

val: data=/content/yolov5/data/coco.yaml, weights=['yolov5x.pt'], batch_size=32, imgsz=640, conf_thres=0.001, iou_thres=0.65, task=val, device=, workers=8, single_cls=False, augment=False, verbose=False, save_txt=False, save_conf=False, save_json=True, project=runs/val, name=exp, exist_ok=False, half=True, dnn=False
YOLOv5 🚀 v6.0-224-g4c40933 torch 1.10.0+cu111 CUDA:0 (Tesla V100-SXM2-16GB, 16160MiB)

Fusing layers...
Model Summary: 444 layers, 86705005 parameters, 0 gradients
Pruning model...  0.3 global sparsity
val: Scanning '/content/datasets/coco/val2017.cache' images and labels... 4952 found, 48 missing, 0 empty, 0 corrupt: 100% 5000/5000 [00:00<?, ?it/s]
               Class     Images  Instances          P          R      mAP50   mAP50-95: 100% 157/157 [01:11<00:00,  2.19it/s]
                 all       5000      36335      0.724      0.614      0.671      0.478
Speed: 0.1ms pre-process, 5.2ms inference, 1.7ms NMS per image at shape (32, 3, 640, 640)  # <--- prune speed

Evaluating pycocotools mAP... saving runs/val/exp3/yolov5x_predictions.json...
...
 Average Precision  (AP) @[ IoU=0.50:0.95 | area=   all | maxDets=100 ] = 0.489  # <--- prune mAP
 Average Precision  (AP) @[ IoU=0.50      | area=   all | maxDets=100 ] = 0.677
 Average Precision  (AP) @[ IoU=0.75      | area=   all | maxDets=100 ] = 0.537
 Average Precision  (AP) @[ IoU=0.50:0.95 | area= small | maxDets=100 ] = 0.334
 Average Precision  (AP) @[ IoU=0.50:0.95 | area=medium | maxDets=100 ] = 0.542
 Average Precision  (AP) @[ IoU=0.50:0.95 | area= large | maxDets=100 ] = 0.635
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets=  1 ] = 0.370
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets= 10 ] = 0.612
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets=100 ] = 0.664
 Average Recall     (AR) @[ IoU=0.50:0.95 | area= small | maxDets=100 ] = 0.496
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=medium | maxDets=100 ] = 0.722
 Average Recall     (AR) @[ IoU=0.50:0.95 | area= large | maxDets=100 ] = 0.803
Results saved to runs/val/exp3

Análise dos resultados#

Com base nos resultados, podemos observar:

  • Esparsidade de 30% alcançada: 30% dos parâmetros de peso do modelo nas camadas nn.Conv2d são agora zero
  • O tempo de inferência permanece inalterado: Apesar da poda, a velocidade de processamento é praticamente a mesma
  • Impacto mínimo no desempenho: O mAP diminuiu ligeiramente de 0.507 para 0.489 (uma redução de apenas 3.6%)
  • O tamanho do modelo não se alterou: Os pesos definidos como zero continuam armazenados de forma densa, por isso o tamanho do ficheiro só diminui com formatos compatíveis com esparsidade ou com compressão

Isso mostra que é possível remover 30% dos pesos convolucionais com apenas um pequeno impacto na precisão. Para transformar essa esparsidade em inferência mais rápida ou arquivos menores, é necessário um ambiente de execução compatível com esparsidade, poda estruturada ou compressão.

Ajuste fino de modelos podados#

Para obter os melhores resultados, os modelos podados devem ser ajustados finamente após a poda para recuperar a precisão. Podes fazê-lo da seguinte forma:

  1. Aplicar a poda com o nível de esparsidade pretendido
  2. Treinar o modelo podado por algumas épocas com uma taxa de aprendizado menor
  3. Avaliar o modelo podado após o ajuste fino comparando-o com o desempenho de referência

Este processo ajuda os parâmetros restantes a adaptarem-se e a compensarem as ligações removidas, recuperando muitas vezes a maior parte ou toda a precisão original.

Ambientes compatíveis#

A Ultralytics oferece diversos ambientes prontos para uso, cada um com dependências essenciais pré-instaladas, como CUDA, cuDNN, Python e PyTorch, para você começar seus projetos.

Estado do projeto#

YOLOv5 CI

Este emblema indica que todos os testes de Integração contínua (CI) das GitHub Actions da YOLOv5 estão a passar. Estes testes de CI verificam rigorosamente a funcionalidade e o desempenho da YOLOv5 em vários aspetos importantes: treino, validação, inferência, exportação e avaliação de desempenho. Os testes garantem um funcionamento consistente e fiável em macOS, Windows e Ubuntu e são realizados a cada 24 horas e sempre que é criado um novo commit.

Perguntas frequentes#

  • A poda não estruturada define os pesos como zero, mas mantém inalteradas as formas dos tensores, pelo que os kernels densos do PyTorch executam a mesma quantidade de operações. Para acelerar, é necessário um ambiente de execução compatível com esparsidade, como o DeepSparse, ou uma poda estruturada que remova canais inteiros.

  • Chama a função auxiliar de utils/torch_utils.py antes da validação ou da exportação:

    from utils.torch_utils import prune

prune(model, amount=0.3)  # 30% de esparsidade global nos pesos nn.Conv2d

  • Começa com 0.3 e mede o mAP. O YOLOv5x perdeu cerca de 3.6% de mAP com 30% de esparsidade, sem ajuste fino; níveis mais elevados de esparsidade geralmente exigem algumas épocas de retreino com uma taxa de aprendizagem baixa para recuperar a precisão.

  • Sim. Os pesos definidos como zero são guardados como quaisquer outros, por isso export.py funciona sem alterações. O tamanho do ficheiro só diminui se o formato de destino ou o ambiente de execução comprimir os tensores esparsos.

Colaboradores
glenn-jocherglenn-jocher6raimbekovmraimbekovm2pderrengerpderrenger1

Comentários

Faz uma pergunta, partilha os teus resultados ou ajuda alguém.