YOLOv7: 학습 가능한 Bag-of-Freebies#

2022년 7월에 출시된 YOLOv7은 출시 당시 실시간 객체 검출 분야에서 중요한 발전을 이루었습니다. V100 GPU에서 56.8% AP를 달성하여 공개 당시 새로운 벤치마크를 세웠습니다. YOLOv7은 속도와 정확도 측면에서 YOLOR, YOLOX, Scaled-YOLOv4, YOLOv5와 같은 동시대 객체 검출기를 능가했습니다. 이 모델은 다른 데이터 세트나 사전 학습된 가중치를 사용하지 않고 MS COCO 데이터 세트로 처음부터 학습됩니다. YOLOv7의 소스 코드는 GitHub에서 확인할 수 있습니다. 이후 YOLO11 및 YOLO26과 같은 최신 모델이 향상된 효율성과 함께 더 높은 정확도를 달성했다는 점에 유의하시기 바랍니다.

SOTA 객체 검출기 비교#

YOLO 비교 표의 결과를 통해 제안된 방법이 속도와 정확도 간의 균형 측면에서 종합적으로 가장 우수하다는 것을 알 수 있습니다. YOLOv7-tiny-SiLU를 YOLOv5-N (r6.1)과 비교하면, 제안된 방법은 127 fps 더 빠르고 AP 기준으로 10.7% 더 정확합니다. 또한 YOLOv7은 161 fps의 프레임 속도에서 51.4% AP를 달성하는 반면, 동일한 AP를 갖는 PPYOLOE-L의 프레임 속도는 78 fps에 불과합니다. 파라미터 사용량 측면에서 YOLOv7은 PPYOLOE-L보다 41% 적습니다.

추론 속도가 114 fps인 YOLOv7-X를 추론 속도가 99 fps인 YOLOv5-L (r6.1)과 비교하면, YOLOv7-X는 AP를 3.9% 향상시킬 수 있습니다. YOLOv7-X를 비슷한 규모의 YOLOv5-X (r6.1)과 비교하면 YOLOv7-X의 추론 속도가 31 fps 더 빠릅니다. 또한 파라미터 수와 연산량 측면에서 YOLOv7-X는 YOLOv5-X (r6.1)에 비해 파라미터를 22%, 연산량을 8% 줄이면서 AP를 2.2% 향상시킵니다(출처).

개요#

실시간 객체 검출은 다중 객체 추적, 자율 주행, 로보틱스, 의료 영상 분석을 포함한 여러 컴퓨터 비전 시스템의 중요한 구성 요소입니다. 최근 몇 년간 실시간 객체 검출 개발은 효율적인 아키텍처를 설계하고 다양한 CPU, GPU 및 신경 처리 장치(NPUs)의 추론 속도를 향상하는 데 중점을 두었습니다. YOLOv7은 엣지부터 클라우드까지 모바일 GPU와 GPU 장치를 모두 지원합니다.

아키텍처 최적화에 중점을 두는 기존의 실시간 객체 검출기와 달리 YOLOv7은 학습 프로세스 최적화에 중점을 둡니다. 여기에는 추론 비용을 증가시키지 않고 객체 검출 정확도를 향상하도록 설계된 모듈과 최적화 방법이 포함되며, 이는 "학습 가능한 Bag-of-Freebies"라는 개념으로 알려져 있습니다.

주요 기능#

YOLOv7은 다음과 같은 주요 기능을 도입합니다:

1. 모델 재매개변수화: YOLOv7은 그래디언트 전파 경로 개념을 활용하여 서로 다른 네트워크의 레이어에 적용할 수 있는 계획된 재매개변수화 모델을 제안합니다.

2. 동적 라벨 할당: 여러 출력 레이어를 사용하는 모델 학습에서는 "서로 다른 브랜치의 출력에 동적 타깃을 어떻게 할당할 것인가?"라는 새로운 문제가 발생합니다. 이 문제를 해결하기 위해 YOLOv7은 coarse-to-fine lead guided label assignment라는 새로운 라벨 할당 방법을 도입합니다.

3. 확장 및 복합 스케일링: YOLOv7은 파라미터와 연산을 효과적으로 활용할 수 있는 실시간 객체 검출기를 위한 "확장" 및 "복합 스케일링" 방법을 제안합니다.

4. 효율성: YOLOv7이 제안한 방법은 SOTA 실시간 객체 검출기의 파라미터를 약 40%, 연산량을 50% 효과적으로 줄이면서 더 빠른 추론 속도와 더 높은 검출 정확도를 제공합니다.

사용 예시#

Ultralytics는 yolov7.pt 사전 학습 가중치 또는 ultralytics/cfg/models/v7/ YAML을 게시하지 않으며, Ultralytics Python 패키지는 YOLOv7의 기본 PyTorch 학습 및 추론을 지원하지 않습니다. 그러나 아래와 같이 YOLOv7을 업스트림 YOLOv7 저장소에서 학습한 체크포인트를 ONNX 또는 TensorRT로 내보내 Ultralytics로 가져올 수 있습니다.

ONNX 내보내기#

Ultralytics에서 YOLOv7 ONNX 모델을 사용하려면 다음을 수행합니다:

1. (선택 사항) Ultralytics를 설치하고 ONNX 모델을 내보내 필요한 종속 항목을 자동으로 설치합니다:

   pip install ultralytics
   yolo export model=yolo26n.pt format=onnx

2. YOLOv7 저장소의 exporter를 사용하여 원하는 YOLOv7 모델을 내보냅니다:

   git clone https://github.com/WongKinYiu/yolov7
   cd yolov7
   python export.py --weights yolov7-tiny.pt --grid --end2end --simplify --topk-all 100 --iou-thres 0.65 --conf-thres 0.35 --img-size 640 640 --max-wh 640

3. 다음 스크립트를 사용하여 ONNX 모델 그래프를 수정해 Ultralytics와 호환되도록 합니다:

   import numpy as np
   import onnx
   from onnx import helper, numpy_helper
   
   # Load the ONNX model
   model_path = "yolov7/yolov7-tiny.onnx"  # Replace with your model path
   model = onnx.load(model_path)
   graph = model.graph
   
   # Fix input shape to batch size 1
   input_shape = graph.input[0].type.tensor_type.shape
   input_shape.dim[0].dim_value = 1
   
   # Define the output of the original model
   original_output_name = graph.output[0].name
   
   # Create slicing nodes
   sliced_output_name = f"{original_output_name}_sliced"
   
   # Define initializers for slicing (remove the first value)
   start = numpy_helper.from_array(np.array([1], dtype=np.int64), name="slice_start")
   end = numpy_helper.from_array(np.array([7], dtype=np.int64), name="slice_end")
   axes = numpy_helper.from_array(np.array([1], dtype=np.int64), name="slice_axes")
   steps = numpy_helper.from_array(np.array([1], dtype=np.int64), name="slice_steps")
   
   graph.initializer.extend([start, end, axes, steps])
   
   slice_node = helper.make_node(
       "Slice",
       inputs=[original_output_name, "slice_start", "slice_end", "slice_axes", "slice_steps"],
       outputs=[sliced_output_name],
       name="SliceNode",
   )
   graph.node.append(slice_node)
   
   # Define segment slicing
   seg1_start = numpy_helper.from_array(np.array([0], dtype=np.int64), name="seg1_start")
   seg1_end = numpy_helper.from_array(np.array([4], dtype=np.int64), name="seg1_end")
   seg2_start = numpy_helper.from_array(np.array([4], dtype=np.int64), name="seg2_start")
   seg2_end = numpy_helper.from_array(np.array([5], dtype=np.int64), name="seg2_end")
   seg3_start = numpy_helper.from_array(np.array([5], dtype=np.int64), name="seg3_start")
   seg3_end = numpy_helper.from_array(np.array([6], dtype=np.int64), name="seg3_end")
   
   graph.initializer.extend([seg1_start, seg1_end, seg2_start, seg2_end, seg3_start, seg3_end])
   
   # Create intermediate tensors for segments
   segment_1_name = f"{sliced_output_name}_segment1"
   segment_2_name = f"{sliced_output_name}_segment2"
   segment_3_name = f"{sliced_output_name}_segment3"
   
   # Add segment slicing nodes
   graph.node.extend(
       [
           helper.make_node(
               "Slice",
               inputs=[sliced_output_name, "seg1_start", "seg1_end", "slice_axes", "slice_steps"],
               outputs=[segment_1_name],
               name="SliceSegment1",
           ),
           helper.make_node(
               "Slice",
               inputs=[sliced_output_name, "seg2_start", "seg2_end", "slice_axes", "slice_steps"],
               outputs=[segment_2_name],
               name="SliceSegment2",
           ),
           helper.make_node(
               "Slice",
               inputs=[sliced_output_name, "seg3_start", "seg3_end", "slice_axes", "slice_steps"],
               outputs=[segment_3_name],
               name="SliceSegment3",
           ),
       ]
   )
   
   # Concatenate the segments
   concat_output_name = f"{sliced_output_name}_concat"
   concat_node = helper.make_node(
       "Concat",
       inputs=[segment_1_name, segment_3_name, segment_2_name],
       outputs=[concat_output_name],
       axis=1,
       name="ConcatSwapped",
   )
   graph.node.append(concat_node)
   
   # Reshape to [1, -1, 6]
   reshape_shape = numpy_helper.from_array(np.array([1, -1, 6], dtype=np.int64), name="reshape_shape")
   graph.initializer.append(reshape_shape)
   
   final_output_name = f"{concat_output_name}_batched"
   reshape_node = helper.make_node(
       "Reshape",
       inputs=[concat_output_name, "reshape_shape"],
       outputs=[final_output_name],
       name="AddBatchDimension",
   )
   graph.node.append(reshape_node)
   
   # Get the shape of the reshaped tensor
   shape_node_name = f"{final_output_name}_shape"
   shape_node = helper.make_node(
       "Shape",
       inputs=[final_output_name],
       outputs=[shape_node_name],
       name="GetShapeDim",
   )
   graph.node.append(shape_node)
   
   # Extract the second dimension
   dim_1_index = numpy_helper.from_array(np.array([1], dtype=np.int64), name="dim_1_index")
   graph.initializer.append(dim_1_index)
   
   second_dim_name = f"{final_output_name}_dim1"
   gather_node = helper.make_node(
       "Gather",
       inputs=[shape_node_name, "dim_1_index"],
       outputs=[second_dim_name],
       name="GatherSecondDim",
   )
   graph.node.append(gather_node)
   
   # Subtract from 100 to determine how many values to pad
   target_size = numpy_helper.from_array(np.array([100], dtype=np.int64), name="target_size")
   graph.initializer.append(target_size)
   
   pad_size_name = f"{second_dim_name}_padsize"
   sub_node = helper.make_node(
       "Sub",
       inputs=["target_size", second_dim_name],
       outputs=[pad_size_name],
       name="CalculatePadSize",
   )
   graph.node.append(sub_node)
   
   # Build the [2, 3] pad array:
   # 1st row -> [0, 0, 0] (no padding at the start of any dim)
   # 2nd row -> [0, pad_size, 0] (pad only at the end of the second dim)
   pad_starts = numpy_helper.from_array(np.array([0, 0, 0], dtype=np.int64), name="pad_starts")
   graph.initializer.append(pad_starts)
   
   zero_scalar = numpy_helper.from_array(np.array([0], dtype=np.int64), name="zero_scalar")
   graph.initializer.append(zero_scalar)
   
   pad_ends_name = "pad_ends"
   concat_pad_ends_node = helper.make_node(
       "Concat",
       inputs=["zero_scalar", pad_size_name, "zero_scalar"],
       outputs=[pad_ends_name],
       axis=0,
       name="ConcatPadEnds",
   )
   graph.node.append(concat_pad_ends_node)
   
   pad_values_name = "pad_values"
   concat_pad_node = helper.make_node(
       "Concat",
       inputs=["pad_starts", pad_ends_name],
       outputs=[pad_values_name],
       axis=0,
       name="ConcatPadStartsEnds",
   )
   graph.node.append(concat_pad_node)
   
   # Create Pad operator to pad with zeros
   pad_output_name = f"{final_output_name}_padded"
   pad_constant_value = numpy_helper.from_array(
       np.array([0.0], dtype=np.float32),
       name="pad_constant_value",
   )
   graph.initializer.append(pad_constant_value)
   
   pad_node = helper.make_node(
       "Pad",
       inputs=[final_output_name, pad_values_name, "pad_constant_value"],
       outputs=[pad_output_name],
       mode="constant",
       name="PadToFixedSize",
   )
   graph.node.append(pad_node)
   
   # Update the graph's final output to [1, 100, 6]
   new_output_type = onnx.helper.make_tensor_type_proto(
       elem_type=graph.output[0].type.tensor_type.elem_type, shape=[1, 100, 6]
   )
   new_output = onnx.helper.make_value_info(name=pad_output_name, type_proto=new_output_type)
   
   # Replace the old output with the new one
   graph.output.pop()
   graph.output.extend([new_output])
   
   # Save the modified model
   onnx.save(model, "yolov7-ultralytics.onnx")

4. 그런 다음 수정된 ONNX 모델을 로드하고 Ultralytics에서 정상적으로 추론을 실행할 수 있습니다:

   from ultralytics import ASSETS, YOLO
   
   model = YOLO("yolov7-ultralytics.onnx", task="detect")
   
   results = model(ASSETS / "bus.jpg")

TensorRT 내보내기#

1. ONNX 내보내기 섹션의 1~2단계를 따릅니다.

2. TensorRT Python 패키지를 설치합니다:

   pip install tensorrt

3. 다음 스크립트를 실행하여 수정된 ONNX 모델을 TensorRT 엔진으로 변환합니다:

   from ultralytics.utils.export import onnx2engine
   
   onnx2engine("yolov7-ultralytics.onnx", quantize=16)

4. Ultralytics에서 모델을 로드하고 실행합니다:

   from ultralytics import ASSETS, YOLO
   
   model = YOLO("yolov7-ultralytics.engine", task="detect")
   
   results = model(ASSETS / "bus.jpg")

인용 및 감사의 글#

실시간 객체 검출 분야에 크게 기여한 YOLOv7 저자들에게 감사의 뜻을 전합니다:

@inproceedings{wang2023yolov7,
  title={YOLOv7: Trainable Bag-of-Freebies Sets New State-of-the-Art for Real-Time Object Detectors},
  author={Wang, Chien-Yao and Bochkovskiy, Alexey and Liao, Hong-Yuan Mark},
  booktitle={Proceedings of the IEEE/CVF conference on Computer Vision and Pattern Recognition (CVPR)},
  pages={7464--7475},
  year={2023}
}

공식 YOLOv7 논문은 CVF 2023 Open Access에 게재되었으며, arXiv에 프리프린트가 공개되어 있습니다. 저자들은 연구 결과를 공개했으며 코드베이스는 GitHub에서 확인할 수 있습니다. 해당 분야를 발전시키고 연구 결과를 더 넓은 커뮤니티에서 이용할 수 있도록 한 저자들의 노력에 감사드립니다.

FAQ#