YOLOv5와 YOLO11

새 프로젝트에 적합한 컴퓨터 비전 아키텍처를 선택할 때는 최첨단 모델의 발전 과정을 이해하는 것이 중요합니다. 이전 아키텍처에서 최신 통합 프레임워크로 이어지는 발전은 알고리즘 효율성과 개발자 경험 모두에서 큰 도약을 보여 줍니다. 이 가이드에서는 Ultralytics가 개발한 널리 사용되는 두 모델, YOLOv5와 후속 모델 YOLO11을 기술적으로 비교합니다.

모델 소개#

두 아키텍처는 모두 실시간 객체 탐지 분야의 중요한 이정표이며, 배포 환경과 레거시 요구사항에 따라 각기 다른 장점을 제공합니다.

YOLOv5: 업계의 주력 모델#

2020년 여름에 출시된 YOLOv5는 네이티브 PyTorch 구현을 통해 학습 및 배포의 진입 장벽을 낮춰 업계 표준으로 빠르게 자리 잡았습니다. 이전 모델의 복잡한 Darknet C 프레임워크에서 벗어나 Python다운 모델 구축 방식을 제공했습니다.

YOLOv5는 사용 편의성의 강력한 기준을 제시하고 모자이크 데이터 증강 및 자동 앵커 설정을 포함한 효과적인 학습 방법론을 도입했습니다. 문서화가 잘되고 충분히 검증된 코드베이스를 기반으로 연구하는 연구자들에게 여전히 인기가 있습니다.

YOLO11: 통합 비전 프레임워크#

수년간의 피드백과 아키텍처 연구를 바탕으로, YOLO11은 여러 비전 작업을 네이티브로 처리할 수 있는 통합 프레임워크의 일부로 출시되었습니다. 바운딩 박스에만 머무르지 않고, 처음부터 다용도성과 효율성을 극대화하도록 설계되었습니다.

YOLO11은 ultralytics Python 패키지를 통해 간소화된 사용자 경험을 제공하며, 객체 탐지, 인스턴스 세그멘테이션, 분류, 포즈 추정, 방향성 바운딩 박스(OBB)를 통합하는 간단한 API를 갖추고 있습니다. 속도와 정확도 사이에서 매우 유리한 절충점을 달성하여 다양한 실제 배포 시나리오에 적합합니다.

통합 플랫폼

두 모델 모두 잘 유지 관리되는 Ultralytics Platform 생태계의 이점을 누립니다. 이 통합 환경은 다양한 하드웨어 대상에 대한 데이터셋 어노테이션, 클라우드 학습, 모델 내보내기를 간소화합니다.

성능 및 지표 비교#

이 모델들을 직접 비교하면 아키텍처 개선이 어떻게 실질적인 성능 향상으로 이어지는지 확인할 수 있습니다. 아래 표에는 COCO 데이터셋에서 평가한 평균 정밀도(mAP)와 CPU 및 GPU 추론 속도, 파라미터 수가 나와 있습니다.

모델크기
(픽셀)
mAPval50-95속도
CPU ONNX
(ms)
속도
T4 TensorRT10
(ms)
파라미터
(M)
FLOPs
(B)
YOLOv5n64028.0-1.121.94.5
YOLOv5s64037.4-1.927.216.5
YOLOv5m64045.4-4.0321.249.0
YOLOv5l64049.0-6.6146.5109.1
YOLOv5x64050.7-11.8986.7205.7
YOLO11n64039.556.11.52.66.5
YOLO11s64047.090.02.59.421.6
YOLO11m64051.5183.24.720.168.1
YOLO11l64053.4238.66.225.387.2
YOLO11x64054.7462.811.356.9195.3

결과 분석#

지표를 보면 YOLO11이 달성한 성능 균형이 확실히 개선되었음을 알 수 있습니다. 예를 들어 YOLO11n(나노) 모델은 YOLOv5n의 28.0%와 비교해 39.5% mAP를 달성하며, 파라미터를 0.7M만 추가하고도 11.5포인트 향상됩니다. YOLO11은 학습 중 메모리 요구량도 Transformer 기반 모델보다 낮게 유지해 일반 소비자용 하드웨어에서 학습하고 엣지 디바이스에 배포하기에 실용적입니다.

아키텍처 차이#

YOLO11의 성능 향상은 몇 가지 핵심적인 아키텍처 발전에서 비롯됩니다. YOLOv5는 C3 모듈을 사용하는 표준 CSPNet 백본을 활용했지만, 최신 Ultralytics 모델은 C2f(YOLOv8) 및 C3k2(YOLO11)와 같이 더 효율적인 특징 추출 블록을 도입하여 그래디언트 흐름을 최적화하고 연산 오버헤드를 줄였습니다.

YOLO11은 크게 개선된 헤드도 특징입니다. 최신 Ultralytics 아키텍처는 기존 모델의 앵커 기반 설계에서 벗어나 앵커 프리 접근법을 채택합니다. 이를 통해 박스 예측 수를 줄여 후처리 파이프라인을 간소화하고 다양한 스케일과 종횡비에 대한 모델의 일반화 성능을 높입니다. 또한 이러한 모델은 학습 효율성이 더 뛰어나고 사전 학습 가중치를 바로 사용할 수 있어 맞춤 데이터셋으로 파인튜닝할 때 수렴 속도가 빨라집니다.

구현 및 코드 예제#

Ultralytics 생태계의 두드러진 특징 중 하나는 간편함입니다. YOLOv5는 빠른 추론을 위해 torch.hub 사용을 대중화했으며, YOLO11은 통합된 ultralytics Python 패키지를 통해 이를 한 단계 발전시켰습니다.

YOLO11 학습#

모델을 로드하고 학습 및 검증하는 데 필요한 상용구 코드는 최소한으로 유지됩니다. API는 합리적인 기본 학습 설정을 제공하며 체크포인트와 로깅을 자동으로 처리합니다.

from ultralytics import YOLO

# 사전 학습된 YOLO11 모델 로드
model = YOLO("yolo11s.pt")

# 사용자 지정 데이터셋으로 50 에포크 동안 학습합니다
results = model.train(data="coco8.yaml", epochs=50, imgsz=640)

# 빠른 추론을 실행하고 결과를 표시합니다
predictions = model("https://ultralytics.com/images/bus.jpg")
predictions[0].show()

# 하드웨어 가속을 위해 모델을 TensorRT로 간편하게 내보냅니다
model.export(format="engine")

YOLOv5를 사용한 레거시 추론#

기존 파이프라인을 유지 관리하는 경우, YOLOv5는 PyTorch의 네이티브 로딩 메커니즘과 직접 통합되므로 기존 추론 스크립트에 쉽게 적용할 수 있습니다.

import torch

# PyTorch Hub에서 사용자 지정 또는 사전 학습된 YOLOv5 모델을 로드합니다
model = torch.hub.load("ultralytics/yolov5", "yolov5s")

# 이미지 URL에서 추론을 수행합니다
results = model("https://ultralytics.com/images/zidane.jpg")

# 예측 세부 정보를 콘솔에 출력합니다
results.print()
배포 유연성

두 모델 모두 다양한 내보내기 포맷을 지원합니다. TensorRT를 사용하는 NVIDIA Jetson이나 CoreML을 사용하는 iOS 애플리케이션을 대상으로 하더라도, 배포 과정은 상세히 문서화되어 있으며 커뮤니티의 지원을 받을 수 있습니다.

적합한 사용 사례#

두 모델 중 무엇을 선택할지는 주로 프로젝트의 수명 주기 단계와 구체적인 요구사항에 따라 달라집니다.

YOLOv5를 선택할 경우#

  • 레거시 코드베이스 유지 관리: 프로덕션 환경이 YOLOv5 리포지토리 구조나 특정 하이퍼파라미터 진화 기법에 크게 맞춤화되어 있는 경우입니다.
  • 학술 기준선: 2020~2022년에 확립된 컴퓨터 비전 표준과 직접 벤치마킹해야 하는 연구를 발표하는 경우입니다.

YOLO11을 선택해야 하는 경우#

  • 멀티태스크 프로젝트: 단일 통합 API를 사용해 포즈 추정 및 인스턴스 세그멘테이션과 같은 여러 작업을 수행해야 하는 애플리케이션입니다.
  • 엣지 배포: 제한된 연산 예산(FLOPs)에서 최대 mAP를 확보하는 것이 중요한 엣지 컴퓨팅 시나리오입니다.
  • 상업용 AI 솔루션: Ultralytics Platform의 지원을 바탕으로 소매 및 보안 분야의 엔터프라이즈 애플리케이션에 적합합니다.

차세대 모델: Ultralytics YOLO26#

YOLO11은 속도와 정확도의 균형이 뛰어나지만, 이 분야는 빠르게 발전하고 있습니다. 현재 새로운 프로젝트를 시작하는 개발자에게 Ultralytics는 최신 모델인 Ultralytics YOLO26을 권장합니다.

2026년 1월에 출시된 YOLO26은 최신 배포 요구 사항에 맞춰 설계된 여러 발전 사항을 도입합니다:

  • 엔드투엔드 NMS 프리 설계: YOLO26은 YOLOv10이 YOLO 모델에 도입한 NMS 프리 학습을 바탕으로 네이티브 엔드투엔드 추론을 지원합니다. 선택적 일대일 헤드(nms=False)는 비최대 억제(NMS) 후처리를 불필요하게 만들어 배포 파이프라인을 간소화하고 지연 시간을 줄입니다.
  • MuSGD 옵티마이저: Moonshot AI의 Kimi K2와 같은 모델의 LLM 학습 혁신에서 영감을 받은 SGD와 Muon의 하이브리드 방식으로 안정적인 학습과 빠른 수렴을 지원합니다.
  • 더 빠른 CPU 추론: Distribution Focal Loss(DFL)를 제거한 YOLO26n은 YOLO11n보다 CPU에서 최대 43% 빠르게 실행되므로 전용 GPU가 없는 엣지 디바이스 및 환경에 적합합니다.
  • 고급 학습 방법: ProgLoss와 STAL을 통합해 소형 객체 인식 성능을 크게 개선하므로 드론 분석, IoT, 로보틱스 분야에서 중요합니다.
  • 작업별 개선 사항: 포즈 추정을 위한 Residual Log-Likelihood Estimation(RLE), 방향성 바운딩 박스를 위한 전용 각도 손실 함수 등 특화된 최적화를 도입해 지원 작업 전반의 정확도를 높입니다.

표준 객체 탐지를 넘어서는 특수 아키텍처에 관심이 있다면 Transformer 기반 탐지를 위한 RT-DETR이나 오픈 보캐뷸러리 추적 및 탐지를 위한 YOLO-World와 같은 모델도 살펴볼 수 있습니다. 잘 관리되는 이러한 도구를 활용하면 컴퓨터 비전 파이프라인의 효율성과 확장성을 유지할 수 있습니다.

댓글

질문을 하거나 결과를 공유하거나 다른 사람을 도와주세요.