YOLO11과 YOLOv5 비교#

적절한 신경망 아키텍처를 선택하는 것은 모든 컴퓨터 비전 프로젝트에서 매우 중요한 결정입니다. 인공지능 분야가 발전하면서 개발자와 연구자가 사용할 수 있는 도구도 함께 발전하고 있습니다. 이 종합 가이드에서는 Ultralytics 생태계를 대표하는 두 모델, 큰 호응을 얻은 YOLOv5와 고급 모델 YOLO11을 기술적으로 심층 비교합니다.

엣지 AI 애플리케이션에 경량 모델을 배포하든 클라우드 GPU에서 고해상도 비디오 스트림을 처리하든, 모델의 아키텍처적 특성과 성능 지표, 이상적인 사용 사례를 이해하면 특정 배포 제약에 맞춰 데이터에 기반한 선택을 내릴 수 있습니다.

모델 계보 및 기술 세부 정보#

두 모델 모두 오픈 소스 협업, 강력한 성능, 탁월한 사용 편의성에 대한 Ultralytics의 노력을 보여주며, 전 세계 머신러닝 커뮤니티에서 높은 선호도를 얻고 있습니다.

YOLO11 세부 정보#

• 저자: Glenn Jocher 및 Jing Qiu
• 조직: Ultralytics
• 날짜: 2024-09-27
• GitHub: ultralytics/ultralytics
• 문서: YOLO11 문서

YOLOv5 세부 정보#

• 저자: Glenn Jocher
• 조직: Ultralytics
• 날짜: 2020-06-26
• GitHub: ultralytics/yolov5
• 문서: YOLOv5 문서

아키텍처 차이#

YOLOv5에서 YOLO11로 발전하면서 정확도와 파라미터 효율을 최적화하기 위해 아키텍처에 몇 가지 중대한 변화가 도입되었습니다.

YOLOv5는 PyTorch 생태계의 선구자로, 고도로 최적화된 CSPNet (교차 단계 부분 네트워크) 백본과 PANet (경로 집계 네트워크) 넥을 도입했습니다. YOLOv5는 객체 경계를 예측하기 위해 미리 정의된 앵커 박스가 필요한 앵커 기반 탐지 방식에 의존했습니다. 이 방식은 매우 효과적이지만, 사용자 지정 컴퓨터 비전 데이터셋에 맞춰 앵커를 조정하는 작업은 번거로울 수 있습니다.

반면 YOLO11은 더욱 현대적인 앵커 프리 탐지 방식으로 전환합니다. 이에 따라 앵커 박스를 수동으로 조정할 필요가 없어져 학습 과정이 간소화되고 COCO 데이터셋과 같은 다양한 데이터셋에서 일반화 성능이 향상됩니다. 또한 YOLO11은 분리형 헤드를 채택하여 분류와 바운딩 박스 회귀 작업을 별도의 분기에서 처리합니다. 이러한 분리는 수렴 속도와 평균 정밀도 (mAP)를 크게 향상하며, 특히 복잡한 객체 탐지 상황에서 효과적입니다.

성능 지표 및 벤치마크#

아래 표에서는 다양한 모델 크기의 주요 지표를 비교합니다. Ultralytics 모델은 메모리 요구량이 적은 것으로 잘 알려져 있으며, 일반적으로 무거운 Transformer 기반 대안보다 학습 중 CUDA 메모리를 적게 사용하므로 하드웨어 진입 장벽이 크게 낮아집니다.

표에서 확인할 수 있듯이 YOLO11은 매우 우수한 성능 균형을 제공하며, YOLOv5 모델과 비슷한 파라미터 수로도 일관되게 더 높은 mAP 점수를 기록합니다.

학습 방법 및 사용성#

잘 관리되는 생태계와 폭넓은 커뮤니티 지원을 바탕으로 한 뛰어난 사용 편의성은 Ultralytics 철학의 핵심 원칙입니다.

YOLOv5는 실행 시 강력한 명령줄 인터페이스 (CLI) 스크립트 (train.py, detect.py)에 주로 의존했습니다. 스크립트는 강력하지만 사용자 지정 Python 애플리케이션에 직접 통합하려면 우회 방법이 필요한 경우가 많았습니다.

YOLO11은 간소화된 ultralytics Python 패키지 (YOLOv8과 함께 도입됨)를 기반으로 합니다. 이 통합 API는 학습부터 모델 내보내기, ONNX, OpenVINO, TensorRT와 같은 형식으로의 내보내기까지 모든 작업을 기본적으로 처리합니다.

코드 비교#

오늘날 Ultralytics 모델 학습은 매우 효율적입니다. 다음은 기본 Python API를 사용해 YOLO11을 학습하는 방법입니다.

from ultralytics import YOLO

# 사전 학습된 YOLO11 소형 모델을 불러옵니다
model = YOLO("yolo11s.pt")

# 사용자 지정 데이터로 모델 학습
results = model.train(data="coco8.yaml", epochs=50, imgsz=640, device=0)

# 배포를 위해 모델을 ONNX로 내보내기
model.export(format="onnx")

YOLOv5를 사용하는 레거시 시스템에서는 CLI를 통한 학습이 다음과 같이 진행됩니다.

# Clone the repository and run the training script
git clone https://github.com/ultralytics/yolov5
cd yolov5
pip install -r requirements.txt

python train.py --img 640 --batch 16 --epochs 50 --data coco128.yaml --weights yolov5s.pt

적합한 사용 사례 및 실제 응용 분야#

두 모델은 서로 다른 운영 환경에 적합한 고유한 강점을 갖고 있습니다.

YOLOv5를 사용하는 경우#

차세대 모델이 출시된 이후에도 YOLOv5는 여전히 강력한 모델입니다. 다음과 같은 경우에 적극 권장됩니다.

• 레거시 시스템 통합: YOLOv5의 특정 텐서 구조 또는 배포 파이프라인과 깊이 통합되어 있어 쉽게 리팩터링할 수 없는 환경입니다.
• 학술 연구 기준 모델: 의료 영상 분석의 재현 가능한 학술 연구를 위해 검증된 장기간의 기준 모델이 필요한 연구자에게 적합합니다.

YOLO11을 사용하는 경우#

YOLO11은 놀라운 다용도성 덕분에 현대적인 프로덕션 파이프라인에 이상적인 선택입니다.

• 멀티태스크 환경: 주로 탐지기이며 이후 세그멘테이션 기능이 추가된 YOLOv5와 달리, YOLO11은 인스턴스 세그멘테이션, 이미지 분류, 포즈 추정, 방향성 바운딩 박스 (OBB) 탐지를 기본으로 지원합니다.
• 고밀도 비디오 분석: 복잡한 장면에서 최대한 정밀하게 정보를 추출하는 것이 중요한 지능형 교통 시스템이나 리테일 재고 관리에 적합합니다.

미래를 향해: YOLO26 아키텍처#

YOLO11은 뛰어난 표준 모델이지만 컴퓨터 비전의 최전선은 계속 빠르게 발전하고 있습니다. 최고의 효율성을 원하는 개발자는 최신 Ultralytics YOLO26 (2026년 1월 출시)도 고려해야 합니다.

YOLO26은 엣지 최적화와 엔터프라이즈 규모 모두를 위해 명시적으로 설계되어 큰 도약을 이루었습니다. 주요 혁신은 다음과 같습니다.

• 엔드투엔드 NMS 프리 설계: YOLO26은 기본 엔드투엔드 추론을 지원하며, 더 빠르고 간편한 배포를 위해 nms=False을 사용한 후처리에서 비최대 억제 (NMS)를 생략합니다.
• DFL 제거: 모델 내보내기를 간소화하고 저전력 디바이스 호환성을 높이기 위해 분포 초점 손실을 제거했습니다.
• MuSGD 옵티마이저: SGD와 Muon을 결합한 획기적인 하이브리드로, LLM 학습의 안정성을 컴퓨터 비전에 도입해 더 빠른 수렴을 실현합니다.
• 최대 43% 더 빠른 CPU 추론: IoT 배포 및 전용 GPUs가 없는 디바이스를 위해 대폭 최적화되었습니다.
• ProgLoss + STAL: 손실 함수를 크게 개선하여 소형 객체 인식 성능을 높였습니다. 이는 항공 드론 이미지 분석에 매우 중요합니다.

요약#

YOLO11과 YOLOv5 중 어느 것을 선택할지는 궁극적으로 프로젝트의 수명 주기 단계에 따라 달라집니다. YOLOv5는 뛰어난 안정성과 강력한 커뮤니티 지원으로 확고한 입지를 갖고 있습니다. 그러나 신규 프로젝트에는 구세대 모델보다 YOLO11을 적극 권장합니다. YOLO11은 최첨단 정확도, 매우 세련된 Python API, 낮은 학습 메모리 오버헤드를 결합해 AI 혁신의 최전선에서 Ultralytics의 입지를 굳건히 합니다. 한층 더 높은 수준을 추구한다면 Ultralytics Platform에서 최첨단 YOLO26을 살펴보고 탁월한 결과를 얻을 수 있습니다.