YOLOv8 vs YOLOv5#
적절한 컴퓨터 비전 아키텍처를 선택하는 것은 견고한 머신 러닝 파이프라인을 구축하는 데 있어 중요한 단계입니다. 이 상세한 기술 비교에서는 비전 AI 생태계에서 가장 널리 사용되는 두 모델인 YOLOv8과 YOLOv5의 차이점을 살펴봅니다. 두 모델 모두 Ultralytics에서 개발되었으며, 실시간 객체 감지의 발전에 크게 기여하여 속도, 정확도, 사용 편의성 측면에서 업계 표준을 세웠습니다.
엣지 디바이스에 배포하든 클라우드 추론을 확장하든, 이러한 모델의 아키텍처 변화, 성능 지표, 학습 방법론을 이해하면 컴퓨터 비전 프로젝트에 대한 정보에 입각한 결정을 내리는 데 도움이 됩니다.
Ultralytics YOLOv8: 다재다능한 표준#
2023년 초에 출시된 YOLOv8은 이전 버전과 비교해 아키텍처 측면에서 큰 변화를 가져왔습니다. YOLOv8은 인스턴스 세그멘테이션, 이미지 분류, 포즈 추정을 비롯한 여러 비전 작업을 기본적으로 처리할 수 있는 통합 프레임워크로 처음부터 설계되었습니다.
- 저자: Glenn Jocher, Ayush Chaurasia, Jing Qiu
- 조직: Ultralytics
- 날짜: 2023-01-10
- GitHub: ultralytics/ultralytics
- 문서: YOLOv8 문서
아키텍처 및 방법론#
YOLOv8은 앵커 프리 detection head를 도입했습니다. 이 방식은 데이터셋 분포를 기반으로 앵커 박스를 수동 구성할 필요를 없애 학습 과정을 단순화합니다. 따라서 사용자 지정 데이터셋으로 일반화할 때 모델의 견고성이 향상되고 박스 예측 수가 줄어들어 비최대 억제 (NMS) 처리가 빨라집니다.
이 아키텍처에는 YOLOv5의 C3 모듈을 대체하는 C2f 모듈(두 개의 convolution을 사용하는 Cross-Stage Partial bottleneck)이 포함되어 있습니다. C2f 모듈은 gradient flow를 개선하고 계산 비용을 크게 늘리지 않으면서 모델이 더 풍부한 feature representation을 학습할 수 있도록 합니다. 또한 YOLOv8은 decoupled head 구조를 사용하여 objectness, classification, regression 작업을 분리하며, 이를 통해 수렴 속도와 정확도가 향상되는 것으로 나타났습니다.
YOLOv8을 포함한 Ultralytics YOLO 모델은 RT-DETR과 같은 Transformer 기반 대안 모델에 비해 학습 중 CUDA 메모리 사용량이 적도록 최적화되어 있습니다. 따라서 개발자는 NVIDIA RTX 시리즈와 같은 일반 소비자용 GPU에서 더 큰 배치 크기를 사용할 수 있습니다.
강점과 약점#
강점:
- 단순한 바운딩 박스 감지를 넘어 여러 작업에서 탁월한 범용성을 제공합니다.
ultralytics패키지를 통한 간소화된 Python API로 학습과 내보내기를 매우 직관적으로 수행할 수 있습니다.- YOLOv5와 비교해 모든 크기 변형에서 더 높은 평균 정밀도 (mAP)를 제공합니다.
약점:
- decoupled head와 C2f 모듈로 인해 일부 변형에서는 동일한 YOLOv5 모델에 비해 파라미터 수와 FLOPs가 소폭 증가합니다.
Ultralytics YOLOv5: 민첩한 개척자#
2020년에 출시된 YOLOv5는 YOLO를 PyTorch 생태계에 도입하여 개발자 접근성을 크게 향상했습니다. YOLOv5는 빠르고 안정적이며 쉽게 배포할 수 있는 객체 감지 모델의 업계 표준으로 빠르게 자리 잡았습니다.
- 작성자: Glenn Jocher
- 조직: Ultralytics
- 날짜: 2020-06-26
- GitHub: ultralytics/yolov5
- 문서: YOLOv5 Documentation
아키텍처 및 방법론#
YOLOv5는 앵커 기반 아키텍처를 사용하며 수정된 CSPDarknet53 backbone을 활용합니다. 앵커 기반 접근 방식은 학습 전에 최적의 앵커를 정의하기 위해 데이터셋 바운딩 박스를 신중하게 클러스터링해야 하지만, 특정하고 명확하게 정의된 데이터셋에서 매우 효과적입니다.
YOLOv5에는 낮은 파라미터 수를 유지하면서 feature를 효율적으로 추출하는 C3 모듈이 포함되어 있습니다. 손실 함수는 objectness loss를 classification 및 바운딩 박스 regression loss와 결합하여 네트워크가 정확한 예측을 수행하도록 유도합니다.
강점과 약점#
강점:
- 매우 가벼워 Nano(YOLOv5n) 및 Small(YOLOv5s) 변형이 리소스가 제한된 엣지 AI 배포에 특히 적합합니다.
- 특히 CPU에서 추론 속도가 매우 빠릅니다.
- 방대한 커뮤니티 튜토리얼과 서드파티 통합을 갖춘, 오랜 기간 확립된 생태계를 제공합니다.
약점:
- 앵커 박스 구성이 필요하므로 매우 다양하거나 사용자 지정된 데이터셋의 설정이 복잡해질 수 있습니다.
- YOLOv8 및 YOLO26과 같은 최신 앵커 프리 아키텍처에 비해 전반적인 정확도(mAP)가 낮습니다.
성능 비교#
이러한 모델을 평가할 때는 속도와 정확도 사이에서 유리한 균형을 달성하는 것이 가장 중요합니다. 아래 표에는 COCO 데이터셋에서 평가한 두 아키텍처의 성능 지표가 정리되어 있습니다. CPU 속도는 ONNX를 사용해 측정했으며, GPU 속도는 TensorRT를 사용해 테스트했습니다.
| 모델 | 크기 (픽셀) | mAPval 50-95 | 속도 CPU ONNX (ms) | 속도 T4 TensorRT10 (ms) | 파라미터 (M) | FLOPs (B) |
|---|---|---|---|---|---|---|
| YOLOv8n | 640 | 37.3 | 80.4 | 1.47 | 3.2 | 8.7 |
| YOLOv8s | 640 | 44.9 | 128.4 | 2.66 | 11.2 | 28.6 |
| YOLOv8m | 640 | 50.2 | 234.7 | 5.86 | 25.9 | 78.9 |
| YOLOv8l | 640 | 52.9 | 375.2 | 9.06 | 43.7 | 165.2 |
| YOLOv8x | 640 | 53.9 | 479.1 | 14.37 | 68.2 | 257.8 |
| YOLOv5n | 640 | 28.0 | 73.6 | 1.12 | 2.6 | 7.7 |
| YOLOv5s | 640 | 37.4 | 120.7 | 1.92 | 9.1 | 24.0 |
| YOLOv5m | 640 | 45.4 | 233.9 | 4.03 | 25.1 | 64.2 |
| YOLOv5l | 640 | 49.0 | 408.4 | 6.61 | 53.2 | 135.0 |
| YOLOv5x | 640 | 50.7 | 763.2 | 11.89 | 97.2 | 246.4 |
YOLOv5는 Nano 변형에서 파라미터 수와 절대적인 원시 속도 측면에서 약간 앞서지만, YOLOv8은 전반적으로 mAP를 크게 향상하여 까다로운 실제 배포 시나리오에 훨씬 더 강력한 성능 균형을 제공합니다.
사용 편의성과 Ultralytics 생태계#
최신 Ultralytics 모델을 대표하는 특징은 모델을 둘러싼 잘 관리된 생태계입니다. YOLOv5에서 YOLOv8로 전환하면서 통합 ultralytics pip 패키지가 도입되어 매우 간소화된 사용자 경험이 제공되었습니다.
개발자는 단 몇 줄의 Python 코드만으로 모델 학습, 검증, 예측, 내보내기를 원활하게 처리할 수 있어, 과거 딥러닝 프로젝트에서 필요했던 복잡한 boilerplate 스크립트를 사용하지 않아도 됩니다.
from ultralytics import YOLO
# Load a pretrained YOLOv8 model
model = YOLO("yolov8n.pt")
# Train the model on custom data efficiently
results = model.train(data="coco8.yaml", epochs=100, imgsz=640, device=0)
# Export the model to ONNX for production deployment
path = model.export(format="onnx")또한 Ultralytics Platform과 같은 도구와의 통합으로 데이터셋 관리, 클라우드 학습, 배포가 간소화되어 지속적인 개발과 강력한 커뮤니티 지원이 보장됩니다.
이상적인 사용 사례#
YOLOv5를 선택할 시기: 레거시 시스템을 유지 관리하거나, Raspberry Pi처럼 리소스가 극도로 제한된 CPU에서 추론을 실행하거나, 모델 크기를 1MB의 일부라도 줄이는 것이 중요한 프로젝트를 진행하는 경우 YOLOv5는 여전히 신뢰할 수 있는 실무형 모델입니다.
YOLOv8을 선택할 시기: 현재 시작하는 거의 모든 신규 프로젝트에서는 YOLOv5보다 YOLOv8을 강력히 권장합니다. YOLOv8의 고급 아키텍처는 복잡한 tracking, 방향성 바운딩 박스 (OBB), segmentation을 손쉽게 처리합니다. 자율 로보틱스부터 의료 이미지 분석과 스마트 시티 인프라에 이르기까지 현대적인 애플리케이션에 이상적입니다.
YOLOv8은 매우 뛰어난 성능을 제공하지만, 성능의 최전선을 추구하는 개발자라면 **YOLO26**을 고려해야 합니다. 2026년에 출시된 YOLO26은 다음과 같은 몇 가지 획기적인 발전을 도입했습니다.
- End-to-End NMS-Free Design: 더 빠르고 간단한 배포를 위해 NMS 후처리를 제거합니다. 이 개념은 YOLOv10에서 처음 개척되었습니다.
- MuSGD Optimizer: SGD와 Muon을 결합한 하이브리드 optimizer로, LLM 학습의 혁신을 컴퓨터 비전에 적용하여 더 안정적인 학습과 빠른 수렴을 가능하게 합니다.
- 최대 43% 더 빠른 CPU 추론: 전용 GPU가 없는 엣지 컴퓨팅 환경에 맞춰 대폭 최적화되었습니다.
- DFL 제거: 간소화된 내보내기와 향상된 엣지 디바이스 호환성을 위해 Distribution Focal Loss를 제거했습니다.
- ProgLoss + STAL: 소형 객체 인식 성능을 크게 향상하는 고급 loss function으로, 항공 이미지와 IoT에 중요합니다.
Ultralytics에서 제공하는 포괄적인 문서와 도구를 활용하면 YOLOv8을 쉽게 배포하거나 최첨단 YOLO26을 탐색하여 복잡한 시각적 문제를 전례 없는 속도와 정확도로 해결할 수 있습니다. 더 자세히 알아보려면 하이퍼파라미터 튜닝 및 모델 배포 사례에 관한 가이드를 살펴보시기 바랍니다.