YOLOv8과 RTDETRv2#
컴퓨터 비전 분야는 끊임없이 발전하고 있으며, 새로운 아키텍처가 실시간 객체 탐지의 가능성을 계속해서 확장하고 있습니다. 많은 관심을 받은 두 가지 주요 모델로는 Ultralytics YOLOv8과 Baidu의 RTDETRv2가 있습니다. 이 가이드에서는 두 강력한 모델의 아키텍처, 성능 지표 및 이상적인 배포 시나리오를 살펴보며 포괄적인 기술 비교를 제공합니다.
YOLOv8 개요#
Ultralytics YOLOv8은 YOLO(한 번 보면 됩니다) 모델 제품군에서 중요한 이정표를 나타냅니다. 수년간 축적된 기초 연구를 기반으로 구축되었으며, 다양한 작업에서 뛰어난 속도, 정확도 및 사용 편의성을 제공합니다.
주요 특징:
- 저자: Glenn Jocher, Ayush Chaurasia, Jing Qiu
- 조직: Ultralytics
- 날짜: 2023년 1월 10일
- GitHub: Ultralytics Repository
- 문서: YOLOv8 문서
아키텍처 및 강점#
YOLOv8은 특징 추출과 바운딩 박스 회귀를 모두 최적화하는 간소화된 아키텍처를 도입합니다. 앵커가 필요 없는 detector이므로 prediction head가 단순해지고 학습 중에 조정해야 하는 하이퍼파라미터 수가 줄어듭니다. 이 아키텍처는 추론 속도와 평균 정밀도(mAP) 사이에서 뛰어난 성능 균형을 보장하므로 엣지 디바이스와 클라우드 서버 모두에서 실제 배포에 매우 적합합니다.
또한 YOLOv8은 transformer 기반 아키텍처에 비해 학습 중 필요한 메모리 요구 사항이 크게 낮습니다. 따라서 개발자는 메모리 부족 오류 없이 일반 소비자용 GPU에서 모델을 학습할 수 있습니다.
다재다능성#
YOLOv8의 대표적인 강점 중 하나는 기본적으로 제공되는 다재다능성입니다. 많은 모델이 바운딩 박스에만 집중하는 반면, YOLOv8은 객체 탐지, 인스턴스 세그멘테이션, 이미지 분류, 포즈 추정, 방향성 바운딩 박스(OBB) 탐지를 즉시 지원합니다.
RTDETRv2 개요#
RTDETRv2(실시간 탐지 Transformer 버전 2)는 기존 RT-DETR을 기반으로 구축되었으며, Vision Transformer의 강력한 어텐션 메커니즘을 실시간 객체 탐지 애플리케이션에 적용하는 것을 목표로 합니다.
주요 특징:
- 저자: Wenyu Lv, Yian Zhao, Qinyao Chang, Kui Huang, Guanzhong Wang, Yi Liu
- 조직: Baidu
- 날짜: 2024-07-24
- Arxiv: 2407.17140
- GitHub: RT-DETR Repository
- 문서: RTDETRv2 README
아키텍처 및 강점#
RTDETRv2는 합성곱 신경망(CNN) 백본과 transformer 인코더-디코더 구조를 결합한 하이브리드 아키텍처를 활용합니다. 이를 통해 self-attention 메커니즘으로 복잡한 공간적 관계와 전역 컨텍스트를 포착할 수 있습니다. RTDETRv2는 여러 "bag-of-freebies" 학습 전략을 활용하여 COCO 데이터셋과 같은 표준 벤치마크 데이터셋에서 경쟁력 있는 mAP 점수를 달성합니다.
약점#
높은 정확도에도 불구하고 RTDETRv2의 transformer 기반 특성은 순수 CNN 아키텍처에 비해 메모리 사용량이 많고 학습 시간이 느리다는 단점이 있습니다. Transformer는 본질적으로 더 많은 VRAM을 필요로 하므로 리소스가 제한된 하드웨어에서 학습하기 어렵습니다. 또한 RTDETRv2는 탐지에는 강점을 보이지만, Ultralytics 생태계에 내재된 멀티태스크 다재다능성(포즈 및 세그멘테이션 등)은 지원하지 않습니다.
성능 비교#
프로덕션용 모델을 평가할 때는 모델 크기, 추론 속도 및 정확도 사이의 절충이 가장 중요합니다. 아래 표에서는 YOLOv8과 RTDETRv2 변형을 직접 비교합니다.
| 모델 | 크기 (픽셀) | mAPval 50-95 | 속도 CPU ONNX (ms) | 속도 T4 TensorRT10 (ms) | 파라미터 (M) | FLOPs (B) |
|---|---|---|---|---|---|---|
| YOLOv8n | 640 | 37.3 | 80.4 | 1.47 | 3.2 | 8.7 |
| YOLOv8s | 640 | 44.9 | 128.4 | 2.66 | 11.2 | 28.6 |
| YOLOv8m | 640 | 50.2 | 234.7 | 5.86 | 25.9 | 78.9 |
| YOLOv8l | 640 | 52.9 | 375.2 | 9.06 | 43.7 | 165.2 |
| YOLOv8x | 640 | 53.9 | 479.1 | 14.37 | 68.2 | 257.8 |
| RTDETRv2-s | 640 | 48.1 | - | 5.03 | 20 | 60 |
| RTDETRv2-m | 640 | 51.9 | - | 7.51 | 36 | 100 |
| RTDETRv2-l | 640 | 53.4 | - | 9.76 | 42 | 136 |
| RTDETRv2-x | 640 | 54.3 | - | 15.03 | 76 | 259 |
속도는 Amazon EC2 P4d 인스턴스를 사용하여 측정했습니다. CPU 추론에는 ONNX를 사용했으며, GPU 속도는 TensorRT를 사용하여 테스트했습니다.
사용 사례 및 권장 사항#
YOLOv8과 RT-DETR 중 무엇을 선택할지는 구체적인 프로젝트 요구 사항, 배포 제약 조건 및 생태계 선호도에 따라 달라집니다.
YOLOv8을 선택해야 하는 경우#
YOLOv8은 다음과 같은 경우에 적합합니다.
- 범용 멀티태스크 배포: Ultralytics 생태계에서 detection, segmentation, classification, pose estimation을 수행하기 위해 검증된 모델이 필요한 프로젝트입니다.
- 확립된 프로덕션 시스템: 안정적이고 충분히 테스트된 배포 파이프라인과 함께 YOLOv8 아키텍처를 기반으로 이미 구축된 기존 프로덕션 환경입니다.
- 폭넓은 커뮤니티 및 생태계 지원: YOLOv8의 풍부한 튜토리얼, 서드파티 통합, 활발한 커뮤니티 리소스를 활용하는 애플리케이션입니다.
RT-DETR을 선택해야 하는 경우#
다음과 같은 경우 RT-DETR을 권장합니다.
- Transformer 기반 감지 연구: NMS 없이 엔드 투 엔드 객체 감지를 수행하기 위해 attention mechanism과 Transformer 아키텍처를 탐구하는 프로젝트입니다.
- 유연한 latency를 요구하는 고정확도 시나리오: 감지 정확도가 최우선이며 약간 더 높은 추론 latency를 허용할 수 있는 애플리케이션입니다.
- 대형 객체 감지: 주로 medium-to-large 객체가 있는 장면으로, Transformer의 global attention mechanism이 자연스러운 이점을 제공하는 경우입니다.
Ultralytics(YOLO26)를 선택해야 하는 경우#
대부분의 신규 프로젝트에서 Ultralytics YOLO26은 성능과 개발자 경험의 최적 조합을 제공합니다.
- NMS-Free 엣지 배포: 비최대 억제 후처리의 복잡성 없이 일관되고 지연 시간이 짧은 추론이 필요한 애플리케이션입니다.
- CPU 전용 환경: 전용 GPU 가속 기능이 없는 디바이스에서 YOLO26의 최대 43% 더 빠른 CPU 추론이 결정적인 이점을 제공하는 경우입니다.
- 소형 객체 탐지: 항공 드론 이미지나 IoT 센서 분석처럼 ProgLoss와 STAL이 작은 객체의 정확도를 크게 향상하는 까다로운 시나리오입니다.
Ultralytics의 강점#
모델 선택은 단순한 원시 지표를 넘어섭니다. 개발자 생산성에는 주변 소프트웨어 생태계가 매우 중요합니다. Ultralytics 생태계는 전체 머신 러닝 수명 주기를 간소화하는 통합 Python API를 제공하여 사용 편의성이 뛰어난 것으로 알려져 있습니다.
데이터셋 관리부터 분산 학습까지 Ultralytics는 복잡한 보일러플레이트 코드를 추상화합니다. 개발자는 즉시 사용할 수 있는 사전 학습된 가중치와 Hugging Face 같은 플랫폼 및 모니터링 도구와의 원활한 통합을 활용할 수 있습니다. 잘 관리되는 이 생태계는 활발한 개발, 잦은 업데이트 및 강력한 커뮤니티 지원을 보장합니다.
또한 학습 효율성은 Ultralytics YOLO 모델의 대표적인 특징입니다. 모델은 학습 프로세스 중 빠른 수렴과 더 작은 메모리 사용량을 위해 고도로 최적화되어 있어 RTDETRv2와 같은 transformer 기반 detector에 비해 실험 주기를 크게 단축합니다.
향후 전망: YOLO26의 강력한 성능#
YOLOv8은 여전히 강력한 모델이지만, 최첨단 기술을 추구하는 개발자는 2026년 1월에 출시된 많은 기대를 받은 YOLO26으로의 업그레이드를 고려해야 합니다. YOLO26은 다음과 같은 여러 획기적인 혁신을 통해 기술의 최전선을 새롭게 정의합니다.
- 엔드투엔드 NMS-Free 설계: YOLO26은 Non-Maximum Suppression(NMS) 후처리를 제거하여 더 빠르고 결정적인 배포 워크플로를 제공합니다.
- DFL 제거: Distribution Focal Loss를 제거하여 모델을 간소화하고 엣지 및 저전력 디바이스와의 호환성을 향상합니다.
- MuSGD 옵티마이저: LLM 학습 혁신을 통합한 MuSGD 옵티마이저는 더 안정적인 학습 실행과 빠른 수렴을 보장합니다.
- 최대 43% 빠른 CPU 추론: 전용 GPU가 없는 환경에 맞게 고도로 최적화되었습니다.
- ProgLoss + STAL: 이러한 고급 손실 함수는 소형 객체 인식 성능을 크게 향상하며, 이는 항공 이미지와 로보틱스에 매우 중요합니다.
Ultralytics 제품군에서 살펴볼 가치가 있는 다른 최신 대안으로는 YOLO11이 있습니다. YOLO11은 레거시 프로젝트에 강력한 성능을 제공하지만, 모든 신규 배포에는 YOLO26이 권장됩니다.
코드 예제: 학습 및 추론#
Ultralytics API의 단순성 덕분에 몇 줄의 Python 코드만으로 모델을 로드하고 학습하며 배포할 수 있습니다. 다음 예제를 실행하기 전에 PyTorch가 설치되어 있는지 확인하십시오.
from ultralytics import YOLO
# Load a pretrained YOLOv8 small model
model = YOLO("yolov8s.pt")
# Train the model on your custom dataset
# Memory efficient training allows for larger batch sizes
train_results = model.train(data="coco8.yaml", epochs=50, imgsz=640, batch=16)
# Run inference on a test image
results = model("https://ultralytics.com/images/bus.jpg")
# Display the results
results[0].show()
# Export seamlessly for edge deployment
export_path = model.export(format="onnx")Ultralytics는 ONNX, TensorRT 및 CoreML을 비롯한 다양한 형식으로의 원클릭 export를 지원하여 여러 하드웨어 아키텍처에서 모델 배포 옵션을 간소화합니다.
결론#
YOLOv8과 RTDETRv2는 모두 실시간 객체 탐지를 위한 매력적인 기능을 제공합니다. RTDETRv2는 전역 컨텍스트를 포착하는 Transformer의 강력한 성능을 보여주므로, 추론 속도와 메모리 오버헤드가 주요 제약 조건이 아닌 복잡한 공간 추론 작업에 적합합니다.
그러나 뛰어난 속도, 정확도 및 리소스 효율성의 균형을 우선시하는 개발자에게는 Ultralytics YOLO 모델이 여전히 더 나은 선택입니다. YOLOv8은 가벼운 특성, 탁월한 사용 편의성, 다양한 비전 작업을 아우르는 다재다능성 및 활발한 오픈 소스 생태계를 결합하여 확장 가능한 프로덕션 환경을 위한 대표적인 솔루션이 되었습니다. 엣지 성능의 최고 수준을 추구하는 경우, 새롭게 출시된 YOLO26은 업계를 계속해서 선도하는 탁월한 NMS-Free 효율성을 제공합니다.