YOLO11과 RTDETRv2 비교
실시간 탐지에서는 합성곱 신경망(CNN)과 비전 트랜스포머(ViT) 중에서 선택하는 경우가 점점 많아지고 있습니다. 이 기술 비교에서는 주요 객체 탐지 아키텍처 두 가지, Ultralytics의 고도로 최적화된 CNN인 YOLO11과 Baidu의 Detection Transformer 계열을 발전시킨 RTDETRv2를 다룹니다.
이 가이드에서는 아키텍처, 성능 지표, 배포 시나리오를 비교해 머신러닝 엔지니어가 두 모델 중 하나를 선택하도록 돕습니다. 두 모델 모두 높은 정확도를 달성하지만, Ultralytics YOLO 모델은 일반적으로 프로덕션에서 속도, 생태계 지원, 사용 편의성의 균형이 더 뛰어납니다.
YOLO11: 실제 환경의 다용도성을 위한 기준 모델#
Ultralytics가 선보인 YOLO11은 수년간의 YOLO 연구를 바탕으로 빠르고 정확하며 다목적으로 활용할 수 있는 모델을 구현합니다. 객체 탐지, 인스턴스 분할, 이미지 분류, 자세 추정, 방향성 경계 상자(OBB) 탐지를 기본적으로 처리합니다.
- 저자: Glenn Jocher 및 Jing Qiu
- 조직: Ultralytics
- 날짜: 2024-09-27
- GitHub: Ultralytics 저장소
- 문서: YOLO11 문서
아키텍처 및 강점#
YOLO11은 정교한 CNN 백본과 멀티스케일 특징 피라미드를 사용해 리소스 효율성이 높습니다. 학습과 추론 모두 메모리 사용량이 적어 하드웨어 제약이 엄격한 환경에 적합합니다. Ultralytics Platform은 별도의 MLOps 도구를 조합하지 않아도 데이터 어노테이션, 클라우드 학습, 모델 모니터링에 YOLO11을 사용할 수 있도록 지원합니다.
엣지 배포에서 YOLO11은 낮은 지연 시간을 제공합니다. 경량 설계 덕분에 Raspberry Pi 보드부터 소비자용 휴대폰까지 다양한 장치에서 효율적으로 실행되므로, 스마트 리테일, 제조 품질 관리, 자동 교통 관리에 널리 활용됩니다.
RTDETRv2: Baidu의 실시간 Transformer#
RTDETRv2 (실시간 Detection Transformer 버전 2)는 Transformer 기반 아키텍처를 실시간 작업에 활용할 수 있도록 하려는 Baidu의 시도를 나타냅니다. 원본 RT-DETR을 기반으로 하며, 추론 지연 시간을 늘리지 않고 기준 정확도를 개선하기 위해 "공짜 보따리" 접근 방식을 도입했습니다.
- 저자: Wenyu Lv, Yian Zhao, Qinyao Chang, Kui Huang, Guanzhong Wang, Yi Liu
- 기관: Baidu
- 날짜: 2024-07-24
- arXiv: 2407.17140
- GitHub: RTDETRv2 저장소
- 문서: RTDETRv2 README
아키텍처 및 강점#
기존 CNN과 달리 RTDETRv2는 셀프 어텐션 메커니즘을 포함한 인코더-디코더 아키텍처를 사용하여 이미지 전반의 전역 컨텍스트를 포착합니다. 이는 가림 현상이 잦은 혼잡한 장면에서 유용합니다. RTDETRv2는 후처리 단계에서 비최대 억제(NMS)를 사용하지 않고, 학습 중 헝가리안 매칭을 통해 일대일 이분 매칭을 수행합니다.
그러나 트랜스포머 모델은 일반적으로 더 많은 VRAM과 CUDA 메모리가 필요합니다. RTDETRv2를 처음부터 학습하거나 사용자 지정 데이터셋으로 파인튜닝하려면 대용량 메모리를 갖춘 고급 GPU가 필요한 경우가 많으므로, Ultralytics 모델의 경량 학습 환경에 비해 소규모 팀에는 부담이 될 수 있습니다.
성능 및 지표 분석#
표준 COCO 데이터셋에서 평가한 두 모델은 파라미터, FLOPs, 정확도(mAP) 간에 뚜렷한 절충 관계를 보입니다.
| 모델 | 크기 (픽셀) | mAPval50-95 | 속도 CPU ONNX (ms) | 속도 T4 TensorRT10 (ms) | 파라미터 (M) | FLOPs (B) |
|---|---|---|---|---|---|---|
| YOLO11n | 640 | 39.5 | 56.1 | 1.5 | 2.6 | 6.5 |
| YOLO11s | 640 | 47.0 | 90.0 | 2.5 | 9.4 | 21.6 |
| YOLO11m | 640 | 51.5 | 183.2 | 4.7 | 20.1 | 68.1 |
| YOLO11l | 640 | 53.4 | 238.6 | 6.2 | 25.3 | 87.2 |
| YOLO11x | 640 | 54.7 | 462.8 | 11.3 | 56.9 | 195.3 |
| RTDETRv2-s | 640 | 48.1 | - | 5.03 | 20 | 60 |
| RTDETRv2-m | 640 | 51.9 | - | 7.51 | 36 | 100 |
| RTDETRv2-l | 640 | 53.4 | - | 9.76 | 42 | 136 |
| RTDETRv2-x | 640 | 54.3 | - | 15.03 | 76 | 259 |
결과 자세히 살펴보기#
YOLO11은 파라미터당 더 높은 정확도를 제공합니다. YOLO11x는 더 적은 파라미터(56.9M 대 76M)와 더 적은 FLOPs(195.3B 대 259B)를 사용하면서 RTDETRv2-x(54.3)보다 더 높은 mAPval50-95(54.7)을 달성합니다.
YOLO11은 T4 TensorRT에서도 더 빠릅니다. YOLO11s는 2.5ms에 실행되는 반면 RTDETRv2-s는 5.03ms가 걸립니다(각각 47.0 대 48.1 mAP). 또한 YOLO11m은 RTDETRv2-s보다 정확도가 높고(51.5 mAP) 속도도 빠릅니다(4.7ms). 따라서 프레임 처리 시간이 주요 병목인 실시간 영상 분석에 YOLO11이 적합합니다.
RTDETRv2는 어텐션 계층을 통해 뛰어난 정확도를 달성하지만, 이 메커니즘은 이미지 해상도에 따라 이차적으로 확장되어 학습과 추론 중 VRAM 사용량이 증가합니다. YOLO11은 효율적인 합성곱 블록을 사용해 이러한 비용을 피합니다.
학습 생태계 및 사용성#
Ultralytics 모델 도입의 핵심 장점은 이를 둘러싼 생태계에 있습니다. RTDETRv2를 학습하려면 연구용 저장소의 복잡한 구조를 다루고, 정교한 이분 매칭 손실 가중치를 조정하며, 상당한 메모리 오버헤드를 관리해야 하는 경우가 많습니다.
Ultralytics는 개발자 경험에 중점을 둡니다. 통합 Python API는 상용구 코드를 없애고, Weights & Biases와 같은 도구를 실험 추적에 통합하며, 데이터 증강을 자동으로 처리합니다.
ultralytics 패키지를 사용해 모델을 학습하고 내보내는 방법은 다음과 같이 간단합니다.
from ultralytics import YOLO
# 사전 학습 가중치로 YOLO11 모델 초기화
model = YOLO("yolo11n.pt")
# 로컬 GPU 또는 클라우드 인스턴스에서 모델을 효율적으로 학습
train_results = model.train(
data="coco8.yaml",
epochs=100,
imgsz=640,
device=0, # CUDA GPU를 사용합니다
)
# 폭넓은 배포를 위해 학습된 모델을 ONNX로 내보내기
export_path = model.export(format="onnx")학습이 끝난 YOLO11 모델은 ONNX, OpenVINO, CoreML과 같은 형식으로 단일 명령을 사용해 내보낼 수 있으므로, 동일한 모델을 다양한 하드웨어 백엔드에서 실행할 수 있습니다.
RTDETRv2는 경계 상자 탐지만 지원하지만, YOLO11은 인스턴스 분할, 이미지 분류, 자세 추정, OBB 탐지도 지원하므로 여러 비전 작업을 단일 모델 계열로 통합할 수 있습니다.
사용 사례 및 권장 사항#
YOLO11과 RT-DETR 중 어느 것을 선택할지는 구체적인 프로젝트 요구 사항, 배포 제약, 선호하는 생태계에 따라 달라집니다.
YOLO11을 선택해야 하는 경우#
YOLO11은 다음과 같은 경우에 적합합니다.
- 프로덕션 엣지 배포: 안정성과 지속적인 유지 관리가 가장 중요한 Raspberry Pi 또는 NVIDIA Jetson과 같은 디바이스에서 상용 애플리케이션을 실행하는 경우입니다.
- 멀티태스크 비전 애플리케이션: 단일 통합 프레임워크에서 탐지, 분할, 분류, 포즈 추정, OBB가 필요한 프로젝트입니다.
- 신속한 프로토타이핑 및 배포: 간소화된 Ultralytics Python API를 사용하여 데이터 수집부터 프로덕션 배포까지 빠르게 진행해야 하는 팀에 적합합니다.
RT-DETR을 선택해야 하는 경우#
다음과 같은 경우 RT-DETR을 권장합니다.
- Transformer 기반 탐지 연구: NMS를 사용하지 않는 엔드투엔드 객체 탐지를 위해 어텐션 메커니즘과 Transformer 아키텍처를 연구하는 프로젝트입니다.
- 지연 시간 제약이 유연한 고정확도 시나리오: 탐지 정확성이 최우선이며 추론 지연 시간이 약간 높아도 괜찮은 애플리케이션입니다.
- 대형 객체 탐지: 주로 중대형 객체가 있는 장면으로, Transformer의 전역 어텐션 메커니즘이 자연스러운 이점을 제공하는 경우입니다.
Ultralytics(YOLO26)를 선택해야 하는 경우#
대부분의 신규 프로젝트에는 성능과 개발자 경험을 가장 잘 조합한 Ultralytics YOLO26을 권장합니다.
- NMS가 필요 없는 엣지 배포: 비최대 억제 후처리의 복잡성 없이 일관된 저지연 추론이 필요한 애플리케이션입니다.
- CPU 전용 환경: 전용 GPU 가속 기능이 없는 장치에서는 YOLO26의 최대 43% 빠른 CPU 추론(YOLO26n 대 YOLO11n)이 결정적인 이점을 제공합니다.
- 작은 객체 탐지: 항공 드론 이미지 분석이나 IoT 센서 분석과 같이 ProgLoss와 STAL이 작은 객체의 정확도를 높이는 까다로운 시나리오입니다.
앞으로의 전망: YOLO26의 강력한 성능#
YOLO11은 여전히 프로덕션에서 신뢰할 수 있는 선택이지만, 새 프로젝트는 YOLO26으로 시작하는 것이 좋습니다. 2026년 1월에 출시된 YOLO26은 선택적 엔드투엔드 NMS 프리 헤드(nms=False)를 통해 Transformer와의 아키텍처 격차를 좁힙니다. 이 설계는 YOLOv10이 YOLO 모델에 도입했으며, NMS 후처리 지연을 없애고 배포 로직을 단순화합니다.
YOLO26에는 다음과 같은 변경 사항도 추가되었습니다.
- MuSGD 옵티마이저: Moonshot AI의 Kimi K2에서 사용한 대규모 언어 모델(LLM) 학습 기법에서 영감을 받은 이 SGD와 Muon의 하이브리드는 더욱 안정적인 학습과 빠른 수렴을 제공합니다.
- DFL 제거: Distribution Focal Loss를 제거하면 export가 간소화되고 저전력 엣지 디바이스와의 호환성이 향상됩니다.
- ProgLoss + STAL: Progressive Loss와 Small-Target-Aware Label Assignment (STAL)은 소형 객체 인식 성능을 향상하며, 이는 드론 감시, 농업 모니터링, IoT 엣지 센서의 핵심 요구사항입니다.
- 최대 43% 빠른 CPU 추론: 전용 GPU가 없는 배포 환경에서 YOLO26n은 CPU에서 YOLO11n보다 최대 43% 빠르게 실행됩니다.
더 다양한 아키텍처를 확인하려면 널리 사용되는 YOLOv8, YOLOv5, 개방형 어휘 탐지를 위한 YOLO-World와 같은 특화 모델을 살펴보세요. 검증된 안정성을 갖춘 YOLO11을 선택하든 최신 YOLO26을 선택하든, Ultralytics 생태계는 컴퓨터 비전 프로젝트를 프로덕션 환경에 적용하는 데 필요한 도구를 제공합니다.
댓글
질문을 하거나 결과를 공유하거나 다른 사람을 도와주세요.