YOLO11 vs RTDETRv2: CNN과 Vision Transformer의 진화 비교
컴퓨터 비전 분야는 빠르게 확장되고 있으며, 개발자에게 강력한 비전 기반 애플리케이션을 구축하기 위한 수많은 선택지를 제공합니다. 실시간 객체 탐지 영역에서는 Convolutional Neural Networks(CNN)와 Vision Transformers(ViT) 간의 논쟁이 그 어느 때보다 뜨겁습니다. 본 기술 비교에서는 고도로 최적화된 CNN 프레임워크의 정점인 YOLO11과 Detection Transformer 제품군의 강력한 버전인 RTDETRv2, 두 가지 주요 아키텍처를 심도 있게 다룹니다.
이 가이드는 아키텍처, 성능 지표, 이상적인 배포 시나리오를 분석하여 머신러닝 엔지니어가 정보에 입각한 의사결정을 내릴 수 있도록 돕습니다. 두 모델 모두 정확도의 한계를 뛰어넘지만, Ultralytics YOLO 모델은 일반적으로 실제 프로덕션 환경에서 속도, 생태계 지원 및 사용 편의성 간의 탁월한 균형을 제공합니다.
YOLO11: 실제 환경의 범용성을 위한 벤치마크
Ultralytics에서 선보인 YOLO11은 다년간의 기초 연구를 바탕으로 구축되어 빠르고 정확하며 매우 범용적인 모델을 제공합니다. 이 모델은 객체 탐지, 인스턴스 세그멘테이션, 이미지 분류, 자세 추정 및 지향성 경계 상자(OBB) 추출을 기본적으로 원활하게 처리하도록 설계되었습니다.
- 저자: Glenn Jocher 및 Jing Qiu
- 조직: Ultralytics
- 날짜: 2024-09-27
- GitHub: Ultralytics 저장소
- 문서: YOLO11 문서
아키텍처 및 강점
YOLO11은 개선된 CNN 백본과 고급 공간 특징 피라미드를 특징으로 하여 리소스 효율성이 매우 뛰어납니다. 하드웨어 제약이 엄격한 환경에서도 성능을 발휘하며 학습 및 추론 과정에서 최소한의 메모리 점유율을 유지합니다. Ultralytics Platform은 YOLO11에 대한 기본 지원을 제공하여 다양한 MLOps 도구를 조합할 필요 없이 모델 모니터링, 데이터 주석 작업 및 클라우드 학습을 간소화할 수 있습니다.
엣지 컴퓨팅을 타겟팅하는 개발자를 위해 YOLO11은 초저지연 시간을 자랑합니다. 가벼운 특성 덕분에 Raspberry Pi부터 소비자용 모바일 기기에 이르기까지 다양한 장치에서 효율적으로 실행되며, 스마트 리테일, 제조 품질 관리 및 자동화된 교통 관리 분야의 표준으로 자리 잡았습니다.
RTDETRv2: Baidu의 실시간 Transformer
RTDETRv2(Real-Time Detection Transformer version 2)는 Transformer 기반 아키텍처를 실시간 작업에 적합하게 만들려는 Baidu의 노력을 나타냅니다. 이 모델은 기존 RT-DETR을 기반으로 'bag-of-freebies' 방식을 도입하여 추론 지연 시간을 늘리지 않으면서 기본 정확도를 개선했습니다.
- 저자: Wenyu Lv, Yian Zhao, Qinyao Chang, Kui Huang, Guanzhong Wang 및 Yi Liu
- 조직: Baidu
- 날짜: 2024-07-24
- Arxiv: 2407.17140
- GitHub: RT-DETRv2 저장소
- 문서: RTDETRv2 README
아키텍처 및 강점
기존 CNN과 달리 RTDETRv2는 셀프 어텐션 메커니즘을 갖춘 인코더-디코더 아키텍처를 사용하여 이미지 전체의 글로벌 컨텍스트를 포착할 수 있습니다. 이는 가림(occlusion)이 빈번한 복잡한 장면에서 특히 유리합니다. RTDETRv2는 사후 처리 과정에서 Non-Maximum Suppression(NMS)이 필요 없으며, 대신 학습 중 Hungarian 매칭을 사용하여 일대일 이분 매칭을 수행합니다.
그러나 Transformer 모델은 VRAM 및 CUDA 메모리를 많이 사용하는 것으로 알려져 있습니다. RTDETRv2를 처음부터 학습하거나 커스텀 데이터셋으로 미세 조정하려면 대규모 고성능 GPU 클러스터가 필요한 경우가 많으며, 이는 Ultralytics 모델의 가벼운 학습 부담과 비교했을 때 소규모 애자일 팀에게는 진입 장벽이 될 수 있습니다.
성능 및 지표 분석
표준 COCO 데이터셋에서 이러한 모델을 평가할 때 매개변수, FLOPs 및 원시 정확도 사이의 명확한 상충 관계(trade-off)를 확인할 수 있습니다.
| 모델 | 크기 (픽셀) | mAPval 50-95 | 속도 CPU ONNX (ms) | 속도 T4 TensorRT10 (ms) | 파라미터 (M) | FLOPs (B) |
|---|---|---|---|---|---|---|
| YOLO11n | 640 | 39.5 | 56.1 | 1.5 | 2.6 | 6.5 |
| YOLO11s | 640 | 47.0 | 90.0 | 2.5 | 9.4 | 21.5 |
| YOLO11m | 640 | 51.5 | 183.2 | 4.7 | 20.1 | 68.0 |
| YOLO11l | 640 | 53.4 | 238.6 | 6.2 | 25.3 | 86.9 |
| YOLO11x | 640 | 54.7 | 462.8 | 11.3 | 56.9 | 194.9 |
| RTDETRv2-s | 640 | 48.1 | - | 5.03 | 20 | 60 |
| RTDETRv2-m | 640 | 51.9 | - | 7.51 | 36 | 100 |
| RTDETRv2-l | 640 | 53.4 | - | 9.76 | 42 | 136 |
| RTDETRv2-x | 640 | 54.3 | - | 15.03 | 76 | 259 |
결과 분석
표에서 볼 수 있듯이, YOLO11은 놀라운 성능 대 크기 비율을 제공합니다. YOLO11x는 RTDETRv2-x(54.3)보다 높은 mAPval(54.7)을 달성하면서도 훨씬 적은 매개변수(56.9M vs 76M)와 훨씬 적은 연산 FLOPs(194.9B vs 259B)를 사용합니다.
또한 T4 TensorRT에서 YOLO11의 추론 속도는 매우 빠릅니다. YOLO11s는 단 2.5ms 만에 추론을 완료하는 반면, 가장 작은 RTDETRv2-s는 5.03ms가 소요됩니다. 이로 인해 YOLO11은 프레임 처리 시간이 주요 병목 현상인 고속 실시간 영상 분석 스트림에 최적의 선택입니다.
RTDETRv2는 어텐션 레이어를 통해 뛰어난 정확도를 달성하지만, 이러한 메커니즘은 이미지 해상도에 따라 2차 함수적으로 확장되므로 학습 및 추론 모두에서 VRAM 소비가 증가합니다. YOLO11은 매우 효율적인 합성곱 블록을 통해 이를 회피합니다.
학습 생태계 및 사용 편의성
Ultralytics 모델 도입의 핵심 장점은 주변 생태계에 있습니다. RTDETRv2를 학습하려면 복잡한 연구 수준의 저장소를 탐색하고, 정교한 이분 매칭 손실 가중치를 조정하며, 상당한 메모리 오버헤드를 관리해야 하는 경우가 많습니다.
반면, Ultralytics는 개발자 경험에 크게 집중합니다. 통합된 Python API는 상용구 코드를 추상화하고, Weights & Biases와 같은 도구와 원활하게 통합되어 실험 추적을 지원하며 데이터 증강을 자동으로 처리합니다.
ultralytics 패키지를 사용하여 모델을 학습하고 내보내는 방법은 다음과 같이 간단합니다:
from ultralytics import YOLO
# Initialize YOLO11 model with pre-trained weights
model = YOLO("yolo11n.pt")
# Train the model efficiently on a local GPU or cloud instance
train_results = model.train(
data="coco8.yaml",
epochs=100,
imgsz=640,
device=0, # Utilize CUDA GPU
)
# Export the trained model to ONNX for widespread deployment
export_path = model.export(format="onnx")학습이 완료되면 YOLO11 모델을 ONNX, OpenVINO 또는 CoreML과 같은 형식으로 내보내는 데 단일 명령만 필요하므로, 비전 파이프라인이 다양한 하드웨어 백엔드에서 쉽게 확장될 수 있습니다.
RTDETRv2는 경계 상자 탐지에만 집중하는 반면, YOLO11 아키텍처는 자세 추정 및 인스턴스 세그멘테이션을 기본적으로 지원하므로 여러 비전 작업을 단일 모델 제품군으로 통합할 수 있다는 점을 기억하십시오.
사용 사례 및 권장 사항
YOLO11과 RT-DETR 중 선택은 특정 프로젝트 요구 사항, 배포 제약 조건 및 생태계 선호도에 따라 달라집니다.
YOLO11을 선택해야 할 때
YOLO11은 다음과 같은 경우에 강력한 선택입니다:
- 프로덕션 엣지 배포: 신뢰성과 활발한 유지 관리가 무엇보다 중요한 Raspberry Pi 또는 NVIDIA Jetson과 같은 디바이스에서의 상용 애플리케이션.
- 다중 작업 비전 애플리케이션: 단일 통합 프레임워크 내에서 탐지, 세그멘테이션, 포즈 추정, OBB 작업이 필요한 프로젝트.
- 신속한 프로토타이핑 및 배포: 간소화된 Ultralytics Python API를 사용하여 데이터 수집에서 프로덕션 단계로 빠르게 전환해야 하는 팀.
RT-DETR을 선택해야 할 시기
RT-DETR은 다음에 권장됩니다:
- Transformer 기반 탐지 연구: NMS 없이 엔드 투 엔드 객체 탐지를 위해 어텐션 메커니즘과 Transformer 아키텍처를 탐구하는 프로젝트.
- 유연한 지연 시간을 가진 고정밀 시나리오: 탐지 정확도가 최우선이며 약간 더 높은 추론 지연 시간이 허용되는 응용 프로그램.
- 대형 객체 탐지: Transformer의 전역 어텐션 메커니즘이 자연스러운 이점을 제공하는, 중대형 객체가 주로 나타나는 장면.
Ultralytics(YOLO26)를 선택해야 할 때
대부분의 신규 프로젝트에서 Ultralytics YOLO26은 성능과 개발자 경험의 최적의 조합을 제공합니다:
- NMS-free 엣지 배포: Non-Maximum Suppression 후처리의 복잡성 없이 일관되고 낮은 지연 시간의 추론이 필요한 애플리케이션.
- CPU 전용 환경: 전용 GPU 가속기가 없는 장치에서 YOLO26의 최대 43% 더 빠른 CPU 추론 속도가 결정적인 이점을 제공합니다.
- 소형 객체 탐지: 항공 드론 이미지나 IoT 센서 분석과 같은 도전적인 시나리오에서 ProgLoss와 STAL이 작은 객체에 대한 정확도를 크게 향상시킵니다.
향후 전망: YOLO26의 강력함
While YOLO11 stands as an excellent production choice, teams looking for the absolute cutting-edge should strongly consider YOLO26. Released in January 2026, YOLO26 bridges the architectural gap by incorporating an End-to-End NMS-Free Design (first pioneered in YOLOv10) directly into its core, eliminating post-processing latency and deployment logic complexity entirely.
YOLO26은 또한 몇 가지 혁신적인 기능을 도입했습니다:
- MuSGD 옵티마이저: Moonshot AI의 Kimi K2의 LLM 학습 기술에서 영감을 받은 이 SGD와 Muon의 하이브리드는 매우 안정적인 학습과 훨씬 빠른 수렴 속도를 보장합니다.
- DFL 제거: 더 깔끔하고 간소화된 내보내기 프로세스를 위해 Distribution Focal Loss가 제거되어 저전력 엣지 장치 호환성이 크게 향상되었습니다.
- ProgLoss + STAL: 이러한 고급 손실 함수는 드론 감시, 농업 모니터링 및 IoT 엣지 센서에 필수적인 요구 사항인 소형 객체 인식에서 눈에 띄는 개선을 가져옵니다.
- 최대 43% 더 빠른 CPU 추론: 전용 GPU가 없는 배포 환경을 위해 YOLO26은 CPU 실행에 맞게 특별히 최적화되었으며, 이전 세대보다 훨씬 뛰어난 성능을 발휘합니다.
더 넓은 범위의 아키텍처 탐색에 관심이 있는 분들을 위해 Ultralytics 문서에서는 YOLOv8, 널리 채택된 YOLOv5 및 오픈 어휘 탐지 애플리케이션을 위한 YOLO-World와 같은 특수 모델에 대한 통찰력을 제공합니다. 결론적으로 YOLO11의 검증된 안정성을 우선시하든 YOLO26의 획기적인 혁신을 우선시하든, Ultralytics 생태계는 귀하의 컴퓨터 비전 솔루션을 실현하기 위한 타의 추종을 불허하는 도구를 제공합니다.