RTDETRv2와 YOLO11#
컴퓨터 비전 분야는 끊임없이 발전하고 있으며, 새로운 아키텍처는 엣지 디바이스와 클라우드 서버에서 가능한 범위를 넓히고 있습니다. 현재 실시간 객체 감지 분야의 대표적인 두 모델은 RTDETRv2와 YOLO11입니다. 두 모델 모두 뛰어난 성능을 제공하지만, 근본적으로 다른 아키텍처 철학을 나타냅니다. 하나는 Transformer 기반 접근 방식이고, 다른 하나는 고도로 최적화된 합성곱 신경망(CNN)입니다.
이 종합적인 기술 비교에서는 두 모델의 아키텍처, 성능 지표, 학습 방법론, 이상적인 활용 사례를 살펴보고, 다음 인공지능 애플리케이션을 위한 현명한 결정을 내릴 수 있도록 돕습니다.
RTDETRv2: Transformer 기반 도전자#
기존 Real-Time Detection Transformer의 발전형으로 소개된 RTDETRv2는 어텐션 메커니즘을 활용해 시각 데이터를 처리합니다. 이미지 패치를 시퀀스로 취급하여 이미지 맥락을 전역적으로 이해하므로, 복잡한 장면에서 서로 크게 겹치는 객체를 감지하는 데 매우 유용합니다.
모델 세부 정보:
- 저자: Wenyu Lv, Yian Zhao, Qinyao Chang, Kui Huang, Guanzhong Wang, Yi Liu
- 기관: Baidu
- 날짜: 2024-07-24
- Arxiv: 2407.17140
- GitHub: RT-DETR 저장소
- 문서: RTDETRv2 문서
아키텍처의 강점과 약점#
RTDETRv2의 핵심 혁신은 종단 간 NMS 프리 아키텍처입니다. 비최대 억제(NMS)를 제거하여 후처리 파이프라인을 간소화합니다. 또한 다중 스케일 특징 추출 기능이 기존 RT-DETR 모델보다 향상되어 다양한 크기의 객체를 더 잘 식별할 수 있습니다.
하지만 Transformer에 의존하기 때문에 RTDETRv2는 일반적으로 학습 중 메모리 요구량이 훨씬 큽니다. Transformer는 대체로 수렴 속도가 느리고 기존 CNN보다 훨씬 많은 CUDA 메모리가 필요하므로, 일반 소비자용 하드웨어를 사용하는 연구자나 리소스가 제한된 엣지 AI 환경에 배포하는 사용자에게는 접근성이 떨어집니다.
Ultralytics YOLO11: CNN 효율성의 정점#
수년간 축적된 기초 연구를 바탕으로 Ultralytics는 YOLO 계보의 획기적인 도약을 이룬 YOLO11을 출시했습니다. CNN 아키텍처를 개선해 전례 없는 속도와 정확도를 달성하는 동시에, 커뮤니티가 기대해 온 유연성과 개발자 친화적인 생태계를 유지합니다.
모델 세부 정보:
- 저자: Glenn Jocher 및 Jing Qiu
- 조직: Ultralytics
- 날짜: 2024년 9월 27일
- GitHub: Ultralytics 저장소
Ultralytics의 강점#
YOLO11은 성능 균형이 돋보입니다. 속도와 정확도 사이에서 탁월한 균형을 이루어 대규모 클라우드 컴퓨팅 클러스터부터 경량 모바일 디바이스까지 다양한 실제 배포 시나리오에 매우 유연하게 적용할 수 있습니다.
또한 Ultralytics YOLO 모델은 학습 및 추론 중 메모리 사용량이 적은 것으로 잘 알려져 있습니다. VRAM을 쉽게 소진할 수 있는 Transformer 모델과 달리 YOLO11은 일반 GPU에서 더 큰 배치 크기를 사용할 수 있습니다. 아울러 YOLO11은 단순한 객체 감지에 국한되지 않습니다. 인스턴스 분할, 이미지 분류, 자세 추정, 회전 경계 상자(OBB)를 기본 지원하는 뛰어난 범용성을 자랑합니다.
성능 및 지표 비교#
실제 수치를 비교하면 RTDETRv2가 인상적인 정확도를 제공하는 반면, YOLO11은 훨씬 세분화된 모델 크기 선택지를 제공하고 특히 TensorRT에서 더 빠른 추론 속도를 제공한다는 점이 분명해집니다.
| 모델 | 크기 (픽셀) | mAP검증 50-95 | 속도 CPU ONNX (ms) | 속도 T4 TensorRT10 (ms) | 파라미터 (M) | FLOPs (B) |
|---|---|---|---|---|---|---|
| RTDETRv2-s | 640 | 48.1 | - | 5.03 | 20 | 60 |
| RTDETRv2-m | 640 | 51.9 | - | 7.51 | 36 | 100 |
| RTDETRv2-l | 640 | 53.4 | - | 9.76 | 42 | 136 |
| RTDETRv2-x | 640 | 54.3 | - | 15.03 | 76 | 259 |
| YOLO11n | 640 | 39.5 | 56.1 | 1.5 | 2.6 | 6.5 |
| YOLO11s | 640 | 47.0 | 90.0 | 2.5 | 9.4 | 21.6 |
| YOLO11m | 640 | 51.5 | 183.2 | 4.7 | 20.1 | 68.1 |
| YOLO11l | 640 | 53.4 | 238.6 | 6.2 | 25.3 | 87.2 |
| YOLO11x | 640 | 54.7 | 462.8 | 11.3 | 56.9 | 195.3 |
표에서 보듯 YOLO11x 모델은 RTDETRv2-x 변형보다 적은 FLOPs(195.3B 대 259B)를 사용하면서 더 높은 mAPval 54.7%를 달성하고 TensorRT에서 더 빠른 추론 속도(11.3ms 대 15.03ms)를 제공합니다. YOLO11 nano 및 small 변형은 Raspberry Pi와 같이 제약이 있는 디바이스에 탁월한 경량 옵션을 제공합니다.
생태계, 사용 편의성, 학습#
Ultralytics 모델의 특징은 간소화된 사용자 경험입니다. ultralytics Python 패키지는 데이터 증강, 분산 학습, 모델 내보내기 같은 복잡한 작업을 처리하는 통합형의 직관적인 API를 제공합니다. RTDETRv2의 연구용 리포지토리에는 상당한 양의 상용구 코드와 구성이 필요하지만, Ultralytics는 "초보자에서 전문가까지" 이어지는 파이프라인을 제공합니다.
흥미롭게도 Ultralytics 생태계는 매우 견고하여 RT-DETR 모델과 YOLO 모델을 기본적으로 함께 실행할 수 있습니다! 이를 통해 Ultralytics의 잘 관리되는 생태계를 활용하고, Weights & Biases 및 Comet ML과의 통합 기능을 사용하여 실험을 손쉽게 추적할 수 있습니다.
from ultralytics import RTDETR, YOLO
# Ultralytics API를 통해 RTDETR 모델을 원활하게 로드
model_rtdetr = RTDETR("rtdetr-l.pt")
# 고도로 최적화된 YOLO11 모델 로드
model_yolo = YOLO("yolo11n.pt")
# 메모리를 매우 효율적으로 사용하여 YOLO11 학습
results = model_yolo.train(data="coco8.yaml", epochs=100, imgsz=640)
# 학습된 YOLO 모델을 ONNX 형식으로 내보내기
model_yolo.export(format="onnx")머신러닝에서는 학습 효율성이 무엇보다 중요합니다. Ultralytics 모델은 빠르게 수렴하는 사전 학습 가중치를 사용합니다. 코드를 작성하지 않고 데이터 세트, 학습 실행, 배포 엔드포인트를 관리하려면 통합 MLOps 경험을 제공하는 Ultralytics Platform을 살펴보세요.
실제 애플리케이션#
이러한 아키텍처 중 무엇을 선택할지는 프로젝트의 구체적인 배포 제약 조건에 따라 결정되는 경우가 많습니다.
RTDETRv2가 뛰어난 분야: RTDETRv2의 Transformer 백본은 전역적인 맥락 이해가 필요한 조밀하고 가림이 심한 객체가 있는 시나리오에서 매우 효과적입니다. 계산 예산보다 순수한 어텐션 기반 관계 매핑이 더 중요한 학술 연구와 애플리케이션에서 자주 평가됩니다.
YOLO11이 우위를 보이는 분야: YOLO11은 실용적인 실제 배포 분야에서 독보적인 모델입니다. 최소한의 메모리 사용량과 매우 빠른 추론 속도를 바탕으로 다음과 같은 분야에 적합합니다:
- 스마트 제조: 산업용 PC를 사용해 생산 라인에서 실시간 결함 감지를 수행합니다.
- 농업: 드론에 배포해 작물 상태를 실시간으로 모니터링하고 수확 로봇을 자동화합니다.
- 리테일 분석: 대규모 서버 팜 없이 여러 카메라 스트림을 동시에 처리해 대기열 관리와 재고 추적을 수행합니다.
사용 사례 및 권장 사항#
RT-DETR과 YOLO11 중 무엇을 선택할지는 구체적인 프로젝트 요구 사항, 배포 제약 조건, 선호하는 생태계에 따라 달라집니다.
RT-DETR을 선택해야 하는 경우#
RT-DETR은 다음과 같은 경우에 적합합니다:
- Transformer 기반 탐지 연구: NMS를 사용하지 않는 엔드투엔드 객체 탐지를 위해 어텐션 메커니즘과 Transformer 아키텍처를 연구하는 프로젝트입니다.
- 지연 시간 제약이 유연한 고정확도 시나리오: 탐지 정확성이 최우선이며 추론 지연 시간이 약간 높아도 괜찮은 애플리케이션입니다.
- 대형 객체 탐지: 주로 중대형 객체가 있는 장면으로, Transformer의 전역 어텐션 메커니즘이 자연스러운 이점을 제공하는 경우입니다.
YOLO11을 선택해야 하는 경우#
YOLO11은 다음과 같은 경우에 권장됩니다:
- 프로덕션 엣지 배포: 안정성과 지속적인 유지 관리가 가장 중요한 Raspberry Pi 또는 NVIDIA Jetson과 같은 디바이스에서 상용 애플리케이션을 실행하는 경우입니다.
- 멀티태스크 비전 애플리케이션: 하나의 통합 프레임워크에서 감지, 분할, 자세 추정, OBB가 필요한 프로젝트입니다.
- 신속한 프로토타이핑 및 배포: 간소화된 Ultralytics Python API를 사용하여 데이터 수집부터 프로덕션 배포까지 빠르게 진행해야 하는 팀에 적합합니다.
Ultralytics(YOLO26)를 선택해야 하는 경우#
대부분의 신규 프로젝트에는 성능과 개발자 경험을 가장 잘 조합한 Ultralytics YOLO26을 권장합니다.
- NMS가 필요 없는 엣지 배포: 비최대 억제 후처리의 복잡성 없이 일관된 저지연 추론이 필요한 애플리케이션입니다.
- CPU 전용 환경: 전용 GPU 가속 기능이 없는 디바이스에서 YOLO26의 최대 43% 빠른 CPU 추론은 결정적인 이점을 제공합니다.
- 작은 객체 탐지: 항공 드론 이미지나 IoT 센서 분석과 같이 작은 객체의 정확도를 ProgLoss와 STAL이 크게 높여 주는 까다로운 시나리오입니다.
향후 전망: YOLO26의 등장#
새 프로젝트를 시작한다면 차세대 비전 AI인 Ultralytics YOLO26도 고려해야 합니다. 2026년 1월에 출시된 YOLO26은 두 가지 접근 방식의 장점을 결합합니다. RTDETRv2처럼 NMS 후처리를 제거하는 선택형 종단 간 NMS 프리 헤드(nms=False)를 도입했으며, 이 방식은 YOLOv10에서 처음 선보였습니다. 여기에 CNN의 탁월한 속도까지 제공합니다.
YOLO26은 LLM 학습 혁신에서 영감을 얻은 MuSGD Optimizer를 탑재해 매우 안정적이고 빠른 수렴을 지원하며, Distribution Focal Loss(DFL)를 제거하여 CPU 추론 속도를 최대 43% 향상합니다. 또한 특화된 ProgLoss + STAL 손실 함수가 소형 객체 인식 성능을 크게 개선하므로, YOLO26은 모든 최신 컴퓨터 비전 파이프라인에 적합한 최고의 선택입니다.
검증된 범용성을 위해 YOLO11을 선택하든, 어텐션 메커니즘을 위해 RTDETRv2를 선택하든, 최상의 엣지 성능을 위해 최신 YOLO26을 선택하든, Ultralytics 문서에는 컴퓨터 비전 여정의 성공에 필요한 모든 리소스가 마련되어 있습니다.