YOLOX와 RTDETRv2 비교
컴퓨터 비전 애플리케이션에 적합한 아키텍처를 선택하려면 정확도, 추론 속도, 배포 가능성 간의 균형을 신중히 고려해야 합니다. 이 기술 분석에서는 널리 사용되는 앵커 프리 CNN 아키텍처인 YOLOX와 실시간 탐지 Transformer인 RTDETRv2의 주요 차이를 살펴봅니다.
두 모델 모두 객체 탐지 분야에 크게 기여했지만, 프로덕션에 바로 사용할 수 있는 애플리케이션을 개발하는 경우에는 Ultralytics YOLO26과 같은 최신 대안이 더 높은 학습 효율성, 더 낮은 메모리 요구량, 더 성숙한 배포 생태계를 제공하는 경우가 많습니다.
YOLOX: 연구와 산업의 격차 해소#
YOLOX는 YOLO 시리즈의 인기 있는 앵커 프리 변형 모델로 등장했으며, 출시 당시 주목할 만한 성능 향상을 제공하는 간소화된 설계를 도입했습니다.
- 저자: Zheng Ge, Songtao Liu, Feng Wang, Zeming Li, Jian Sun
- 조직: Megvii
- 날짜: 2021년 7월 18일
- 링크: arXiv, GitHub, 문서
아키텍처 혁신#
YOLOX는 분리형 헤드와 SimOTA 레이블 할당 전략을 통합하여 YOLO 제품군에 앵커 프리 패러다임을 도입했습니다. 앵커 박스를 없애 아키텍처의 설계 매개변수 수를 크게 줄이고 다양한 벤치마크 데이터셋에서 일반화 성능을 향상했습니다. 경량 버전인 YOLOX-Nano와 YOLOX-Tiny는 엣지 디바이스에서 비전 AI 애플리케이션을 배포할 때 널리 선택되었습니다.
YOLOX는 주목할 만한 발전을 이루었지만, 기존 비최대 억제(NMS) 후처리에 의존하므로 네이티브 엔드투엔드 모델보다 지연 시간이 길어질 수 있습니다.
RTDETRv2: 실시간 비전 Transformer의 발전#
이전 모델인 RT-DETR를 기반으로 하는 RTDETRv2는 Vision Transformers(ViTs)를 사용해 실시간 추론 속도를 유지하면서 경쟁력 있는 정확도를 달성합니다.
- 저자: Wenyu Lv, Yian Zhao, Qinyao Chang, Kui Huang, Guanzhong Wang, Yi Liu
- 기관: Baidu
- 날짜: 2024-07-24
- 링크: arXiv, GitHub
아키텍처 혁신#
RTDETRv2는 Transformer 기반 아키텍처를 적용해 탐지 파이프라인을 새롭게 설계하고 NMS를 네이티브 방식으로 우회합니다. 하이브리드 인코더와 IoU 인식 쿼리 선택을 통해 객체 쿼리의 초기화를 개선합니다. 이 모델은 멀티스케일 특징을 효과적으로 처리하므로 야간 교통 영상 탐지와 같이 복잡한 환경에서 세밀한 특징을 포착할 수 있습니다.
그러나 Transformer는 리소스 사용량이 많습니다. RTDETRv2 학습에는 일반적으로 CNN 기반 대안보다 훨씬 많은 GPU 메모리와 연산 시간이 필요하므로, 엄격한 예산 제약 안에서 운영하거나 모델 튜닝을 자주 해야 하는 팀에는 부담이 될 수 있습니다.
성능 비교 표#
이러한 아키텍처를 객관적으로 평가하기 위해 COCO 데이터셋에서의 성능을 살펴봅니다. 아래 표는 정확도(mAP), 매개변수 수, 계산 복잡도 간의 절충점을 보여줍니다.
| 모델 | 크기 (픽셀) | mAPval50-95 | 속도 CPU ONNX (ms) | 속도 T4 TensorRT10 (ms) | 파라미터 (M) | FLOPs (B) |
|---|---|---|---|---|---|---|
| YOLOXnano | 416 | 25.8 | - | - | 0.91 | 1.08 |
| YOLOXtiny | 416 | 32.8 | - | - | 5.06 | 6.45 |
| YOLOXs | 640 | 40.5 | - | 2.56 | 9.0 | 26.8 |
| YOLOXm | 640 | 46.9 | - | 5.43 | 25.3 | 73.8 |
| YOLOXl | 640 | 49.7 | - | 9.04 | 54.2 | 155.6 |
| YOLOXx | 640 | 51.1 | - | 16.1 | 99.1 | 281.9 |
| RTDETRv2-s | 640 | 48.1 | - | 5.03 | 20 | 60 |
| RTDETRv2-m | 640 | 51.9 | - | 7.51 | 36 | 100 |
| RTDETRv2-l | 640 | 53.4 | - | 9.76 | 42 | 136 |
| RTDETRv2-x | 640 | 54.3 | - | 15.03 | 76 | 259 |
RTDETRv2는 비슷한 지연 시간에서 더 높은 정확도를 달성합니다(예: RTDETRv2-x는 15.03ms에 54.3 mAP, YOLOXx는 16.1ms에 51.1 mAP). 반면 YOLOX는 경량 파라미터 구성에서 우위를 유지하며, 특히 Nano 및 Tiny 변형 모델이 강점입니다.
사용 사례 및 권장 사항#
YOLOX와 RT-DETR 중 어떤 모델을 선택할지는 구체적인 프로젝트 요구 사항, 배포 제약, 선호하는 생태계에 따라 달라집니다.
YOLOX를 선택해야 하는 경우#
YOLOX는 다음과 같은 경우에 적합합니다.
- 앵커 프리 탐지 연구: 새로운 탐지 헤드나 손실 함수를 실험하기 위한 기준 모델로 YOLOX의 간결한 앵커 프리 아키텍처를 사용하는 학술 연구입니다.
- 초경량 엣지 장치: YOLOX-Nano 변형의 매우 작은 풋프린트(0.91M 파라미터)가 중요한 마이크로컨트롤러 또는 구형 모바일 하드웨어에 배포하는 경우입니다.
- SimOTA 레이블 할당 연구: 최적 수송 기반 레이블 할당 전략과 해당 전략이 학습 수렴에 미치는 영향을 조사하는 연구 프로젝트입니다.
RT-DETR을 선택해야 하는 경우#
다음과 같은 경우 RT-DETR을 권장합니다.
- Transformer 기반 탐지 연구: NMS를 사용하지 않는 엔드투엔드 객체 탐지를 위해 어텐션 메커니즘과 Transformer 아키텍처를 연구하는 프로젝트입니다.
- 지연 시간 제약이 유연한 고정확도 시나리오: 탐지 정확성이 최우선이며 추론 지연 시간이 약간 높아도 괜찮은 애플리케이션입니다.
- 대형 객체 탐지: 주로 중대형 객체가 있는 장면으로, Transformer의 전역 어텐션 메커니즘이 자연스러운 이점을 제공하는 경우입니다.
Ultralytics(YOLO26)를 선택해야 하는 경우#
대부분의 신규 프로젝트에서 Ultralytics YOLO26은 성능과 개발자 경험의 최적 조합을 제공합니다.
- NMS가 필요 없는 엣지 배포: 비최대 억제 후처리의 복잡성 없이 일관된 저지연 추론이 필요한 애플리케이션입니다.
- CPU 전용 환경: 전용 GPU 가속 기능이 없는 디바이스에서는 YOLO26n의 CPU 추론 속도가 YOLO11n보다 최대 43% 빠르다는 점이 결정적인 이점입니다.
- 소형 객체 탐지: 항공 드론 이미지 분석이나 IoT 센서 분석처럼 어려운 시나리오에서 ProgLoss와 STAL은 작은 객체의 정확도를 향상합니다.
Ultralytics의 강점: YOLO26#
YOLOX와 RTDETRv2는 각각 뚜렷한 강점을 갖고 있지만, 2026년 1월에 출시된 Ultralytics YOLO26은 속도, 정확도, 배포 편의성 간의 오래된 여러 상충 관계를 해결합니다.
1. 엔드투엔드 NMS 프리 아키텍처#
YOLO26은 Transformer 모델에서 영감을 얻으면서도 CNN의 효율성을 유지하며, 선택형 엔드투엔드 NMS-Free 설계(nms=False)를 제공합니다. 후처리 단계로 비최대 억제를 적용하지 않아 배포 파이프라인을 단순화하고, 복잡한 임계값 튜닝 없이 다양한 엣지 디바이스에서 일관된 추론 지연 시간을 보장합니다.
2. 최대 43% 빠른 CPU 추론#
일반적으로 GPU에 의존하는 RTDETRv2와 달리 YOLO26은 엣지 컴퓨팅 환경에 최적화되어 있습니다. Distribution Focal Loss(DFL)를 제거해 모델 내보내기를 간소화했으며, YOLO26n은 YOLO11n보다 CPU 추론 속도가 최대 43% 빠릅니다. 따라서 Raspberry Pi와 같은 하드웨어나 표준 모바일 디바이스에 통합하기에 적합합니다.
3. MuSGD를 활용한 학습 효율성#
Transformer 모델을 학습하면 CUDA 메모리 사용량이 과도해지고 학습 시간이 길어지는 경우가 많습니다. YOLO26은 안정적인 학습과 빠른 수렴을 위해 확률적 경사 하강법과 LLM에서 영감을 얻은 Muon Optimizer를 결합한 MuSGD Optimizer를 도입했습니다. CNN 아키텍처와 결합해 RTDETRv2보다 낮은 학습 하드웨어 사양으로 운영할 수 있습니다.
4. 생태계와 다재다능함#
Ultralytics 생태계는 직관적이고 간소화된 개발자 경험을 제공합니다. 방대한 문서, 활발한 커뮤니티 지원, 클라우드 기반 Ultralytics Platform을 통해 AI 수명 주기 전체를 간편하게 관리할 수 있습니다. YOLO26은 활용 범위도 넓습니다. RTDETRv2가 객체 탐지에 중점을 두는 반면, YOLO26은 인스턴스 분할, 이미지 분류, 자세 추정, 방향성 바운딩 박스(OBB) 작업을 기본적으로 지원합니다. 새로운 ProgLoss + STAL(점진적 손실 및 소형 객체 인식 레이블 할당)을 적용해 소형 객체 탐지도 향상했으며, 이는 항공 영상과 산업 결함 탐지에 중요한 기능입니다.
Ultralytics와의 통합#
모델을 배포하기 위해 복잡하고 분산된 코드베이스를 다룰 필요는 없습니다. Ultralytics Python API를 사용하면 몇 줄의 코드만으로 최첨단 모델을 불러오고, 학습시키고, 내보낼 수 있습니다.
from ultralytics import YOLO
# 엣지 성능을 극대화하기 위해 최신 YOLO26 nano 모델을 불러옵니다
model = YOLO("yolo26n.pt")
# 메모리 오버헤드를 최소화하면서 사용자 지정 데이터셋으로 모델을 학습합니다
results = model.train(data="coco8.yaml", epochs=100, imgsz=640)
# 모델 성능 검증
metrics = model.val()
# 배포용으로 ONNX 또는 TensorRT로 내보내기
model.export(format="onnx")Ultralytics를 활용하면 연구 저장소에서 흔히 접하는 복잡한 환경 설정을 피하고 시장 출시 기간을 단축할 수 있습니다.
결론#
YOLOX와 RTDETRv2는 실시간 객체 탐지 발전 과정에서 중요한 이정표입니다. YOLOX는 효율적인 앵커 프리 CNN의 가능성을 입증했고, RTDETRv2는 Transformer를 실시간 제약에 성공적으로 적용했습니다.
그러나 스마트 소매 분석부터 임베디드 로보틱스까지 현대적인 애플리케이션에는 Ultralytics YOLO26을 권장합니다. NMS-Free 추론, 빠른 CPU 속도, 낮은 메모리 사용량, Ultralytics Platform 지원을 결합한 YOLO26은 개발자가 안정적이고 성능이 뛰어난 컴퓨터 비전 시스템을 구축하도록 돕습니다.
댓글
질문을 하거나 결과를 공유하거나 다른 사람을 도와주세요.