RTDETRv2와 YOLOv6-3.0 비교

객체 감지용 컴퓨터 비전 모델을 선택하는 개발자는 서로 크게 다른 아키텍처 중에서 선택할 수 있습니다. 이 페이지에서는 그중 두 가지, 실시간 감지 Transformer인 RTDETRv2와 산업용으로 최적화된 합성곱 신경망(CNN)인 YOLOv6-3.0을 비교합니다.

두 모델의 아키텍처, 성능 지표, 적합한 배포 시나리오를 살펴보고, Ultralytics 생태계가 개발자에게 제공하는 기능을 설명하며, 새 프로젝트에 권장되는 모델인 Ultralytics YOLO26을 소개합니다.

RTDETRv2: 비전 Transformer 접근법#

Baidu 연구진이 개발한 RTDETRv2는 기존 RT-DETR을 기반으로 하며 Transformer 기반 객체 감지를 개선합니다.

아키텍처 주요 특징#

RTDETRv2는 CNN 특징 추출기와 Transformer 디코더를 결합한 하이브리드 아키텍처를 사용합니다. 대표적인 특징은 네이티브 NMS 없는 설계입니다. 후처리에서 비최대 억제(NMS)를 제거하면 모델이 바운딩 박스를 직접 예측하므로 배포가 간편해지고 추론 지연 시간이 안정됩니다.

RTDETRv2의 "Bag-of-Freebies" 학습 개선 기법은 전역 어텐션과 결합되어 복잡한 장면과 겹치는 객체를 처리하는 데 도움을 줍니다. 어텐션 모델은 지역 합성곱 윈도우 내부가 아니라 이미지 전체의 관계를 모델링하기 때문입니다.

Transformer의 메모리 사용량

Transformer는 복잡한 장면 이해에 뛰어나지만, 일반적으로 학습 중 CNN보다 CUDA 메모리를 더 많이 요구합니다. 이로 인해 일반 소비자용 GPU에서 배치 크기가 제한되고 전체 학습 시간이 늘어날 수 있습니다.

RTDETRv2 자세히 알아보기

YOLOv6-3.0: 산업 처리량 극대화#

Meituan의 Vision AI Department에서 개발된 YOLOv6-3.0은 GPU 처리량을 우선시하는 산업용 파이프라인을 위해 설계되었습니다.

  • 저자: Chuyi Li, Lulu Li, Yifei Geng, Hongliang Jiang, Meng Cheng, Bo Zhang, Zaidan Ke, Xiaoming Xu, Xiangxiang Chu
  • 조직: Meituan
  • 날짜: 2023-01-13
  • arXiv: 2301.05586
  • GitHub: meituan/YOLOv6

아키텍처 중점 사항#

YOLOv6-3.0은 NVIDIA GPU와 같은 하드웨어 가속기에서 메모리 접근 비용을 최소화하도록 설계된 EfficientRep 백본을 사용합니다. 넥 아키텍처에는 다양한 스케일의 특징 융합을 개선하기 위한 양방향 연결(BiC) 모듈이 포함되어 있습니다.

학습 중에는 앵커 기반 패러다임의 이점을 활용하면서 더 빠른 실행을 위해 추론 시에는 앵커가 없는 모드를 유지하는 앵커 보조 학습(AAT) 전략을 사용합니다. 서버급 GPU(T4, A100 등)에서 높은 처리량을 달성하지만, GPU 중심 설계는 CPU만 사용하는 엣지 장치에서 효율성이 떨어질 수 있습니다.

YOLOv6에 대해 자세히 알아보기

성능 비교#

아래 표는 COCO 검증 세트에서 정확도(mAP), 추론 속도, 연산 비용(FLOPs)을 비교합니다.

모델크기
(픽셀)
mAPval50-95속도
CPU ONNX
(ms)
속도
T4 TensorRT10
(ms)
파라미터
(M)
FLOPs
(B)
RTDETRv2-s64048.1-5.032060
RTDETRv2-m64051.9-7.5136100
RTDETRv2-l64053.4-9.7642136
RTDETRv2-x64054.3-15.0376259
YOLOv6-3.0n64037.5-1.174.711.4
YOLOv6-3.0s64045.0-2.6618.545.3
YOLOv6-3.0m64050.0-5.2834.985.8
YOLOv6-3.0l64052.8-8.9559.6150.7

YOLOv6-3.0은 비교 가능한 모든 모델 크기에서 T4 TensorRT 기준 더 빠릅니다(예: 중간 크기 모델의 경우 5.28 ms 대 7.51 ms). 반면 RTDETRv2는 더 높은 mAP를 달성하고(중간 크기에서 51.9 대 50.0, 대형에서 53.4 대 52.8) RTDETRv2-x로 54.3 mAP까지 확장됩니다. 두 모델 모두 감지에 중점을 두며, 기본 릴리스에서는 인스턴스 분할이나 자세 추정을 제공하지 않습니다.

사용 사례 및 권장 사항#

RT-DETR과 YOLOv6 중 어떤 모델을 선택할지는 프로젝트의 구체적인 요구 사항, 배포 제약 조건, 선호하는 생태계에 따라 달라집니다.

RT-DETR을 선택해야 하는 경우#

RT-DETR은 다음과 같은 경우에 적합합니다:

  • Transformer 기반 탐지 연구: NMS를 사용하지 않는 엔드투엔드 객체 탐지를 위해 어텐션 메커니즘과 Transformer 아키텍처를 연구하는 프로젝트입니다.
  • 지연 시간 제약이 유연한 고정확도 시나리오: 탐지 정확성이 최우선이며 추론 지연 시간이 약간 높아도 괜찮은 애플리케이션입니다.
  • 대형 객체 탐지: 주로 중대형 객체가 있는 장면으로, Transformer의 전역 어텐션 메커니즘이 자연스러운 이점을 제공하는 경우입니다.

YOLOv6을 선택할 경우#

다음과 같은 경우 YOLOv6을 권장합니다.

  • 산업용 하드웨어 고려 배포: 모델의 하드웨어 고려 설계와 효율적인 재매개변수화가 특정 대상 하드웨어에서 최적화된 성능을 제공하는 시나리오입니다.
  • 빠른 단일 단계 검출: 통제된 환경에서 실시간 비디오 처리를 위해 GPU에서의 순수 추론 속도를 우선시하는 애플리케이션입니다.
  • Meituan 생태계 통합: 이미 Meituan의 기술 스택 및 배포 인프라를 사용하는 팀입니다.

Ultralytics(YOLO26)를 선택해야 하는 경우#

대부분의 신규 프로젝트에서 Ultralytics YOLO26은 성능과 개발자 경험의 최적 조합을 제공합니다.

  • NMS가 필요 없는 엣지 배포: 비최대 억제 후처리의 복잡성 없이 일관된 저지연 추론이 필요한 애플리케이션입니다.
  • CPU 전용 환경: 전용 GPU 가속 기능이 없는 장치에서는 YOLO26의 최대 43% 빠른 CPU 추론(YOLO26n 대 YOLO11n)이 결정적인 이점을 제공합니다.
  • 작은 객체 탐지: 항공 드론 이미지 분석이나 IoT 센서 분석과 같이 ProgLoss와 STAL이 작은 객체의 정확도를 높이는 까다로운 시나리오입니다.

Ultralytics의 강점#

모델 선택에는 벤치마크 수치뿐 아니라 개발자 경험, 배포 유연성, 생태계 지원도 중요합니다. Ultralytics 생태계에 통합된 모델은 정적인 연구 저장소보다 여러 장점을 제공합니다.

  • 사용 편의성: ultralytics Python 패키지는 간단한 API를 제공합니다. 몇 줄의 코드만으로 모델을 학습하고 검증한 뒤 내보낼 수 있습니다.
  • 잘 관리되는 생태계: 독립적인 학술 저장소와 달리 ultralytics 패키지와 Ultralytics Platform은 활발하게 유지 관리되며 ONNX, OpenVINO, CoreML 등의 형식으로 내보내기를 지원합니다.
  • 학습 효율성: Ultralytics YOLO 모델은 일반적으로 RTDETRv2와 같은 Transformer 아키텍처보다 학습 중 GPU 메모리를 덜 사용하므로 소비자급 하드웨어에서 배치 크기를 늘릴 수 있습니다.
  • 다용도성: 감지에 중점을 둔 YOLOv6-3.0과 달리 YOLO26은 하나의 프레임워크에서 감지, 인스턴스 분할, 시맨틱 분할, 깊이 추정, 이미지 분류, 자세 추정, 방향성 바운딩 박스(OBB)를 지원합니다.
간소화된 배포

Ultralytics CLI를 사용하면 다음 명령을 실행하는 것만으로 학습된 모델을 엣지 배포용으로 간편하게 내보낼 수 있습니다: yolo export model=yolo11n.pt format=tensorrt.

YOLO26 소개#

RTDETRv2와 YOLOv6-3.0은 각각 고유한 강점이 있지만, 새로운 컴퓨터 비전 프로젝트를 시작하는 팀에는 Ultralytics가 2026년 1월에 출시한 YOLO26을 권장합니다.

YOLO26은 산업용 CNN과 최신 Transformer의 장점을 결합합니다.

  • 엔드투엔드 NMS 없는 설계: YOLOv10에서 도입된 접근 방식을 바탕으로 YOLO26은 NMS 후처리를 생략하는 선택적 NMS 없는 헤드(nms=False)를 제공하여, 더 적은 메모리 사용량으로 RTDETRv2와 유사한 예측 가능한 지연 시간을 구현합니다.
  • MuSGD 옵티마이저: Moonshot AI의 Kimi K2와 같은 대규모 언어 모델(LLM) 학습 기법에서 영감을 얻은 SGD와 Muon의 하이브리드로, 더 안정적인 학습과 빠른 수렴을 지원합니다.
  • 엣지 최적화: 분포 초점 손실(DFL)을 제거한 YOLO26n은 YOLO11n보다 CPU에서 최대 43% 빠르게 실행되므로 GPU 가속이 없는 모바일 및 IoT 장치에 적합합니다.
  • ProgLoss + STAL: 점진적 손실(Progressive Loss)과 소형 객체 인식형 레이블 할당(STAL)은 CNN의 오래된 과제인 소형 객체 인식을 개선하여 항공 이미지 및 로보틱스 분야에 도움이 됩니다.

학습 예제#

Ultralytics API를 사용하면 몇 줄의 코드로 모델을 학습할 수 있습니다. 아래 실행 가능한 예제에서는 COCO8 데이터셋으로 YOLO26 Nano 모델을 학습합니다.

from ultralytics import YOLO

# Load the newly released YOLO26 Nano model
model = YOLO("yolo26n.pt")

# Train the model on the COCO8 dataset for 50 epochs
# The Ultralytics engine handles data caching and augmentation automatically
train_results = model.train(data="coco8.yaml", epochs=50, imgsz=640)

# Validate the model's performance
metrics = model.val()
print(f"Validation mAP50-95: {metrics.box.map}")

# Export the trained model to ONNX format for production
model.export(format="onnx")

요약#

RTDETRv2와 YOLOv6-3.0 중에서 선택할 때는 주로 사용 중인 하드웨어와 지연 시간 제약을 고려해야 합니다. RTDETRv2는 겹치는 복잡한 객체를 처리하는 것이 중요한 연구 환경과 서버 측 처리에서 강점을 보입니다. YOLOv6-3.0은 강력한 NVIDIA GPU를 갖춘 고처리량 제조 라인에 적합한 선택입니다.

Transformer와 같은 NMS 없는 추론과 CNN의 속도 및 낮은 메모리 사용량을 원하는 개발자에게 YOLO26을 권장합니다. 문서, 활발한 커뮤니티, Ultralytics 도구를 활용하면 비전 AI 프로젝트를 프로토타입에서 프로덕션으로 발전시킬 수 있습니다.

댓글

질문을 하거나 결과를 공유하거나 다른 사람을 도와주세요.