YOLO26과 RTDETRv2

컴퓨터 비전 실무자는 최적화된 합성곱 신경망(CNNs)과 최신 Transformer 기반 아키텍처 중에서 선택하는 경우가 많습니다. 대표적인 두 가지 예로 Ultralytics YOLO26과 Baidu의 RTDETRv2가 있습니다. 두 모델 모두 실시간 객체 탐지를 목표로 하지만 서로 다른 아키텍처 접근 방식을 사용합니다.

이 가이드에서는 구조, 성능 지표, 적합한 사용 사례를 비교하여 다음 컴퓨터 비전 프로젝트에 가장 적합한 기반을 선택할 수 있도록 돕습니다.

Ultralytics YOLO26: 엣지 우선 비전 AI#

Ultralytics가 개발하여 2026년 1월에 출시한 YOLO26은 최신 YOLO 모델이며 신규 프로젝트에 권장되는 선택입니다. 클라우드와 엣지 환경 전반에서 빠르고 정확하며 간편하게 배포할 수 있도록 설계되었습니다.

아키텍처 혁신 및 강점#

YOLO26에는 Transformer 모델뿐 아니라 YOLO11과 같은 이전 버전과도 차별화되는 여러 기능이 도입되었습니다.

  • 엔드투엔드 NMS 프리 설계: YOLO26의 선택적 일대일 헤드(nms=False)는 후처리 중 기존 비최대 억제(NMS)를 생략합니다. YOLOv10이 YOLO 모델에 도입한 이 엔드투엔드 접근 방식은 추론 지연 시간의 변동을 줄이고, 특히 엣지 하드웨어에서 배포 로직을 단순화합니다.
  • CPU 추론 최대 43% 향상: YOLO26n은 CPU에서 YOLO11n보다 최대 43% 빠르게 실행되므로, 전용 GPU가 없는 Raspberry Pi와 같은 장치에 적합합니다.
  • DFL 제거: 분포 초점 손실(DFL)을 제거하면 내보내기 과정이 간소화되고 저전력 엣지 장치와의 호환성이 향상됩니다.
  • MuSGD 옵티마이저: YOLO26은 대규모 언어 모델(LLM) 학습 아이디어를 컴퓨터 비전에 도입하여 MuSGD 옵티마이저를 사용합니다. SGD와 Muon을 결합한 이 하이브리드 방식은 Moonshot AI의 Kimi K2에서 영감을 얻었으며, 더 안정적인 학습과 빠른 수렴을 제공합니다.
  • ProgLoss + STAL: 점진적 손실과 소형 객체 인식형 레이블 할당(STAL)은 작은 객체 인식을 향상시킵니다. 이는 항공 이미지 분석과 사물 인터넷(IoT) 센서에 의존하는 산업에서 중요합니다.

다양한 비전 작업에 적용#

바운딩 박스에만 국한된 모델과 달리 YOLO26은 탐지, 인스턴스 분할, 시맨틱 분할, 깊이 추정, 분류, 포즈 추정, OBB 탐지를 지원합니다. 또한 인스턴스 분할을 위한 시맨틱 분할 손실과 멀티스케일 프로토, 포즈 추정을 위한 잔차 로그 우도 추정(RLE), 방향 바운딩 박스(OBB) 작업의 경계 문제를 해결하는 특수 각도 손실 등 작업별 개선 사항을 적용합니다.

엣지 배포 전략

엣지 장치에 배포할 때는 YOLO26n(Nano) 또는 YOLO26s(Small) 변형을 사용하세요. DFL 제거와 선택적 NMS 제거 헤드는 iOS 및 Android에서 실시간 추론을 위해 CoreML 또는 LiteRT로 내보내는 과정을 간소화합니다.

RTDETRv2: 실시간 탐지 Transformer의 성능 향상#

Baidu 연구진이 개발한 RTDETRv2는 기존 RT-DETR 프레임워크를 기반으로 합니다. Detection Transformer(DETR)가 실시간 시나리오에서 고도로 최적화된 CNN과 경쟁하고 때로는 속도와 정확도 면에서 이를 능가할 수 있음을 보여주는 것을 목표로 합니다.

아키텍처 및 기능#

RTDETRv2는 Transformer 기반 아키텍처를 사용합니다. 이 아키텍처는 자기 어텐션을 사용해 전역 문맥을 포착하므로 CNN과는 다른 방식으로 이미지를 처리합니다.

  • Bag-of-Freebies: v2 버전은 추론 비용을 추가하지 않으면서 기준 성능을 향상하는 일련의 최적화된 학습 기법(bag-of-freebies)을 도입합니다.
  • 전역 문맥 인식: Transformer 어텐션 레이어를 사용하는 RTDETRv2는 겹치거나 가려진 객체를 구별하기 위해 전역 문맥이 필요한 복잡한 장면을 처리합니다.

RTDETRv2 자세히 알아보기

Transformer 모델의 한계#

RTDETRv2와 같은 Transformer 기반 탐지 모델은 실제 배포에서 어려움을 겪는 경우가 많습니다. 일반적으로 효율적인 CNN보다 학습 중 더 많은 CUDA 메모리가 필요하며, 어텐션 레이어에 필요한 연산으로 인해 다양한 엣지 환경에 통합하기가 더 어려울 수 있습니다. 리소스가 제한된 환경에 배포할 때는 YOLO26과 같은 CNN을 더 쉽게 배포할 수 있는 경우가 많습니다.

성능 비교#

아래 표에서는 COCO 검증 세트에서 정확도(mAP), 속도, 모델 크기를 비교합니다.

모델크기
(픽셀)
mAPval50-95속도
CPU ONNX
(ms)
속도
T4 TensorRT10
(ms)
파라미터
(M)
FLOPs
(B)
YOLO26n64040.938.91.72.45.5
YOLO26s64048.687.22.59.520.9
YOLO26m64053.1220.04.720.468.4
YOLO26l64055.0286.26.224.886.8
YOLO26x64057.5525.811.855.7194.4
RTDETRv2-s64048.1-5.032060
RTDETRv2-m64051.9-7.5136100
RTDETRv2-l64053.4-9.7642136
RTDETRv2-x64054.3-15.0376259

비슷한 크기를 기준으로 비교하면 YOLO26은 RTDETRv2보다 mAP가 높고 TensorRT 지연 시간이 짧습니다. YOLO26x는 RTDETRv2-x(54.3 mAP, 15.03 ms, 76M개 파라미터)보다 지연 시간이 짧고( TensorRT에서 11.8 ms) 파라미터 수가 적으면서(55.7M) 57.5 mAP를 달성합니다.

사용 사례 및 권장 사항#

YOLO26과 RT-DETR 중 무엇을 선택할지는 프로젝트의 구체적인 요구 사항과 배포 제약, 선호하는 생태계에 따라 달라집니다.

YOLO26을 선택해야 하는 경우#

YOLO26은 다음과 같은 경우에 적합합니다:

  • NMS가 필요 없는 엣지 배포: 비최대 억제 후처리의 복잡성 없이 일관된 저지연 추론이 필요한 애플리케이션입니다.
  • CPU 전용 환경: 전용 GPU 가속 기능이 없는 장치에서는 YOLO26의 최대 43% 빠른 CPU 추론(YOLO26n 대 YOLO11n)이 결정적인 이점을 제공합니다.
  • 작은 객체 탐지: 항공 드론 이미지 분석이나 IoT 센서 분석과 같이 ProgLoss와 STAL이 작은 객체의 정확도를 높이는 까다로운 시나리오입니다.

RT-DETR을 선택해야 하는 경우#

다음과 같은 경우 RT-DETR을 권장합니다.

  • Transformer 기반 탐지 연구: NMS를 사용하지 않는 엔드투엔드 객체 탐지를 위해 어텐션 메커니즘과 Transformer 아키텍처를 연구하는 프로젝트입니다.
  • 지연 시간 제약이 유연한 고정확도 시나리오: 탐지 정확성이 최우선이며 추론 지연 시간이 약간 높아도 괜찮은 애플리케이션입니다.
  • 대형 객체 탐지: 주로 중대형 객체가 있는 장면으로, Transformer의 전역 어텐션 메커니즘이 자연스러운 이점을 제공하는 경우입니다.

Ultralytics의 강점#

적합한 아키텍처를 선택하는 것은 전체 과정의 일부일 뿐이며, 주변 생태계가 팀의 프로토타이핑부터 프로덕션까지의 진행 속도를 결정합니다.

사용 편의성 및 학습 효율성#

Ultralytics Python API를 사용하면 장황한 보일러플레이트 코드 없이 학습 코드를 간결하게 작성할 수 있습니다. YOLO26은 일반적으로 RTDETRv2의 메모리 집약적인 어텐션 레이어보다 GPU VRAM을 적게 사용하므로, 소비자용 하드웨어에서 더 큰 배치 크기를 사용할 수 있습니다.

from ultralytics import YOLO

# YOLO26 Nano 모델 초기화
model = YOLO("yolo26n.pt")

# COCO8 데이터셋으로 100 에포크 학습
results = model.train(data="coco8.yaml", epochs=100, imgsz=640)

# 고속 NMS-free 추론 실행
predictions = model("https://ultralytics.com/images/bus.jpg", nms=False)

# 배포를 위해 ONNX로 내보냅니다
model.export(format="onnx")

잘 관리되는 생태계#

Ultralytics 모델에는 Weights & Biases 및 Comet과 같은 실험 추적 도구와 통합되는, 활발하게 유지 관리되는 프레임워크가 함께 제공됩니다. 코드 작성이 필요 없는 방식을 원한다면 Ultralytics Platform에서 클라우드 학습, 데이터셋 관리, 모델 배포 기능을 제공합니다.

성능 균형#

YOLO26은 추론 속도와 정확도의 균형을 맞춥니다. 선택적 NMS 제거 추론, MuSGD 옵티마이저, ProgLoss + STAL을 통해 작은 객체에서도 정확하고 프로덕션 환경에서 빠른 모델을 구현하므로, 대부분의 컴퓨터 비전 애플리케이션에 적합한 기본 선택입니다.

생태계의 다른 모델#

기존 파이프라인을 유지 관리하는 개발자는 이미 정착된 엔터프라이즈 환경을 위해 YOLOv8을 고려하거나, YOLO26과 EfficientDet의 비교를 살펴볼 수도 있습니다. 신규 프로젝트에는 YOLO26을 권장합니다.

댓글

질문을 하거나 결과를 공유하거나 다른 사람을 도와주세요.