Ultralytics YOLO27:

YOLO11과 RTDETRv2#

컴퓨터 비전 분야는 빠르게 확장되어 개발자에게 강력한 비전 기반 애플리케이션을 구축할 수 있는 수많은 선택지를 제공하고 있습니다. 실시간 객체 검출 분야에서는 합성곱 신경망(CNNs)과 비전 Transformer(ViTs) 간의 논쟁이 그 어느 때보다 두드러지고 있습니다. 이 기술 비교에서는 두 가지 주요 아키텍처를 살펴봅니다. 하나는 고도로 최적화된 CNN 프레임워크의 정점에 해당하는 YOLO11이며, 다른 하나는 Detection Transformer 제품군의 강력한 발전형인 RTDETRv2입니다.

이 가이드는 아키텍처, 성능 지표 및 이상적인 배포 시나리오를 분석하여 머신러닝 엔지니어가 충분한 정보를 바탕으로 의사 결정을 내릴 수 있도록 지원합니다. 두 모델 모두 정확도의 한계를 확장하고 있지만, Ultralytics YOLO 모델은 일반적으로 실제 프로덕션 환경에서 속도, 생태계 지원 및 사용 편의성의 균형이 더 뛰어납니다.

YOLO11: 실제 환경을 위한 다목적성의 기준#

Ultralytics가 선보인 YOLO11은 수년간의 기초 연구를 기반으로 빠르고 정확하며 매우 다목적인 모델을 제공합니다. YOLO11은 객체 검출, 인스턴스 세그멘테이션, 이미지 분류, 포즈 추정, 방향성 바운딩 박스(OBB) 추출을 기본적으로 원활하게 처리하도록 설계되었습니다.

아키텍처 및 강점#

YOLO11은 정교한 CNN 백본과 고급 공간 피처 피라미드를 탑재하여 탁월한 리소스 효율성을 자랑합니다. 학습과 추론 모두에서 최소한의 메모리 풋프린트를 제공하므로 엄격한 하드웨어 제약이 있는 환경에서 뛰어난 성능을 발휘합니다. Ultralytics 플랫폼은 YOLO11에 대한 네이티브 지원을 제공하여, 이질적인 MLOps 도구를 직접 조합할 필요 없이 간소화된 모델 모니터링, 데이터 어노테이션, 클라우드 학습을 가능하게 합니다.

엣지 컴퓨팅을 목표로 하는 개발자에게 YOLO11은 매우 낮은 지연 시간을 제공합니다. 경량 특성 덕분에 Raspberry Pi부터 일반 소비자용 모바일폰에 이르는 다양한 장치에서 효율적으로 실행할 수 있어 스마트 리테일, 제조 품질 관리, 자동화된 교통 관리의 표준으로 자리 잡았습니다.

RTDETRv2: Baidu의 실시간 Transformer#

RTDETRv2(실시간 Detection Transformer 버전 2)는 Transformer 기반 아키텍처를 실시간 작업에 활용할 수 있도록 만들기 위한 Baidu의 시도를 나타냅니다. RT-DETR을 기반으로 "bag-of-freebies" 접근 방식을 도입하여 추론 지연 시간을 늘리지 않고 기본 정확도를 향상합니다.

RT-DETR에 대해 자세히 알아보세요

아키텍처 및 강점#

기존 CNN과 달리 RTDETRv2는 셀프 어텐션 메커니즘을 갖춘 인코더-디코더 아키텍처를 사용하여 이미지 전체의 전역 컨텍스트를 포착합니다. 이는 가려짐이 자주 발생하는 혼잡한 장면에서 특히 유리합니다. RTDETRv2는 후처리에서 비최대 억제(NMS)가 필요하지 않으며, 대신 학습 중 Hungarian 매칭을 사용하여 일대일 이분 매칭을 수행합니다.

그러나 Transformer 모델은 VRAM 및 CUDA 메모리를 매우 많이 사용하는 것으로 악명 높습니다. RTDETRv2를 처음부터 학습하거나 커스텀 데이터셋에서 파인 튜닝하려면 상당한 규모의 고급 GPU 클러스터가 필요한 경우가 많습니다. 이는 경량 학습 공간을 제공하는 Ultralytics 모델과 비교할 때 소규모의 민첩한 팀에 장벽이 될 수 있습니다.

성능 및 지표 분석#

표준 COCO 데이터셋에서 이러한 모델을 평가하면 파라미터 수, FLOPs 및 순수 정확도 간의 명확한 트레이드오프를 확인할 수 있습니다.

모델크기
(픽셀)		mAPval
50-95		속도
CPU ONNX
(ms)		속도
T4 TensorRT10
(ms)		파라미터
(M)		FLOPs
(B)
YOLO11n64039.556.11.52.66.5
YOLO11s64047.090.02.59.421.5
YOLO11m64051.5183.24.720.168.0
YOLO11l64053.4238.66.225.386.9
YOLO11x64054.7462.811.356.9194.9
RTDETRv2-s64048.1-5.032060
RTDETRv2-m64051.9-7.5136100
RTDETRv2-l64053.4-9.7642136
RTDETRv2-x64054.3-15.0376259

결과 분석#

표에서 볼 수 있듯이 YOLO11은 성능과 크기의 비율이 매우 뛰어납니다. YOLO11x는 RTDETRv2-x(54.3)보다 높은 mAPval(54.7)을 달성하면서도 훨씬 적은 파라미터(56.9M 대 76M)와 훨씬 적은 연산 FLOPs(194.9B 대 259B)를 사용합니다.

또한 T4 TensorRT에서 YOLO11의 추론 속도는 매우 빠릅니다. YOLO11s는 단 2.5ms 만에 추론을 완료하는 반면, 가장 작은 RTDETRv2-s는 5.03ms가 소요됩니다. 따라서 프레임 처리 시간이 주요 병목인 고속 실시간 비디오 분석 스트림에서는 YOLO11이 확실한 선택입니다.

Transformer의 비용

RTDETRv2는 어텐션 레이어를 통해 뛰어난 정확도를 달성하지만, 이러한 메커니즘은 이미지 해상도에 따라 제곱으로 확장되므로 학습과 추론 모두에서 VRAM 사용량이 증가합니다. YOLO11은 매우 효율적인 합성곱 블록을 통해 이러한 문제를 피합니다.

학습 생태계 및 사용 편의성#

Ultralytics 모델을 도입할 때의 핵심 이점은 이를 둘러싼 생태계에 있습니다. RTDETRv2 학습에는 복잡한 연구 수준의 리포지토리를 탐색하고, 정교한 이분 매칭 손실 가중치를 조정하며, 상당한 메모리 오버헤드를 관리해야 하는 경우가 많습니다.

반면 Ultralytics는 개발자 경험에 중점을 둡니다. 통합 Python API가 보일러플레이트 코드를 추상화하고, Weights & Biases와 원활하게 통합되어 실험 추적을 지원하며 데이터 증강을 자동으로 처리합니다.

ultralytics 패키지를 사용하면 모델을 얼마나 간단하게 학습하고 내보낼 수 있는지 보여주는 예시는 다음과 같습니다.

from ultralytics import YOLO

# Initialize YOLO11 model with pre-trained weights
model = YOLO("yolo11n.pt")

# Train the model efficiently on a local GPU or cloud instance
train_results = model.train(
    data="coco8.yaml",
    epochs=100,
    imgsz=640,
    device=0,  # Utilize CUDA GPU
)

# Export the trained model to ONNX for widespread deployment
export_path = model.export(format="onnx")

학습이 완료된 YOLO11 모델을 ONNX, OpenVINO, CoreML과 같은 형식으로 내보내는 데는 단일 명령만 필요합니다. 따라서 비전 파이프라인을 다양한 하드웨어 백엔드로 손쉽게 확장할 수 있습니다.

멀티 태스크 기능

RTDETRv2는 바운딩 박스 검출에만 집중하는 반면, YOLO11 아키텍처는 포즈 추정과 인스턴스 세그멘테이션을 기본적으로 지원한다는 점을 기억해야 합니다. 이를 통해 여러 비전 작업을 하나의 모델 제품군으로 통합할 수 있습니다.

사용 사례 및 권장 사항#

YOLO11과 RT-DETR 중에서 선택하는 것은 구체적인 프로젝트 요구 사항, 배포 제약 조건 및 생태계 선호도에 따라 달라집니다.

YOLO11을 선택해야 하는 경우#

YOLO11은 다음과 같은 경우에 적합합니다.

  • 프로덕션 엣지 배포: 신뢰성과 지속적인 유지 관리가 무엇보다 중요한 Raspberry Pi 또는 NVIDIA Jetson과 같은 디바이스에서 실행되는 상용 애플리케이션입니다.
  • 멀티태스크 비전 애플리케이션: 단일 통합 프레임워크에서 감지, 세그멘테이션, 포즈 추정, OBB가 필요한 프로젝트입니다.
  • 신속한 프로토타이핑 및 배포: 간소화된 Ultralytics Python API를 사용하여 데이터 수집부터 프로덕션까지 빠르게 진행해야 하는 팀입니다.

RT-DETR을 선택해야 하는 경우#

다음과 같은 경우 RT-DETR을 권장합니다.

  • Transformer 기반 감지 연구: NMS 없이 엔드 투 엔드 객체 감지를 수행하기 위해 attention mechanism과 Transformer 아키텍처를 탐구하는 프로젝트입니다.
  • 유연한 latency를 요구하는 고정확도 시나리오: 감지 정확도가 최우선이며 약간 더 높은 추론 latency를 허용할 수 있는 애플리케이션입니다.
  • 대형 객체 감지: 주로 medium-to-large 객체가 있는 장면으로, Transformer의 global attention mechanism이 자연스러운 이점을 제공하는 경우입니다.

Ultralytics(YOLO26)를 선택해야 하는 경우#

대부분의 신규 프로젝트에서 Ultralytics YOLO26은 성능과 개발자 경험의 최적 조합을 제공합니다.

  • NMS-Free 엣지 배포: 비최대 억제 후처리의 복잡성 없이 일관되고 지연 시간이 짧은 추론이 필요한 애플리케이션입니다.
  • CPU 전용 환경: 전용 GPU 가속 기능이 없는 디바이스에서 YOLO26의 최대 43% 더 빠른 CPU 추론이 결정적인 이점을 제공하는 경우입니다.
  • 소형 객체 탐지: 항공 드론 이미지나 IoT 센서 분석처럼 ProgLoss와 STAL이 작은 객체의 정확도를 크게 향상하는 까다로운 시나리오입니다.

향후 전망: YOLO26의 강력한 성능#

YOLO11은 탁월한 프로덕션 선택지이지만, 최첨단 기술을 찾는 팀이라면 YOLO26을 적극적으로 고려해야 합니다. 2026년 1월에 출시된 YOLO26은 엔드투엔드 NMS-Free 설계(YOLOv10에서 처음 개척)를 코어에 직접 통합하여 아키텍처 간 격차를 해소하고, 후처리 지연 시간과 배포 로직의 복잡성을 완전히 제거합니다.

YOLO26은 다음과 같은 몇 가지 혁신적인 기능도 도입합니다.

  • MuSGD Optimizer: Moonshot AI의 Kimi K2 LLM 학습 기법에서 영감을 얻은 SGD와 Muon의 하이브리드 방식으로, 매우 안정적인 학습과 훨씬 빠른 수렴을 보장합니다.
  • DFL Removal: Distribution Focal Loss를 제거하여 더 깔끔하고 단순화된 내보내기 프로세스를 구현했으며, 저전력 엣지 장치와의 호환성을 크게 향상합니다.
  • ProgLoss + STAL: 이러한 고급 손실 함수는 소형 객체 인식 성능을 크게 향상합니다. 이는 드론 감시, 농업 모니터링 및 IoT 엣지 센서에 필수적인 요구 사항입니다.
  • 최대 43% 더 빠른 CPU 추론: 전용 GPU가 없는 배포 환경을 위해 YOLO26은 CPU 실행에 특화되어 최적화되었으며, 이전 세대보다 훨씬 뛰어난 성능을 제공합니다.

더 다양한 아키텍처를 살펴보고 싶은 경우, Ultralytics 문서에서 널리 채택된 YOLOv8, 널리 사용되는 YOLOv5, 그리고 오픈 보캐뷸러리 검출 애플리케이션을 위한 YOLO-World와 같은 특화 모델에 대한 정보도 확인할 수 있습니다. 검증된 YOLO11의 안정성을 우선시하든 YOLO26의 획기적인 혁신을 우선시하든, Ultralytics 생태계는 컴퓨터 비전 솔루션을 현실화할 수 있는 탁월한 도구를 제공합니다.

기여자
GLglenn-jocher16PDpderrenger2

댓글