YOLOv8과 YOLO11 비교#
컴퓨터 비전의 빠른 발전은 실시간 객체 탐지 프레임워크의 지속적인 개선에 크게 힘입었습니다. 최신 기술 환경을 살펴보는 개발자와 연구자에게 정확도, 속도, 리소스 효율성의 균형을 맞출 올바른 모델을 선택하는 일은 매우 중요합니다. 이번 기술 비교에서는 Ultralytics 에코시스템의 두 핵심 모델인 Ultralytics YOLOv8과 Ultralytics YOLO11의 차이점을 살펴봅니다.
두 모델은 모두 Ultralytics 아키텍처의 대표적인 특징인 사용 편의성, 잘 관리되는 에코시스템, 낮은 메모리 요구량을 바탕으로 한 탁월한 학습 효율성을 보여줍니다. 두 모델의 아키텍처 설계, 성능 벤치마크, 적합한 배포 시나리오를 자세히 살펴보겠습니다.
모델 개요#
각 모델의 구체적인 기술적 장점을 비교하기에 앞서, 두 모델의 기원과 핵심 사양을 살펴보는 것이 좋습니다.
Ultralytics YOLOv8#
2023년 초에 대대적인 도약을 이루며 출시된 YOLOv8은 앵커 프리 탐지와 손실 함수의 주요 개선 사항을 도입했고, 다양한 머신러닝 작업의 표준으로 빠르게 자리 잡았습니다.
- 저자: Glenn Jocher, Ayush Chaurasia, Jing Qiu
- 조직: Ultralytics
- 날짜: 2023-01-10
- GitHub: ultralytics/ultralytics
Ultralytics YOLO11#
YOLO11은 이전 모델들의 성공을 기반으로 핵심 아키텍처를 개선해 정확도와 지연 시간의 파레토 프런티어를 더욱 확장했으며, 예측 성능을 유지하면서 파라미터 수를 크게 최적화했습니다.
- 저자: Glenn Jocher 및 Jing Qiu
- 조직: Ultralytics
- 날짜: 2024-09-27
- GitHub: ultralytics/ultralytics
대안적인 접근 방식을 살펴보고 있다면 Ultralytics에서 RT-DETR과 같은 Transformer 기반 모델 및 YOLO-World와 같은 제로샷 오픈 보캐뷸러리 탐지기도 지원합니다. 하지만 지연 시간과 메모리 효율성을 최적화하려면 일반적으로 표준 YOLO 아키텍처를 선택하는 것이 좋습니다.
아키텍처 및 방법론의 차이#
YOLOv8에서 YOLO11로의 변화는 완전한 개편이라기보다 신경망 설계를 신중하게 발전시킨 것으로, 모델을 둘러싼 잘 관리되는 에코시스템의 안정성을 유지합니다.
백본 및 넥 최적화#
YOLOv8은 기존 앵커 박스 방식에서 벗어난 간소화된 CNN 백본을 도입하고, 객체 탐지를 중심점 예측 문제로 처리했습니다. 이 앵커 프리 접근 방식은 바운딩 박스 회귀의 복잡성을 크게 줄였습니다. YOLO11은 이러한 기반을 바탕으로 최적화된 특징 피라미드 네트워크(FPN)를 도입하고 C2f 블록을 C3k2 모듈로 수정했습니다. 이 변경으로 YOLO11은 더 풍부한 공간 특징을 추출할 수 있어 COCO 데이터셋에서 흔히 볼 수 있는 작은 객체에 대한 정확도가 향상됩니다.
메모리 요구량 및 학습 효율성#
YOLOv8과 YOLO11의 가장 주목할 만한 장점 중 하나는 학습 중 낮은 메모리 요구량입니다. 일반 소비자 하드웨어에서 VRAM을 쉽게 모두 사용하는 대규모 비전 Transformer와 달리, 이 모델들은 표준 GPU에서 접근성 높은 PyTorch 학습이 가능하도록 최적화되었습니다. YOLO11은 전체 파라미터 수를 크게 줄였습니다. 대형(L) 변형에서는 YOLOv8보다 파라미터를 최대 42% 적게 사용하면서도 평균 정밀도(mAP)는 높입니다. 즉, 에포크가 더 빨라지고 모델 학습의 탄소 발자국도 줄어듭니다.
성능 지표#
이 모델들의 성능 균형을 제대로 평가하려면 객관적인 벤치마크를 살펴봐야 합니다. 아래 표에서는 표준 크기 변형(나노부터 특대형까지)에 걸쳐 YOLOv8과 YOLO11을 비교합니다.
| 모델 | 크기 (픽셀) | mAP검증 50-95 | 속도 CPU ONNX (ms) | 속도 T4 TensorRT10 (ms) | 파라미터 (M) | FLOPs (B) |
|---|---|---|---|---|---|---|
| YOLOv8n | 640 | 37.3 | 80.4 | 1.47 | 3.2 | 8.7 |
| YOLOv8s | 640 | 44.9 | 128.4 | 2.66 | 11.2 | 28.6 |
| YOLOv8m | 640 | 50.2 | 234.7 | 5.86 | 25.9 | 78.9 |
| YOLOv8l | 640 | 52.9 | 375.2 | 9.06 | 43.7 | 165.1 |
| YOLOv8x | 640 | 53.9 | 479.1 | 14.37 | 68.2 | 257.8 |
| YOLO11n | 640 | 39.5 | 56.1 | 1.5 | 2.6 | 6.5 |
| YOLO11s | 640 | 47.0 | 90.0 | 2.5 | 9.4 | 21.6 |
| YOLO11m | 640 | 51.5 | 183.2 | 4.7 | 20.1 | 68.1 |
| YOLO11l | 640 | 53.4 | 238.6 | 6.2 | 25.3 | 87.2 |
| YOLO11x | 640 | 54.7 | 462.8 | 11.3 | 56.9 | 195.3 |
결과에서 볼 수 있듯이 YOLO11은 더 적은 파라미터와 FLOPs를 사용하면서도 정확도에서 일관되게 YOLOv8을 앞섭니다. ONNX Runtime을 사용해 측정한 CPU 추론 속도는 엣지 배포에서 YOLO11의 우수한 효율성을 보여줍니다. NVIDIA TensorRT로 내보내면 두 모델 모두 15ms 미만의 뛰어난 지연 시간을 제공하며, 이는 실제 비디오 스트림 분석에 필수적입니다.
생태계와 사용 편의성#
두 모델 모두 통합된 ultralytics Python 패키지의 이점을 크게 누립니다. 이러한 사용 편의성 덕분에 엔지니어는 YOLOv8과 YOLO11 사이를 원활하게 전환할 수 있습니다. 몇 줄의 코드만으로 학습, 검증, 내보내기를 수행할 수 있습니다.
from ultralytics import YOLO
# 사전 학습된 YOLO11 모델 로드("yolov8n.pt"로 간단히 바꿀 수 있습니다)
model = YOLO("yolo11n.pt")
# 로컬 데이터셋으로 모델을 효율적으로 학습
results = model.train(data="coco8.yaml", epochs=100, imgsz=640, device=0)
# 최적화된 모델을 ONNX로 내보내기
model.export(format="onnx")이러한 원활한 통합은 Ultralytics Platform까지 이어져, 고급 DevOps 지식 없이도 클라우드 기반 학습, 모델 모니터링, 배포를 간소화합니다.
범용성 및 실제 활용 사례#
Ultralytics 프레임워크의 주요 특징은 본질적인 범용성입니다. YOLOv8과 YOLO11은 표준 객체 탐지 이외에도 다양한 컴퓨터 비전 작업을 지원합니다.
- 인스턴스 분할: 의료 영상 및 자율 주행에 유용한 높은 정확도의 픽셀 단위 마스크를 생성합니다.
- 자세 추정: 스포츠 분석 및 인간-컴퓨터 상호작용에 적합한 키포인트를 탐지합니다.
- 이미지 분류: ImageNet으로 학습한 백본을 사용해 경량 범주화를 수행합니다.
- 방향성 바운딩 박스(OBB): 위성 이미지에서 회전된 객체를 식별하는 데 필수적입니다.
YOLOv8은 출시된 지 오래되어 커뮤니티 튜토리얼이 방대하고 엔터프라이즈 배포 환경에서 충분히 검증되었습니다. YOLOv8의 텐서 형식을 엄격히 요구하는 레거시 파이프라인에 통합하는 경우 여전히 매우 신뢰할 수 있는 선택입니다. 반면 Raspberry Pi와 같은 임베디드 엣지 디바이스 배포처럼 효율성을 최우선으로 하는 신규 프로젝트에서는 속도 대 파라미터 비율이 더 뛰어난 YOLO11이 운영 측면에서 확실한 우위를 보입니다.
사용 사례 및 권장 사항#
YOLOv8과 YOLO11 중 어느 모델을 선택할지는 구체적인 프로젝트 요구 사항, 배포 제약 조건, 에코시스템 선호도에 따라 달라집니다.
YOLOv8을 선택해야 하는 경우#
YOLOv8은 다음과 같은 경우에 적합합니다.
- 다양한 작업의 유연한 배포: Ultralytics 생태계에서 탐지, 세그멘테이션, 분류, 자세 추정에 검증된 모델이 필요한 프로젝트.
- 안정적인 프로덕션 시스템: 이미 YOLOv8 아키텍처를 기반으로 구축되어 안정적이고 충분히 테스트된 배포 파이프라인을 갖춘 기존 프로덕션 환경.
- 폭넓은 커뮤니티 및 생태계 지원: YOLOv8의 방대한 튜토리얼, 타사 통합, 활발한 커뮤니티 리소스를 활용하는 애플리케이션.
YOLO11을 선택해야 하는 경우#
YOLO11은 다음과 같은 경우에 권장됩니다:
- 프로덕션 엣지 배포: 안정성과 지속적인 유지 관리가 가장 중요한 Raspberry Pi 또는 NVIDIA Jetson과 같은 디바이스에서 상용 애플리케이션을 실행하는 경우입니다.
- 멀티태스크 비전 애플리케이션: 하나의 통합 프레임워크에서 감지, 분할, 자세 추정, OBB가 필요한 프로젝트입니다.
- 신속한 프로토타이핑 및 배포: 간소화된 Ultralytics Python API를 사용하여 데이터 수집부터 프로덕션 배포까지 빠르게 진행해야 하는 팀에 적합합니다.
Ultralytics(YOLO26)를 선택해야 하는 경우#
대부분의 신규 프로젝트에는 성능과 개발자 경험을 가장 잘 조합한 Ultralytics YOLO26을 권장합니다.
- NMS가 필요 없는 엣지 배포: 비최대 억제 후처리의 복잡성 없이 일관된 저지연 추론이 필요한 애플리케이션입니다.
- CPU 전용 환경: 전용 GPU 가속 기능이 없는 디바이스에서 YOLO26의 최대 43% 빠른 CPU 추론은 결정적인 이점을 제공합니다.
- 작은 객체 탐지: 항공 드론 이미지나 IoT 센서 분석과 같이 작은 객체의 정확도를 ProgLoss와 STAL이 크게 높여 주는 까다로운 시나리오입니다.
최첨단 기술: YOLO26의 장점#
YOLOv8과 YOLO11은 탁월한 아키텍처이지만 AI 분야는 계속 발전하고 있습니다. 2026년 최첨단 기술을 목표로 하는 개발자에게 Ultralytics YOLO26은 다음 단계의 획기적인 도약을 의미합니다.
YOLO26은 배포 파이프라인을 근본적으로 새롭게 구상합니다. YOLOv10이 처음 선보인 획기적인 접근 방식인 엔드투엔드 NMS 프리 설계를 적용해 (nms=False과 함께) 복잡한 후처리 단계를 없앱니다. 또한 DFL 제거(Distribution Focal Loss)는 내보내기 로직을 크게 간소화하고 저전력 엣지 디바이스와의 호환성을 높여, 이전 모델보다 CPU 추론 속도를 최대 43% 향상합니다.
새로운 MuSGD 옵티마이저는 LLM 학습 기법에서 영감을 받은 하이브리드 방식으로 학습 안정성과 수렴 속도를 크게 개선합니다. 또한 ProgLoss + STAL과 같은 새로운 손실 함수는 IoT 및 로보틱스에서 오랫동안 문제였던 작은 객체 인식 성능을 크게 높입니다. 자세 추정을 위한 RLE와 분할을 위한 멀티스케일 프로토 등 작업별 개선 사항을 갖춘 YOLO26은 비교할 수 없는 성능을 제공합니다.
광범위한 레거시 커뮤니티 지원이 필요하다면 YOLOv8으로 시작하세요. 속도와 파라미터 감소의 균형이 세밀하게 개선된 모델을 원한다면 YOLO11로 업그레이드하세요. 미래를 위한 최고의 엣지 최적화 NMS 프리 아키텍처를 원한다면 YOLO26을 선택하세요.
결론#
YOLOv8과 YOLO11 중 무엇을 선택할지는 결국 프로젝트 일정과 하드웨어 제약에 달려 있습니다. YOLOv8은 뛰어난 안정성을 제공하는 업계의 검증된 모델입니다. 반면 YOLO11은 아키텍처를 개선해 더 적은 파라미터로 더 높은 mAP를 제공하므로, 리소스가 제한된 엣지 애플리케이션에 매우 매력적입니다. 어떤 모델을 선택하든 원활한 Ultralytics Python API를 통해 개발 워크플로를 민첩하고 효율적으로 운영하고 충분한 지원을 받을 수 있습니다. 엣지 디바이스의 가능성을 확장할 준비가 되면 YOLO26을 활용할 수 있습니다.