YOLOv8과 YOLOX 비교

컴퓨터 비전 분야는 실시간 객체 감지 아키텍처의 지속적인 발전을 통해 형성되어 왔습니다. 주요 이정표로는 Ultralytics YOLOv8과 YOLOX가 있습니다. 두 모델 모두 경계 상자 예측을 간소화하기 위해 앵커 프리 설계를 사용하지만, 딥러닝 연구와 배포 생태계 개발에서 서로 다른 시대와 철학을 대표합니다.

이 기술 비교에서는 아키텍처, 학습 방법론 및 실제 성능 지표를 살펴보고, 개발자와 연구자가 비전 AI 애플리케이션에 적합한 모델을 선택할 수 있도록 돕습니다.

모델 배경#

각 프레임워크의 기원과 설계 목표를 이해하면 아키텍처 차이와 생태계 성숙도를 파악하는 데 중요한 맥락을 얻을 수 있습니다.

Ultralytics YOLOv8#

Glenn Jocher, Ayush Chaurasia, Jing Qiu가 Ultralytics에서 개발하여 2023년 1월 10일에 출시한 YOLOv8은 Ultralytics 생태계의 중요한 도약을 의미했습니다. YOLOv5의 성공을 바탕으로, YOLOv8은 객체 감지, 인스턴스 분할, 이미지 분류, 자세 추정 등 다양한 작업을 기본적으로 처리할 수 있도록 개선된 아키텍처를 도입했습니다.

주요 장점은 잘 관리되는 Ultralytics 생태계에 있습니다. 이 생태계는 통합 Python API, 방대한 문서, Weights & Biases 및 Comet과 같은 MLOps 도구와의 기본 통합을 포함하는 완전한 워크플로를 제공합니다.

YOLOX#

Zheng Ge, Songtao Liu, Feng Wang, Zeming Li, Jian Sun이 Megvii에서 개발하여 2021년 7월 18일에 공개한 YOLOX는 학술 연구와 산업 애플리케이션 간의 격차를 해소하는 것을 목표로 했습니다. arXiv 논문에 자세히 설명된 YOLOX는 YOLO 계열을 앵커 프리 설계로 전환하고 분리형 헤드를 통합하여 학습 안정성과 수렴을 개선한 점이 주목받았습니다.

2021년에 큰 영향을 미쳤지만, YOLOX GitHub 저장소는 주로 연구에 초점을 둔 코드베이스로 남아 있습니다. 최신 프레임워크에서 제공하는 광범위한 작업 지원과 완성도 높은 배포 파이프라인이 부족해, 프로덕션 배포에는 더 많은 수동 구성이 필요합니다.

YOLOX 문서 보기

아키텍처 혁신#

두 모델은 모두 앵커 프리 방식을 활용하므로 학습 전에 복잡하고 데이터셋에 종속적인 앵커 박스 클러스터링을 수행할 필요가 없습니다. 이에 따라 휴리스틱 튜닝 파라미터 수가 줄고 감지 헤드가 단순해집니다.

분리형 헤드와 특징 추출#

YOLOX는 YOLO 시리즈에 분리형 헤드를 도입했습니다. 기존에는 분류와 회귀 작업을 하나의 통합 헤드에서 수행했으며, 이로 인해 학습 중 기울기가 서로 충돌하는 경우가 많았습니다. 분류 브랜치와 위치 추정 브랜치를 분리해 YOLOX는 더 빠른 수렴을 달성했습니다.

YOLOv8은 이 개념을 채택하고 개선했습니다. 백본에 C2f(두 개의 합성곱을 사용하는 교차 단계 부분 병목) 모듈을 사용하여 이전 C3 모듈을 대체합니다. 이를 통해 상당한 연산 오버헤드를 추가하지 않으면서 그래디언트 흐름과 특징 표현을 향상합니다. YOLOv8은 또한 앵커 프리 감지 헤드와 Task-Aligned Assigner를 결합합니다. 이 어사이너는 분류 점수와 Intersection over Union(IoU)의 조합을 바탕으로 양성 샘플을 동적으로 매칭하여 정확도를 높입니다.

메모리 효율

Ultralytics YOLO 모델은 메모리 효율성을 고려하여 설계되었습니다. Transformer 기반 아키텍처나 최적화되지 않은 연구 코드베이스와 비교했을 때, YOLOv8은 학습 중 CUDA 메모리를 훨씬 적게 사용하므로 개발자는 일반 소비자용 하드웨어에서 더 큰 배치 크기를 사용할 수 있습니다.

성능 비교#

실제 배포를 위해 모델을 평가할 때는 정확도(mAP)와 추론 지연 시간 및 모델 복잡성 사이의 균형을 맞추는 것이 중요합니다. 아래 표는 COCO 데이터셋의 성능 지표를 보여줍니다.

모델크기
(픽셀)
mAPval50-95속도
CPU ONNX
(ms)
속도
T4 TensorRT10
(ms)
파라미터
(M)
FLOPs
(B)
YOLOv8n64037.380.41.473.28.7
YOLOv8s64044.9128.42.6611.228.6
YOLOv8m64050.2234.75.8625.978.9
YOLOv8l64052.9375.29.0643.7165.1
YOLOv8x64053.9479.114.3768.2257.8
YOLOXnano41625.8--0.911.08
YOLOXtiny41632.8--5.066.45
YOLOXs64040.5-2.569.026.8
YOLOXm64046.9-5.4325.373.8
YOLOXl64049.7-9.0454.2155.6
YOLOXx64051.1-16.199.1281.9

표에서 볼 수 있듯이 YOLOv8 모델은 동일한 파라미터 수의 YOLOX 모델보다 일관되게 뛰어난 성능을 보입니다. 예를 들어 YOLOv8m은 YOLOXm의 46.9%에 비해 50.2%의 mAP를 달성하여 mAP가 3.3포인트 향상되었으며, TensorRT를 사용해 경쟁력 있는 GPU 추론 속도를 유지합니다.

학습 및 생태계의 장점#

두 솔루션 간 가장 큰 차이점 중 하나는 개발자 경험입니다. YOLOX를 학습하려면 복잡한 환경 설정, 수동 스크립트 수정, 그리고 학습 또는 내보내기 문제를 디버깅하기 위한 PyTorch 내부 구조에 대한 깊은 이해가 필요한 경우가 많습니다.

Ultralytics 생태계는 직관적인 Python API와 명령줄 인터페이스(CLI)로 이러한 복잡성을 해결합니다.

간소화된 Python API#

사용자 지정 데이터셋으로 YOLOv8 모델을 학습하는 데는 몇 줄의 코드만 필요합니다.

from ultralytics import YOLO

# 객체 감지를 위해 사전 학습된 YOLOv8 모델을 불러옵니다
model = YOLO("yolov8n.pt")

# COCO8 예제 데이터셋으로 모델 학습
results = model.train(data="coco8.yaml", epochs=100, imgsz=640)

# 모델을 간편하게 검증합니다
metrics = model.val()

# 프로덕션용으로 ONNX로 내보내기
model.export(format="onnx")

이 API는 감지, 분할 및 방향성 경계 상자(OBB) 작업 전반에 걸쳐 워크플로를 표준화하여 프로덕션 애플리케이션의 시장 출시 시간을 단축합니다. 기본 제공 내보내기 기능을 사용하면 사용자 지정 C++ 연산자를 작성하지 않고도 모델을 ONNX, OpenVINO 및 CoreML 형식으로 변환할 수 있습니다.

적합한 사용 사례#

두 아키텍처 중 무엇을 선택할지는 프로젝트의 제약 조건에 따라 달라지지만, YOLOv8은 더욱 유연한 기반을 제공합니다.

  • 고속 엣지 분석: NVIDIA Jetson과 같은 디바이스에서 실시간 처리를 수행하는 경우, YOLOv8은 속도와 정확도 사이에서 우수한 균형을 제공하며 TensorRT 기본 통합을 통해 쉽게 배포할 수 있습니다.
  • 학술 연구: PyTorch에서 앵커 기반 방식에서 앵커 프리 방식으로 전환하는 과정을 연구하는 연구자에게 YOLOX는 여전히 유용한 교육 도구입니다.
  • 복잡한 멀티태스크 애플리케이션: 객체 추적과 인스턴스 분할을 동시에 수행해야 하는 애플리케이션에는 YOLOv8이 적합합니다. 이러한 기능이 Ultralytics 라이브러리에 직접 내장되어 있기 때문입니다.

앞으로 살펴볼 대안 모델#

YOLOv8은 YOLOX보다 크게 개선되었지만, 분야는 빠르게 발전하고 있습니다. 신규 프로젝트에는 2026년 1월에 출시된 Ultralytics YOLO26을 권장합니다.

YOLO26은 엔드 투 엔드 NMS 없는 설계를 제공합니다. 선택 사항인 일대일 헤드(nms=False)는 Non-Maximum Suppression(NMS) 후처리를 제거하여 배포 파이프라인을 간소화합니다. NMS 없는 추론을 제공하고 Distribution Focal Loss(DFL)를 제거한 YOLO26n은 YOLO11n보다 CPU 추론 속도가 최대 43% 빠르며, MuSGD 옵티마이저는 학습 안정성을 향상합니다. 또한 ProgLoss + STAL(점진적 손실 및 소형 객체 인식 라벨 할당)을 도입하여 항공 이미지와 로보틱스 분야의 작은 객체 감지 성능을 개선합니다.

또 다른 대안으로 사용자는 Ultralytics 생태계에서 강력하고 폭넓게 지원되는 이전 모델인 YOLO11을 고려할 수도 있습니다. YOLO11은 다양한 작업에서 안정적인 성능을 제공합니다.

결론#

YOLOX는 YOLO 계열에서 분리형 헤드와 앵커 프리 설계의 가치를 입증했습니다. Ultralytics YOLOv8은 이러한 개념을 적용하고 아키텍처를 개선한 뒤, 사용 편의성과 다양한 작업 지원으로 잘 알려진 프로덕션 준비 생태계에 통합했습니다. Ultralytics 모델을 사용하는 개발자는 우수한 성능, 메모리 효율적인 학습, 실험에서 프로덕션까지의 과정을 간소화하는 배포 도구를 활용할 수 있습니다.

댓글1

질문을 하거나 결과를 공유하거나 다른 사람을 도와주세요.

  1. marybary0000GitHub(수정됨)

    Great deep dive! YOLOX introduced key innovations like anchor-free design and decoupled head structure, which significantly improved detection performance. However, this YOLOv8 comparison highlights how v8 builds on such ideas with a more modular framework, better support for multi-task learning, and an easier deployment pipeline. Both models reflect strong evolution in object detection, and choosing between them really depends on specific project goals and hardware constraints.