Link to this sectionUltralytics YOLO 하이퍼파라미터 튜닝 가이드#

Link to this section소개#

하이퍼파라미터 튜닝은 단순히 일회성 설정이 아니라, 정확도, 정밀도, 재현율과 같은 머신 러닝 모델의 성능 지표를 최적화하기 위한 반복적인 프로세스입니다. Ultralytics YOLO의 경우, 이러한 하이퍼파라미터는 학습률부터 레이어 수나 활성화 함수 유형과 같은 아키텍처 세부 사항까지 다양할 수 있습니다. Ultralytics Platform은 구성 가능한 하이퍼파라미터와 실시간 지표 추적을 통한 클라우드 학습을 지원합니다.

Link to this section하이퍼파라미터란 무엇인가요?#

하이퍼파라미터는 알고리즘에 대한 상위 수준의 구조적 설정입니다. 이는 학습 단계 이전에 설정되며 학습 중에 일정하게 유지됩니다. 다음은 Ultralytics YOLO에서 일반적으로 조정되는 몇 가지 하이퍼파라미터입니다:

• 학습률(Learning Rate) lr0: 손실 함수의 최솟값으로 이동하는 동안 각 반복에서의 보폭을 결정합니다.
• 배치 크기(Batch Size) batch: 순전파(forward pass)에서 동시에 처리되는 이미지 수입니다.
• 에포크(Epochs) 수 epochs: 에포크는 모든 학습 예제에 대한 한 번의 완전한 순전파 및 역전파 과정을 의미합니다.
• 아키텍처 세부 사항: 채널 수, 레이어 수, 활성화 함수 유형 등입니다.

YOLO26에서 사용되는 전체 증강(augmentation) 하이퍼파라미터 목록은 설정 페이지를 참조하십시오.

Link to this section유전 알고리즘 및 변이(Mutation)#

Ultralytics YOLO는 하이퍼파라미터를 최적화하기 위해 유전 알고리즘을 사용합니다. 유전 알고리즘은 자연 선택과 유전학의 메커니즘에서 영감을 받았습니다.

• 교차(Crossover): 각 반복은 피트니스 가중치를 적용한 부모 선택을 사용하여 BLX-α 교차를 수행하며, 지금까지 확인된 가장 높은 피트니스 구성을 가진 최대 9개 항목의 유전자를 결합합니다.
• 변이(Mutation): 재조합된 후보는 각 하이퍼파라미터에 적용되는 로그 정규 곱셈 인자에 의해 교란됩니다(매개변수당 확률 0.5). 변이 강도 시그마(sigma)는 첫 300회 반복 동안 0.2에서 0.1로 선형적으로 감소하므로, 알고리즘은 초기에 광범위하게 탐색하고 수렴함에 따라 정교화됩니다. 1회차 반복에서는 교차할 부모가 없으므로 기본 학습 하이퍼파라미터를 기준으로 사용합니다.

Link to this section하이퍼파라미터 튜닝 준비#

튜닝 프로세스를 시작하기 전에 다음 사항을 확인하는 것이 중요합니다:

1. 지표 식별: 모델의 성능을 평가하는 데 사용할 지표를 결정하십시오. 이는 AP50, F1-score 등이 될 수 있습니다.
2. 튜닝 예산 설정: 할당할 컴퓨팅 자원 규모를 정의하십시오. 하이퍼파라미터 튜닝은 많은 컴퓨팅 자원을 소모할 수 있습니다.

Link to this section관련 단계#

Link to this section하이퍼파라미터 초기화#

합리적인 초기 하이퍼파라미터 세트로 시작하십시오. 이는 Ultralytics YOLO에서 설정한 기본 하이퍼파라미터이거나, 도메인 지식 또는 이전 실험을 바탕으로 할 수 있습니다.

Link to this section하이퍼파라미터 변이(Mutation)#

_mutate 메서드를 사용하여 기존 세트를 기반으로 새로운 하이퍼파라미터 세트를 생성하십시오. Tuner 클래스가 이 프로세스를 자동으로 처리합니다.

Link to this section모델 학습#

학습은 변이된 하이퍼파라미터 세트를 사용하여 수행됩니다. 그런 다음 선택한 지표를 사용하여 학습 성능을 평가합니다.

Link to this section모델 평가#

AP50, F1-score 또는 사용자 정의 지표를 사용하여 모델 성능을 평가하십시오. 평가 프로세스는 현재 하이퍼파라미터가 이전보다 더 나은지 판단하는 데 도움을 줍니다.

Link to this section결과 기록#

향후 참조를 위해 성능 지표와 해당 하이퍼파라미터를 모두 기록하는 것이 중요합니다. Ultralytics YOLO는 이러한 결과를 자동으로 NDJSON 형식으로 저장합니다.

Link to this section반복#

이 프로세스는 설정된 반복 횟수에 도달하거나 성능 지표가 만족스러울 때까지 반복됩니다. 각 반복은 이전 실행에서 얻은 지식을 바탕으로 빌드됩니다.

Link to this section반복 횟수 및 개체군 크기#

With the built-in tuner (use_ray=False), iterations controls the total number of sequential trials. Each trial trains one model with one hyperparameter configuration — for example, iterations=40 with epochs=50 schedules 40 independent 50-epoch training runs, not one 50-epoch run with a separate population of 40 candidates.

내장된 유전 알고리즘에는 명시적인 개체군 크기 매개변수가 없습니다. 이전 시도가 존재하면, 피트니스가 가장 높은 최대 9개의 구성을 부모로 샘플링하고 BLX-α 교차 및 변이를 적용하여 반복당 하나의 후보를 생성합니다.

병렬 시도나 더 고급 검색 전략을 사용하려면 use_ray=True로 설정하여 Ray Tune을 사용하십시오. Ray Tune은 iterations를 num_samples로 받습니다. 자세한 내용은 Ray Tune 통합 가이드를 참조하십시오.

Link to this section기본 탐색 공간 설명#

다음 표는 YOLO26에서 하이퍼파라미터 튜닝을 위한 기본 검색 공간 매개변수를 나열합니다. 각 매개변수는 튜플 (min, max)로 정의된 특정 값 범위를 가집니다.

Link to this section사용자 지정 탐색 공간 예시#

다음은 검색 공간을 정의하고 model.tune() 메서드를 사용하여 YOLO26n의 하이퍼파라미터 튜닝을 위해 Tuner 클래스를 사용하는 방법입니다. COCO8에서 30에포크 동안 AdamW 옵티마이저를 사용하며, 빠른 튜닝을 위해 최종 에포크를 제외한 플롯, 체크포인트 저장 및 검증은 건너뜁니다.

from ultralytics import YOLO

# Initialize the YOLO model
model = YOLO("yolo26n.pt")

# Define search space
search_space = {
    "lr0": (1e-5, 1e-2),
    "degrees": (0.0, 45.0),
}

# Tune hyperparameters on COCO8 for 30 epochs
model.tune(
    data="coco8.yaml",
    epochs=30,
    iterations=300,
    optimizer="AdamW",
    space=search_space,
    plots=False,
    save=False,
    val=False,
)

Link to this section중단된 하이퍼파라미터 튜닝 세션 재개#

You can resume an interrupted hyperparameter tuning session by passing resume=True. You can optionally pass the directory name used under runs/{task} to resume. Otherwise, it would resume the last interrupted session. You also need to provide all the previous training arguments including data, epochs, iterations and space.

from ultralytics import YOLO

# Define a YOLO model
model = YOLO("yolo26n.pt")

# Define search space
search_space = {
    "lr0": (1e-5, 1e-2),
    "degrees": (0.0, 45.0),
}

# Resume previous run
results = model.tune(data="coco8.yaml", epochs=50, iterations=300, space=search_space, resume=True)

# Resume tuning run with name 'tune_exp'
results = model.tune(data="coco8.yaml", epochs=50, iterations=300, space=search_space, name="tune_exp", resume=True)

Link to this section결과#

하이퍼파라미터 튜닝 프로세스를 성공적으로 완료한 후, 튜닝 결과를 캡슐화하는 여러 파일과 디렉토리를 얻게 됩니다. 다음은 각각에 대한 설명입니다:

Link to this section파일 구조#

결과 디렉토리 구조는 다음과 같습니다. train1/과 같은 학습 디렉토리에는 개별 튜닝 반복이 포함되어 있으며, 즉 한 세트의 하이퍼파라미터로 학습된 하나의 모델이 포함됩니다. tune/ 디렉토리에는 모든 개별 모델 학습의 튜닝 결과가 포함됩니다:

runs/
└── detect/
    ├── train1/
    ├── train2/
    ├── ...
    └── tune/
        ├── best_hyperparameters.yaml
        ├── tune_fitness.png
        ├── tune_results.ndjson
        ├── tune_scatter_plots.png
        └── weights/
            ├── last.pt
            └── best.pt

Link to this section파일 설명#

Link to this sectionbest_hyperparameters.yaml#

이 YAML 파일에는 튜닝 과정에서 발견된 최상의 성능을 내는 하이퍼파라미터가 포함되어 있습니다. 이 파일을 사용하여 최적화된 설정으로 향후 학습을 초기화할 수 있습니다.

• 형식: YAML

• 용도: 하이퍼파라미터 결과

• 예시:

  # 558/900 iterations complete ✅ (45536.81s)
  # Results saved to /usr/src/ultralytics/runs/detect/tune
  # Best fitness=0.64297 observed at iteration 498
  # Best fitness metrics are {'metrics/precision(B)': 0.87247, 'metrics/recall(B)': 0.71387, 'metrics/mAP50(B)': 0.79106, 'metrics/mAP50-95(B)': 0.62651, 'val/box_loss': 2.79884, 'val/cls_loss': 2.72386, 'val/dfl_loss': 0.68503, 'fitness': 0.64297}
  # Best fitness model is /usr/src/ultralytics/runs/detect/train498
  # Best fitness hyperparameters are printed below.
  
  lr0: 0.00269
  lrf: 0.00288
  momentum: 0.73375
  weight_decay: 0.00015
  warmup_epochs: 1.22935
  warmup_momentum: 0.1525
  box: 18.27875
  cls: 1.32899
  dfl: 0.56016
  hsv_h: 0.01148
  hsv_s: 0.53554
  hsv_v: 0.13636
  degrees: 0.0
  translate: 0.12431
  scale: 0.07643
  shear: 0.0
  perspective: 0.0
  flipud: 0.0
  fliplr: 0.08631
  mosaic: 0.42551
  mixup: 0.0
  copy_paste: 0.0

Link to this sectiontune_fitness.png#

이것은 반복 횟수에 따른 피트니스를 보여주는 플롯입니다. 유전 알고리즘이 시간이 지남에 따라 어떻게 작동했는지 시각화하는 데 도움이 됩니다.

• 형식: PNG
• 용도: 성능 시각화

플롯에는 다음이 포함됩니다:

• 반복당 데이터셋당 하나의 마커가 표시되므로, 단일 데이터셋 실행은 반복당 하나의 점을 보여주고, 다중 데이터셋 실행은 반복당 데이터셋당 하나의 점을 보여줍니다.
• 반복별 최상위 피트니스 값에 대해 가우시안 평활화(sigma=3)를 수행하여 계산된 점선 "평활화된 평균" 라인.

Link to this sectiontune_results.ndjson#

각 튜닝 반복의 상세 결과가 포함된 NDJSON 파일입니다. 각 행은 집계된 피트니스, 조정된 하이퍼파라미터 및 데이터셋별 지표가 포함된 하나의 JSON 객체입니다. 단일 데이터셋 및 다중 데이터셋 튜닝은 동일한 파일 형식을 사용합니다.

• 형식: NDJSON
• 용도: 반복별 결과 추적.
• 예시:

가독성을 위해 예쁘게 출력된 예시가 아래에 표시되어 있습니다. 실제 .ndjson 파일에서는 각 객체가 한 줄에 저장됩니다.

{
    "iteration": 1,
    "fitness": 0.48628,
    "hyperparameters": {
        "lr0": 0.01,
        "lrf": 0.01,
        "momentum": 0.937,
        "weight_decay": 0.0005
    },
    "datasets": {
        "coco8": {
            "metrics/precision(B)": 0.65666,
            "metrics/recall(B)": 0.85,
            "metrics/mAP50(B)": 0.85086,
            "metrics/mAP50-95(B)": 0.64104,
            "val/box_loss": 1.57958,
            "val/cls_loss": 1.04986,
            "val/dfl_loss": 1.32641,
            "fitness": 0.64104
        },
        "coco8-grayscale": {
            "metrics/precision(B)": 0.6582,
            "metrics/recall(B)": 0.51667,
            "metrics/mAP50(B)": 0.59106,
            "metrics/mAP50-95(B)": 0.33152,
            "val/box_loss": 1.95424,
            "val/cls_loss": 1.64059,
            "val/dfl_loss": 1.70226,
            "fitness": 0.33152
        }
    },
    "save_dirs": {
        "coco8": "runs/detect/coco8",
        "coco8-grayscale": "runs/detect/coco8-grayscale"
    }
}

최상위 fitness는 데이터셋별 fitness 값의 산술 평균입니다. 단일 데이터셋 튜닝의 경우 datasets 딕셔너리에는 fitness가 최상위 fitness와 동일한 하나의 항목이 있습니다. 완료된 반복당 하나의 JSON 객체가 기록됩니다. 실제 save_dirs 경로는 절대 경로이며, 위에서는 가독성을 위해 생략되었습니다.

Link to this sectiontune_scatter_plots.png#

이 파일에는 tune_results.ndjson에서 생성된 산점도가 포함되어 있으며, 다양한 하이퍼파라미터와 성능 지표 간의 관계를 시각화하는 데 도움을 줍니다. 기본값이 0인 하이퍼파라미터(예: 아래의 degrees 및 shear)는 승법 변이 요인이 0에 가까운 값에서 확장될 여지가 거의 없기 때문에 초기 시드로부터 매우 느리게 진화할 수 있습니다.

• 형식: PNG
• 사용법: 탐색적 데이터 분석

Link to this sectionweights/#

이 디렉토리에는 하이퍼파라미터 튜닝 과정 중 마지막 및 최고의 반복 시점에 저장된 PyTorch 모델이 포함되어 있습니다.

• last.pt: last.pt는 마지막 학습 에포크의 가중치입니다.
• best.pt: best.pt는 최고의 피트니스 점수를 달성한 반복 시점의 가중치입니다.

이 결과들을 사용하여 향후 모델 학습 및 분석을 위한 더욱 정보에 입각한 결정을 내릴 수 있습니다. 모델이 얼마나 잘 수행되었는지, 그리고 어떻게 더 개선할 수 있을지 이해하기 위해 이 아티팩트들을 자유롭게 참조하십시오.

Link to this section결론#

Ultralytics YOLO의 하이퍼파라미터 튜닝 과정은 BLX-α 교차와 로그 정규 변이를 결합한 유전 알고리즘 기반 접근 방식 덕분에 간소하면서도 강력합니다. 이 가이드에 설명된 단계를 따르면 모델을 체계적으로 튜닝하여 더 나은 성능을 달성하는 데 도움이 됩니다.

Link to this section추가 자료#

1. 위키백과의 하이퍼파라미터 최적화
2. YOLOv5 하이퍼파라미터 진화 가이드
3. Ray Tune과 YOLO26을 이용한 효율적인 하이퍼파라미터 튜닝

더 깊은 통찰력을 얻으려면 Tuner 클래스 소스 코드와 관련 문서를 탐색할 수 있습니다. 질문, 기능 요청 또는 추가 지원이 필요하시면 언제든지 GitHub 또는 Discord를 통해 문의해 주십시오.

Link to this sectionFAQ#

Link to this section하이퍼파라미터 튜닝 중 Ultralytics YOLO의 학습률을 어떻게 최적화합니까?#

Ultralytics YOLO의 학습률을 최적화하려면 lr0 파라미터를 사용하여 초기 학습률을 설정하는 것부터 시작하십시오. 일반적인 값은 0.001에서 0.01 사이입니다. 하이퍼파라미터 튜닝 과정에서 이 값은 최적의 설정을 찾기 위해 변이됩니다. model.tune() 메서드를 사용하여 이 과정을 자동화할 수 있습니다. 예시:

from ultralytics import YOLO

# Initialize the YOLO model
model = YOLO("yolo26n.pt")

# Tune hyperparameters on COCO8 for 30 epochs
model.tune(data="coco8.yaml", epochs=30, iterations=300, optimizer="AdamW", plots=False, save=False, val=False)

자세한 내용은 Ultralytics YOLO 설정 페이지를 확인하십시오.

Link to this sectionYOLO26에서 하이퍼파라미터 튜닝에 유전 알고리즘을 사용하면 어떤 이점이 있습니까?#

Ultralytics YOLO26의 유전 알고리즘은 하이퍼파라미터 공간을 탐색하는 강력한 방법을 제공하여 매우 최적화된 모델 성능을 이끌어냅니다. 주요 이점은 다음과 같습니다:

• 효율적인 검색: BLX-α 교차는 가장 높은 피트니스를 가진 부모로부터 유전자를 결합하며, 로그 정규 변이는 결과를 변화시켜 새로운 후보를 발견합니다.
• 지역 최적점 회피: 무작위성을 도입함으로써 지역 최적점을 회피하는 데 도움을 주어 더 나은 전체 최적화를 보장합니다.
• 성능 지표: 작업별 피트니스 점수(감지의 경우 mAP50-95)를 기반으로 적응합니다.

유전 알고리즘이 어떻게 하이퍼파라미터를 최적화할 수 있는지 보려면 하이퍼파라미터 진화 가이드를 확인하십시오.

Link to this sectionUltralytics YOLO의 하이퍼파라미터 튜닝 과정은 얼마나 걸립니까?#

Ultralytics YOLO를 사용한 하이퍼파라미터 튜닝에 필요한 시간은 데이터셋 크기, 모델 아키텍처의 복잡성, 반복 횟수 및 사용 가능한 컴퓨팅 자원과 같은 여러 요인에 크게 좌우됩니다. 예를 들어, 하드웨어에 따라 다르지만 COCO8과 같은 데이터셋에서 30 에포크 동안 YOLO26n을 튜닝하는 데 몇 시간에서 며칠이 소요될 수 있습니다.

튜닝 시간을 효과적으로 관리하려면 사전에 명확한 튜닝 예산을 정의하십시오(내부 섹션 링크). 이는 자원 할당과 최적화 목표 사이의 균형을 맞추는 데 도움이 됩니다.

Link to this sectionYOLO에서 하이퍼파라미터 튜닝 중 모델 성능을 평가하기 위해 어떤 지표를 사용해야 합니까?#

YOLO에서 하이퍼파라미터 튜닝 중 모델 성능을 평가할 때 여러 주요 지표를 사용할 수 있습니다:

• AP50: IoU 임계값 0.50에서의 평균 정밀도(Average Precision)입니다.
• F1-Score: 정밀도와 재현율의 조화 평균입니다.
• 정밀도 및 재현율: 참 양성(True Positives)과 거짓 양성(False Positives) 및 거짓 음성(False Negatives)을 식별하는 데 있어 모델의 정확도를 나타내는 개별 지표입니다.

이 지표들은 모델 성능의 다양한 측면을 이해하는 데 도움이 됩니다. 포괄적인 개요는 Ultralytics YOLO 성능 지표 가이드를 참조하십시오.

Link to this sectionYOLO26에서 고급 하이퍼파라미터 최적화를 위해 Ray Tune을 사용할 수 있습니까?#

네, Ultralytics YOLO26은 고급 하이퍼파라미터 최적화를 위해 Ray Tune과 통합됩니다. Ray Tune은 베이지안 최적화 및 Hyperband와 같은 정교한 검색 알고리즘을 제공하며, 튜닝 과정을 가속화하기 위한 병렬 실행 기능을 갖추고 있습니다.

To use Ray Tune with YOLO26, simply set the use_ray=True parameter in your model.tune() method call. For more details and examples, check out the Ray Tune integration guide.