머신러닝 모범 사례 및 모델 학습 팁#

소개#

컴퓨터 비전 프로젝트를 진행할 때 가장 중요한 단계 중 하나는 모델 학습입니다. 이 단계에 앞서 목표를 정의하고 데이터를 수집하고 어노테이션을 작성해야 합니다. 데이터가 깔끔하고 일관적인지 확인하도록 데이터를 전처리한 다음 모델 학습을 시작할 수 있습니다.

모델 학습은 모델이 시각적 패턴을 인식하고 데이터에서 예측하도록 학습시키는 과정이며, 애플리케이션의 정확도에 직접적인 영향을 줍니다. 이 가이드에서는 컴퓨터 비전 모델을 효과적으로 학습할 수 있도록 모범 사례, 최적화 기법, 문제 해결 팁을 설명합니다.

머신러닝 모델 학습 방법#

컴퓨터 비전 모델은 오류를 최소화하도록 내부 파라미터를 조정해 학습합니다. 먼저 레이블이 지정된 이미지로 구성된 대규모 데이터셋을 모델에 입력합니다. 모델은 이미지에 무엇이 있는지 예측하고, 예측 결과를 실제 레이블 또는 이미지 내용과 비교해 오류를 계산합니다. 이 오류를 통해 모델의 예측이 실제 값에서 얼마나 벗어났는지 확인할 수 있습니다.

학습 중 모델은 반복해서 예측하고 오류를 계산하며 역전파라는 과정을 통해 파라미터를 업데이트합니다. 이 과정에서 모델은 오류를 줄이기 위해 내부 파라미터(가중치와 편향)를 조정합니다. 이 과정을 여러 번 반복하면 모델의 정확도가 점차 향상됩니다. 시간이 지나면서 형태, 색상, 질감과 같은 복잡한 패턴을 인식하게 됩니다.

이 학습 과정을 통해 컴퓨터 비전 모델은 객체 탐지, 인스턴스 세그멘테이션, 시맨틱 세그멘테이션, 이미지 분류 등 다양한 작업을 수행할 수 있습니다. 최종 목표는 모델이 학습한 내용을 새로운 미관측 이미지에도 일반화하여 실제 애플리케이션에서 시각 데이터를 정확하게 이해하도록 하는 것입니다.

모델 학습 과정의 내부 동작을 살펴보았으니, 이제 모델을 학습할 때 고려할 사항을 알아보겠습니다.

대규모 데이터셋 학습#

대규모 데이터셋으로 모델을 학습할 계획이라면 몇 가지 측면을 고려해야 합니다. 예를 들어 배치 크기를 조정하고, GPU 사용률을 관리하고, 멀티스케일 학습을 선택할 수 있습니다. 각 옵션을 자세히 살펴보겠습니다.

배치 크기 및 GPU 사용률#

대규모 데이터셋으로 모델을 학습할 때는 GPU를 효율적으로 활용하는 것이 중요합니다. 배치 크기는 중요한 요소이며, 머신러닝 모델이 한 번의 학습 반복에서 처리하는 데이터 샘플의 수를 의미합니다. GPU가 지원하는 최대 배치 크기를 사용하면 GPU 성능을 최대한 활용하고 모델 학습 시간을 줄일 수 있습니다. 하지만 GPU 메모리 부족은 피해야 합니다. 메모리 오류가 발생하면 모델이 원활하게 학습될 때까지 배치 크기를 조금씩 줄이세요.

YOLO26의 경우, GPU 용량에 맞게 학습 모드 인수에서 batch 매개변수를 설정할 수 있습니다. 단일 가속기에서는 batch=-1가 모델 프로파일링을 수행하고 메모리 사용률을 약 60%로 맞추는 배치 크기를 선택합니다. batch=0.70와 같은 비율 값은 다른 메모리 사용률을 목표로 합니다. 다중 GPU 실행에서는 장치 수의 배수인 전역 배치 크기를 명시적으로 설정해야 합니다. CPU와 Apple 실리콘 환경에서는 AutoBatch가 경고를 표시하고 batch=16로 대체합니다.

부분 데이터셋 학습#

부분 데이터셋 학습은 전체 데이터셋을 대표하는 더 작은 데이터 집합으로 모델을 학습하는 효율적인 전략입니다. 특히 모델을 처음 개발하고 테스트할 때 시간과 리소스를 절약할 수 있습니다. 시간이 부족하거나 다양한 모델 구성을 시험하는 경우 부분 데이터셋 학습을 활용하면 좋습니다.

YOLO26에서는 fraction 파라미터를 사용해 부분 데이터셋 학습을 간편하게 구현할 수 있습니다. 학습 데이터의 10%를 사용하려면 fraction=0.1과 같은 비율을, 학습 이미지 300개를 정확히 사용하려면 fraction=300와 같은 정수를 사용하세요. 각 분할의 데이터 수를 제한하고 테스트 이미지를 건너뛰려면 [train, val, test] 목록에 fraction=[300, 100, 0]와 같은 값을 지정할 수 있습니다. 항목이 두 개인 목록인 [300, 100]를 사용하면 테스트 분할은 전체 데이터로 유지됩니다. NDJSON 데이터셋은 다운로드 전에 균등한 간격으로 레코드를 선택하므로 반복 실행 시 동일한 부분 데이터셋을 재사용합니다. 이 기법을 사용하면 전체 데이터셋으로 진행하기 전에 빠르게 반복 실험하고 튜닝할 수 있습니다.

멀티스케일 학습#

멀티스케일 학습은 다양한 크기의 이미지로 모델을 학습해 일반화 성능을 높이는 기법입니다. 모델은 서로 다른 크기와 거리에 있는 객체를 감지하는 방법을 학습해 더욱 견고해질 수 있습니다.

예를 들어 YOLO26 학습 시 scale 파라미터를 설정해 스케일 증강을 활성화할 수 있습니다. 이 파라미터는 지정된 비율로 학습 이미지 크기를 조정하여 서로 다른 거리에 있는 객체를 시뮬레이션합니다. 예를 들어 scale=0.5을 설정하면 학습 중 이미지가 0.5~1.5배 범위에서 무작위로 확대 또는 축소됩니다. 이 파라미터를 구성하면 모델이 다양한 이미지 스케일을 경험하므로 여러 객체 크기와 상황에서 탐지 성능을 향상할 수 있습니다.

Ultralytics는 multi_scale 파라미터를 통한 이미지 크기 멀티스케일 학습도 지원합니다. 이미지를 확대 또는 축소한 다음 imgsz에 맞춰 패딩하거나 자르는 scale과 달리, multi_scale은 매 배치마다 imgsz 자체를 변경합니다(모델 스트라이드에 맞춰 반올림). 예를 들어 imgsz=640 및 multi_scale=0.25을 사용하면 학습 크기는 스트라이드 단위로 480에서 800까지(예: 480, 512, 544, ..., 800) 샘플링되며, multi_scale=0.0은 고정 크기를 유지합니다.

캐싱#

캐싱은 머신러닝 모델의 학습 효율을 높이는 중요한 기법입니다. 전처리된 이미지를 메모리에 저장하면 디스크에서 데이터를 불러오는 동안 GPU가 대기하는 시간을 줄일 수 있습니다. 따라서 디스크 I/O 작업으로 인한 지연 없이 모델에 데이터를 계속 공급할 수 있습니다.

YOLO26 학습 시 cache 파라미터를 사용해 캐싱을 제어할 수 있습니다.

• cache=True: 데이터셋 이미지를 RAM에 저장합니다. 가장 빠르게 접근할 수 있지만 메모리 사용량이 늘어납니다.
• cache='disk': 이미지를 디스크에 저장합니다. RAM보다 느리지만 매번 데이터를 새로 불러오는 것보다 빠릅니다.
• cache=False: 캐싱을 비활성화하고 디스크 I/O에만 의존합니다. 세 가지 옵션 중 가장 느립니다.

혼합 정밀도 학습#

혼합 정밀도 학습은 16비트(FP16)와 32비트(FP32) 부동 소수점 형식을 함께 사용합니다. 연산 속도를 높이기 위해 FP16을 사용하고 필요한 정밀도를 유지하기 위해 FP32를 사용하여 두 형식의 장점을 활용합니다. 더 빠른 연산과 낮은 메모리 사용량을 위해 대부분의 신경망 연산은 FP16으로 수행됩니다. 그러나 가중치 업데이트 단계에서 정확도를 유지하기 위해 모델 가중치의 마스터 복사본은 FP32로 보관합니다. 동일한 하드웨어 제약에서도 더 큰 모델이나 더 큰 배치 크기를 처리할 수 있습니다.

혼합 정밀도 학습을 구현하려면 학습 스크립트를 수정하고 GPU와 같은 하드웨어가 이를 지원하는지 확인해야 합니다. PyTorch, TensorFlow와 같은 최신 딥러닝 프레임워크는 대부분 혼합 정밀도를 기본적으로 지원합니다.

YOLO26에서는 혼합 정밀도 학습을 간편하게 사용할 수 있습니다. AMP가 기본적으로 활성화되어 있습니다(amp=True). CUDA GPU에서 YOLO는 학습 시작 시 한 번만 지원 기능을 확인하고, 확인에 실패하면 전체 FP32로 대체합니다. CPU와 Apple 실리콘에서는 AMP를 완전히 건너뜁니다. FP32를 강제하려면 amp=False을 설정하세요.

사전 학습 가중치#

사전 학습된 가중치를 사용하면 모델 학습 속도를 높일 수 있습니다. 사전 학습된 가중치는 대규모 데이터셋으로 이미 학습된 모델에서 가져오므로 모델 학습을 유리하게 시작할 수 있습니다. 전이 학습은 사전 학습된 모델을 새롭고 관련된 작업에 맞게 조정합니다. 사전 학습된 모델을 파인튜닝하려면 해당 가중치로 시작한 다음 특정 데이터셋으로 학습을 이어갑니다. 모델이 기본적인 특징을 충분히 이해한 상태에서 시작하므로 이 학습 방식은 학습 시간을 단축하고 성능을 높이는 경우가 많습니다.

사전 학습된 가중치는 model 인수에서 가져오므로 model=yolo26n.pt은 이미 COCO 가중치로 시작합니다. pretrained 파라미터는 해당 가중치를 유지할지(기본값인 True), 버릴지(False), 다른 체크포인트로 교체할지(pretrained=path/to/best.pt)를 제어합니다. *.yaml 모델에서 pretrained=True을 설정해도 가중치가 자동으로 다운로드되지는 않습니다. 전체 전이 학습 워크플로는 사용자 지정 데이터셋으로 YOLO 파인튜닝하는 방법을 참조하세요.

대규모 데이터셋 처리 시 고려할 기타 기법#

대규모 데이터셋을 처리할 때 고려할 만한 기법이 몇 가지 더 있습니다.

• 학습률 스케줄러: 학습률 스케줄러를 구현하면 학습 중 학습률을 동적으로 조정할 수 있습니다. 학습률을 적절히 조정하면 모델이 최솟값을 지나치게 벗어나는 일을 방지하고 안정성을 높일 수 있습니다. YOLO26 학습 시 lrf 파라미터는 최종 학습률을 초기 학습률의 비율로 설정해 학습률 스케줄링을 관리합니다. 계층별 학습률이나 그래디언트 클리핑처럼 인수로 노출되지 않는 동작을 조정하려면 트레이너를 서브클래싱하세요.
• 분산 학습: 대규모 데이터셋을 처리할 때 분산 학습은 큰 효과를 발휘할 수 있습니다. 여러 GPU 또는 머신에 학습 작업을 분산해 학습 시간을 줄일 수 있습니다. 이 방식은 상당한 컴퓨팅 리소스가 필요한 엔터프라이즈 규모 프로젝트에서 특히 유용합니다.
• 채널 우선 메모리 형식: CUDA 학습은 Windows를 제외하고 PyTorch 1.11 이상에서 더 빠른 NHWC 메모리 레이아웃을 자동으로 사용합니다. Windows에서는 NHWC가 더 느린 것으로 측정되었습니다. 이를 강제하려면 channels_last=True을 설정하고, NCHW를 유지하려면 channels_last=False을 설정하세요. PyTorch 1.10 이하, CPU, MPS에서는 기본적으로 NCHW를 사용합니다.

학습 에포크 수#

모델 학습에서 에포크는 전체 학습 데이터셋을 한 번 모두 처리하는 것을 의미합니다. 에포크 동안 모델은 학습 세트의 각 샘플을 한 번씩 처리하고 학습 알고리즘에 따라 파라미터를 업데이트합니다. 모델이 학습하고 시간이 지나면서 파라미터를 개선하려면 일반적으로 여러 에포크가 필요합니다.

자주 나오는 질문 중 하나는 모델을 몇 에포크 동안 학습해야 하는지 결정하는 방법입니다. 300 에포크부터 시작하는 것이 좋습니다. 모델이 초기에 과적합하면 에포크 수를 줄일 수 있습니다. 300 에포크 이후에도 과적합이 발생하지 않으면 학습을 600, 1200 에포크 이상으로 늘릴 수 있습니다.

그러나 적절한 에포크 수는 데이터셋 크기와 프로젝트 목표에 따라 달라질 수 있습니다. 대규모 데이터셋은 모델이 효과적으로 학습하기 위해 더 많은 에포크가 필요할 수 있고, 소규모 데이터셋은 과적합 방지를 위해 더 적은 에포크가 필요할 수 있습니다. YOLO26의 경우 학습 스크립트에서 epochs 파라미터를 설정할 수 있습니다.

조기 중단#

조기 중단은 모델 학습을 최적화하는 데 유용한 기법입니다. 검증 성능을 모니터링하여 모델의 성능이 더 이상 향상되지 않을 때 학습을 중단할 수 있습니다. 이를 통해 컴퓨팅 리소스를 절약하고 과적합을 방지할 수 있습니다.

이 과정에서는 검증 지표가 개선될 때까지 학습을 지속할 에포크 수를 결정하는 인내도 파라미터를 설정합니다. 해당 에포크 동안 모델 성능이 향상되지 않으면 시간과 리소스 낭비를 방지하기 위해 학습을 중단합니다.

YOLO26에서는 학습 구성에서 인내도 파라미터를 설정해 조기 중단을 활성화할 수 있습니다. 예를 들어 patience=5은 검증 지표가 5회 연속 에포크 동안 개선되지 않으면 학습을 중단한다는 의미입니다. 이 방법을 사용하면 과도한 연산 없이도 학습을 효율적으로 진행하고 최적의 성능을 달성할 수 있습니다.

클라우드 학습과 로컬 학습 중 선택하기#

모델 학습에는 클라우드 학습과 로컬 학습, 두 가지 옵션이 있습니다.

클라우드 학습은 확장성과 강력한 하드웨어를 제공하며, 대규모 데이터셋과 복잡한 모델을 처리하는 데 적합합니다. Google Cloud, AWS, Azure와 같은 플랫폼은 고성능 GPU와 TPU를 온디맨드 방식으로 사용할 수 있게 해 학습 시간을 단축하고 더 큰 모델로 실험할 수 있도록 지원합니다. 그러나 클라우드 학습은 특히 장기간 이용할 경우 비용이 많이 들 수 있으며, 데이터 전송으로 인해 비용과 지연 시간이 늘어날 수 있습니다.

로컬 학습은 더 높은 수준의 제어와 맞춤 설정을 제공하므로, 특정 요구 사항에 맞게 환경을 구성하고 지속적으로 발생하는 클라우드 비용을 피할 수 있습니다. 장기 프로젝트에서는 비용 효율성이 더 높을 수 있으며, 데이터가 온프레미스에 유지되므로 보안성도 향상됩니다. 그러나 로컬 하드웨어는 리소스에 한계가 있을 수 있고 유지 관리가 필요하며, 이로 인해 대규모 모델의 학습 시간이 길어질 수 있습니다.

옵티마이저 선택#

옵티마이저는 모델의 성능을 측정하는 손실 함수를 최소화하도록 신경망의 가중치를 조정하는 알고리즘입니다. 간단히 말해, 옵티마이저는 파라미터를 조정해 오류를 줄임으로써 모델의 학습을 돕습니다. 적합한 옵티마이저를 선택하면 모델의 학습 속도와 정확도에 직접적인 영향을 줍니다.

모델 성능을 높이기 위해 옵티마이저 파라미터를 미세 조정할 수도 있습니다. 학습률을 조정하면 파라미터 업데이트 시 이동하는 단계의 크기가 달라집니다. 안정성을 위해 적당한 학습률로 시작한 다음, 장기적인 학습 성능을 높이도록 점진적으로 낮출 수 있습니다. 또한 모멘텀을 설정하면 이전 업데이트가 현재 업데이트에 미치는 영향의 정도를 결정할 수 있습니다. 모멘텀은 보통 약 0.9로 설정하며, 대체로 균형 잡힌 성능을 제공합니다.

일반적인 옵티마이저#

옵티마이저마다 장단점이 다릅니다. 몇 가지 일반적인 옵티마이저를 간략히 살펴보겠습니다.

• SGD(확률적 경사 하강법):

  • 손실 함수의 파라미터에 대한 그래디언트를 사용해 모델 파라미터를 업데이트합니다.
  • 간단하고 효율적이지만 수렴 속도가 느릴 수 있으며, 지역 최솟값에 빠질 가능성이 있습니다.

• Adam(적응적 모멘트 추정):

  • 모멘텀을 적용한 SGD와 RMSProp의 장점을 결합합니다.
  • 그래디언트의 1차 및 2차 모멘트 추정값을 기반으로 각 파라미터의 학습률을 조정합니다.
  • 노이즈가 있는 데이터와 희소 그래디언트에 적합합니다.
  • 효율적이며 일반적으로 별도의 튜닝이 적게 필요합니다. YOLO26의 optimizer=auto은 짧은 학습 실행에서 Adam 자체보다 밀접한 관련이 있는 AdamW를 선택합니다.

• RMSProp(제곱평균제곱근 전파):

  • 최근 그래디언트 크기의 이동 평균으로 그래디언트를 나누어 각 파라미터의 학습률을 조정합니다.
  • 그래디언트 소실 문제를 처리하는 데 도움이 되며 순환 신경망에 효과적입니다.

• MuSGD(Muon + SGD 하이브리드):

  • 대규모 학습의 안정성을 높이기 위해 SGD 방식의 업데이트와 Muon에서 영감을 얻은 동작을 결합합니다.
  • SGD와 비슷한 일반화 성능을 원하면서 기본 SGD보다 부드러운 수렴이 필요한 경우 적합한 선택입니다.
  • 특히 YOLO26 학습 레시피에 적합합니다. 확실하지 않다면 optimizer=auto로 시작하고 데이터셋에서 MuSGD와 비교해 보세요.

YOLO26에서는 optimizer 파라미터를 사용해 SGD, MuSGD, Adam, Adamax, AdamW, NAdam, RAdam, RMSProp 등 다양한 옵티마이저를 선택할 수 있으며, 학습 반복 횟수에 따라 자동으로 선택하도록 auto로 설정할 수도 있습니다.

yolo train model=yolo26n.pt data=coco8.yaml optimizer=MuSGD

커뮤니티와 소통하기#

컴퓨터 비전 분야에 관심 있는 커뮤니티에 참여하면 문제를 해결하고 더 빠르게 배울 수 있습니다. 다른 사람들과 소통하고, 도움을 받고, 아이디어를 공유하는 방법을 소개합니다.

커뮤니티 리소스#

• GitHub Issues: YOLO26 GitHub 리포지토리를 방문해 Issues 탭에서 질문하거나 버그를 신고하고 새로운 기능을 제안해 보세요. 커뮤니티 구성원과 메인테이너가 활발하게 활동하며 기꺼이 도움을 제공합니다.
• Ultralytics Discord 서버: Ultralytics Discord 서버에 참여해 다른 사용자 및 개발자와 대화하고, 지원을 받으며, 경험을 공유해 보세요.

공식 문서#

• Ultralytics YOLO26 문서: 공식 YOLO26 문서에서 다양한 컴퓨터 비전 프로젝트에 관한 자세한 가이드와 유용한 팁을 확인해 보세요.

이러한 리소스를 활용하면 문제를 해결하고 컴퓨터 비전 커뮤니티의 최신 동향과 관행을 파악하는 데 도움이 됩니다.

핵심 요약#

컴퓨터 비전 모델을 학습하려면 모범 사례를 따르고, 전략을 최적화하며, 발생하는 문제를 해결해야 합니다. 배치 크기 조정, 혼합 정밀도 학습, 사전 학습된 가중치로 시작하기 등의 기법을 활용하면 모델 성능과 학습 속도를 높일 수 있습니다. 서브셋 학습과 조기 종료 같은 방법은 시간과 리소스를 절약하는 데 도움이 됩니다. 커뮤니티와 계속 소통하고 새로운 동향을 파악하면 모델 학습 역량을 꾸준히 향상할 수 있습니다.

자주 묻는 질문#