배포#
Ultralytics Platform은 YOLO 모델을 프로덕션 환경에 배포할 수 있도록 포괄적인 모델 배포 옵션을 제공합니다. 브라우저 기반 추론으로 모델을 테스트하고, 전 세계 42개 리전의 전용 엔드포인트에 배포하며, 성능을 실시간으로 모니터링할 수 있습니다.
시청: Ultralytics Platform 시작하기 - 배포
개요#
배포 섹션에서는 다음을 수행할 수 있습니다:
Predict탭에서 브라우저로 모델을 직접 테스트- 전 세계 42개 리전의 전용 엔드포인트에 배포
- 모든 전용 엔드포인트의 요청 메트릭, 로그, 상태 확인 및 임시 예측을 모니터링
- 리소스 선택: 기본 엔드포인트는 사용량이 없으면 0개로 축소되고, 사용자 지정 크기는 가동 시간 기준으로 요금이 부과되는 웜 인스턴스를 유지합니다.
배포 옵션#
Ultralytics Platform은 여러 배포 경로를 제공합니다:
| 옵션 | 설명 | 권장 용도 |
|---|---|---|
| Predict 탭 | 이미지, 웹캠, 예제; 자체 엔드포인트의 IP 카메라 | 개발, 검증 |
| 공유 추론 | 3개 데이터 리전에 걸친 멀티테넌트 서비스 | 가벼운 사용, 테스트 |
| 전용 엔드포인트 | 42개 리전에 걸친 단일 테넌트 서비스 | 프로덕션, 낮은 지연 시간 |
| 내보내기 | 로컬 또는 엣지 런타임용 가중치를 22가지 형식으로 다운로드하세요 | 오프라인, 온디바이스 |
워크플로#
| 단계 | 설명 |
|---|---|
| 테스트 | Predict 탭에서 모델 검증 |
| 구성 | 모델, 리전, CPU 및 메모리를 선택한 다음 가격과 배포 이름을 검토합니다. |
| 배포 | Deploy 탭에서 전용 엔드포인트 생성 |
| 모니터링 | 모니터링에서 엔드포인트 메트릭과 임시 예측 확인 |
아키텍처#
공유 추론#
공유 추론 서비스는 주요 3개 리전에서 실행됩니다. 모델에 대한 요청은 해당 모델의 데이터 리전에 있는 서비스로 라우팅되므로 결과는 모델이 저장된 리전 안에 유지됩니다:
| 지역 | 라벨 | 위치 | 권장 용도 |
|---|---|---|---|
| 미국 | 아메리카 | 미국 아이오와주 | 아메리카 사용자 대상, 아메리카 지역에서 가장 빠름 |
| 유럽 연합 | 유럽, 중동 및 아프리카 | 유럽 벨기에 | 유럽 사용자 대상, GDPR 준수 |
| 아시아 태평양 | 아시아 태평양 | 아시아 태평양 대만 | 아시아 태평양 사용자 대상, APAC에서 가장 낮은 지연 시간 |
전용 엔드포인트#
Ultralytics Cloud에서 전 세계 42개 리전에 배포합니다:
- 미주: 14개 리전
- 유럽: 13개 리전
- 아시아 태평양: 12개 리전
- 중동 및 아프리카: 3개 리전
각 엔드포인트는 다음을 제공하는 단일 테넌트 서비스입니다:
- 배포 전에 가격을 확인할 수 있으며 CPU와 메모리를 구성할 수 있습니다.
- 기본 리소스는 0개로 축소되며, 사용자 지정 리소스는 가동 시간 기준으로 요금이 부과되는 웜 인스턴스를 유지합니다.
/docs에 자체 대화형 API 참조가 제공되는 고유 엔드포인트 URL- 해당 키만 엔드포인트를 호출할 수 있도록 자체 API 키 바인딩을 제공합니다.
- 독립적인 모니터링, 로그 및 상태 확인
배포 탭#
모든 배포는 프로필의 배포 탭(/{username}?tab=deployments)에서 데이터셋 및 프로젝트 옆에 표시됩니다. 사이드바의 배포 섹션에는 배포 목록이 표시되며, 각 항목은 해당 배포 페이지로 연결됩니다. 이 섹션에는 배포를 생성하는 + 버튼과 전체 탭으로 연결되는 링크도 있습니다. 탭에는 다음이 표시됩니다:
- 배포된 리전의 핀이 표시된 세계 지도. 리전을 클릭하면
New Deployment대화상자가 열립니다. - 개요 카드: 활성 배포, HTTP 요청(24시간), HTTP 오류율(24시간), HTTP P95 지연 시간(24시간)
- 검색, 정렬, 세 가지 보기 모드(카드, 간단히, 표)를 제공하는 배포 목록. 각 배포는 자체 페이지로 연결되며, 해당 페이지에는
Overview,Monitoring,Predict,Logs탭이 표시됩니다. - 완료된 모델에서 엔드포인트를 생성하는 새 배포 버튼
탭은 자동으로 새로고침되며, 배포 상태가 변경 중일 때(creating, deploying 또는 stopping)는 더 빠르게 새로고침됩니다. 자세한 내용은 모니터링을 참조하세요.
준비 상태인 모든 전용 엔드포인트는 차트와 예시 이미지를 제공하며, 이 데이터는 서빙 인스턴스의 메모리에만 보관됩니다. 중지, 재시작, 재배포, 크기 조정 또는 모델 교체 시 이 데이터가 삭제될 수 있습니다. 예시를 데이터셋에 저장하고 수집이 완료될 때까지 기다리면 데이터를 보존할 수 있습니다. 자세한 내용은 모니터링을 참조하세요.
주요 기능#
전 세계 서비스 범위#
다음 지역을 포함하는 42개 리전에서 사용자와 가까운 곳에 배포합니다:
- 북미, 남미
- 유럽, 중동, 아프리카
- 아시아 태평양, 오세아니아
스케일링 동작#
현재 엔드포인트는 다음과 같이 동작합니다:
- 기본 리소스: 유휴 엔드포인트는 0개로 축소되며 다음 요청이 들어오면 콜드 스타트됩니다.
- 사용자 지정 리소스: 중지할 때까지 인스턴스 하나가 웜 상태를 유지하며 가동 시간 요금이 발생합니다.
- 활성 인스턴스 하나: 현재 모든 플랜에서 각 엔드포인트는 인스턴스 하나로 요청을 처리합니다.
- 부하 차단: 엔드포인트가 일시적으로 용량 한도에 도달하면 요청에
429응답이 반환됩니다. 자세한 내용은 직접 엔드포인트 요청을 참조하세요. - 요청 시간 제한: 직접 엔드포인트 요청의 최대 실행 시간은 1시간입니다. 지원되는 입력은 추론을 참조하세요.
리전별 배포#
측정된 리전 지연 시간을 사용해 호출자와 가까운 곳에 엔드포인트를 배치합니다. 실제 추론 지연 시간은 모델, 입력 크기, 엔드포인트 상태 및 네트워크 경로에 따라 달라집니다.
상태 확인#
실행 중인 각 배포에는 다음을 포함하는 자동 상태 확인이 적용됩니다:
- 실시간 상태 표시기(정상/비정상)
- 응답 지연 시간 표시
- 비정상 상태일 때 자동 재시도하며, 정상 상태가 되면 중지합니다.
- 수동 재핑 버튼
빠른 시작#
배포 생성:
- 프로젝트에 모델을 학습시키거나 업로드합니다.
- 모델의 Deploy 탭으로 이동합니다
- 지연 시간 표에서 지역의 Deploy를 클릭합니다
- 배포 대화상자에서 CPU, 메모리, 가격, 이름을 검토합니다
- Create Deployment를 클릭하고 배포 상태가 Ready가 될 때까지 기다립니다
Model → Deploy tab → Deploy in a region → Review configuration → Create Deployment배포 이름은 모델 이름과 지역 도시를 조합해 생성되며, 배포 전에 수정할 수 있습니다. 배포가 완료되면 엔드포인트 URL과 API 키를 사용해 모든 애플리케이션에서 추론 요청을 보낼 수 있습니다.
빠른 링크#
자주 묻는 질문#
서비스가 시작되는 동안 배포 상태는 creating 또는 deploying으로 표시됩니다. 상태가 Ready로 변경되면 사용할 수 있으며, 소요 시간은 모델과 지역에 따라 다르지만 일반적으로 몇 분 정도 걸립니다.
예, 각 모델에 대해 서로 다른 지역에 여러 엔드포인트를 설정할 수 있습니다. 배포 수는 요금제에 따라 제한됩니다. Free
3, Pro10, Enterpriseunlimited입니다. 할당량은 모델을 소유한 워크스페이스에 적용되며, 엔드포인트는 한 번에 정확히 하나의 모델만 제공하므로 URL을 변경하지 않고 모델을 교체하려면 모델 교체를 사용합니다.기본 리소스 엔드포인트는 유휴 상태일 때 0까지 축소됩니다.
- 비활성 상태가 지속되면 엔드포인트가 축소됩니다
- 첫 요청이 콜드 스타트를 시작합니다
- 이후 요청은 빠르게 처리됩니다
유휴 시간이 지난 뒤의 첫 요청은 콜드 스타트를 시작합니다. 배포 페이지를 열면 엔드포인트를 활성화하는 상태 확인이 실행되므로, 페이지가 응답한 직후 테스트 예측을 빠르게 수행할 수 있습니다.
사용자 지정 리소스 엔드포인트는 계속 활성 상태를 유지하며 유휴 시간을 포함한 가동 시간에 대해 요금이 부과됩니다. 가동 시간 요금이 발생하지 않도록 엔드포인트를 중지하세요.