전용 엔드포인트#

Ultralytics Platform은(는) 42개의 전 세계 리전에 전용 엔드포인트로 YOLO 모델을 배포할 수 있도록 지원합니다. 각 엔드포인트는 스케일 투 제로(scale-to-zero) 동작, 고유한 엔드포인트 URL, 독립적인 모니터링을 갖춘 단일 테넌트 서비스입니다.

엔드포인트 생성#

배포(Deploy) 탭에서 생성#

Deploy 탭에서 모델을 배포합니다:

1. 모델로 이동합니다
2. Deploy 탭을 클릭합니다.
3. 사용자의 위치에서 측정한 지연 시간(latency)을 기준으로 정렬된 세계 지도와 리전(region) 테이블을 검토합니다.
4. 사용하고자 하는 리전 행에서 Deploy를 클릭합니다.

배포 이름은 모델 이름과 리전 도시 이름(예: yolo26n-iowa)을 기반으로 자동 생성됩니다.

배포(Deployments) 페이지에서 생성#

사이드바의 전역 Deploy 페이지에서 배포를 생성합니다:

1. New Deployment를 클릭합니다.
2. 모델 선택기에서 모델을 선택합니다.
3. 지도 또는 표에서 지역을 선택합니다.
4. 편집 가능한 자동 생성 배포 이름과 고정된 리소스 기본값을 확인합니다.
5. Deploy Model을 클릭합니다.

배포 수명 주기#

stateDiagram-v2
    [*] --> Creating: Deploy
    Creating --> Deploying: Container starting
    Deploying --> Ready: Health check passed
    Ready --> Stopping: Stop
    Stopping --> Stopped: Stopped
    Stopped --> Ready: Start
    Ready --> [*]: Delete
    Stopped --> [*]: Delete
    Creating --> Failed: Error
    Deploying --> Failed: Error
    Failed --> [*]: Delete

    classDef proc fill:#2196F3,color:#fff
    classDef out fill:#9C27B0,color:#fff
    classDef error fill:#F44336,color:#fff
    classDef extern fill:#607D8B,color:#fff
    class Creating,Deploying,Stopping proc
    class Ready out
    class Failed error
    class Stopped extern

Slack alerts을(를) 연결하여 배포가 준비되었거나 시작에 실패했을 때 메시지를 받으세요.

리전 선택#

전 세계 42개 지역 중에서 선택하십시오. 대화형 지역 지도와 표는 다음 정보를 보여줍니다:

• 지역 핀(Region pins): 지연 시간에 따라 녹색에서 빨간색으로 그라데이션 색상이 지정됩니다(빠를수록 녹색, 느릴수록 빨간색).
• 배포된 지역(Deployed regions): "Deployed" 배지로 강조 표시됩니다.
• 배포 중인 지역(Deploying regions): 애니메이션 펄스 표시기가 나타납니다.
• 양방향 강조(Bidirectional highlighting): 지도에 마우스를 올리면 표의 행이 강조 표시되며, 그 반대의 경우도 동일합니다.

모델의 Deploy 탭에 있는 리전 테이블에는 다음 내용이 포함됩니다:

사용 가능한 지역#

엔드포인트 구성#

새 배포 대화 상자#

New Deployment 대화상자는 다음을 제공합니다:

비활성화된 Resources 패널에는 Coming Soon이 표시되어 있으며 현재 확장하거나 사용자 정의할 수 없습니다. 배포는 1 CPU, 2 GiB 메모리, minInstances = 0, maxInstances = 1을(를) 사용합니다.

배포 탭 (빠른 배포)#

모델의 Deploy 탭에서 배포할 때 엔드포인트는 기본 리소스(1 CPU, 2 GB 메모리)와 스케일 투 제로(scale-to-zero)가 활성화된 상태로 생성됩니다. 배포 이름은 자동으로 생성됩니다.

엔드포인트 관리#

보기 모드#

배포 목록은 다음 세 가지 보기 모드를 지원합니다:

배포 카드 (카드 보기)#

카드 보기에 있는 각 배포 카드는 다음 정보를 표시합니다:

• 헤더: 이름, 리전 플래그, 상태 배지, 시작/중지/삭제 버튼
• 엔드포인트 URL: API 문서 링크가 포함된 복사 가능한 URL
• 지표: 요청 수(24시간), P95 지연 시간, 오류율
• 상태 점검: 지연 시간과 수동 새로 고침 기능을 갖춘 실시간 상태 표시기
• 탭: Logs, Code, Predict

Logs 탭은 심각도 필터링(전체 / 오류)이 포함된 최근 로그 항목을 보여줍니다. Code 탭은 실제 엔드포인트 URL과 API 키가 포함된 Python, JavaScript, cURL 형식의 바로 사용할 수 있는 코드 예제를 보여줍니다. Predict 탭은 배포에서 직접 테스트하기 위한 인라인 예측 패널을 제공합니다.

배포 상태#

엔드포인트 URL#

각 엔드포인트는 다음과 같은 고유한 URL을 가집니다:

https://predict-abc123.run.app

복사 버튼을 클릭하여 URL을 복사하세요. 문서 아이콘을 클릭하여 엔드포인트의 자동 생성된 API 문서를 확인하세요.

수명 주기 관리#

엔드포인트 상태 제어:

graph LR
    R[Ready]:::out -->|Stop| S[Stopped]:::extern
    S -->|Start| R
    R -->|Delete| D[Deleted]:::error
    S -->|Delete| D

    classDef out fill:#9C27B0,color:#fff
    classDef error fill:#F44336,color:#fff
    classDef extern fill:#607D8B,color:#fff

엔드포인트 중지#

요청을 수락하지 않도록 하려면 엔드포인트를 중지합니다:

1. 배포 카드에서 일시 중지 아이콘을 클릭하십시오
2. 엔드포인트 상태가 "중지 중"에서 "중지됨"으로 변경됩니다

중지된 엔드포인트:

• 요청을 수락하지 않음
• 언제든지 다시 시작 가능

엔드포인트 삭제#

엔드포인트를 영구적으로 제거하려면:

1. 배포 카드에서 삭제(휴지통) 아이콘을 클릭하십시오
2. 대화 상자에서 삭제를 확인하십시오

엔드포인트 사용#

인증#

각 배포는 귀하 계정의 API 키와 함께 생성됩니다. 요청 시 이를 포함하십시오:

Authorization: Bearer YOUR_API_KEY

식별을 위해 API 키 접두사가 배포 카드 바닥글에 표시됩니다. API Keys에서 키를 생성하세요.

직접 엔드포인트 요청#

배포 카드에 표시된 URL로 프로덕션 요청을 직접 보냅니다. 이러한 요청은 Platform API 속도 제한기(rate limiter)를 거치지 않습니다. 엔드포인트는 현재 위에서 설명한 고정 리소스로 하나의 인스턴스를 실행합니다.

요청 예시#

import requests

# Deployment endpoint
url = "https://predict-abc123.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

요청 파라미터#

응답 형식#

태스크별 필드가 포함된 shared inference와 동일합니다.

FAQ#

몇 개의 엔드포인트를 생성할 수 있습니까?#

엔드포인트 제한은 플랜에 따라 다릅니다:

• Free: 최대 3개 배포
• Pro: 최대 10개 배포
• Enterprise: 무제한 배포

각 모델은 플랜 할당량 내에서 여러 지역에 배포할 수 있습니다.

배포 후 지역을 변경할 수 있습니까?#

아니요, 지역은 고정되어 있습니다. 지역을 변경하려면 다음을 수행하십시오:

1. 기존 엔드포인트 삭제
2. 원하는 지역에 새 엔드포인트 생성

다중 지역 배포는 어떻게 처리합니까?#

글로벌 커버리지를 위해 다음을 수행하십시오:

1. 여러 지역에 배포
2. 로드 밸런서 또는 DNS 라우팅 사용
3. 사용자를 가장 가까운 엔드포인트로 라우팅

콜드 스타트 시간은 어떻게 됩니까?#

콜드 스타트(cold start) 시간은 모델과 엔드포인트가 0으로 축소(scale to zero)되었는지 여부에 따라 달라집니다. Platform의 헬스 체크 요청은 최대 55초까지 허용하므로 유휴 상태의 엔드포인트가 시작될 시간을 가집니다.

각 배포는 현재 배포 카드에 표시된 생성된 엔드포인트 URL을 사용합니다.