전용 엔드포인트

Ultralytics 43개 글로벌 리전의 전용 엔드포인트에 YOLO 배포할 수 있도록 지원합니다. 각 엔드포인트는 자동 확장 기능, 고유한 엔드포인트 URL, 독립적인 모니터링을 갖춘 단일 테넌트 서비스입니다.

엔드포인트 생성

배포 탭에서

모델을 배포합니다. Deploy 탭:

1. 모델로 이동
2. 배포 탭을 클릭합니다.
3. 지역 테이블에서 지역을 선택하세요(사용자 위치 기준 지연 시간 순으로 정렬됨)
4. 리전 행에서 배포를 클릭하세요

배포 이름은 모델 이름과 지역 도시(예: yolo11n-iowa)입니다.

배포 페이지에서

글로벌에서 배포 생성 Deploy 사이드바의 페이지:

1. 새 배포 클릭
2. 모델 선택기에서 모델을 선택하십시오
3. 지도 또는 표에서 지역을 선택하세요
4. 선택적으로 배포 이름 및 리소스를 사용자 정의할 수 있습니다.
5. 모델 배포 클릭

배포 수명 주기

stateDiagram-v2
    [*] --> Creating: Deploy
    Creating --> Deploying: Container starting
    Deploying --> Ready: Health check passed
    Ready --> Stopping: Stop
    Stopping --> Stopped: Stopped
    Stopped --> Ready: Start
    Ready --> [*]: Delete
    Stopped --> [*]: Delete
    Creating --> Failed: Error
    Deploying --> Failed: Error
    Failed --> [*]: Delete

지역 선택

전 세계 43개 지역 중에서 선택하세요. 대화형 지역 지도와 표에는 다음이 표시됩니다:

• Region pins: Color-coded by latency (green < 100ms, yellow < 200ms, red > 200ms)
• 배포된 지역: "배포됨" 배지로 강조 표시됨
• 배포 중인 리전: 애니메이션 펄스 표시기
• 양방향 강조 표시: 지도에 마우스를 올리면 테이블 행이 강조 표시되며, 그 반대의 경우도 마찬가지입니다.

모델의 지역 테이블 Deploy 탭에는 다음이 포함됩니다:

사용 가능한 리전

엔드포인트 구성

새 배포 대화 상자

에 지정되어 있습니다. New Deployment dialog는 다음을 제공합니다:

리소스 설정은 접을 수 있는 '리소스' 섹션에서 확인할 수 있습니다. 배포는 기본적으로 제로 스케일링(최소 인스턴스 = 0, 최대 인스턴스 = 1)을 사용합니다. 활성 추론 시간에 대해서만 비용이 청구됩니다.

배포 탭 (빠른 배포)

모델의 Deploy 탭에서 엔드포인트는 기본 리소스( CPU 1개, 메모리 2GB)로 생성되며, 스케일 투 제로 기능이 활성화됩니다. 배포 이름은 자동 생성됩니다.

엔드포인트 관리

보기 모드

배포 목록은 세 가지 보기 모드를 지원합니다:

배포 카드 (카드 보기)

카드 보기에서 각 배포 카드는 다음을 표시합니다:

• 헤더: 이름, 지역 플래그, 상태 배지, 시작/중지/삭제 버튼
• 엔드포인트 URL: API 문서 링크가 포함된 복사 가능한 URL
• 메트릭스: 요청 수 (24시간), P95 지연 시간, 오류율
• 건강 상태 점검: 지연 시간 및 수동 새로고침 기능이 포함된 실시간 건강 지표
• 탭: Logs, Code및 Predict

에 지정되어 있습니다. Logs 탭은 심각도 필터링(전체 / 오류)을 적용한 최근 로그 항목을 표시합니다. Code 탭에는 실제 엔드포인트 URL과 API 키가 포함된 Python, JavaScript 및 cURL의 즉시 사용 가능한 코드 예제가 표시됩니다. Predict 탭은 배포 환경에서 직접 테스트할 수 있는 인라인 예측 패널을 제공합니다.

배포 상태

엔드포인트 URL

각 엔드포인트에는 고유한 URL이 있습니다. 예를 들어:

https://predict-abc123.run.app

복사 버튼을 클릭하여 URL을 복사하세요. 문서 아이콘을 클릭하면 해당 엔드포인트에 대한 자동 생성된 API 문서를 볼 수 있습니다.

수명 주기 관리

엔드포인트 상태를 제어하세요:

graph LR
    R[Ready] -->|Stop| S[Stopped]
    S -->|Start| R
    R -->|Delete| D[Deleted]
    S -->|Delete| D

    style R fill:#4CAF50,color:#fff
    style S fill:#9E9E9E,color:#fff
    style D fill:#F44336,color:#fff

엔드포인트 중지

요금 청구를 일시 중지하려면 엔드포인트를 중지하세요:

1. 배포 카드의 일시 중지 아이콘을 클릭하세요
2. 엔드포인트 상태가 "중지 중"으로 변경된 후 "중지됨"으로 변경됩니다.

중지된 엔드포인트:

• 요청을 수락하지 않음
• 요금이 발생하지 않음
• 언제든지 다시 시작 가능

엔드포인트 삭제

엔드포인트 영구 제거:

1. 배포 카드에서 삭제(휴지통) 아이콘을 클릭하세요
2. 대화 상자에서 삭제를 확인하십시오

엔드포인트 사용

인증

각 배포는 귀하의 계정에서 생성된 API 키로 생성됩니다. 요청에 포함하십시오:

Authorization: Bearer YOUR_API_KEY

API 키 접두사는 식별을 위해 배포 카드 하단에 표시됩니다. API 키에서 키를 생성하십시오.

속도 제한 없음

전용 엔드포인트는 플랫폼 API 속도 제한의 적용을 받지 않습니다. 요청은 직접 전용 서비스로 전달되므로 처리량은 엔드포인트의 CPU, 메모리 및 확장 구성에 의해서만 제한됩니다. 이는 API 키당 분당 20건의 요청으로 속도 제한이 적용되는 공유 추론 대비 주요 이점입니다.

요청 예시

import requests

# Deployment endpoint
url = "https://predict-abc123.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

// Build form data with image and parameters
const formData = new FormData();
formData.append("file", fileInput.files[0]);
formData.append("conf", "0.25");
formData.append("iou", "0.7");
formData.append("imgsz", "640");

// Send image for inference
const response = await fetch(
  "https://predict-abc123.run.app/predict",
  {
    method: "POST",
    headers: { Authorization: "Bearer YOUR_API_KEY" },
    body: formData,
  }
);

const result = await response.json();
console.log(result);

curl -X POST \
  "https://predict-abc123.run.app/predict" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -F "file=@image.jpg" \
  -F "conf=0.25" \
  -F "iou=0.7" \
  -F "imgsz=640"

요청 매개변수

응답 형식

작업별 필드를 포함하는 공유 추론과 동일합니다.

가격

전용 엔드포인트는 다음을 기준으로 요금이 청구됩니다:

FAQ

몇 개의 엔드포인트를 생성할 수 있나요?

엔드포인트 제한은 플랜에 따라 다릅니다:

• 무료: 최대 3회 배포
• 장점: 최대 10회 배포
• 엔터프라이즈: 무제한 배포

각 모델은 여전히 플랜 할당량 내에서 여러 리전에 배포할 수 있습니다.

배포 후 리전을 변경할 수 있나요?

아니요, 리전은 고정되어 있습니다. 리전을 변경하려면:

1. 기존 엔드포인트 삭제
2. 원하는 리전에 새 엔드포인트 생성

다중 리전 배포는 어떻게 처리하나요?

전역 커버리지를 위해:

1. 여러 리전에 배포
2. 로드 밸런서 또는 DNS 라우팅 사용
3. 사용자를 가장 가까운 엔드포인트로 라우팅

콜드 스타트 시간은 얼마인가요?

콜드 스타트 시간은 모델 크기와 해당 컨테이너가 해당 리전에 이미 캐시되어 있는지 여부에 따라 달라집니다. 일반적인 범위는 다음과 같습니다:

건강 상태 확인은 최악의 경우 콜드 스타트 상황을 수용하기 위해 55초의 타임아웃을 사용합니다.

커스텀 도메인을 사용할 수 있나요?

사용자 지정 도메인은 곧 지원될 예정입니다. 현재 엔드포인트는 플랫폼에서 생성된 URL을 사용합니다.

5; 1 전에 생성됨 ✏️ 5 전에 업데이트됨

댓글