Выделенные конечные точки

Ultralytics позволяет развертывать YOLO на выделенных конечных точках в 43 регионах мира. Каждая конечная точка представляет собой однопользовательский сервис с автомасштабированием, уникальным URL-адресом и независимым мониторингом.

Создать конечную точку

На вкладке «Развертывание»

Разверните модель из ее Deploy вкладка:

1. Перейдите к вашей модели
2. Нажмите на вкладку Deploy
3. Выберите регион из таблицы регионов (отсортированной по задержке от вашего местоположения)
4. Нажмите «Развернуть» в строке региона.

Имя развертывания автоматически генерируется на основе имени модели и города региона (например, yolo11n-iowa).

Со страницы «Развертывания»

Создать развертывание из глобального Deploy страница в боковой панели:

1. Нажмите «Новое развертывание»
2. Выберите модель из селектора моделей
3. Выберите регион на карте или в таблице
4. При желании настройте имя развертывания и ресурсы
5. Нажмите «Развернуть модель»

Жизненный цикл развертывания

stateDiagram-v2
    [*] --> Creating: Deploy
    Creating --> Deploying: Container starting
    Deploying --> Ready: Health check passed
    Ready --> Stopping: Stop
    Stopping --> Stopped: Stopped
    Stopped --> Ready: Start
    Ready --> [*]: Delete
    Stopped --> [*]: Delete
    Creating --> Failed: Error
    Deploying --> Failed: Error
    Failed --> [*]: Delete

Выбор региона

Выберите из 43 регионов по всему миру. Интерактивная карта регионов и таблица показывают:

• Region pins: Color-coded by latency (green < 100ms, yellow < 200ms, red > 200ms)
• Развернутые регионы: выделены значком «Развернуто»
• Развертывание регионов: анимированный индикатор импульса
• Двунаправленное выделение: при наведении курсора на карту выделяется строка таблицы и наоборот.

Таблица регионов в модели Deploy Вкладка включает:

Доступные регионы

Конфигурация конечной точки

Диалоговое окно «Новое развертывание»

Параметр New Deployment диалог предоставляет:

Настройки ресурсов доступны в сворачиваемом разделе «Ресурсы ». По умолчанию для развертываний используется масштабирование до нуля (мин. количество экземпляров = 0, макс. количество экземпляров = 1) — вы платите только за активное время инференции.

Вкладка «Развертывание» (быстрое развертывание)

При развертывании из модели Deploy На вкладке «Развертывание» конечные точки создаются с ресурсами по умолчанию (1 CPU, 2 ГБ памяти) с включенной функцией масштабирования до нуля. Имя развертывания генерируется автоматически.

Управление конечными точками

Режимы просмотра

Список развертываний поддерживает три режима просмотра:

Карта развертывания (вид карт)

Каждая карта развертывания в окне просмотра карт отображает:

• Заголовок: имя, флаг региона, значок статуса, кнопки «Пуск/Стоп/Удалить»
• URL конечной точки: копируемый URL со ссылкой на документацию API
• Показатели: количество запросов (за 24 часа), задержка P95, коэффициент ошибок
• Проверка работоспособности: индикатор работоспособности в реальном времени с задержкой и ручным обновлением
• Вкладки: Logs, Codeи Predict

Параметр Logs Вкладка «Журнал» отображает последние записи журнала с фильтрацией по степени серьезности (Все / Ошибки). Code Вкладка «Примеры кода» содержит готовые к использованию примеры кода на Python, JavaScript и cURL с вашим фактическим URL-адресом конечной точки и ключом API. Predict Вкладка «tab» предоставляет встроенную панель прогнозирования для тестирования непосредственно на развертывании.

Статусы развертывания

URL конечной точки

Каждая конечная точка имеет уникальный URL-адрес, например:

https://predict-abc123.run.app

Нажмите кнопку «Копировать», чтобы скопировать URL-адрес. Нажмите значок «Документы», чтобы просмотреть автоматически сгенерированную документацию API для конечной точки.

Управление жизненным циклом

Управление состоянием конечной точки:

graph LR
    R[Ready] -->|Stop| S[Stopped]
    S -->|Start| R
    R -->|Delete| D[Deleted]
    S -->|Delete| D

    style R fill:#4CAF50,color:#fff
    style S fill:#9E9E9E,color:#fff
    style D fill:#F44336,color:#fff

Остановить конечную точку

Остановите конечную точку, чтобы приостановить тарификацию:

1. Нажмите значок паузы на карте развертывания.
2. Статус конечной точки меняется на «Остановка», а затем на «Остановлено».

Остановленные конечные точки:

• Не принимают запросы
• Не тарифицируются
• Может быть перезапущен в любой момент

Удалить конечную точку

Безвозвратное удаление конечной точки:

1. Нажмите значок удаления (корзина) на карте развертывания.
2. Подтвердите удаление в диалоговом окне

Использование конечных точек

Аутентификация

Каждое развертывание создается с помощью ключа API из вашей учетной записи. Включите его в запросы:

Authorization: Bearer YOUR_API_KEY

Префикс ключа API отображается в нижнем колонтитуле карты развертывания для идентификации. Сгенерируйте ключи в разделе «Ключи API».

Без ограничений по ставкам

Выделенные конечные точки не подпадают под ограничения скорости API платформы. Запросы поступают непосредственно в ваш выделенный сервис, поэтому пропускная способность ограничивается только конфигурацией CPU, памяти и масштабирования вашей конечной точки. Это ключевое преимущество по сравнению с общим выводом, скорость которого ограничена 20 запросами в минуту на один ключ API.

Пример запроса

import requests

# Deployment endpoint
url = "https://predict-abc123.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

// Build form data with image and parameters
const formData = new FormData();
formData.append("file", fileInput.files[0]);
formData.append("conf", "0.25");
formData.append("iou", "0.7");
formData.append("imgsz", "640");

// Send image for inference
const response = await fetch(
  "https://predict-abc123.run.app/predict",
  {
    method: "POST",
    headers: { Authorization: "Bearer YOUR_API_KEY" },
    body: formData,
  }
);

const result = await response.json();
console.log(result);

curl -X POST \
  "https://predict-abc123.run.app/predict" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -F "file=@image.jpg" \
  -F "conf=0.25" \
  -F "iou=0.7" \
  -F "imgsz=640"

Параметры запроса

Формат ответа

Аналогично общему выводу с полями, специфичными для задачи.

Цены

Выделенные конечные точки тарифицируются на основе:

Часто задаваемые вопросы

Сколько конечных точек я могу создать?

Ограничения конечных точек зависят от тарифного плана:

• Бесплатно: до 3 развертываний
• Плюс: до 10 развертываний
• Предприятие: неограниченное количество развертываний

Каждая модель по-прежнему может быть развернута в нескольких регионах в пределах квоты вашего плана.

Могу ли я изменить регион после развертывания?

Нет, регионы фиксированы. Чтобы изменить регионы:

1. Удалите существующую конечную точку
2. Создайте новую конечную точку в желаемом регионе

Как реализовать многорегиональное развертывание?

Для глобального охвата:

1. Развертывание в нескольких регионах
2. Используйте балансировщик нагрузки или маршрутизацию DNS
3. Направляйте пользователей к ближайшей конечной точке

Каково время холодного старта?

Время холодного запуска зависит от размера модели и от того, кэширован ли контейнер в регионе. Типичные диапазоны:

Проверка работоспособности использует 55-секундный таймаут, чтобы учесть худший случай холодного запуска.

Могу ли я использовать пользовательские домены?

Пользовательские домены скоро появятся. В настоящее время конечные точки используют URL-адреса, сгенерированные платформой.

📅 Создано 1 месяц назад ✏️ Обновлено 5 дней назад

Комментарии