Выделенные эндпоинты#

Ultralytics Platform позволяет развертывать модели YOLO на выделенных эндпоинтах в 42 глобальных регионах. Каждый эндпоинт представляет собой сервис с однопользовательским доступом, функцией масштабирования до нуля, уникальным URL-адресом и независимым мониторингом.

Создать эндпоинт#

Из вкладки Deploy#

Разверни модель на вкладке Deploy:

1. Перейди к своей модели
2. Нажми на вкладку Deploy
3. Посмотри на карту мира и таблицу регионов, которая отсортирована по измеренной задержке из твоего местоположения
4. Нажми Deploy в строке нужного региона

Имя развертывания генерируется автоматически на основе названия модели и города региона (например, yolo26n-iowa).

Со страницы Deployments#

Создай развертывание на глобальной странице Deploy в боковой панели:

1. Нажми New Deployment
2. Выбери модель из селектора моделей
3. Выбери регион на карте или в таблице
4. Проверь редактируемое имя развертывания, сгенерированное автоматически, и фиксированные настройки ресурсов по умолчанию
5. Нажми Deploy Model

Жизненный цикл развертывания#

stateDiagram-v2
    [*] --> Creating: Deploy
    Creating --> Deploying: Container starting
    Deploying --> Ready: Health check passed
    Ready --> Stopping: Stop
    Stopping --> Stopped: Stopped
    Stopped --> Ready: Start
    Ready --> [*]: Delete
    Stopped --> [*]: Delete
    Creating --> Failed: Error
    Deploying --> Failed: Error
    Failed --> [*]: Delete

    classDef proc fill:#2196F3,color:#fff
    classDef out fill:#9C27B0,color:#fff
    classDef error fill:#F44336,color:#fff
    classDef extern fill:#607D8B,color:#fff
    class Creating,Deploying,Stopping proc
    class Ready out
    class Failed error
    class Stopped extern

Подключи Slack-уведомления, чтобы получать сообщения о готовности развертывания или об ошибках при его запуске.

Выбор региона#

Выбирай из 42 регионов по всему миру. Интерактивная карта регионов и таблица отображают:

• Маркеры регионов: цветовая кодировка по задержке на градиенте от зеленого к красному (быстрее — зеленее, медленнее — краснее)
• Развернутые регионы: выделены значком "Deployed"
• Регионы в процессе развертывания: анимированный индикатор пульсации
• Двусторонняя подсветка: наведение курсора на карту подсвечивает строку в таблице, и наоборот

Таблица регионов на вкладке Deploy модели включает:

Доступные регионы#

Конфигурация конечной точки#

Диалоговое окно нового развертывания#

Диалоговое окно New Deployment предоставляет следующее:

Отключенная панель Resources отмечена как Coming Soon и в настоящее время не может быть развернута или настроена. Развертывания используют 1 CPU, 2 GiB памяти, minInstances = 0 и maxInstances = 1.

Вкладка Deploy (быстрое развертывание)#

При развертывании через вкладку Deploy модели конечные точки создаются с ресурсами по умолчанию (1 CPU, 2 ГБ памяти) и включенным масштабированием до нуля. Имя развертывания генерируется автоматически.

Управление конечными точками#

Режимы отображения#

Список развертываний поддерживает три режима просмотра:

Карточка развертывания (режим карточек)#

Каждая карточка развертывания в режиме карточек отображает:

• Заголовок: имя, флаг региона, значок статуса, кнопки запуска/остановки/удаления
• URL конечной точки: URL, который можно скопировать, со ссылкой на документацию API
• Метрики: количество запросов (24ч), задержка P95, частота ошибок
• Проверка работоспособности: индикатор состояния в реальном времени с задержкой и ручным обновлением
• Вкладки: Logs, Code и Predict

Вкладка Logs показывает последние записи логов с фильтрацией по уровню критичности (Все / Ошибки). Вкладка Code показывает готовые к использованию примеры кода на Python, JavaScript и cURL с твоим актуальным URL конечной точки и API ключом. Вкладка Predict предоставляет встроенную панель предсказаний для тестирования прямо на развертывании.

Статусы развертывания#

URL конечной точки#

Каждая конечная точка имеет уникальный URL, например:

https://predict-abc123.run.app

Нажми кнопку копирования, чтобы скопировать URL. Нажми значок документации, чтобы посмотреть автоматически сгенерированную API-документацию для эндпоинта.

Управление жизненным циклом#

Управляй состоянием своей конечной точки:

graph LR
    R[Ready]:::out -->|Stop| S[Stopped]:::extern
    S -->|Start| R
    R -->|Delete| D[Deleted]:::error
    S -->|Delete| D

    classDef out fill:#9C27B0,color:#fff
    classDef error fill:#F44336,color:#fff
    classDef extern fill:#607D8B,color:#fff

Остановить конечную точку#

Останови эндпоинт, когда не хочешь, чтобы он принимал запросы:

1. Нажми значок паузы на карточке развертывания
2. Статус конечной точки изменится на "Stopping", а затем на "Stopped"

Остановленные конечные точки:

• Не принимают запросы
• Могут быть перезапущены в любое время

Удалить конечную точку#

Безвозвратно удали конечную точку:

1. Нажми значок удаления (корзина) на карточке развертывания
2. Подтверди удаление в диалоговом окне

Использование конечных точек#

Аутентификация#

Каждое развертывание создается с использованием API ключа из твоего аккаунта. Включай его в запросы:

Authorization: Bearer YOUR_API_KEY

Префикс API ключа отображается в нижней части карточки развертывания для идентификации. Генерируй ключи в разделе API Keys.

Прямые запросы к эндпоинту#

Отправляй продакшн-запросы напрямую на URL, указанный на карточке развертывания. Эти запросы не проходят через ограничитель частоты запросов Platform API. В настоящее время эндпоинт запускает один экземпляр с фиксированными ресурсами, описанными выше.

Пример запроса#

import requests

# Deployment endpoint
url = "https://predict-abc123.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

Параметры запроса#

Формат ответа#

То же самое, что и общий вывод с полями, специфичными для задачи.

FAQ#

Сколько эндпоинтов я могу создать?#

Лимиты эндпоинтов зависят от тарифного плана:

• Free: до 3 развертываний
• Pro: до 10 развертываний
• Enterprise: неограниченное количество развертываний

Каждая модель по-прежнему может быть развернута в нескольких регионах в рамках квоты твоего тарифного плана.

Могу ли я изменить регион после развертывания?#

Нет, регионы фиксированы. Чтобы изменить регион:

1. Удали существующий эндпоинт
2. Создай новый эндпоинт в нужном регионе

Как мне настроить развертывание в нескольких регионах?#

Для глобального покрытия:

1. Разверни модель в нескольких регионах
2. Используй балансировщик нагрузки или DNS-маршрутизацию
3. Направляй пользователей к ближайшему эндпоинту

Каково время «холодного» старта?#

Время холодного старта зависит от модели и от того, масштабировался ли эндпоинт до нуля. Запрос проверки работоспособности Platform допускает до 55 секунд, чтобы у простаивающего эндпоинта было время запуститься.

Каждое развертывание в настоящее время использует сгенерированный URL эндпоинта, отображаемый на его карточке развертывания.