Выделенные конечные точки

Платформа Ultralytics обеспечивает развертывание моделей YOLO на выделенные конечные точки в 43 регионах мира. Каждая конечная точка представляет собой однопользовательский сервис с автомасштабированием, уникальным URL-адресом конечной точки и независимым мониторингом.

Создать конечную точку

Из вкладки "Развертывание"

Развернуть модель из ее Deploy вкладка:

1. Перейдите к вашей модели
2. Нажмите на вкладку Deploy
3. Выберите регион из таблицы регионов (отсортировано по задержке от вашего местоположения)
4. Нажмите Развернуть в строке региона

Имя развертывания генерируется автоматически из имени модели и города региона (например, yolo11n-iowa).

Со страницы "Развертывания"

Создайте развертывание из глобального Deploy страница на боковой панели:

1. Нажмите Новое развертывание
2. Выберите модель из селектора моделей
3. Выберите регион с карты или из таблицы
4. Опционально настройте имя развертывания и ресурсы
5. Нажмите Развернуть модель

Жизненный цикл развертывания

stateDiagram-v2
    [*] --> Creating: Deploy
    Creating --> Deploying: Container starting
    Deploying --> Ready: Health check passed
    Ready --> Stopping: Stop
    Stopping --> Stopped: Stopped
    Stopped --> Ready: Start
    Ready --> [*]: Delete
    Stopped --> [*]: Delete
    Creating --> Failed: Error
    Deploying --> Failed: Error
    Failed --> [*]: Delete

Выбор региона

Выбирайте из 43 регионов по всему миру. Интерактивная карта регионов и таблица показывают:

• Region pins: Color-coded by latency (green < 100ms, yellow < 200ms, red > 200ms)
• Развернутые регионы: Отмечены значком «Развернуто»
• Развертываемые регионы: Анимированный индикатор пульсации
• Двунаправленное выделение: Наведение курсора на карту выделяет строку таблицы, и наоборот.

Таблица регионов по модели Deploy вкладка включает:

Доступные регионы

Конфигурация конечной точки

Новое диалоговое окно развертывания

Параметр New Deployment диалог предоставляет:

Настройки ресурсов доступны в раскрывающемся разделе Ресурсы. Развертывания по умолчанию используют масштабирование до нуля (минимальное количество экземпляров = 0, максимальное количество экземпляров = 1) — вы платите только за активное время инференса.

Вкладка "Развертывание" (Быстрое развертывание)

При развертывании из модели Deploy вкладке конечные точки создаются с ресурсами по умолчанию (1 CPU, 2 ГБ памяти) и включенным масштабированием до нуля. Имя развертывания генерируется автоматически.

Управление конечными точками

Режимы просмотра

Список развертываний поддерживает три режима просмотра:

Карточка развертывания (Представление карточек)

Каждая карточка развертывания в режиме карточек показывает:

• Заголовок: Имя, флаг региона, значок статуса, кнопки запуска/остановки/удаления
• URL конечной точки: Копируемый URL со ссылкой на документацию API
• Метрики: Количество запросов (24 часа), задержка P95, частота ошибок
• Проверка работоспособности: Индикатор состояния в реальном времени с отображением задержки и ручным обновлением
• Вкладки: Logs, Codeи Predict

Параметр Logs вкладка показывает недавние записи журнала с фильтрацией по уровню серьезности (Все / Ошибки). Эта Code вкладка показывает готовые к использованию примеры кода на Python, JavaScript и cURL с вашим фактическим URL-адресом конечной точки и ключом API. Эта Predict вкладка предоставляет встроенную панель прогнозирования для тестирования непосредственно на развертывании.

Статусы развертывания

URL конечной точки

Каждая конечная точка имеет уникальный URL-адрес, например:

https://predict-abc123.run.app

Нажмите кнопку копирования, чтобы скопировать URL-адрес. Нажмите значок документации, чтобы просмотреть автоматически сгенерированную документацию API для конечной точки.

Управление жизненным циклом

Управление состоянием конечной точки:

graph LR
    R[Ready] -->|Stop| S[Stopped]
    S -->|Start| R
    R -->|Delete| D[Deleted]
    S -->|Delete| D

    style R fill:#4CAF50,color:#fff
    style S fill:#9E9E9E,color:#fff
    style D fill:#F44336,color:#fff

Остановить конечную точку

Остановите конечную точку, чтобы приостановить тарификацию:

1. Нажмите значок паузы на карточке развертывания.
2. Статус конечной точки меняется на "Останавливается", затем "Остановлена"

Остановленные конечные точки:

• Не принимают запросы
• Не тарифицируются
• Может быть перезапущен в любой момент

Удалить конечную точку

Безвозвратное удаление конечной точки:

1. Нажмите значок удаления (корзины) на карточке развертывания.
2. Подтвердите удаление в диалоговом окне

Использование конечных точек

Аутентификация

Каждое развертывание создается с использованием ключа API из вашей учетной записи. Включите его в запросы:

Authorization: Bearer YOUR_API_KEY

Префикс ключа API отображается в нижней части карточки развертывания для идентификации. Сгенерируйте ключи на странице API Keys.

Без ограничений по частоте запросов

Выделенные конечные точки не подпадают под ограничения скорости Platform API. Запросы направляются непосредственно в ваш выделенный сервис, поэтому пропускная способность ограничена только CPU, памятью и конфигурацией масштабирования вашей конечной точки. Это ключевое преимущество перед общим выводом, который ограничен 20 запросами/мин на каждый ключ API.

Пример запроса

import requests

# Deployment endpoint
url = "https://predict-abc123.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

// Build form data with image and parameters
const formData = new FormData();
formData.append("file", fileInput.files[0]);
formData.append("conf", "0.25");
formData.append("iou", "0.7");
formData.append("imgsz", "640");

// Send image for inference
const response = await fetch(
  "https://predict-abc123.run.app/predict",
  {
    method: "POST",
    headers: { Authorization: "Bearer YOUR_API_KEY" },
    body: formData,
  }
);

const result = await response.json();
console.log(result);

curl -X POST \
  "https://predict-abc123.run.app/predict" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -F "file=@image.jpg" \
  -F "conf=0.25" \
  -F "iou=0.7" \
  -F "imgsz=640"

Параметры запроса

Формат ответа

Аналогично общему выводу с полями, специфичными для задачи.

Цены

Выделенные конечные точки тарифицируются на основе:

Часто задаваемые вопросы

Сколько конечных точек я могу создать?

Лимиты конечных точек зависят от тарифа:

• Бесплатно: До 3 развертываний
• Про: До 10 развертываний
• Корпоративный: Неограниченное количество развертываний

Каждая модель по-прежнему может быть развернута в нескольких регионах в пределах квоты вашего плана.

Могу ли я изменить регион после развертывания?

Нет, регионы фиксированы. Чтобы изменить регионы:

1. Удалите существующую конечную точку
2. Создайте новую конечную точку в желаемом регионе

Как реализовать многорегиональное развертывание?

Для глобального охвата:

1. Развертывание в нескольких регионах
2. Используйте балансировщик нагрузки или маршрутизацию DNS
3. Направляйте пользователей к ближайшей конечной точке

Каково время холодного старта?

Время холодного запуска зависит от размера модели и от того, кэширован ли контейнер уже в регионе. Типичные диапазоны:

Проверка работоспособности использует тайм-аут в 55 секунд для учета холодных запусков в наихудшем сценарии.

Могу ли я использовать пользовательские домены?

Пользовательские домены скоро появятся. В настоящее время конечные точки используют URL-адреса, сгенерированные платформой.

📅 Создано 2 месяцев назад ✏️ Обновлено 25 дней назад

Комментарии