Перейти к содержанию

Выделенные конечные точки

Ultralytics позволяет развертывать YOLO на выделенных конечных точках в 43 регионах мира. Каждая конечная точка представляет собой однопользовательский сервис с автомасштабированием, настраиваемыми URL-адресами и независимым мониторингом.

Создать конечную точку

Разверните модель на выделенном конечной точке:

  1. Перейдите к вашей модели
  2. Перейдите на вкладку «Развертывание ».
  3. Выберите регион на карте
  4. Нажмите «Развернуть»

Выбор региона

Выберите из 43 регионов по всему миру:

На интерактивной карте показано:

  • Значки регионов: нажмите, чтобы выбрать
  • Показатели задержки: Цветовая кодировка по расстоянию
    • Green: <100ms
    • Желтый: 100–200 мс
    • Красный: >200 мс

Таблица регионов

Просмотреть все регионы с подробностями:

КолонкаОписание
РегионИдентификатор региона
МестоположениеГород/страна
ЗадержкаИзмеренное время пинга
СтатусДоступно/развернуто

Выбирайте с умом

Выберите регион, наиболее близкий к вашим пользователям, для обеспечения минимальной задержки. Рассмотрите возможность развертывания в нескольких регионах для обеспечения глобального покрытия.

Доступные регионы

Америка (15 регионов)

РегионМестоположение
us-central1Айова, США
us-east1Южная Каролина, США
us-east4Вирджиния, США
us-east5Колумбус, США
юг СШАДаллас, США
us-west1Орегон, США
us-west2Лос-Анджелес, США
us-west3Солт-Лейк-Сити, США
us-west4Лас-Вегас, США
Североамерика-Северо-Восток1Монреаль, Канада
Североамерика-северо-восток2Торонто, Канада
южнаяамерика-восток1Сан-Паулу, Бразилия
южнаяамерика-запад1Сантьяго, Чили

Европа (12 регионов)

РегионМестоположение
европа-центральная2Варшава, Польша
европа-север1Финляндия
европа-юго-запад1Мадрид, Испания
европа-запад1Бельгия
европа-запад2Лондон, Великобритания
европа-запад3Франкфурт, Германия
европа-запад4Нидерланды
европа-запад6Цюрих, Швейцария
европа-запад8Милан, Италия
европа-запад9Париж, Франция
европа-запад10Берлин, Германия
европа-запад12Турин, Италия

Азиатско-Тихоокеанский регион (16 регионов)

РегионМестоположение
азия-восток1Тайвань
азия-восток2Гонконг
азия-северо-восток1Токио, Япония
азия-северо-восток2Осака, Япония
азия-северо-восток3Сеул, Корея
юго-восточная АзияМумбаи, Индия
юго-восточная АзияДели, Индия
юго-восточная азия1Сингапур
юго-восточная азия2Джакарта, Индонезия
австралия-юго-восток1Сидней, Австралия
австралия-юго-восток2Мельбурн, Австралия
я-центральный1Доха, Катар
я-центральный2Даммам, Саудовская Аравия
me-west1Тель-Авив, Израиль

Конфигурация конечной точки

При создании конечной точки:

НастройкаОписаниеПо умолчанию
РегионРегион развертывания-
Минимальное количество экземпляровМинимальное количество запущенных экземпляров0
Максимальное количество экземпляровМаксимальный предел масштабирования10

Параметры масштабирования

НастройкаПоведение
Мин. = 0Масштабирование до нуля в режиме простоя (экономически эффективно)
Мин. > 0Всегда включен, без холодного запуска
МаксВерхний предел для пиковых нагрузок

Холодный запуск

При минимальном количестве экземпляров = 0 первый запрос после простоя запускает холодный запуск (2–5 секунд). Установите минимальное значение > 0 для приложений, чувствительных к задержкам.

Управление конечными точками

Просмотр и управление конечными точками:

Сведения об конечной точке

ПолеОписание
URLHTTPS-конечная точка для запросов
РегионРазвернутый регион
СтатусЗапущено, Остановлено, Развертывается
ПримерыТекущее/максимальное количество экземпляров

URL конечной точки

Каждая конечная точка имеет уникальный URL-адрес:

https://model-abc123-us-central1.a.run.app

Нажмите кнопку «Копировать», чтобы скопировать URL-адрес.

Управление жизненным циклом

Управляйте состоянием конечной точки:

ДействиеОписание
НачалоВозобновить остановленную конечную точку
ОстановитьПриостановить конечную точку (без начисления платы)
УдалитьПостоянно удалить конечную точку

Конечная точка остановки

Остановите конечную точку, чтобы приостановить выставление счетов:

  1. Открыть меню действий конечной точки
  2. Нажмите «Стоп»
  3. Подтвердить действие

Остановленные конечные точки:

  • Не принимать запросы
  • Не несите расходы
  • Можно перезапустить в любое время

Удалить конечную точку

Постоянно удалить конечную точку:

  1. Открыть меню действий конечной точки
  2. Нажмите «Удалить»
  3. Подтвердить удаление

Постоянное действие

Удаление происходит немедленно и безвозвратно. Вы всегда можете создать новую конечную точку.

Использование конечных точек

Аутентификация

Включите свой ключ API в запросы:

Authorization: Bearer YOUR_API_KEY

Пример запроса

curl -X POST \
  "https://model-abc123-us-central1.a.run.app/predict" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -F "file=@image.jpg"
import requests

url = "https://model-abc123-us-central1.a.run.app/predict"
headers = {"Authorization": "Bearer YOUR_API_KEY"}
files = {"file": open("image.jpg", "rb")}

response = requests.post(url, headers=headers, files=files)
print(response.json())

Формат ответа

То же самое, что и совместное выведение с полями, специфичными для задачи.

Ценообразование

Счет за выделенные конечные точки на основе:

КомпонентСтавка
CPUЗа vCPU-секунду
ПамятьЗа ГБ в секунду
ЗапросыНа миллион запросов

Оптимизация затрат

  • Используйте масштабирование до нуля для конечных точек разработки
  • Установите соответствующее максимальное количество экземпляров
  • Мониторинг использования в панели мониторинга

Часто задаваемые вопросы

Сколько конечных точек я могу создать?

Жестких ограничений нет. Каждая модель может иметь конечные точки в нескольких регионах. Общее количество конечных точек зависит от вашего тарифного плана.

Могу ли я изменить регион после развертывания?

Нет, регионы фиксированы. Чтобы изменить регион:

  1. Удалить существующую конечную точку
  2. Создайте новую конечную точку в желаемом регионе.

Как справиться с развертыванием в нескольких регионах?

Для глобального покрытия:

  1. Развертывание в нескольких регионах
  2. Используйте балансировщик нагрузки или маршрутизацию DNS
  3. Направьте пользователей к ближайшей конечной точке

Какое время холодного запуска?

Холодный запуск зависит от размера модели:

МодельХолодный запуск
YOLO11n~2 секунды
YOLO11m~3 секунды
YOLO11x~5 секунд

Установите минимальное количество экземпляров > 0, чтобы исключить холодный запуск.

Могу ли я использовать собственные домены?

Скоро будут доступны пользовательские домены. В настоящее время конечные точки используют URL-адреса, сгенерированные платформой.



📅 Создано 0 дней назад ✏️ Обновлено 0 дней назад
glenn-jocher

Комментарии