Выделенные конечные точки
Ultralytics позволяет развертывать YOLO на выделенных конечных точках в 43 регионах мира. Каждая конечная точка представляет собой однопользовательский сервис с автомасштабированием, настраиваемыми URL-адресами и независимым мониторингом.
Создать конечную точку
Разверните модель на выделенном конечной точке:
- Перейдите к вашей модели
- Перейдите на вкладку «Развертывание ».
- Выберите регион на карте
- Нажмите «Развернуть»
Выбор региона
Выберите из 43 регионов по всему миру:
На интерактивной карте показано:
- Значки регионов: нажмите, чтобы выбрать
- Показатели задержки: Цветовая кодировка по расстоянию
- Green: <100ms
- Желтый: 100–200 мс
- Красный: >200 мс
Таблица регионов
Просмотреть все регионы с подробностями:
| Колонка | Описание |
|---|---|
| Регион | Идентификатор региона |
| Местоположение | Город/страна |
| Задержка | Измеренное время пинга |
| Статус | Доступно/развернуто |
Выбирайте с умом
Выберите регион, наиболее близкий к вашим пользователям, для обеспечения минимальной задержки. Рассмотрите возможность развертывания в нескольких регионах для обеспечения глобального покрытия.
Доступные регионы
Америка (15 регионов)
| Регион | Местоположение |
|---|---|
| us-central1 | Айова, США |
| us-east1 | Южная Каролина, США |
| us-east4 | Вирджиния, США |
| us-east5 | Колумбус, США |
| юг США | Даллас, США |
| us-west1 | Орегон, США |
| us-west2 | Лос-Анджелес, США |
| us-west3 | Солт-Лейк-Сити, США |
| us-west4 | Лас-Вегас, США |
| Североамерика-Северо-Восток1 | Монреаль, Канада |
| Североамерика-северо-восток2 | Торонто, Канада |
| южнаяамерика-восток1 | Сан-Паулу, Бразилия |
| южнаяамерика-запад1 | Сантьяго, Чили |
Европа (12 регионов)
| Регион | Местоположение |
|---|---|
| европа-центральная2 | Варшава, Польша |
| европа-север1 | Финляндия |
| европа-юго-запад1 | Мадрид, Испания |
| европа-запад1 | Бельгия |
| европа-запад2 | Лондон, Великобритания |
| европа-запад3 | Франкфурт, Германия |
| европа-запад4 | Нидерланды |
| европа-запад6 | Цюрих, Швейцария |
| европа-запад8 | Милан, Италия |
| европа-запад9 | Париж, Франция |
| европа-запад10 | Берлин, Германия |
| европа-запад12 | Турин, Италия |
Азиатско-Тихоокеанский регион (16 регионов)
| Регион | Местоположение |
|---|---|
| азия-восток1 | Тайвань |
| азия-восток2 | Гонконг |
| азия-северо-восток1 | Токио, Япония |
| азия-северо-восток2 | Осака, Япония |
| азия-северо-восток3 | Сеул, Корея |
| юго-восточная Азия | Мумбаи, Индия |
| юго-восточная Азия | Дели, Индия |
| юго-восточная азия1 | Сингапур |
| юго-восточная азия2 | Джакарта, Индонезия |
| австралия-юго-восток1 | Сидней, Австралия |
| австралия-юго-восток2 | Мельбурн, Австралия |
| я-центральный1 | Доха, Катар |
| я-центральный2 | Даммам, Саудовская Аравия |
| me-west1 | Тель-Авив, Израиль |
Конфигурация конечной точки
При создании конечной точки:
| Настройка | Описание | По умолчанию |
|---|---|---|
| Регион | Регион развертывания | - |
| Минимальное количество экземпляров | Минимальное количество запущенных экземпляров | 0 |
| Максимальное количество экземпляров | Максимальный предел масштабирования | 10 |
Параметры масштабирования
| Настройка | Поведение |
|---|---|
| Мин. = 0 | Масштабирование до нуля в режиме простоя (экономически эффективно) |
| Мин. > 0 | Всегда включен, без холодного запуска |
| Макс | Верхний предел для пиковых нагрузок |
Холодный запуск
При минимальном количестве экземпляров = 0 первый запрос после простоя запускает холодный запуск (2–5 секунд). Установите минимальное значение > 0 для приложений, чувствительных к задержкам.
Управление конечными точками
Просмотр и управление конечными точками:
Сведения об конечной точке
| Поле | Описание |
|---|---|
| URL | HTTPS-конечная точка для запросов |
| Регион | Развернутый регион |
| Статус | Запущено, Остановлено, Развертывается |
| Примеры | Текущее/максимальное количество экземпляров |
URL конечной точки
Каждая конечная точка имеет уникальный URL-адрес:
https://model-abc123-us-central1.a.run.app
Нажмите кнопку «Копировать», чтобы скопировать URL-адрес.
Управление жизненным циклом
Управляйте состоянием конечной точки:
| Действие | Описание |
|---|---|
| Начало | Возобновить остановленную конечную точку |
| Остановить | Приостановить конечную точку (без начисления платы) |
| Удалить | Постоянно удалить конечную точку |
Конечная точка остановки
Остановите конечную точку, чтобы приостановить выставление счетов:
- Открыть меню действий конечной точки
- Нажмите «Стоп»
- Подтвердить действие
Остановленные конечные точки:
- Не принимать запросы
- Не несите расходы
- Можно перезапустить в любое время
Удалить конечную точку
Постоянно удалить конечную точку:
- Открыть меню действий конечной точки
- Нажмите «Удалить»
- Подтвердить удаление
Постоянное действие
Удаление происходит немедленно и безвозвратно. Вы всегда можете создать новую конечную точку.
Использование конечных точек
Аутентификация
Включите свой ключ API в запросы:
Authorization: Bearer YOUR_API_KEY
Пример запроса
curl -X POST \
"https://model-abc123-us-central1.a.run.app/predict" \
-H "Authorization: Bearer YOUR_API_KEY" \
-F "file=@image.jpg"
import requests
url = "https://model-abc123-us-central1.a.run.app/predict"
headers = {"Authorization": "Bearer YOUR_API_KEY"}
files = {"file": open("image.jpg", "rb")}
response = requests.post(url, headers=headers, files=files)
print(response.json())
Формат ответа
То же самое, что и совместное выведение с полями, специфичными для задачи.
Ценообразование
Счет за выделенные конечные точки на основе:
| Компонент | Ставка |
|---|---|
| CPU | За vCPU-секунду |
| Память | За ГБ в секунду |
| Запросы | На миллион запросов |
Оптимизация затрат
- Используйте масштабирование до нуля для конечных точек разработки
- Установите соответствующее максимальное количество экземпляров
- Мониторинг использования в панели мониторинга
Часто задаваемые вопросы
Сколько конечных точек я могу создать?
Жестких ограничений нет. Каждая модель может иметь конечные точки в нескольких регионах. Общее количество конечных точек зависит от вашего тарифного плана.
Могу ли я изменить регион после развертывания?
Нет, регионы фиксированы. Чтобы изменить регион:
- Удалить существующую конечную точку
- Создайте новую конечную точку в желаемом регионе.
Как справиться с развертыванием в нескольких регионах?
Для глобального покрытия:
- Развертывание в нескольких регионах
- Используйте балансировщик нагрузки или маршрутизацию DNS
- Направьте пользователей к ближайшей конечной точке
Какое время холодного запуска?
Холодный запуск зависит от размера модели:
| Модель | Холодный запуск |
|---|---|
| YOLO11n | ~2 секунды |
| YOLO11m | ~3 секунды |
| YOLO11x | ~5 секунд |
Установите минимальное количество экземпляров > 0, чтобы исключить холодный запуск.
Могу ли я использовать собственные домены?
Скоро будут доступны пользовательские домены. В настоящее время конечные точки используют URL-адреса, сгенерированные платформой.