Развертывание#

Ultralytics Platform предоставляет комплексные опции развертывания моделей для запуска твоих моделей YOLO в продакшн. Тестируй модели с помощью инференса в браузере, развертывай их на выделенных эндпоинтах в 42 регионах по всему миру и отслеживай производительность в режиме реального времени.

Обзор#

Раздел «Развертывание» помогает тебе:

• Тестировать модели прямо в браузере на вкладке Predict
• Развертывай на выделенных эндпоинтах в 42 глобальных регионах
• Отслеживать метрики запросов, логи и проверки состояния
• Масштабировать до нуля при простое (развертывания в настоящее время работают как один активный инстанс)

Варианты развертывания#

Ultralytics Platform предлагает несколько путей развертывания:

Рабочий процесс#

graph LR
    A[✅ Test]:::start --> B[⚙️ Configure]:::proc
    B --> C[🌐 Deploy]:::proc
    C --> D[📊 Monitor]:::out

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef out fill:#9C27B0,color:#fff

Архитектура#

Общий вывод#

Сервис общего вывода работает в 3 ключевых регионах, автоматически направляя запросы в зависимости от региона твоих данных:

graph TB
    User[User Request]:::start --> API[Platform API]:::proc
    API --> Router{Region Router}:::decide
    Router -->|US users| US["US Predict Service<br/>Iowa"]:::out
    Router -->|EU users| EU["EU Predict Service<br/>Belgium"]:::out
    Router -->|AP users| AP["AP Predict Service<br/>Taiwan"]:::out

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

Выделенные эндпоинты#

Развертывай в 42 регионах по всему миру в Ultralytics Cloud:

• Америка: 14 регионов
• Европа: 13 регионов
• Азиатско-Тихоокеанский регион: 12 регионов
• Ближний Восток и Африка: 3 региона

Каждый эндпоинт — это сервис с одним клиентом, имеющий:

• Стандартные ресурсы: 1 CPU, 2 GiB оперативной памяти, minInstances=0, maxInstances=1
• Масштабирование до нуля при простое
• Уникальный URL эндпоинта
• Независимый мониторинг, логи и проверки состояния

Страница развертываний#

Получи доступ к странице глобальных развертываний из боковой панели в разделе Deploy. На этой странице отображаются:

• Карта мира с метками развернутых регионов (интерактивная карта)
• Обзорные карточки: Всего запросов (24ч), Активные развертывания, Частота ошибок (24ч), Задержка P95 (24ч)
• Список развертываний с тремя режимами отображения: карточки, компактный и таблица
• Кнопка Новое развертывание для создания эндпоинтов из любой завершенной модели

Ключевые особенности#

Глобальное покрытие#

Развертывай рядом со своими пользователями, используя 42 региона, охватывающих:

• Северную Америку, Южную Америку
• Европу, Ближний Восток, Африку
• Азиатско-Тихоокеанский регион, Океанию

Поведение при масштабировании#

Эндпоинты в настоящее время ведут себя следующим образом:

• Масштабирование до нуля: значение minInstances по умолчанию равно 0
• Один активный инстанс: параметр maxInstances в настоящее время ограничен значением 1 на всех тарифных планах

Региональное развертывание#

Используй измеренную задержку в регионе, чтобы разместить эндпоинт ближе к его клиентам. Фактическая задержка инференса зависит от модели, размера входа, состояния эндпоинта и сетевого пути.

Проверки состояния#

Каждое работающее развертывание включает автоматическую проверку состояния с:

• Индикатором статуса в реальном времени (исправно/неисправно)
• Отображением задержки отклика
• Автоматической повторной попыткой при неисправности (опрос каждые 20 секунд)
• Кнопкой ручного обновления

Быстрый старт#

Создай развертывание:

1. Обучи или загрузи модель в проект
2. Перейди на вкладку Deploy модели
3. Выбери регион из таблицы задержек
4. Нажми Deploy и дождись, пока статус развертывания не изменится на Ready

Model → Deploy tab → Select region → Click Deploy → Endpoint URL ready

Быстрые ссылки#

• Вывод: Тестируй модели в браузере
• Эндпоинты: Развертывай выделенные эндпоинты
• Мониторинг: Отслеживай производительность развертывания

FAQ#

В чем разница между общим и выделенным выводом?#

Сколько времени занимает развертывание?#

Развертывание остается в состоянии создания или развертывания во время запуска сервиса. Оно становится доступным для использования, когда статус меняется на Ready; время зависит от модели и региона.

Могу ли я развернуть несколько моделей?#

Да, каждая модель может иметь несколько эндпоинтов в разных регионах. Количество развертываний ограничено тарифным планом: Free 3, Pro 10, Enterprise unlimited.

Что происходит, когда эндпоинт простаивает?#

Если включено масштабирование до нуля:

• Эндпоинт сворачивается после периода неактивности
• Первый запрос инициирует холодный старт
• Последующие запросы выполняются быстро

Первые запросы после периода простоя инициируют холодный старт.