Развертывание#

Ultralytics Platform предоставляет комплексные варианты развертывания моделей для запуска моделей YOLO в продакшн. Тестируй модели с помощью инференса в браузере, развертывай их на выделенных эндпоинтах в 42 регионах мира и отслеживай производительность в реальном времени.

Обзор#

Раздел «Развертывание» помогает тебе:

• Тестируй модели прямо в браузере на вкладке Predict
• Развертывай на выделенных эндпоинтах в 42 глобальных регионах
• Отслеживать метрики запросов, логи и проверки состояния
• Масштабировать до нуля при простое (развертывания в настоящее время работают как один активный инстанс)

Варианты развертывания#

Ultralytics Platform предлагает несколько путей развертывания:

Рабочий процесс#

graph LR
    A[✅ Test]:::start --> B[⚙️ Configure]:::proc
    B --> C[🌐 Deploy]:::proc
    C --> D[📊 Monitor]:::out

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef out fill:#9C27B0,color:#fff

Архитектура#

Общий вывод#

Общий сервис инференса работает в 3 ключевых регионах. Запросы к модели направляются в сервис соответствующего региона данных, поэтому результаты остаются в пределах региона хранения модели:

graph TB
    User[User Request]:::start --> API[Platform API]:::proc
    API --> Router{Model Data Region}:::decide
    Router -->|US models| US["US Predict Service<br/>Iowa"]:::out
    Router -->|EU models| EU["EU Predict Service<br/>Belgium"]:::out
    Router -->|AP models| AP["AP Predict Service<br/>Taiwan"]:::out

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

Выделенные эндпоинты#

Развертывай в 42 регионах по всему миру в Ultralytics Cloud:

• Америка: 14 регионов
• Европа: 13 регионов
• Азиатско-Тихоокеанский регион: 12 регионов
• Ближний Восток и Африка: 3 региона

Каждый эндпоинт — это сервис с одним клиентом, имеющий:

• Масштабирование управляется платформой (в настоящее время не настраивается)
• Масштабирование до нуля при простое
• Уникальный URL эндпоинта с собственной интерактивной справочной документацией по API по адресу /docs
• Привязка к собственному ключу API, поэтому только этот ключ может вызывать эндпоинт
• Независимый мониторинг, логи и проверки состояния

Страница развертываний#

Перейди на страницу глобальных развертываний из боковой панели в разделе Deploy. На этой странице отображается:

• Карта мира с отметками развернутых регионов; нажми на регион, чтобы открыть диалоговое окно New Deployment
• Обзорные карточки: Всего запросов (24ч), Активные развертывания, Частота ошибок (24ч), Задержка P95 (24ч)
• Список развертываний с тремя режимами отображения: карточки, компактный и таблица
• Кнопка Новое развертывание для создания эндпоинтов из любой завершенной модели
• Кнопка Refresh и метка времени Updated в шапке страницы

Ключевые особенности#

Глобальное покрытие#

Развертывай рядом со своими пользователями, используя 42 региона, охватывающих:

• Северную Америку, Южную Америку
• Европу, Ближний Восток, Африку
• Азиатско-Тихоокеанский регион, Океанию

Поведение при масштабировании#

Эндпоинты в настоящее время ведут себя следующим образом:

• Масштабирование до нуля: простаивающие эндпоинты масштабируются до нуля и выполняют холодный запуск при следующем запросе
• Один активный экземпляр: в настоящее время каждый эндпоинт обслуживается с одного экземпляра на всех планах
• Сброс нагрузки: запросы получают ответы 429, когда эндпоинт временно загружен на максимум — см. Direct Endpoint Requests
• Тайм-аут запроса: каждый запрос может выполняться до 1 часа, чего достаточно для инференса видео

Региональное развертывание#

Используй измеренную задержку в регионе, чтобы разместить эндпоинт ближе к его клиентам. Фактическая задержка инференса зависит от модели, размера входа, состояния эндпоинта и сетевого пути.

Проверки состояния#

Каждое работающее развертывание включает автоматическую проверку состояния с:

• Индикатором статуса в реальном времени (исправно/неисправно)
• Отображением задержки отклика
• Автоматический повтор при неисправности, остановка после восстановления
• Кнопкой ручного обновления

Быстрый старт#

Создай развертывание:

1. Обучи или загрузи модель в проект
2. Перейди на вкладку Deploy модели
3. Выбери регион из таблицы задержек
4. Нажми Deploy и дождись, пока статус развертывания не изменится на Ready

Model → Deploy tab → Select region → Click Deploy → Endpoint URL ready

Быстрые ссылки#

• Инференс: тестируй модели в браузере
• Эндпоинты: развертывай выделенные эндпоинты
• Мониторинг (Monitoring): отслеживай производительность развертывания

FAQ#