Инференс#

Ultralytics Platform предоставляет инференс в браузере для тестирования обученных моделей и выделенные конечные точки для программного доступа.

Вкладка Predict#

Для каждой модели с весами доступна вкладка Predict для инференса в браузере:

1. Перейди к своей модели
2. Нажми вкладку Predict
3. Загрузи изображение, выбери пример или включи веб-камеру
4. Проверь наложение данных для конкретной задачи, сводку прогнозов, время выполнения и исходный ответ

Для моделей без весов вместо этого отображается пустое состояние — сначала обучи модель или загрузи веса.

Способы ввода#

Панель прогнозирования поддерживает несколько способов ввода:

Загрузить изображение#

Перетащи изображение или нажми, чтобы загрузить:

• Поддерживаемые форматы: JPEG, PNG, WebP, AVIF, HEIC, JP2, TIFF, BMP
• Максимальный размер: 10 МБ
• Автоматический инференс: результаты появляются автоматически после загрузки

Примеры изображений#

На панели прогнозирования отображается до двух примеров изображений из связанного с моделью датасета: сначала выбираются изображения из раздела val, затем test, а после — train. Если датасет не связан с моделью, используются примеры по умолчанию:

Для моделей OBB вместо этого показываются аэрофотоснимки лодок и аэропорта.

Веб-камера#

Выбери Веб-камера над областью изображения, чтобы запустить трансляцию с камеры:

1. Разреши доступ к камере, когда появится запрос
2. Нажми на видео, чтобы захватить кадр
3. Инференс автоматически запускается для захваченного кадра
4. Нажми Вернуться к веб-камере, чтобы вернуться к трансляции

На вкладке Predict собственного развертывания веб-камера вместо этого непрерывно выполняет инференс. См. раздел Инференс с камеры в реальном времени.

Просмотр результатов#

Результаты инференса отображаются в формате, подходящем для задачи модели: рамки, маски, ключевые точки, ориентированные рамки, оценки классификации, семантическое покрытие или карта глубины. Для объектов, если доступны соответствующие данные, используются цвета классов датасета. Панель также показывает время предобработки, инференса, постобработки и сетевые задержки.

На панели результатов отображаются:

Когда результаты готовы, поверх окна предпросмотра отображаются два элемента управления: нажми на изображение, чтобы увеличить его, сохранив наложения, или нажми кнопку загрузки, чтобы сохранить JPEG текущего результата с аннотациями.

Параметры инференса#

Настрой поведение инференса с помощью трёх ползунков под изображением (для моделей оценки глубины отображается только Размер изображения):

Порог уверенности#

Фильтруй предсказания по уровню уверенности:

• Выше (0.5+): меньше предсказаний, но они надёжнее
• Ниже (0.1–0.25): больше предсказаний, но часть из них может быть шумом
• По умолчанию (0.25): сбалансированное значение для большинства сценариев

Порог IoU#

Настрой подавление немаксимумов:

• Выше (0.7+): допускается больше перекрывающихся рамок
• Ниже (0.3–0.5): перекрывающиеся детекции подавляются активнее
• По умолчанию (0.7): сбалансированное поведение NMS для большинства сценариев

Инференс в развернутой модели#

На странице развертывания каждой работающей выделенной конечной точки есть вкладка Predict. Она использует собственную службу инференса развертывания, а не общую службу предсказаний, чтобы ты мог проверять развернутую конечную точку в браузере.

На работающей конечной точке обработанные изображения также отображаются на вкладке Monitoring. Примеры и сводные графики на этой вкладке — временные данные в памяти; они могут быть удалены при остановке, перезапуске, повторном развертывании, изменении размера или замене модели. Сохрани примеры в датасет, чтобы не потерять их.

Инференс с камеры в реальном времени#

На вкладке Predict принадлежащего тебе развертывания выбери Веб-камера или IP-камера, чтобы запустить конечную точку для обработки видео в реальном времени:

Инференс в реальном времени использует API-ключ, привязанный к конечной точке; загрузить его может только владелец рабочего пространства. Для остальных участников команды веб-камера делает снимки отдельных кадров, а IP-камера недоступна, как и на вкладке Predict модели. IP-камера должна быть доступна из интернета: конечная точка отклоняет адреса локальной сети, например 192.168.x.x. Каждый результат относится к самому новому кадру, поэтому кадры пропускаются, если инференс отстает. Изменения ползунков применяются к следующему кадру веб-камеры и перезапускают поток IP-камеры. Инференс в реальном времени приостанавливается, когда вкладка браузера скрыта. Нажми на окно предпросмотра, чтобы захватить кадр, или нажми Отключиться, чтобы прекратить просмотр IP-камеры.

Камера в фоновом режиме#

Конечная точка с пользовательскими настройками CPU и памяти может продолжать следить за одной IP-камерой, даже если ты отключишься или закроешь страницу. Когда подключенная камера начнет показывать результаты, включи Продолжать работу в фоновом режиме. В заголовке развертывания появится Камера включена, а результаты будут поступать на вкладку «Мониторинг» в виде временных примеров и статистики предсказаний.

• Настройки: Фоновая камера всегда использует значения уверенности по умолчанию (0.25), IoU (0.7) и размер изображения модели при обучении; ползунки на нее не влияют.
• Стоимость: Камера работает на активном экземпляре конечной точки без дополнительной платы; почасовая плата за время работы взимается независимо от того, включена камера или нет.
• Изменения: При включении или выключении камеры, а также при переключении на другую камеру экземпляр конечной точки перезапускается. Конечная точка остается готовой к работе, но временные данные мониторинга очищаются.
• Остановка: Выключи переключатель. Отключение или закрытие страницы не останавливает камеру, а изменение размера конечной точки на размер по умолчанию удаляет ее. Если камера отключится, конечная точка продолжит попытки подключения.
• Жизненный цикл конечной точки: Остановка конечной точки останавливает камеру и начисление платы; после повторного запуска сохраненная камера включается снова.

Конечные точки стандартного размера поддерживают инференс с веб-камеры и IP-камеры в реальном времени, но не фоновый режим. Чтобы сохранить фоновую камеру через API, используй действие развертывания camera.

Потоковая передача результатов через API#

Отправь URL RTSP или RTSPS в качестве source с заголовком Accept: text/event-stream на URL выделенной конечной точки, чтобы получать результаты в виде событий, отправляемых сервером:

curl -N -X POST \
  "https://YOUR_DEPLOYMENT_URL.run.app/predict" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Accept: text/event-stream" \
  -F "source=rtsp://user:password@camera.example.com:554/stream" \
  -F "conf=0.25"

Событие каждого кадра содержит images в формате ответа с нормализованными координатами (0–1), URL данных JPEG preview кадра и metadata с задачей и названиями классов. Применяются только conf, iou и imgsz, а потоковая передача с URL фоновой камеры конечной точки использует настройки по умолчанию. События, содержащие только status, не содержат кадра, а событие с сообщением error (не удалось считать изображение с камеры или конечная точка не может запустить модель) завершает поток. Поток также закрывается при перезапуске конечной точки или по истечении времени ожидания запроса, поэтому при завершении без ошибки подключайся снова, используя экспоненциальную задержку. Маршрут предсказаний для развертывания в Platform API и SDK не поддерживают потоковую передачу; отправляй запросы с камеры на URL конечной точки с привязанным к ней API-ключом. Запрос с камеры source без заголовка возвращает 400.

API выделенной конечной точки#

Карточка Документация API на вкладке модели Predict содержит примеры запросов на Python, JavaScript и cURL с уже заданными значениями уверенности, IoU и размера изображения, выбранными с помощью ползунков. URL и ключ остаются заполнителями, пока ты не развернёшь модель: кнопка Развернуть рядом с вкладками кода ведёт на вкладку модели Deploy. После развертывания вкладка результата Документация на вкладке Predict страницы развертывания заполняется URL этой конечной точки и, для владельцев рабочего пространства, привязанным к ней ключом API — их можно сразу скопировать и использовать.

Аутентификация#

Добавь ключ API в запросы:

Authorization: Bearer YOUR_API_KEY

Конечная точка#

Выделенные конечные точки принимают запросы по собственному URL:

POST https://YOUR_DEPLOYMENT_URL.run.app/predict

Для общего инференса используется API платформы с полным путём к модели:

POST https://platform.ultralytics.com/api/models/{owner}/{project}/{model}/predict

Оба варианта принимают одинаковое тело запроса multipart/form-data и возвращают ответы одной структуры. Для общего инференса через Python SDK используй client.models.predict(owner, project, model, body=...), а для развертывания на выделенной конечной точке — client.deployments.predict(owner, deployment, body=...). Оба метода SDK вызывают API платформы, поэтому на них распространяются ограничения частоты запросов и размера запроса. Чтобы обойти эти ограничения, отправляй запросы напрямую на URL выделенной конечной точки, как описано в разделе Запрос. Пример общего инференса:

from ultralytics_platform import Platform

client = Platform()  # reads ULTRALYTICS_API_KEY
with open("image.jpg", "rb") as f:
    results = client.models.predict("acme-vision", "inspection", "v3", body={"file": f, "conf": 0.25})

Запрос#

import requests

url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"
headers = {"Authorization": "Bearer YOUR_API_KEY"}
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

with open("image.jpg", "rb") as image_file:
    response = requests.post(url, headers=headers, files={"file": image_file}, data=data)
print(response.json())

Параметры запроса#

Ответ#

{
    "images": [
        {
            "shape": [1080, 1920],
            "results": [
                {
                    "class": 0,
                    "name": "person",
                    "confidence": 0.92,
                    "box": { "x1": 100, "y1": 50, "x2": 300, "y2": 400 }
                },
                {
                    "class": 2,
                    "name": "car",
                    "confidence": 0.87,
                    "box": { "x1": 400, "y1": 200, "x2": 600, "y2": 350 }
                }
            ],
            "speed": {
                "preprocess": 1.2,
                "inference": 12.5,
                "postprocess": 2.3
            }
        }
    ],
    "metadata": {
        "imageCount": 1,
        "classNames": ["person", "bicycle", "car", "..."],
        "functionTimeAlive": 1284.51,
        "functionTimeCall": 0.018,
        "task": "detect",
        "version": {
            "ultralytics": "8.x.x",
            "torch": "2.6.0",
            "torchvision": "0.21.0",
            "python": "3.13.0"
        }
    }
}

Поля ответа#

Ответы для отдельных задач#

Формат ответа зависит от задачи:

{
  "class": 0,
  "name": "person",
  "confidence": 0.92,
  "box": {"x1": 100, "y1": 50, "x2": 300, "y2": 400}
}

Ограничения частоты запросов#

Для общего API модели действует ограничение 20 запросов в минуту на каждый ключ API, авторизованного пользователя или анонимный IP-адрес. Для маршрута предсказаний развертывания платформы (POST /api/deployments/{owner}/{deployment}/predict) действует такое же ограничение. При превышении лимита API возвращает 429 с заголовком Retry-After. Полный список категорий конечных точек смотри в справке по ограничениям частоты запросов.

Обработка ошибок#

Распространённые ответы с ошибками:

Часто задаваемые вопросы#