Inference#

Ultralytics Platform предоставляет инференс в браузере для тестирования обученных моделей и выделенные эндпоинты для программного доступа.

Вкладка Предсказание (Predict)#

Каждая модель с весами включает вкладку Predict для инференса в браузере:

1. Перейди к своей модели
2. Нажми на вкладку Predict
3. Загрузи изображение, воспользуйся примером или включи веб-камеру
4. Посмотри на оверлей для конкретной задачи, сводку предсказаний, время выполнения и исходный ответ.

Модели без весов вместо этого показывают пустое состояние — сначала обучи модель или загрузи веса.

Методы ввода#

Панель прогнозирования поддерживает несколько методов ввода:

graph LR
    A[Upload Image]:::start --> D[Auto-Inference]:::proc
    B[Example Image]:::start --> D
    C[Webcam Capture]:::start --> D
    D --> E[Results + Overlays]:::out

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef out fill:#9C27B0,color:#fff

Загрузить изображение#

Перетащи или нажми для загрузки:

• Поддерживаемые форматы: JPEG, PNG, WebP, AVIF, HEIC, JP2, TIFF, BMP
• Максимальный размер: 10 МБ
• Автоматический инференс: Результаты появляются автоматически после загрузки

Примеры изображений#

Панель предсказаний отображает до двух примеров изображений из связанного набора данных твоей модели, отдавая предпочтение сплиту val, затем test и затем train. Если набор данных не связан, используются примеры по умолчанию:

Для моделей OBB вместо этого отображаются аэрофотоснимки лодок и аэропорта.

Веб-камера#

Нажми на карточку веб-камеры, чтобы запустить трансляцию:

1. Предоставь разрешение на использование камеры, когда появится запрос
2. Нажми на предварительный просмотр видео, чтобы захватить кадр
3. Инференс автоматически запустится для захваченного кадра
4. Нажми еще раз, чтобы перезапустить веб-камеру

Просмотр результатов#

Результаты инференса отображают выходные данные, соответствующие задаче модели: боксы, маски, ключевые точки, ориентированные боксы, оценки классификации, семантическое покрытие или карту глубины. Результаты для объектов используют цвета классов датасета, если они доступны. Панель также показывает время препроцессинга, инференса, постобработки и сети.

Панель результатов отображает:

После получения результатов поверх предварительного просмотра появляются два элемента управления: нажми на изображение, чтобы увеличить его с сохранением наложений, и используй кнопку загрузки, чтобы сохранить аннотированный JPEG текущего результата.

Параметры инференса#

Настрой поведение инференса с помощью трех ползунков под изображением:

Порог достоверности (Confidence Threshold)#

Фильтрация предсказаний по уверенности:

• Выше (0.5+): Меньше предсказаний, но они более точные
• Ниже (0.1-0.25): Больше предсказаний, возможен шум
• По умолчанию (0.25): Сбалансировано для большинства случаев использования

Порог IoU#

Управление Non-Maximum Suppression (NMS):

• Выше (0.7+): Разрешить больше пересекающихся рамок
• Нижняя (0.3-0.5): Более агрессивно подавлять пересекающиеся детекции
• По умолчанию (0.7): Сбалансированное поведение NMS для большинства случаев использования

Инференс развертывания (Deployment Predict)#

Каждый запущенный выделенный эндпоинт включает в себя вкладку Predict прямо на карточке развертывания. Здесь используется собственный сервис инференса развертывания, а не общий сервис предсказаний, что позволяет тебе тестировать развернутый эндпоинт прямо из браузера.

API выделенного эндпоинта#

Карточка API Docs на вкладке модели Predict содержит примеры запросов на Python, JavaScript и cURL, предварительно заполненные значениями доверия, IoU и размера изображения, установленными в данный момент на ползунках. URL и ключ являются заполнителями, пока ты не развернешь модель: кнопка Deploy рядом с вкладками кода ведет на вкладку модели Deploy. После развертывания вкладка Code карточки развертывания заполняет URL этого эндпоинта и, для владельцев рабочей области, ее привязанный ключ API, готовые к копированию и запуску.

Аутентификация#

Включай свой API-ключ в запросы:

Authorization: Bearer YOUR_API_KEY

Эндпоинт#

Выделенные эндпоинты принимают запросы по собственному URL:

POST https://YOUR_DEPLOYMENT_URL.run.app/predict

Общий инференс использует Platform API с полным путем модели:

POST https://platform.ultralytics.com/api/models/{owner}/{project}/{model}/predict

Оба принимают одинаковое тело multipart/form-data и возвращают одинаковую форму ответа. С помощью Python SDK используй client.models.predict(owner, project, model, body=...) для общего вывода или client.deployments.predict(owner, deployment, body=...) для выделенного развертывания:

from ultralytics_platform import Platform

client = Platform()  # reads ULTRALYTICS_API_KEY
with open("image.jpg", "rb") as f:
    results = client.models.predict("acme-vision", "inspection", "v3", body={"file": f, "conf": 0.25})

Запрос#

import requests

url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"
headers = {"Authorization": "Bearer YOUR_API_KEY"}
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

with open("image.jpg", "rb") as image_file:
    response = requests.post(url, headers=headers, files={"file": image_file}, data=data)
print(response.json())

Параметры запроса#

Ответ#

{
    "images": [
        {
            "shape": [1080, 1920],
            "results": [
                {
                    "class": 0,
                    "name": "person",
                    "confidence": 0.92,
                    "box": { "x1": 100, "y1": 50, "x2": 300, "y2": 400 }
                },
                {
                    "class": 2,
                    "name": "car",
                    "confidence": 0.87,
                    "box": { "x1": 400, "y1": 200, "x2": 600, "y2": 350 }
                }
            ],
            "speed": {
                "preprocess": 1.2,
                "inference": 12.5,
                "postprocess": 2.3
            }
        }
    ],
    "metadata": {
        "imageCount": 1,
        "functionTimeAlive": 1284.51,
        "functionTimeCall": 0.018,
        "task": "detect",
        "version": {
            "ultralytics": "8.x.x",
            "torch": "2.6.0",
            "torchvision": "0.21.0",
            "python": "3.13.0"
        }
    }
}

Поля ответа#

Ответы, специфичные для задачи#

Формат ответа зависит от задачи:

{
  "class": 0,
  "name": "person",
  "confidence": 0.92,
  "box": {"x1": 100, "y1": 50, "x2": 300, "y2": 400}
}

Ограничения частоты запросов#

Общий API моделей ограничен 20 запросами в минуту для каждого ключа API, вошедшего в систему пользователя или анонимного IP-адреса. При превышении лимита API возвращает 429 с заголовоком Retry-After. Полную информацию обо всех категориях эндпоинтов см. в справочнике по лимитам запросов.

Обработка ошибок#

Типичные ответы об ошибках:

FAQ#