Link to this sectionПредсказание моделей с помощью Ultralytics YOLO#

Link to this sectionВведение#

В мире machine learning и computer vision процесс интерпретации визуальных данных часто называют инференсом или предсказанием. Ultralytics YOLO26 предлагает мощную функцию, известную как режим предсказания (predict mode), разработанную для высокопроизводительного инференса в реальном времени на широком спектре источников данных.

Link to this sectionПрименение в реальных условиях#

Производство	Спорт	Безопасность
Детекция запасных частей автомобиля	Детекция футболистов	Детекция падения людей

Link to this sectionПочему стоит использовать Ultralytics YOLO для инференса?#

Вот почему тебе стоит рассмотреть режим предсказания YOLO26 для твоих задач инференса:

• Универсальность: возможность запуска инференса на изображениях, видео и даже прямых трансляциях.
• Производительность: разработано для обработки в реальном времени с высокой скоростью без ущерба для accuracy.
• Простота использования: интуитивно понятные интерфейсы Python и CLI для быстрого развертывания и тестирования.
• Высокая настраиваемость: различные настройки и параметры позволяют адаптировать поведение инференса модели под твои конкретные требования.
• Готовность к продакшену: развертывай модели как API-эндпоинты на Ultralytics Platform с автоматическим масштабированием и мониторингом или запускай инференс локально.

Link to this sectionОсновные особенности режима предсказания#

Режим предсказания YOLO26 спроектирован надежным и универсальным, обладающим следующими функциями:

• Совместимость с несколькими источниками данных: будь то отдельные изображения, коллекции изображений, видеофайлы или потоковое видео в реальном времени — режим предсказания справится со всем.
• Потоковый режим (Streaming Mode): используй функцию потоковой передачи для создания экономичного с точки зрения памяти генератора объектов Results. Включи это, установив stream=True в методе вызова предиктора.
• Пакетная обработка: обрабатывай несколько изображений или кадров видео за один пакет (batch), что дополнительно сокращает общее время инференса.
• Дружелюбность к интеграции: легкая интеграция с существующими конвейерами данных и другими программными компонентами благодаря гибкому API.

Модели Ultralytics YOLO возвращают либо список объектов Results на Python, либо экономичный генератор объектов Results, если при инференсе модели передан параметр stream=True:

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n.pt")  # pretrained YOLO26n model

# Run batched inference on a list of images
results = model(["image1.jpg", "image2.jpg"])  # return a list of Results objects

# Process results list
for result in results:
    boxes = result.boxes  # Boxes object for bounding box outputs
    masks = result.masks  # Masks object for segmentation masks outputs
    keypoints = result.keypoints  # Keypoints object for pose outputs
    probs = result.probs  # Probs object for classification outputs
    obb = result.obb  # Oriented boxes object for OBB outputs
    result.show()  # display to screen
    result.save(filename="result.jpg")  # save to disk

Link to this sectionИсточники инференса#

YOLO26 может обрабатывать различные типы входных источников для инференса, как показано в таблице ниже. Источники включают статические изображения, видеопотоки и различные форматы данных. В таблице также указано, можно ли использовать каждый источник в потоковом режиме с аргументом stream=True ✅. Потоковый режим полезен для обработки видео или прямых трансляций, так как он создает генератор результатов вместо загрузки всех кадров в память.

Ниже приведены примеры кода для использования каждого типа источника:

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Define path to the image file
source = "path/to/image.jpg"

# Run inference on the source
results = model(source)  # list of Results objects

Link to this sectionАргументы вывода (Inference Arguments)#

model.predict() принимает несколько аргументов, которые можно передать во время вывода, чтобы переопределить настройки по умолчанию:

Link to this sectionФиксированный размер против минимального прямоугольника (rect)#

По умолчанию для предсказания используется rect=True, что при возможности включает заполнение до минимального прямоугольника. Изображение масштабируется так, чтобы поместиться в imgsz, и дополняется только до ближайшего кратного шагу сетки (stride), поэтому итоговый тензор может быть меньше, чем imgsz. Заполнение до минимального прямоугольника используется только тогда, когда все изображения в пакете имеют одинаковую форму, и бэкенд поддерживает это (PyTorch .pt или динамические ONNX / Triton). В противном случае изображения дополняются до полного целевого размера imgsz.

Используй rect=False, чтобы всегда дополнять изображение до полного целевого размера imgsz. Это рекомендуется, когда тебе нужен фиксированный размер входных данных для соответствия экспортированным моделям (ONNX, TensorRT и т. д.).

Целое число против кортежа imgsz

• Целое число imgsz=640 превращается в квадратную целевую форму (640, 640) после округления с учетом шага сетки (stride).
• Кортеж imgsz=(384, 672) задает прямоугольную целевую форму. При rect=True и auto=True фактический тензор может быть меньше этой целевой формы.

Обучение против предсказания/экспорта

Обучение принимает только одно целое число imgsz (список [h, w] приводится к большему значению). Предсказание и экспорт принимают либо целое число, либо кортеж (height, width).

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on 'bus.jpg' with arguments
model.predict("https://ultralytics.com/images/bus.jpg", save=True, imgsz=320, conf=0.25)

Аргументы инференса:

Аргументы визуализации:

Link to this sectionФорматы изображений и видео#

YOLO26 поддерживает различные форматы изображений и видео, как указано в ultralytics/data/utils.py. См. таблицы ниже для получения информации о допустимых суффиксах и примерах команд предсказания.

Link to this sectionИзображения#

В таблице ниже приведены допустимые форматы изображений Ultralytics.

Link to this sectionВидео#

В таблице ниже приведены допустимые форматы видео Ultralytics.

Link to this sectionРабота с результатами#

Все вызовы Ultralytics predict() возвращают список объектов Results:

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")
results = model(
    [
        "https://ultralytics.com/images/bus.jpg",
        "https://ultralytics.com/images/zidane.jpg",
    ]
)  # batch inference

Объекты Results имеют следующие атрибуты:

Link to this sectionРезультаты по задачам#

Каждое предсказание возвращает один объект Results на изображение или кадр. Указанные выше общие поля доступны всегда, в то время как специфические для задачи данные предсказаний хранятся в полях ниже. Тензоры координат, достоверности и вероятностей имеют тип torch.float32, если не используется половинная точность, в этом случае torch.float16. После вызова result.numpy() тензоры преобразуются в массивы NumPy с соответствующими типами данных NumPy. Маски экземпляров представляют собой бинарные тензоры torch.uint8, тогда как семантические маски используют наименьший практически применимый целочисленный тип данных для ID классов: torch.uint8, torch.int16 или torch.int32, в зависимости от количества классов.

Объекты Results имеют следующие методы:

Для получения дополнительной информации см. документацию класса Results.

Link to this sectionБоксы#

Объект Boxes можно использовать для индексации, манипуляции и преобразования ограничивающих рамок в различные форматы.

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.boxes)  # print the Boxes object containing the detection bounding boxes

Ниже представлена таблица методов и свойств класса Boxes, включая их имя, тип и описание:

Для получения дополнительной информации см. документацию класса Boxes.

Link to this sectionМаски#

Объект Masks можно использовать для индексации, манипуляции и преобразования масок в сегменты.

from ultralytics import YOLO

# Load a pretrained YOLO26n-seg Segment model
model = YOLO("yolo26n-seg.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.masks)  # print the Masks object containing the detected instance masks

Ниже представлена таблица методов и свойств класса Masks, включая их имя, тип и описание:

Для получения дополнительной информации см. документацию класса Masks.

Link to this sectionSemanticMask#

SemanticMask хранит одну плотную карту классов для результатов семантической сегментации. В отличие от Masks, она не содержит по одной бинарной маске на объект и не предоставляет вспомогательные методы для работы с полигонами.

from ultralytics import YOLO

# Load a pretrained YOLO26n-sem Semantic model
model = YOLO("yolo26n-sem.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.semantic_mask.data)  # print the H x W class-ID map

Link to this sectionКлючевые точки#

Объект Keypoints можно использовать для индексации, манипуляции и нормализации координат.

from ultralytics import YOLO

# Load a pretrained YOLO26n-pose Pose model
model = YOLO("yolo26n-pose.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.keypoints)  # print the Keypoints object containing the detected keypoints

Ниже представлена таблица методов и свойств класса Keypoints, включая их имя, тип и описание:

For more details see the Keypoints class documentation.

Link to this sectionProbs#

Объект Probs можно использовать для индексации, получения top1 и top5 индексов и оценок классификации.

from ultralytics import YOLO

# Load a pretrained YOLO26n-cls Classify model
model = YOLO("yolo26n-cls.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.probs)  # print the Probs object containing the detected class probabilities

Ниже приведена таблица с описанием методов и свойств для класса Probs:

For more details see the Probs class documentation.

Link to this sectionOBB#

Объект OBB можно использовать для индексации, манипулирования и конвертации ориентированных ограничивающих рамок в различные форматы.

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n-obb.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/boats.jpg")  # results list

# View results
for r in results:
    print(r.obb)  # print the OBB object containing the oriented detection bounding boxes

Ниже приведена таблица методов и свойств класса OBB, включая их название, тип и описание:

For more details see the OBB class documentation.

Link to this sectionВизуализация результатов#

Метод plot() в объектах Results упрощает визуализацию предсказаний путем наложения обнаруженных объектов (таких как ограничивающие рамки, маски, ключевые точки и вероятности) на исходное изображение. Этот метод возвращает аннотированное изображение как массив NumPy, позволяя легко отобразить или сохранить его.

from PIL import Image

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on 'bus.jpg'
results = model(["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"])  # results list

# Visualize the results
for i, r in enumerate(results):
    # Plot results image
    im_bgr = r.plot()  # BGR-order numpy array
    im_rgb = Image.fromarray(im_bgr[..., ::-1])  # RGB-order PIL image

    # Show results to screen (in supported environments)
    r.show()

    # Save results to disk
    r.save(filename=f"results{i}.jpg")

Link to this sectionПараметры метода plot()#

Метод plot() поддерживает различные аргументы для настройки вывода:

Link to this sectionПотокобезопасный инференс#

Обеспечение потокобезопасности во время инференса критически важно, когда ты запускаешь несколько моделей YOLO параллельно в разных потоках. Потокобезопасный инференс гарантирует, что предсказания каждого потока изолированы и не мешают друг другу, избегая условий состязательности (race conditions) и обеспечивая согласованные и надежные результаты.

При использовании моделей YOLO в многопоточном приложении важно создавать отдельные объекты модели для каждого потока или использовать thread-local хранилище, чтобы предотвратить конфликты:

from threading import Thread

from ultralytics import YOLO

def thread_safe_predict(model, image_path):
    """Performs thread-safe prediction on an image using a locally instantiated YOLO model."""
    model = YOLO(model)
    results = model.predict(image_path)
    # Process results

# Starting threads that each have their own model instance
Thread(target=thread_safe_predict, args=("yolo26n.pt", "image1.jpg")).start()
Thread(target=thread_safe_predict, args=("yolo26n.pt", "image2.jpg")).start()

Для углубленного изучения потокобезопасного инференса с моделями YOLO и пошаговых инструкций, пожалуйста, обратись к нашему руководству по потокобезопасному инференсу YOLO. Это руководство предоставит тебе всю необходимую информацию, чтобы избежать типичных ошибок и гарантировать, что твой многопоточный инференс работает корректно.

Link to this sectionПотоковый цикл for#

Вот пример скрипта на Python с использованием OpenCV (cv2) и YOLO для запуска инференса на кадрах видео. Этот скрипт предполагает, что ты уже установил необходимые пакеты (opencv-python и ultralytics).

import cv2

from ultralytics import YOLO

# Load the YOLO model
model = YOLO("yolo26n.pt")

# Open the video file
video_path = "path/to/your/video/file.mp4"
cap = cv2.VideoCapture(video_path)

# Loop through the video frames
while cap.isOpened():
    # Read a frame from the video
    success, frame = cap.read()

    if success:
        # Run YOLO inference on the frame
        results = model(frame)

        # Visualize the results on the frame
        annotated_frame = results[0].plot()

        # Display the annotated frame
        cv2.imshow("YOLO Inference", annotated_frame)

        # Break the loop if 'q' is pressed
        if cv2.waitKey(1) & 0xFF == ord("q"):
            break
    else:
        # Break the loop if the end of the video is reached
        break

# Release the video capture object and close the display window
cap.release()
cv2.destroyAllWindows()

Этот скрипт запустит предсказания на каждом кадре видео, визуализирует результаты и отобразит их в окне. Выйти из цикла можно, нажав 'q'.

Link to this sectionFAQ#

Link to this sectionЧто такое Ultralytics YOLO и режим predict для инференса в реальном времени?#

Ultralytics YOLO — это современная модель для обнаружения объектов, сегментации экземпляров, семантической сегментации и классификации в реальном времени. Её режим predict позволяет пользователям выполнять высокоскоростной инференс на различных источниках данных, таких как изображения, видео и прямые трансляции. Разработанный для производительности и универсальности, он также предлагает пакетную обработку и потоковые режимы. Для получения дополнительной информации о функциях, ознакомься с режимом predict Ultralytics YOLO.

Link to this sectionКак запустить инференс с помощью Ultralytics YOLO на разных источниках данных?#

Ultralytics YOLO может обрабатывать широкий спектр источников данных, включая отдельные изображения, видео, директории, URL-адреса и потоки. Ты можешь указать источник данных в вызове model.predict(). Например, используй 'image.jpg' для локального изображения или 'https://ultralytics.com/images/bus.jpg' для URL-адреса. Ознакомься с подробными примерами для различных источников инференса в документации.

Link to this sectionКак оптимизировать скорость инференса YOLO и использование памяти?#

Чтобы оптимизировать скорость инференса и эффективно управлять памятью, ты можешь использовать потоковый режим, установив stream=True в методе вызова предиктора. Потоковый режим создает эффективный с точки зрения памяти генератор объектов Results вместо загрузки всех кадров в память. Для обработки длинных видео или больших наборов данных потоковый режим особенно полезен. Узнай больше о потоковом режиме.

Link to this sectionКакие аргументы инференса поддерживает Ultralytics YOLO?#

Метод model.predict() в YOLO поддерживает различные аргументы, такие как conf, iou, imgsz, device и другие. Эти аргументы позволяют тебе настроить процесс инференса, задавая параметры, такие как пороги уверенности, размер изображения и устройство, используемое для вычислений. Подробные описания этих аргументов можно найти в разделе аргументы инференса.

Link to this sectionКак визуализировать и сохранить результаты предсказаний YOLO?#

После запуска инференса с YOLO объекты Results содержат методы для отображения и сохранения аннотированных изображений. Ты можешь использовать методы, такие как result.show() и result.save(filename="result.jpg"), чтобы визуализировать и сохранить результаты. Любые отсутствующие родительские директории в пути к файлу будут созданы автоматически (например, result.save("path/to/result.jpg")). Полный список этих методов можно найти в разделе работа с результатами.