Предсказание модели с помощью Ultralytics YOLO

Введение

В мире машинного обучения и компьютерного зрения процесс анализа визуальных данных часто называют инференсом или предсказанием. Ultralytics YOLO26 предлагает мощную функцию, известную как режим предсказания (predict mode), разработанную для высокопроизводительного инференса в реальном времени с использованием широкого спектра источников данных.

Реальные применения

Производство	Спорт	Безопасность
Детекция запчастей автомобиля	Детекция футболистов	Детекция падения людей

Почему стоит использовать Ultralytics YOLO для инференса?

Вот почему тебе стоит рассмотреть режим предсказания YOLO26 для твоих задач по инференсу:

• Универсальность: Возможность запускать инференс на изображениях, видео и даже прямых трансляциях.
• Производительность: Разработано для высокоскоростной обработки в реальном времени без потери точности.
• Простота использования: Интуитивно понятные интерфейсы Python и CLI для быстрого развертывания и тестирования.
• Высокая настраиваемость: Множество настроек и параметров для адаптации поведения инференса модели под твои конкретные требования.
• Готовность к продакшену: Развертывай модели как API-эндпоинты на Ultralytics Platform с автоматическим масштабированием и мониторингом или запускай инференс локально.

Ключевые особенности режима предсказания

Режим предсказания YOLO26 спроектирован как надежный и универсальный, обладающий следующими функциями:

• Совместимость с несколькими источниками данных: Независимо от того, представлены ли твои данные в виде отдельных изображений, коллекции изображений, видеофайлов или потокового видео в реальном времени, режим предсказания справится с этим.
• Потоковый режим: Используй потоковую функцию для создания эффективного с точки зрения памяти генератора объектов Results. Включи это, установив stream=True в методе вызова предиктора.
• Пакетная обработка: Обрабатывай несколько изображений или видеокадров в одном пакете (батче), что дополнительно сокращает общее время инференса.
• Дружелюбность к интеграции: Легко интегрируй с существующими конвейерами данных и другими программными компонентами благодаря гибкому API.

Модели Ultralytics YOLO возвращают либо Python-список объектов Results, либо эффективный с точки зрения памяти генератор объектов Results, когда при инференсе модели передается параметр stream=True:

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n.pt")  # pretrained YOLO26n model

# Run batched inference on a list of images
results = model(["image1.jpg", "image2.jpg"])  # return a list of Results objects

# Process results list
for result in results:
    boxes = result.boxes  # Boxes object for bounding box outputs
    masks = result.masks  # Masks object for segmentation masks outputs
    keypoints = result.keypoints  # Keypoints object for pose outputs
    probs = result.probs  # Probs object for classification outputs
    obb = result.obb  # Oriented boxes object for OBB outputs
    result.show()  # display to screen
    result.save(filename="result.jpg")  # save to disk

Источники инференса

YOLO26 может обрабатывать различные типы входных источников для инференса, как показано в таблице ниже. Источники включают статические изображения, видеопотоки и различные форматы данных. Таблица также указывает, можно ли использовать каждый источник в потоковом режиме с аргументом stream=True ✅. Потоковый режим полезен для обработки видео или прямых трансляций, так как он создает генератор результатов вместо загрузки всех кадров в память.

Ниже приведены примеры кода для использования каждого типа источника:

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Define path to the image file
source = "path/to/image.jpg"

# Run inference on the source
results = model(source)  # list of Results objects

Аргументы инференса

model.predict() принимает несколько аргументов, которые можно передать во время инференса, чтобы переопределить настройки по умолчанию:

Фиксированный размер против минимального прямоугольника (rect)

По умолчанию для предсказания используется rect=True, что активирует дополнение (padding) до минимального прямоугольника, когда это возможно. Изображение масштабируется так, чтобы вписаться в imgsz, и дополняется только до ближайшего кратного шага (stride), поэтому итоговый тензор может быть меньше, чем imgsz. Дополнение до минимального прямоугольника используется только тогда, когда все изображения в пакете имеют одинаковый размер и бэкенд это поддерживает (PyTorch .pt или динамический ONNX / Triton). В противном случае изображения дополняются до полного целевого размера imgsz.

Используй rect=False, чтобы всегда дополнять изображения до полного целевого размера imgsz. Это рекомендуется, когда тебе нужен фиксированный размер входных данных для соответствия экспортированным моделям (ONNX, TensorRT и т. д.).

Целое число против кортежа для imgsz

• Целое число imgsz=640 превращается в квадратный целевой размер (640, 640) после округления по шагу (stride).
• Кортеж imgsz=(384, 672) задает прямоугольный целевой размер. При rect=True и auto=True фактический тензор может быть меньше этого целевого размера.

Обучение против предсказания/экспорта

Обучение принимает только одно целое число imgsz (список [h, w] приводится к большему значению). Предсказание и экспорт принимают как целое число, так и кортеж (height, width).

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on 'bus.jpg' with arguments
model.predict("https://ultralytics.com/images/bus.jpg", save=True, imgsz=320, conf=0.25)

Аргументы вывода (Inference):

Аргументы визуализации:

Форматы изображений и видео

YOLO26 поддерживает различные форматы изображений и видео, как указано в ultralytics/data/utils.py. Смотри таблицы ниже для получения информации о допустимых суффиксах и примерах команд предсказания.

Изображения

В таблице ниже приведены допустимые форматы изображений Ultralytics.

Видео

В таблице ниже приведены допустимые форматы видео Ultralytics.

Работа с результатами

Все вызовы predict() в Ultralytics возвращают список объектов Results:

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")
results = model(
    [
        "https://ultralytics.com/images/bus.jpg",
        "https://ultralytics.com/images/zidane.jpg",
    ]
)  # batch inference

Объекты Results имеют следующие атрибуты:

Объекты Results имеют следующие методы:

Подробнее см. в документации класса Results.

Boxes

Объект Boxes можно использовать для индексации, обработки и преобразования ограничивающих рамок в различные форматы.

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.boxes)  # print the Boxes object containing the detection bounding boxes

Ниже представлена таблица методов и свойств класса Boxes, включая их название, тип и описание:

Подробнее см. в документации класса Boxes.

Masks

Объект Masks можно использовать для индексации, обработки и преобразования масок в сегменты.

from ultralytics import YOLO

# Load a pretrained YOLO26n-seg Segment model
model = YOLO("yolo26n-seg.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.masks)  # print the Masks object containing the detected instance masks

Ниже представлена таблица методов и свойств класса Masks, включая их название, тип и описание:

Для получения дополнительной информации см. документацию к классу Masks.

Keypoints

Объект Keypoints можно использовать для индексации, манипуляции и нормализации координат.

from ultralytics import YOLO

# Load a pretrained YOLO26n-pose Pose model
model = YOLO("yolo26n-pose.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.keypoints)  # print the Keypoints object containing the detected keypoints

Вот таблица методов и свойств класса Keypoints, включая их название, тип и описание:

Для получения дополнительной информации см. документацию к классу Keypoints.

Probs

Объект Probs можно использовать для индексации, получения индексов top1 и top5, а также оценок классификации.

from ultralytics import YOLO

# Load a pretrained YOLO26n-cls Classify model
model = YOLO("yolo26n-cls.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.probs)  # print the Probs object containing the detected class probabilities

Вот таблица с описанием методов и свойств класса Probs:

Для получения дополнительной информации см. документацию к классу Probs.

OBB

Объект OBB можно использовать для индексации, манипуляции и преобразования ориентированных ограничивающих рамок в различные форматы.

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n-obb.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/boats.jpg")  # results list

# View results
for r in results:
    print(r.obb)  # print the OBB object containing the oriented detection bounding boxes

Вот таблица методов и свойств класса OBB, включая их название, тип и описание:

Для получения дополнительной информации см. документацию к классу OBB.

Визуализация результатов

Метод plot() в объектах Results облегчает визуализацию предсказаний путем наложения обнаруженных объектов (таких как ограничивающие рамки, маски, ключевые точки и вероятности) на исходное изображение. Этот метод возвращает аннотированное изображение в виде массива NumPy, что позволяет легко его отобразить или сохранить.

from PIL import Image

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on 'bus.jpg'
results = model(["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"])  # results list

# Visualize the results
for i, r in enumerate(results):
    # Plot results image
    im_bgr = r.plot()  # BGR-order numpy array
    im_rgb = Image.fromarray(im_bgr[..., ::-1])  # RGB-order PIL image

    # Show results to screen (in supported environments)
    r.show()

    # Save results to disk
    r.save(filename=f"results{i}.jpg")

Параметры метода plot()

Метод plot() поддерживает различные аргументы для настройки вывода:

Потокобезопасный вывод (Inference)

Обеспечение потокобезопасности при выполнении предсказаний крайне важно, когда ты запускаешь несколько моделей YOLO параллельно в разных потоках. Потокобезопасный вывод гарантирует, что предсказания каждого потока изолированы и не мешают друг другу, позволяя избежать условий гонки (race conditions) и обеспечивая согласованные и надежные результаты.

При использовании моделей YOLO в многопоточном приложении важно создавать отдельные объекты модели для каждого потока или использовать локальное хранилище потока (thread-local storage), чтобы предотвратить конфликты:

from threading import Thread

from ultralytics import YOLO

def thread_safe_predict(model, image_path):
    """Performs thread-safe prediction on an image using a locally instantiated YOLO model."""
    model = YOLO(model)
    results = model.predict(image_path)
    # Process results

# Starting threads that each have their own model instance
Thread(target=thread_safe_predict, args=("yolo26n.pt", "image1.jpg")).start()
Thread(target=thread_safe_predict, args=("yolo26n.pt", "image2.jpg")).start()

Для углубленного изучения потокобезопасного вывода с моделями YOLO и пошаговых инструкций, пожалуйста, обратись к нашему Руководству по потокобезопасному выводу YOLO. Это руководство предоставит тебе всю необходимую информацию, чтобы избежать типичных ошибок и обеспечить плавную работу многопоточного вывода.

Потоковый цикл for

Вот Python-скрипт с использованием OpenCV (cv2) и YOLO для запуска предсказаний на кадрах видео. Этот скрипт предполагает, что ты уже установил необходимые пакеты (opencv-python и ultralytics).

import cv2

from ultralytics import YOLO

# Load the YOLO model
model = YOLO("yolo26n.pt")

# Open the video file
video_path = "path/to/your/video/file.mp4"
cap = cv2.VideoCapture(video_path)

# Loop through the video frames
while cap.isOpened():
    # Read a frame from the video
    success, frame = cap.read()

    if success:
        # Run YOLO inference on the frame
        results = model(frame)

        # Visualize the results on the frame
        annotated_frame = results[0].plot()

        # Display the annotated frame
        cv2.imshow("YOLO Inference", annotated_frame)

        # Break the loop if 'q' is pressed
        if cv2.waitKey(1) & 0xFF == ord("q"):
            break
    else:
        # Break the loop if the end of the video is reached
        break

# Release the video capture object and close the display window
cap.release()
cv2.destroyAllWindows()

Этот скрипт будет выполнять предсказания для каждого кадра видео, визуализировать результаты и отображать их в окне. Выйти из цикла можно, нажав 'q'.

Часто задаваемые вопросы (FAQ)

Что такое Ultralytics YOLO и его режим предсказания (predict) для вывода в реальном времени?

Ultralytics YOLO — это передовая модель для обнаружения объектов, сегментации и классификации в реальном времени. Его режим предсказания (predict mode) позволяет пользователям выполнять высокоскоростной вывод на различных источниках данных, таких как изображения, видео и прямые трансляции. Разработанный для производительности и универсальности, он также предлагает пакетную обработку и потоковые режимы. Для получения подробной информации о функциях ознакомься с режимом предсказания Ultralytics YOLO.

Как я могу запустить вывод с помощью Ultralytics YOLO на различных источниках данных?

Ultralytics YOLO может обрабатывать широкий спектр источников данных, включая отдельные изображения, видео, директории, URL-адреса и потоки. Ты можешь указать источник данных в вызове model.predict(). Например, используй 'image.jpg' для локального изображения или 'https://ultralytics.com/images/bus.jpg' для URL-адреса. Ознакомься с подробными примерами для различных источников вывода в документации.

Как оптимизировать скорость вывода YOLO и использование памяти?

Для оптимизации скорости вывода и эффективного управления памятью ты можешь использовать потоковый режим, установив stream=True в методе вызова предиктора. Потоковый режим генерирует экономичный с точки зрения памяти генератор объектов Results вместо загрузки всех кадров в память. Для обработки длинных видео или больших наборов данных потоковый режим особенно полезен. Узнай больше о потоковом режиме.

Какие аргументы вывода поддерживает Ultralytics YOLO?

Метод model.predict() в YOLO поддерживает различные аргументы, такие как conf, iou, imgsz, device и другие. Эти аргументы позволяют настраивать процесс вывода, задавая параметры, например пороги уверенности, размер изображения и устройство, используемое для вычислений. Подробные описания этих аргументов можно найти в разделе inference arguments.

Как я могу визуализировать и сохранить результаты предсказаний YOLO?

После запуска вывода с помощью YOLO объекты Results предоставляют методы для отображения и сохранения аннотированных изображений. Ты можешь использовать методы вроде result.show() и result.save(filename="result.jpg") для визуализации и сохранения результатов. Любые отсутствующие родительские директории в пути к файлу создаются автоматически (например, result.save("path/to/result.jpg")). Полный список этих методов смотри в разделе working with results.