Предсказание модели с помощью Ultralytics YOLO

Введение

В мире machine learning и computer vision процесс анализа визуальных данных часто называют инференсом или предсказанием. Ultralytics YOLO26 предлагает мощную функцию, известную как режим предсказания (predict mode), специально разработанную для высокопроизводительного инференса в реальном времени на широком спектре источников данных.

Применение в реальных условиях

Производство	Спорт	Безопасность
Обнаружение запасных частей автомобиля	Обнаружение футболистов	Обнаружение падений людей

Почему стоит использовать Ultralytics YOLO для инференса?

Вот почему тебе стоит рассмотреть режим предсказания YOLO26 для своих разнообразных задач инференса:

• Универсальность: возможность запуска инференса на изображениях, видео и даже прямых трансляциях.
• Производительность: разработано для высокоскоростной обработки в реальном времени без ущерба для accuracy.
• Простота использования: интуитивно понятные интерфейсы Python и CLI для быстрого развертывания и тестирования.
• Высокая настраиваемость: множество настроек и параметров для адаптации поведения инференса модели под твои конкретные требования.
• Готовность к производству: развертывай модели как API-эндпоинты на Ultralytics Platform с автоматическим масштабированием и мониторингом, либо запускай инференс локально.

Ключевые особенности режима предсказания

Режим предсказания YOLO26 спроектирован надежным и универсальным, обладая следующими характеристиками:

• Совместимость с множеством источников данных: независимо от того, представлены ли твои данные в виде отдельных изображений, коллекции изображений, видеофайлов или потоковых видео в реальном времени, режим предсказания справится с этим.
• Потоковый режим: используй функцию потоковой передачи для создания генератора объектов Results, экономящего память. Включи это, установив stream=True в методе вызова предсказателя.
• Пакетная обработка: обрабатывай несколько изображений или кадров видео в одном пакете, что дополнительно сокращает общее время инференса.
• Удобная интеграция: легко интегрируй с существующими конвейерами данных и другими программными компонентами благодаря гибкому API.

Модели Ultralytics YOLO возвращают либо Python-список объектов Results, либо экономный с точки зрения памяти генератор объектов Results, если во время инференса модели передан аргумент stream=True:

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n.pt")  # pretrained YOLO26n model

# Run batched inference on a list of images
results = model(["image1.jpg", "image2.jpg"])  # return a list of Results objects

# Process results list
for result in results:
    boxes = result.boxes  # Boxes object for bounding box outputs
    masks = result.masks  # Masks object for segmentation masks outputs
    keypoints = result.keypoints  # Keypoints object for pose outputs
    probs = result.probs  # Probs object for classification outputs
    obb = result.obb  # Oriented boxes object for OBB outputs
    result.show()  # display to screen
    result.save(filename="result.jpg")  # save to disk

Источники для инференса

YOLO26 может обрабатывать различные типы источников ввода для инференса, как показано в таблице ниже. Источники включают статические изображения, видеопотоки и различные форматы данных. Таблица также указывает, может ли каждый источник использоваться в потоковом режиме с аргументом stream=True ✅. Потоковый режим полезен для обработки видео или прямых трансляций, так как он создает генератор результатов вместо загрузки всех кадров в память.

Ниже приведены примеры кода для использования каждого типа источника:

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Define path to the image file
source = "path/to/image.jpg"

# Run inference on the source
results = model(source)  # list of Results objects

Аргументы инференса

model.predict() принимает множество аргументов, которые можно передать во время инференса, чтобы переопределить настройки по умолчанию:

Фиксированный размер против минимального прямоугольника (rect)

По умолчанию в predict используется rect=True, что активирует дополнение (padding) до минимального прямоугольника, когда это возможно. Изображение масштабируется так, чтобы вписаться в imgsz, и дополняется только до ближайшего кратного шагу (stride), поэтому итоговый тензор может быть меньше, чем imgsz. Дополнение до минимального прямоугольника используется только тогда, когда все изображения в пакете имеют одинаковый размер и бэкенд это поддерживает (PyTorch .pt или динамический ONNX / Triton). В противном случае изображения дополняются до полного целевого размера imgsz.

Используй rect=False, чтобы всегда дополнять до полного размера imgsz. Это рекомендуется, когда тебе нужен фиксированный входной размер для соответствия экспортированным моделям (ONNX, TensorRT и т. д.).

Целое число против кортежа imgsz

• Целое число imgsz=640 превращается в квадратную цель (640, 640) после округления по шагу.
• Кортеж imgsz=(384, 672) задает прямоугольную цель. С rect=True и auto=True фактический тензор может быть меньше этой цели.

Обучение против предсказания/экспорта

Обучение принимает только одно целое число imgsz (список [h, w] приводится к большему значению). Predict и экспорт принимают либо целое число, либо кортеж (height, width).

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on 'bus.jpg' with arguments
model.predict("https://ultralytics.com/images/bus.jpg", save=True, imgsz=320, conf=0.25)

Аргументы инференса:

Аргументы визуализации:

Форматы изображений и видео

YOLO26 поддерживает различные форматы изображений и видео, как указано в ultralytics/data/utils.py. См. таблицы ниже для ознакомления с допустимыми суффиксами и примерами команд предсказания.

Изображения

В таблице ниже перечислены допустимые форматы изображений Ultralytics.

Видео

В таблице ниже перечислены допустимые форматы видео Ultralytics.

Работа с результатами

Все вызовы predict() в Ultralytics возвращают список объектов Results:

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")
results = model(
    [
        "https://ultralytics.com/images/bus.jpg",
        "https://ultralytics.com/images/zidane.jpg",
    ]
)  # batch inference

Объекты Results имеют следующие атрибуты:

Объекты Results имеют следующие методы:

Более подробную информацию см. в документации к классу Results.

Boxes

Объект Boxes можно использовать для индексации, обработки и преобразования ограничивающих рамок в различные форматы.

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.boxes)  # print the Boxes object containing the detection bounding boxes

Ниже приведена таблица методов и свойств класса Boxes, включая их название, тип и описание:

Более подробную информацию см. в документации к классу Boxes.

Masks

Объект Masks можно использовать для индексации, обработки и преобразования масок в сегменты.

from ultralytics import YOLO

# Load a pretrained YOLO26n-seg Segment model
model = YOLO("yolo26n-seg.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.masks)  # print the Masks object containing the detected instance masks

Ниже приведена таблица методов и свойств класса Masks, включая их название, тип и описание:

Более подробную информацию см. в документации класса Masks.

Keypoints

Объект Keypoints можно использовать для индексации, обработки и нормализации координат.

from ultralytics import YOLO

# Load a pretrained YOLO26n-pose Pose model
model = YOLO("yolo26n-pose.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.keypoints)  # print the Keypoints object containing the detected keypoints

Ниже приведена таблица методов и свойств класса Keypoints, включая их название, тип и описание:

Более подробную информацию см. в документации класса Keypoints.

Probs

Объект Probs можно использовать для индексации, получения индексов top1 и top5, а также оценок классификации.

from ultralytics import YOLO

# Load a pretrained YOLO26n-cls Classify model
model = YOLO("yolo26n-cls.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.probs)  # print the Probs object containing the detected class probabilities

Ниже приведена таблица с описанием методов и свойств класса Probs:

Более подробную информацию см. в документации класса Probs.

OBB

Объект OBB можно использовать для индексации, обработки и преобразования ориентированных ограничивающих рамок в различные форматы.

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n-obb.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/boats.jpg")  # results list

# View results
for r in results:
    print(r.obb)  # print the OBB object containing the oriented detection bounding boxes

Ниже приведена таблица методов и свойств класса OBB, включая их название, тип и описание:

Более подробную информацию см. в документации класса OBB.

Визуализация результатов

Метод plot() в объектах Results облегчает визуализацию предсказаний путем наложения обнаруженных объектов (таких как ограничивающие рамки, маски, ключевые точки и вероятности) на исходное изображение. Этот метод возвращает аннотированное изображение в виде массива NumPy, что позволяет легко отобразить или сохранить его.

from PIL import Image

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on 'bus.jpg'
results = model(["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"])  # results list

# Visualize the results
for i, r in enumerate(results):
    # Plot results image
    im_bgr = r.plot()  # BGR-order numpy array
    im_rgb = Image.fromarray(im_bgr[..., ::-1])  # RGB-order PIL image

    # Show results to screen (in supported environments)
    r.show()

    # Save results to disk
    r.save(filename=f"results{i}.jpg")

Параметры метода plot()

Метод plot() поддерживает различные аргументы для настройки вывода:

Потокобезопасный инференс

Обеспечение потокобезопасности во время инференса критически важно, когда ты запускаешь несколько моделей YOLO параллельно в разных потоках. Потокобезопасный инференс гарантирует, что предсказания каждого потока изолированы и не мешают друг другу, избегая условий гонки и обеспечивая согласованные и надежные результаты.

При использовании моделей YOLO в многопоточном приложении важно создавать отдельные объекты модели для каждого потока или использовать хранилище потока для предотвращения конфликтов:

from threading import Thread

from ultralytics import YOLO

def thread_safe_predict(model, image_path):
    """Performs thread-safe prediction on an image using a locally instantiated YOLO model."""
    model = YOLO(model)
    results = model.predict(image_path)
    # Process results

# Starting threads that each have their own model instance
Thread(target=thread_safe_predict, args=("yolo26n.pt", "image1.jpg")).start()
Thread(target=thread_safe_predict, args=("yolo26n.pt", "image2.jpg")).start()

Для более глубокого изучения потокобезопасного инференса с моделями YOLO и пошаговых инструкций, пожалуйста, обратись к нашему Руководству по потокобезопасному инференсу YOLO. Это руководство предоставит тебе всю необходимую информацию, чтобы избежать распространенных ошибок и гарантировать бесперебойную работу твоего многопоточного инференса.

Потоковый for-цикл источника

Вот Python-скрипт с использованием OpenCV (cv2) и YOLO для запуска инференса на кадрах видео. Этот скрипт предполагает, что ты уже установил необходимые пакеты (opencv-python и ultralytics).

import cv2

from ultralytics import YOLO

# Load the YOLO model
model = YOLO("yolo26n.pt")

# Open the video file
video_path = "path/to/your/video/file.mp4"
cap = cv2.VideoCapture(video_path)

# Loop through the video frames
while cap.isOpened():
    # Read a frame from the video
    success, frame = cap.read()

    if success:
        # Run YOLO inference on the frame
        results = model(frame)

        # Visualize the results on the frame
        annotated_frame = results[0].plot()

        # Display the annotated frame
        cv2.imshow("YOLO Inference", annotated_frame)

        # Break the loop if 'q' is pressed
        if cv2.waitKey(1) & 0xFF == ord("q"):
            break
    else:
        # Break the loop if the end of the video is reached
        break

# Release the video capture object and close the display window
cap.release()
cv2.destroyAllWindows()

Этот скрипт будет выполнять предсказания на каждом кадре видео, визуализировать результаты и отображать их в окне. Из цикла можно выйти, нажав 'q'.

Часто задаваемые вопросы (FAQ)

Что такое Ultralytics YOLO и его режим predict для инференса в реальном времени?

Ultralytics YOLO — это современная модель для обнаружения объектов, сегментации экземпляров, семантической сегментации и классификации в реальном времени. Его режим predict позволяет пользователям выполнять высокоскоростной инференс на различных источниках данных, таких как изображения, видео и прямые трансляции. Разработанный для производительности и универсальности, он также предлагает пакетную обработку и потоковые режимы. Для получения более подробной информации о функциях ознакомься с режимом predict Ultralytics YOLO.

Как запустить инференс с помощью Ultralytics YOLO на разных источниках данных?

Ultralytics YOLO может обрабатывать широкий спектр источников данных, включая отдельные изображения, видео, директории, URL-адреса и потоки. Ты можешь указать источник данных в вызове model.predict(). Например, используй 'image.jpg' для локального изображения или 'https://ultralytics.com/images/bus.jpg' для URL. Ознакомься с подробными примерами для различных источников инференса в документации.

Как оптимизировать скорость инференса и использование памяти YOLO?

Чтобы оптимизировать скорость инференса и эффективно управлять памятью, ты можешь использовать потоковый режим, установив stream=True в методе вызова предиктора. Потоковый режим создает генератор объектов Results, экономящий память, вместо загрузки всех кадров в оперативную память. Для обработки длинных видео или больших наборов данных потоковый режим особенно полезен. Узнай больше о потоковом режиме.

Какие аргументы инференса поддерживает Ultralytics YOLO?

Метод model.predict() в YOLO поддерживает различные аргументы, такие как conf, iou, imgsz, device и другие. Эти аргументы позволяют тебе настроить процесс инференса, устанавливая параметры, такие как пороги уверенности, размер изображения и устройство, используемое для вычислений. Подробные описания этих аргументов можно найти в разделе аргументы инференса.

Как визуализировать и сохранить результаты предсказаний YOLO?

После запуска инференса с YOLO объекты Results содержат методы для отображения и сохранения аннотированных изображений. Ты можешь использовать такие методы, как result.show() и result.save(filename="result.jpg"), чтобы визуализировать и сохранить результаты. Любые отсутствующие родительские директории в пути к файлу создаются автоматически (например, result.save("path/to/result.jpg")). Полный список этих методов см. в разделе работа с результатами.