Предсказание модели с Ultralytics YOLO

Введение

В мире машинного обучения и компьютерного зрения процесс извлечения смысла из визуальных данных называется 'инференсом' или 'предсказанием'. Ultralytics YOLO11 предлагает мощную функцию, известную как режим predict, который разработан для высокопроизводительного инференса в реальном времени на широком спектре источников данных.

Смотреть: Как извлечь выходные данные из модели Ultralytics YOLO для пользовательских проектов.

Приложения в реальном мире

Производство	Спорт	Безопасность
Обнаружение запасных частей для транспортных средств	Обнаружение футболистов	Обнаружение падающих людей

Зачем использовать Ultralytics YOLO для логического вывода?

Вот почему вам стоит рассмотреть режим predict YOLO11 для различных задач инференса:

• Универсальность: Возможность проводить выводы на изображениях, видео и даже на живых потоках.
• Производительность: Разработан для высокоскоростной обработки в реальном времени без ущерба для точности.
• Простота использования: Интуитивно понятные интерфейсы Python и CLI для быстрого развертывания и тестирования.
• Широкие возможности настройки: Различные настройки и параметры для точной настройки поведения модели в соответствии с вашими конкретными требованиями.

Ключевые особенности режима Predict

Режим predict в YOLO11 разработан как надежный и универсальный, и включает в себя:

• Совместимость с различными источниками данных: Независимо от того, представлены ли ваши данные в виде отдельных изображений, коллекции изображений, видеофайлов или видеопотоков в реальном времени, режим predict обеспечит их обработку.
• Режим потоковой передачи: Используйте функцию потоковой передачи для создания экономного с точки зрения памяти генератора объектов. Results Включите эту функцию, установив stream=True в методе вызова предиктора.
• Пакетная обработка: Обработка нескольких изображений или видеокадров в одном пакете, что еще больше сокращает общее время вывода.
• Простота интеграции: Легкая интеграция с существующими конвейерами данных и другими программными компонентами благодаря гибкому API.

Модели Ultralytics YOLO возвращают либо список python-объектов Results объектов или генератор, экономящий память Results объектов, когда stream=True передается модели во время инференса:

from ultralytics import YOLO

# Load a model
model = YOLO("yolo11n.pt")  # pretrained YOLO11n model

# Run batched inference on a list of images
results = model(["image1.jpg", "image2.jpg"])  # return a list of Results objects

# Process results list
for result in results:
    boxes = result.boxes  # Boxes object for bounding box outputs
    masks = result.masks  # Masks object for segmentation masks outputs
    keypoints = result.keypoints  # Keypoints object for pose outputs
    probs = result.probs  # Probs object for classification outputs
    obb = result.obb  # Oriented boxes object for OBB outputs
    result.show()  # display to screen
    result.save(filename="result.jpg")  # save to disk

from ultralytics import YOLO

# Load a model
model = YOLO("yolo11n.pt")  # pretrained YOLO11n model

# Run batched inference on a list of images
results = model(["image1.jpg", "image2.jpg"], stream=True)  # return a generator of Results objects

# Process results generator
for result in results:
    boxes = result.boxes  # Boxes object for bounding box outputs
    masks = result.masks  # Masks object for segmentation masks outputs
    keypoints = result.keypoints  # Keypoints object for pose outputs
    probs = result.probs  # Probs object for classification outputs
    obb = result.obb  # Oriented boxes object for OBB outputs
    result.show()  # display to screen
    result.save(filename="result.jpg")  # save to disk

Источники логического вывода

YOLO11 может обрабатывать различные типы входных источников для инференса, как показано в таблице ниже. Источники включают статические изображения, видеопотоки и различные форматы данных. В таблице также указано, можно ли использовать каждый источник в режиме потоковой передачи с аргументом stream=True ✅. Режим потоковой передачи полезен для обработки видео или прямых трансляций, поскольку он создает генератор результатов вместо загрузки всех кадров в память.

Ниже приведены примеры кода для использования каждого типа источника:

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n.pt")

# Define path to the image file
source = "path/to/image.jpg"

# Run inference on the source
results = model(source)  # list of Results objects

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n.pt")

# Define current screenshot as source
source = "screen"

# Run inference on the source
results = model(source)  # list of Results objects

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n.pt")

# Define remote image or video URL
source = "https://ultralytics.com/images/bus.jpg"

# Run inference on the source
results = model(source)  # list of Results objects

from PIL import Image

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n.pt")

# Open an image using PIL
source = Image.open("path/to/image.jpg")

# Run inference on the source
results = model(source)  # list of Results objects

import cv2

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n.pt")

# Read an image using OpenCV
source = cv2.imread("path/to/image.jpg")

# Run inference on the source
results = model(source)  # list of Results objects

import numpy as np

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n.pt")

# Create a random numpy array of HWC shape (640, 640, 3) with values in range [0, 255] and type uint8
source = np.random.randint(low=0, high=255, size=(640, 640, 3), dtype="uint8")

# Run inference on the source
results = model(source)  # list of Results objects

import torch

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n.pt")

# Create a random torch tensor of BCHW shape (1, 3, 640, 640) with values in range [0, 1] and type float32
source = torch.rand(1, 3, 640, 640, dtype=torch.float32)

# Run inference on the source
results = model(source)  # list of Results objects

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n.pt")

# Define a path to a CSV file with images, URLs, videos and directories
source = "path/to/file.csv"

# Run inference on the source
results = model(source)  # list of Results objects

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n.pt")

# Define path to video file
source = "path/to/video.mp4"

# Run inference on the source
results = model(source, stream=True)  # generator of Results objects

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n.pt")

# Define path to directory containing images and videos for inference
source = "path/to/dir"

# Run inference on the source
results = model(source, stream=True)  # generator of Results objects

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n.pt")

# Define a glob search for all JPG files in a directory
source = "path/to/dir/*.jpg"

# OR define a recursive glob search for all JPG files including subdirectories
source = "path/to/dir/**/*.jpg"

# Run inference on the source
results = model(source, stream=True)  # generator of Results objects

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n.pt")

# Define source as YouTube video URL
source = "https://youtu.be/LNwODJXcvt4"

# Run inference on the source
results = model(source, stream=True)  # generator of Results objects

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n.pt")

# Single stream with batch-size 1 inference
source = "rtsp://example.com/media.mp4"  # RTSP, RTMP, TCP, or IP streaming address

# Run inference on the source
results = model(source, stream=True)  # generator of Results objects

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n.pt")

# Multiple streams with batched inference (e.g., batch-size 8 for 8 streams)
source = "path/to/list.streams"  # *.streams text file with one streaming address per line

# Run inference on the source
results = model(source, stream=True)  # generator of Results objects

rtsp://example.com/media1.mp4
rtsp://example.com/media2.mp4
rtmp://example2.com/live
tcp://192.168.1.100:554
...

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n.pt")

# Run inference on the source
results = model(source=0, stream=True)  # generator of Results objects

Аргументы логического вывода

model.predict() принимает несколько аргументов, которые можно передавать во время инференса для переопределения значений по умолчанию:

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n.pt")

# Run inference on 'bus.jpg' with arguments
model.predict("https://ultralytics.com/images/bus.jpg", save=True, imgsz=320, conf=0.5)

# Run inference on 'bus.jpg'
yolo predict model=yolo11n.pt source='https://ultralytics.com/images/bus.jpg'

Аргументы инференса:

Аргументы визуализации:

Форматы изображений и видео

YOLO11 поддерживает различные форматы изображений и видео, как указано в ultralytics/data/utils.py. В таблицах ниже приведены допустимые суффиксы и примеры команд predict.

Изображения

В таблице ниже представлены допустимые форматы изображений Ultralytics.

Видео

В таблице ниже представлены допустимые форматы видео Ultralytics.

Работа с результатами

Все Ultralytics predict() вызовы будут возвращать список Results объектов:

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")
results = model(
    [
        "https://ultralytics.com/images/bus.jpg",
        "https://ultralytics.com/images/zidane.jpg",
    ]
)  # batch inference

Results объекты имеют следующие атрибуты:

Results объекты имеют следующие методы:

Для получения более подробной информации см. Results документацию класса.

Прямоугольники

Boxes объект можно использовать для индексации, управления и преобразования ограничивающих рамок в различные форматы.

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.boxes)  # print the Boxes object containing the detection bounding boxes

Ниже представлена таблица для Boxes методов и свойств класса, включая их имя, тип и описание:

Для получения более подробной информации см. Boxes документацию класса.

Маски

Masks Объект может использоваться для индексации, манипулирования и преобразования масок в сегменты.

from ultralytics import YOLO

# Load a pretrained YOLO11n-seg Segment model
model = YOLO("yolo11n-seg.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.masks)  # print the Masks object containing the detected instance masks

Ниже представлена таблица для Masks методов и свойств класса, включая их имя, тип и описание:

Для получения более подробной информации см. Masks документацию класса.

Ключевые точки

Keypoints Объект может использоваться для индексации, манипулирования и нормализации координат.

from ultralytics import YOLO

# Load a pretrained YOLO11n-pose Pose model
model = YOLO("yolo11n-pose.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.keypoints)  # print the Keypoints object containing the detected keypoints

Ниже представлена таблица для Keypoints методов и свойств класса, включая их имя, тип и описание:

Для получения более подробной информации см. Keypoints документацию класса.

Вероятности

Probs Объект может использоваться для индексации, получения top1 и top5 индексов и оценок классификации.

from ultralytics import YOLO

# Load a pretrained YOLO11n-cls Classify model
model = YOLO("yolo11n-cls.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.probs)  # print the Probs object containing the detected class probabilities

Ниже приведена таблица, суммирующая методы и свойства для Probs класса:

Для получения более подробной информации см. Probs документацию класса.

OBB

OBB объект может использоваться для индексации, управления и преобразования ориентированных ограничивающих рамок в различные форматы.

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n-obb.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/boats.jpg")  # results list

# View results
for r in results:
    print(r.obb)  # print the OBB object containing the oriented detection bounding boxes

Ниже представлена таблица для OBB методов и свойств класса, включая их имя, тип и описание:

Для получения более подробной информации см. OBB документацию класса.

Визуализация результатов

Параметр plot() метод в Results объекты упрощает визуализацию прогнозов путем наложения обнаруженных объектов (таких как ограничивающие рамки, маски, ключевые точки и вероятности) на исходное изображение. Этот метод возвращает аннотированное изображение в виде массива NumPy, что позволяет легко отображать или сохранять его.

from PIL import Image

from ultralytics import YOLO

# Load a pretrained YOLO11n model
model = YOLO("yolo11n.pt")

# Run inference on 'bus.jpg'
results = model(["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"])  # results list

# Visualize the results
for i, r in enumerate(results):
    # Plot results image
    im_bgr = r.plot()  # BGR-order numpy array
    im_rgb = Image.fromarray(im_bgr[..., ::-1])  # RGB-order PIL image

    # Show results to screen (in supported environments)
    r.show()

    # Save results to disk
    r.save(filename=f"results{i}.jpg")

plot() Параметры метода

Параметр plot() метод поддерживает различные аргументы для настройки вывода:

Потокобезопасный инференс

Обеспечение потокобезопасности во время инференса имеет решающее значение, когда вы запускаете несколько моделей YOLO параллельно в разных потоках. Потокобезопасный инференс гарантирует, что прогнозы каждого потока изолированы и не мешают друг другу, избегая состояний гонки и обеспечивая согласованные и надежные результаты.

При использовании моделей YOLO в многопоточном приложении важно создавать отдельные объекты модели для каждого потока или использовать thread-local storage, чтобы предотвратить конфликты:

from threading import Thread

from ultralytics import YOLO


def thread_safe_predict(model, image_path):
    """Performs thread-safe prediction on an image using a locally instantiated YOLO model."""
    model = YOLO(model)
    results = model.predict(image_path)
    # Process results


# Starting threads that each have their own model instance
Thread(target=thread_safe_predict, args=("yolo11n.pt", "image1.jpg")).start()
Thread(target=thread_safe_predict, args=("yolo11n.pt", "image2.jpg")).start()

Для более подробного ознакомления с потокобезопасным инференсом с моделями YOLO и пошаговыми инструкциями, пожалуйста, обратитесь к нашему Руководству по потокобезопасному инференсу YOLO. Это руководство предоставит вам всю необходимую информацию, чтобы избежать распространенных ошибок и обеспечить бесперебойную работу многопоточного инференса.

Потоковый источник for-loop

Вот скрипт на python с использованием OpenCV (cv2) и YOLO для запуска инференса на видеокадрах. Этот скрипт предполагает, что у вас уже установлены необходимые пакеты (opencv-python и ultralytics).

import cv2

from ultralytics import YOLO

# Load the YOLO model
model = YOLO("yolo11n.pt")

# Open the video file
video_path = "path/to/your/video/file.mp4"
cap = cv2.VideoCapture(video_path)

# Loop through the video frames
while cap.isOpened():
    # Read a frame from the video
    success, frame = cap.read()

    if success:
        # Run YOLO inference on the frame
        results = model(frame)

        # Visualize the results on the frame
        annotated_frame = results[0].plot()

        # Display the annotated frame
        cv2.imshow("YOLO Inference", annotated_frame)

        # Break the loop if 'q' is pressed
        if cv2.waitKey(1) & 0xFF == ord("q"):
            break
    else:
        # Break the loop if the end of the video is reached
        break

# Release the video capture object and close the display window
cap.release()
cv2.destroyAllWindows()

Этот скрипт будет выполнять прогнозы на каждом кадре видео, визуализировать результаты и отображать их в окне. Цикл можно прервать, нажав 'q'.

Часто задаваемые вопросы

Что такое Ultralytics YOLO и его режим predict для инференса в реальном времени?

Ultralytics YOLO — это современная модель для обнаружения объектов, сегментации и классификации в реальном времени. Ее режим predict позволяет пользователям выполнять высокоскоростной инференс на различных источниках данных, таких как изображения, видео и прямые трансляции. Разработанная для производительности и универсальности, она также предлагает пакетную обработку и режимы потоковой передачи. Для получения более подробной информации о ее функциях ознакомьтесь с режимом Ultralytics YOLO predict.

Как я могу запустить инференс, используя Ultralytics YOLO, на различных источниках данных?

Ultralytics YOLO может обрабатывать широкий спектр источников данных, включая отдельные изображения, видео, каталоги, URL-адреса и потоки. Вы можете указать источник данных в model.predict() вызове. Например, используйте 'image.jpg' для локального изображения или 'https://ultralytics.com/images/bus.jpg' для URL-адреса. Ознакомьтесь с подробными примерами для различных источников инференса в документации.

Как оптимизировать скорость инференса и использование памяти YOLO?

Чтобы оптимизировать скорость инференса и эффективно управлять памятью, вы можете использовать режим потоковой передачи, установив stream=True в методе вызова предиктора. Потоковый режим генерирует энергоэффективный генератор Results объектов вместо загрузки всех кадров в память. Потоковый режим особенно полезен для обработки длинных видео или больших наборов данных. Узнайте больше о потоковом режиме.

Какие аргументы инференса поддерживает Ultralytics YOLO?

Параметр model.predict() метод в YOLO поддерживает различные аргументы, такие как conf, iou, imgsz, deviceи другие. Эти аргументы позволяют настраивать процесс инференса, устанавливая такие параметры, как пороги уверенности, размер изображения и устройство, используемое для вычислений. Подробные описания этих аргументов можно найти в разделе аргументы инференса раздел.

Как я могу визуализировать и сохранить результаты предсказаний YOLO?

После запуска инференса с YOLO, Results объекты содержат методы для отображения и сохранения аннотированных изображений. Вы можете использовать такие методы, как result.show() и result.save(filename="result.jpg") для визуализации и сохранения результатов. Для получения полного списка этих методов обратитесь к разделу работа с результатами раздел.

📅 Создано 2 года назад ✏️ Обновлено 3 дня назад

Комментарии