Dự đoán model với Ultralytics YOLO#

Giới thiệu#

Trong lĩnh vực machine learning và computer vision, quy trình diễn giải dữ liệu trực quan thường được gọi là suy luận hoặc dự đoán. Ultralytics YOLO26 cung cấp một tính năng mạnh mẽ có tên là predict mode, được thiết kế cho suy luận hiệu năng cao, thời gian thực trên nhiều nguồn dữ liệu.

Xem bản xem trước YOLO27 chưa phát hành để biết các ví dụ suy luận dự kiến.

Ứng dụng trong thực tế#

Tại sao nên sử dụng Ultralytics YOLO cho suy luận?#

Dưới đây là những lý do bạn nên cân nhắc predict mode của YOLO26 cho các nhu cầu suy luận khác nhau:

• Tính linh hoạt: Có thể thực hiện suy luận trên hình ảnh, video và cả luồng trực tiếp.
• Hiệu năng: Được thiết kế để xử lý tốc độ cao, thời gian thực mà không ảnh hưởng đến độ chính xác.
• Dễ sử dụng: Các interface Python và CLI trực quan giúp triển khai và kiểm thử nhanh chóng.
• Khả năng tùy chỉnh cao: Cung cấp nhiều cài đặt và tham số để điều chỉnh hành vi suy luận của model theo yêu cầu cụ thể.
• Sẵn sàng cho production: Triển khai model dưới dạng inference endpoint của Ultralytics Platform với khả năng tự động mở rộng và giám sát, hoặc chạy suy luận cục bộ.

Các tính năng chính của Predict Mode#

predict mode của YOLO26 được thiết kế mạnh mẽ và linh hoạt, với các tính năng:

• Tương thích với nhiều nguồn dữ liệu: Dù dữ liệu của bạn là các hình ảnh riêng lẻ, một tập hợp hình ảnh, các file video hay luồng video thời gian thực, predict mode đều có thể xử lý.
• Streaming Mode: Sử dụng tính năng streaming để tạo generator tiết kiệm bộ nhớ gồm các object Results. Bật tính năng này bằng cách thiết lập stream=True trong phương thức gọi của predictor. Khác với hành vi mặc định (stream=False) trả về một list chứa tất cả kết quả, stream=True trả về từng kết quả một, đặc biệt hữu ích cho video dài và các luồng trực tiếp.
• Xử lý theo batch: Xử lý nhiều hình ảnh hoặc frame video trong một batch, tiếp tục giảm tổng thời gian suy luận.
• Dễ dàng tích hợp: Dễ dàng tích hợp với các data pipeline hiện có và các thành phần phần mềm khác nhờ API linh hoạt.

Các model Ultralytics YOLO trả về một Python list gồm các object Results hoặc một generator tiết kiệm bộ nhớ gồm các object Results khi truyền stream=True vào model trong quá trình suy luận:

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n.pt")  # pretrained YOLO26n model

# Run batched inference on a list of images
results = model(["image1.jpg", "image2.jpg"])  # return a list of Results objects

# Process results list
for result in results:
    boxes = result.boxes  # Boxes object for bounding box outputs
    masks = result.masks  # Masks object for segmentation masks outputs
    keypoints = result.keypoints  # Keypoints object for pose outputs
    probs = result.probs  # Probs object for classification outputs
    obb = result.obb  # Oriented boxes object for OBB outputs
    result.show()  # display to screen
    result.save(filename="result.jpg")  # save to disk

Nguồn suy luận#

YOLO26 có thể xử lý nhiều loại nguồn input khác nhau để suy luận, như minh họa trong bảng bên dưới. Các nguồn bao gồm hình ảnh tĩnh, luồng video và nhiều định dạng dữ liệu khác nhau. Bảng cũng cho biết mỗi nguồn có thể được sử dụng ở streaming mode với tham số stream=True ✅ hay không. Streaming mode hữu ích khi xử lý video hoặc luồng trực tiếp vì tạo một generator kết quả thay vì nạp toàn bộ frame vào bộ nhớ.

Dưới đây là các ví dụ code sử dụng từng loại nguồn:

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Define path to the image file
source = "path/to/image.jpg"

# Run inference on the source
results = model(source)  # list of Results objects

Các tham số suy luận#

model.predict() chấp nhận nhiều tham số có thể được truyền tại thời điểm suy luận để ghi đè các giá trị mặc định:

Kích thước cố định so với hình chữ nhật tối thiểu (rect)#

Theo mặc định, predict sử dụng rect=True, cho phép padding hình chữ nhật tối thiểu khi có thể. Hình ảnh được scale để nằm trong imgsz và chỉ được padding đến bội số stride gần nhất, vì vậy tensor cuối cùng có thể nhỏ hơn imgsz. Padding hình chữ nhật tối thiểu chỉ được sử dụng khi tất cả hình ảnh trong batch có cùng shape và backend hỗ trợ tính năng này (PyTorch .pt, hoặc ONNX / Triton động). Nếu không, hình ảnh sẽ được padding đến target imgsz đầy đủ.

Sử dụng rect=False để luôn padding đến target imgsz đầy đủ. Cách này được khuyến nghị khi bạn cần kích thước input cố định để khớp với các model đã export (ONNX, TensorRT, v.v.).

imgsz dạng số nguyên so với tuple

• Một số nguyên imgsz=640 sẽ trở thành target hình vuông (640, 640) sau khi làm tròn theo stride.
• Một tuple imgsz=(384, 672) thiết lập target hình chữ nhật. Với rect=True và auto=True, tensor thực tế có thể nhỏ hơn target này.

Training so với predict/export

Training chỉ chấp nhận một số nguyên duy nhất imgsz (list [h, w] sẽ được chuyển thành giá trị lớn nhất). Predict và export chấp nhận một số nguyên hoặc tuple (height, width).

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on 'bus.jpg' with arguments
model.predict("https://ultralytics.com/images/bus.jpg", save=True, imgsz=320, conf=0.25)

Các đối số inference:

Các đối số visualization:

Định dạng hình ảnh và video#

YOLO26 hỗ trợ nhiều định dạng hình ảnh và video, như được chỉ định trong ultralytics/data/utils.py. Xem các bảng bên dưới để biết các hậu tố hợp lệ và lệnh predict mẫu.

Ảnh#

Bảng dưới đây chứa các định dạng hình ảnh Ultralytics hợp lệ.

Video#

Bảng dưới đây liệt kê các định dạng video hợp lệ của Ultralytics.

Làm việc với kết quả#

Tất cả các lệnh gọi predict() của Ultralytics sẽ trả về một danh sách các đối tượng Results:

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")
results = model(
    [
        "https://ultralytics.com/images/bus.jpg",
        "https://ultralytics.com/images/zidane.jpg",
    ]
)  # batch inference

Các đối tượng Results có các thuộc tính sau:

Kết quả theo tác vụ#

Các trường bên dưới được điền dữ liệu tùy thuộc vào tác vụ của model của bạn — hãy so sánh detection, segmentation, semantic segmentation, depth estimation, classification, pose, và OBB nếu bạn chưa chọn một tác vụ. Mỗi dự đoán trả về một Results object cho mỗi ảnh hoặc khung hình. Các trường chung ở trên luôn có sẵn, trong khi dữ liệu dự đoán đặc thù của tác vụ được lưu trữ ở các trường bên dưới. Các tensor tọa độ và độ tin cậy của YOLO là torch.float32; các tensor xác suất là torch.float32 trừ khi sử dụng độ chính xác bán phần (half precision), khi đó là torch.float16. Sau result.numpy(), các tensor trở thành các mảng NumPy với các kiểu dữ liệu NumPy tương ứng. Các mặt nạ thể hiện (instance mask) là các tensor nhị phân torch.uint8, trong khi các mặt nạ ngữ nghĩa (semantic mask) sử dụng kiểu dữ liệu số nguyên nhỏ nhất có thể cho ID lớp: torch.uint8, torch.int16, hoặc torch.int32, tùy thuộc vào số lượng lớp.

Các đối tượng Results có các phương thức sau:

Để biết thêm chi tiết, hãy xem tài liệu về class Results.

Box#

Có thể sử dụng đối tượng Boxes để lập chỉ mục, thao tác và chuyển đổi bbox sang các định dạng khác nhau.

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.boxes)  # print the Boxes object containing the detection bounding boxes

Dưới đây là bảng về các phương thức và thuộc tính của class Boxes, bao gồm tên, kiểu và mô tả:

Để biết thêm chi tiết, hãy xem tài liệu về class Boxes.

Mask#

Có thể sử dụng đối tượng Masks để lập chỉ mục, thao tác và chuyển đổi mask thành các segment.

from ultralytics import YOLO

# Load a pretrained YOLO26n-seg Segment model
model = YOLO("yolo26n-seg.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.masks)  # print the Masks object containing the detected instance masks

Dưới đây là bảng về các phương thức và thuộc tính của class Masks, bao gồm tên, kiểu và mô tả:

Để biết thêm chi tiết, hãy xem tài liệu về class Masks.

SemanticMask#

SemanticMask lưu một bản đồ class dày đặc cho kết quả semantic segmentation. Không giống Masks, đối tượng này không chứa một mask nhị phân cho mỗi đối tượng và không cung cấp các helper cho polygon.

from ultralytics import YOLO

# Load a pretrained YOLO26n-sem Semantic model
model = YOLO("yolo26n-sem.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.semantic_mask.data)  # print the H x W class-ID map

Keypoint#

Đối tượng Keypoints có thể được dùng để lập chỉ mục, thao tác và chuẩn hóa các tọa độ.

from ultralytics import YOLO

# Load a pretrained YOLO26n-pose Pose model
model = YOLO("yolo26n-pose.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.keypoints)  # print the Keypoints object containing the detected keypoints

Dưới đây là bảng về các phương thức và thuộc tính của class Keypoints, bao gồm tên, kiểu và mô tả:

Để biết thêm chi tiết, hãy xem tài liệu về class Keypoints.

Probs#

Đối tượng Probs có thể được dùng để lấy các chỉ số và score phân loại top1 và top5.

from ultralytics import YOLO

# Load a pretrained YOLO26n-cls Classify model
model = YOLO("yolo26n-cls.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.probs)  # print the Probs object containing the detected class probabilities

Dưới đây là bảng tóm tắt các phương thức và thuộc tính của class Probs:

Để biết thêm chi tiết, hãy xem tài liệu về class Probs.

OBB#

Đối tượng OBB có thể được dùng để lập chỉ mục, thao tác và chuyển đổi các bounding box định hướng sang các format khác nhau.

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n-obb.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/boats.jpg")  # results list

# View results
for r in results:
    print(r.obb)  # print the OBB object containing the oriented detection bounding boxes

Dưới đây là bảng về các phương thức và thuộc tính của class OBB, bao gồm tên, kiểu và mô tả:

Để biết thêm chi tiết, hãy xem tài liệu về class OBB.

Vẽ kết quả#

Phương thức plot() trong các đối tượng Results hỗ trợ trực quan hóa dự đoán bằng cách phủ các đối tượng được phát hiện (chẳng hạn như bounding box, mask, keypoint và xác suất) lên ảnh gốc. Phương thức này trả về ảnh đã chú thích dưới dạng mảng NumPy, giúp dễ dàng hiển thị hoặc lưu ảnh.

from PIL import Image

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on 'bus.jpg'
results = model(["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"])  # results list

# Visualize the results
for i, r in enumerate(results):
    # Plot results image
    im_bgr = r.plot()  # BGR-order numpy array
    im_rgb = Image.fromarray(im_bgr[..., ::-1])  # RGB-order PIL image

    # Show results to screen (in supported environments)
    r.show()

    # Save results to disk
    r.save(filename=f"results{i}.jpg")

Tham số của phương thức plot()#

Phương thức plot() hỗ trợ nhiều đối số để tùy chỉnh đầu ra:

Suy luận an toàn luồng#

Đảm bảo an toàn luồng trong quá trình inference là rất quan trọng khi bạn chạy nhiều model YOLO song song trên các luồng khác nhau. Inference an toàn luồng đảm bảo dự đoán của mỗi luồng được cô lập và không ảnh hưởng lẫn nhau, giúp tránh các race condition cũng như đảm bảo đầu ra nhất quán và đáng tin cậy.

Khi sử dụng model YOLO trong ứng dụng đa luồng, điều quan trọng là khởi tạo các đối tượng model riêng cho từng luồng hoặc sử dụng thread-local storage để ngăn xung đột:

from threading import Thread

from ultralytics import YOLO

def thread_safe_predict(model, image_path):
    """Performs thread-safe prediction on an image using a locally instantiated YOLO model."""
    model = YOLO(model)
    results = model.predict(image_path)
    # Process results

# Starting threads that each have their own model instance
Thread(target=thread_safe_predict, args=("yolo26n.pt", "image1.jpg")).start()
Thread(target=thread_safe_predict, args=("yolo26n.pt", "image2.jpg")).start()

Để xem chi tiết về inference an toàn luồng với model YOLO và hướng dẫn từng bước, vui lòng tham khảo Hướng dẫn inference YOLO an toàn luồng. Hướng dẫn này cung cấp mọi thông tin cần thiết để tránh các lỗi thường gặp và đảm bảo inference đa luồng của bạn hoạt động ổn định.

Vòng lặp for-loop cho nguồn streaming#

Dưới đây là script Python sử dụng OpenCV (cv2) và YOLO để thực hiện inference trên các frame video. Script này giả định rằng bạn đã cài đặt các package cần thiết (opencv-python và ultralytics).

import cv2

from ultralytics import YOLO

# Load the YOLO model
model = YOLO("yolo26n.pt")

# Open the video file
video_path = "path/to/your/video/file.mp4"
cap = cv2.VideoCapture(video_path)

# Loop through the video frames
while cap.isOpened():
    # Read a frame from the video
    success, frame = cap.read()

    if success:
        # Run YOLO inference on the frame
        results = model(frame)

        # Visualize the results on the frame
        annotated_frame = results[0].plot()

        # Display the annotated frame
        cv2.imshow("YOLO Inference", annotated_frame)

        # Break the loop if 'q' is pressed
        if cv2.waitKey(1) & 0xFF == ord("q"):
            break
    else:
        # Break the loop if the end of the video is reached
        break

# Release the video capture object and close the display window
cap.release()
cv2.destroyAllWindows()

Script này sẽ chạy dự đoán trên từng frame của video, trực quan hóa kết quả và hiển thị chúng trong một cửa sổ. Có thể thoát vòng lặp bằng cách nhấn 'q'.

Tiếp theo là gì?#

Đã sẵn sàng vượt qua giai đoạn sử dụng model pretrained? Xác nhận task của bạn phù hợp với bài toán, định dạng dữ liệu của riêng bạn bằng hướng dẫn Datasets, sau đó train trên dữ liệu đó.

FAQ#