Dự đoán mô hình với Ultralytics YOLO

Giới thiệu

Trong thế giới của machine learning và computer vision, quá trình diễn giải dữ liệu thị giác thường được gọi là inference hoặc dự đoán. Ultralytics YOLO26 cung cấp một tính năng mạnh mẽ được gọi là predict mode, được tối ưu hóa cho inference hiệu năng cao theo thời gian thực trên nhiều nguồn dữ liệu khác nhau.

Các ứng dụng thực tế

Sản xuất	Thể thao	An toàn
Phát hiện phụ tùng xe	Phát hiện cầu thủ bóng đá	Phát hiện người ngã

Tại sao nên sử dụng Ultralytics YOLO cho Inference?

Dưới đây là lý do tại sao bạn nên cân nhắc sử dụng predict mode của YOLO26 cho các nhu cầu inference đa dạng của mình:

• Tính đa năng: Có khả năng thực hiện inference trên hình ảnh, video và cả các luồng trực tiếp.
• Hiệu năng: Được thiết kế để xử lý tốc độ cao, theo thời gian thực mà không làm giảm accuracy.
• Dễ sử dụng: Giao diện Python và CLI trực quan để triển khai và kiểm thử nhanh chóng.
• Khả năng tùy biến cao: Nhiều thiết lập và tham số để tinh chỉnh hành vi inference của mô hình theo các yêu cầu cụ thể của bạn.
• Sẵn sàng cho sản xuất: Triển khai các mô hình dưới dạng các API endpoints trên Ultralytics Platform với khả năng tự động mở rộng và giám sát, hoặc chạy inference tại chỗ (locally).

Các tính năng chính của Predict Mode

Predict mode của YOLO26 được thiết kế để trở nên mạnh mẽ và linh hoạt, với các tính năng:

• Khả năng tương thích với nhiều nguồn dữ liệu: Cho dù dữ liệu của bạn ở dạng hình ảnh đơn lẻ, tập hợp các hình ảnh, tệp video hay luồng video thời gian thực, predict mode đều đáp ứng được.
• Chế độ Streaming: Sử dụng tính năng streaming để tạo ra một generator các đối tượng Results tiết kiệm bộ nhớ. Kích hoạt tính năng này bằng cách đặt stream=True trong phương thức gọi của predictor.
• Batch Processing: Xử lý nhiều hình ảnh hoặc khung hình video trong một batch, giúp giảm tổng thời gian inference.
• Dễ dàng tích hợp: Tích hợp dễ dàng với các quy trình xử lý dữ liệu hiện có và các thành phần phần mềm khác nhờ API linh hoạt.

Các mô hình Ultralytics YOLO trả về một danh sách Python gồm các đối tượng Results hoặc một generator các đối tượng Results tiết kiệm bộ nhớ khi stream=True được truyền vào mô hình trong quá trình inference:

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n.pt")  # pretrained YOLO26n model

# Run batched inference on a list of images
results = model(["image1.jpg", "image2.jpg"])  # return a list of Results objects

# Process results list
for result in results:
    boxes = result.boxes  # Boxes object for bounding box outputs
    masks = result.masks  # Masks object for segmentation masks outputs
    keypoints = result.keypoints  # Keypoints object for pose outputs
    probs = result.probs  # Probs object for classification outputs
    obb = result.obb  # Oriented boxes object for OBB outputs
    result.show()  # display to screen
    result.save(filename="result.jpg")  # save to disk

Các nguồn Inference

YOLO26 có thể xử lý các loại nguồn đầu vào khác nhau cho inference, như được hiển thị trong bảng dưới đây. Các nguồn bao gồm hình ảnh tĩnh, luồng video và nhiều định dạng dữ liệu khác nhau. Bảng cũng chỉ ra liệu mỗi nguồn có thể được sử dụng trong chế độ streaming với tham số stream=True ✅ hay không. Chế độ streaming rất hữu ích cho việc xử lý video hoặc luồng trực tiếp vì nó tạo ra một generator các kết quả thay vì tải toàn bộ khung hình vào bộ nhớ.

Dưới đây là các ví dụ mã cho việc sử dụng từng loại nguồn:

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Define path to the image file
source = "path/to/image.jpg"

# Run inference on the source
results = model(source)  # list of Results objects

Các đối số dự đoán (Inference Arguments)

model.predict() chấp nhận nhiều đối số có thể được truyền vào tại thời điểm dự đoán để ghi đè các thiết lập mặc định:

Hình dạng cố định so với hình chữ nhật tối thiểu (rect)

Theo mặc định, predict sử dụng rect=True, cho phép đệm hình chữ nhật tối thiểu (minimum-rectangle) khi có thể. Hình ảnh được thu phóng để vừa với imgsz và chỉ được đệm tới bội số stride gần nhất, vì vậy tensor cuối cùng có thể nhỏ hơn imgsz. Đệm hình chữ nhật tối thiểu chỉ được sử dụng khi tất cả các hình ảnh trong batch có cùng hình dạng và backend hỗ trợ (PyTorch .pt, hoặc ONNX / Triton động). Nếu không, các hình ảnh sẽ được đệm tới mục tiêu imgsz đầy đủ.

Sử dụng rect=False để luôn đệm tới mục tiêu imgsz đầy đủ. Điều này được khuyến nghị khi bạn cần kích thước đầu vào cố định để khớp với các model đã xuất (ONNX, TensorRT, v.v.).

imgsz dạng số nguyên so với tuple

• Một số nguyên imgsz=640 trở thành mục tiêu hình vuông (640, 640) sau khi làm tròn stride.
• Một tuple imgsz=(384, 672) thiết lập một mục tiêu hình chữ nhật. Với rect=True và auto=True, tensor thực tế có thể nhỏ hơn mục tiêu này.

Huấn luyện (Training) so với dự đoán (predict)/xuất (export)

Huấn luyện chỉ chấp nhận một số nguyên imgsz duy nhất (một danh sách [h, w] sẽ được ép kiểu về giá trị lớn nhất). Predict và export chấp nhận số nguyên hoặc một tuple (height, width).

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on 'bus.jpg' with arguments
model.predict("https://ultralytics.com/images/bus.jpg", save=True, imgsz=320, conf=0.25)

Các đối số suy luận (Inference arguments):

Các đối số trực quan hóa:

Các định dạng Hình ảnh và Video

YOLO26 hỗ trợ nhiều định dạng hình ảnh và video khác nhau, như được chỉ định trong ultralytics/data/utils.py. Xem các bảng dưới đây để biết các hậu tố hợp lệ và lệnh predict ví dụ.

Hình ảnh

Bảng dưới đây chứa các định dạng hình ảnh hợp lệ của Ultralytics.

Video

Bảng dưới đây chứa các định dạng video hợp lệ của Ultralytics.

Làm việc với Kết quả (Results)

Tất cả các lệnh predict() của Ultralytics sẽ trả về một danh sách các đối tượng Results:

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")
results = model(
    [
        "https://ultralytics.com/images/bus.jpg",
        "https://ultralytics.com/images/zidane.jpg",
    ]
)  # batch inference

Các đối tượng Results có các thuộc tính sau:

Các đối tượng Results có các phương thức sau:

Để biết thêm chi tiết, xem tài liệu lớp Results.

Boxes

Đối tượng Boxes có thể được sử dụng để lập chỉ mục, thao tác và chuyển đổi các khung bao sang các định dạng khác nhau.

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.boxes)  # print the Boxes object containing the detection bounding boxes

Dưới đây là bảng các phương thức và thuộc tính của lớp Boxes, bao gồm tên, kiểu và mô tả:

Để biết thêm chi tiết, xem tài liệu lớp Boxes.

Masks

Đối tượng Masks có thể được sử dụng để lập chỉ mục, thao tác và chuyển đổi các mask thành các phân đoạn.

from ultralytics import YOLO

# Load a pretrained YOLO26n-seg Segment model
model = YOLO("yolo26n-seg.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.masks)  # print the Masks object containing the detected instance masks

Dưới đây là bảng các phương thức và thuộc tính của lớp Masks, bao gồm tên, kiểu và mô tả:

Để biết thêm chi tiết, xem tài liệu lớp Masks.

Keypoints

Đối tượng Keypoints có thể được sử dụng để truy xuất, thao tác và chuẩn hóa các tọa độ.

from ultralytics import YOLO

# Load a pretrained YOLO26n-pose Pose model
model = YOLO("yolo26n-pose.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.keypoints)  # print the Keypoints object containing the detected keypoints

Dưới đây là bảng các phương thức và thuộc tính của lớp Keypoints, bao gồm tên, kiểu dữ liệu và mô tả của chúng:

Để biết thêm chi tiết, hãy xem tài liệu lớp Keypoints.

Probs

Đối tượng Probs có thể được sử dụng để truy xuất, lấy các chỉ số và điểm số top1 và top5 của quá trình phân loại.

from ultralytics import YOLO

# Load a pretrained YOLO26n-cls Classify model
model = YOLO("yolo26n-cls.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.probs)  # print the Probs object containing the detected class probabilities

Dưới đây là bảng tóm tắt các phương thức và thuộc tính cho lớp Probs:

Để biết thêm chi tiết, hãy xem tài liệu lớp Probs.

OBB

Đối tượng OBB có thể được sử dụng để truy xuất, thao tác và chuyển đổi các khung bao xoay (oriented bounding boxes) sang các định dạng khác nhau.

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n-obb.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/boats.jpg")  # results list

# View results
for r in results:
    print(r.obb)  # print the OBB object containing the oriented detection bounding boxes

Dưới đây là bảng các phương thức và thuộc tính của lớp OBB, bao gồm tên, kiểu dữ liệu và mô tả của chúng:

Để biết thêm chi tiết, hãy xem tài liệu lớp OBB.

Trực quan hóa kết quả (Plotting Results)

Phương thức plot() trong các đối tượng Results hỗ trợ việc trực quan hóa các dự đoán bằng cách phủ các đối tượng đã phát hiện (như khung bao, mặt nạ, keypoint và xác suất) lên ảnh gốc. Phương thức này trả về ảnh đã chú thích dưới dạng mảng NumPy, cho phép dễ dàng hiển thị hoặc lưu lại.

from PIL import Image

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on 'bus.jpg'
results = model(["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"])  # results list

# Visualize the results
for i, r in enumerate(results):
    # Plot results image
    im_bgr = r.plot()  # BGR-order numpy array
    im_rgb = Image.fromarray(im_bgr[..., ::-1])  # RGB-order PIL image

    # Show results to screen (in supported environments)
    r.show()

    # Save results to disk
    r.save(filename=f"results{i}.jpg")

Các tham số của phương thức plot()

Phương thức plot() hỗ trợ nhiều đối số khác nhau để tùy chỉnh đầu ra:

Suy luận an toàn luồng (Thread-Safe Inference)

Đảm bảo tính an toàn luồng trong khi suy luận là rất quan trọng khi bạn đang chạy nhiều mô hình YOLO song song trên các luồng khác nhau. Suy luận an toàn luồng đảm bảo rằng các dự đoán của mỗi luồng được tách biệt và không gây ảnh hưởng lẫn nhau, tránh các điều kiện tranh chấp (race conditions) và đảm bảo đầu ra nhất quán, đáng tin cậy.

Khi sử dụng các mô hình YOLO trong ứng dụng đa luồng, điều quan trọng là phải khởi tạo các đối tượng mô hình riêng biệt cho từng luồng hoặc sử dụng bộ nhớ cục bộ luồng (thread-local storage) để ngăn ngừa xung đột:

from threading import Thread

from ultralytics import YOLO

def thread_safe_predict(model, image_path):
    """Performs thread-safe prediction on an image using a locally instantiated YOLO model."""
    model = YOLO(model)
    results = model.predict(image_path)
    # Process results

# Starting threads that each have their own model instance
Thread(target=thread_safe_predict, args=("yolo26n.pt", "image1.jpg")).start()
Thread(target=thread_safe_predict, args=("yolo26n.pt", "image2.jpg")).start()

Để có cái nhìn chuyên sâu về suy luận an toàn luồng với các mô hình YOLO và hướng dẫn từng bước, vui lòng tham khảo Hướng dẫn Suy luận An toàn Luồng của YOLO. Hướng dẫn này sẽ cung cấp cho bạn tất cả thông tin cần thiết để tránh các lỗi thường gặp và đảm bảo quá trình suy luận đa luồng của bạn diễn ra suôn sẻ.

Vòng lặp for nguồn phát trực tuyến (Streaming Source)

Dưới đây là một tập lệnh Python sử dụng OpenCV (cv2) và YOLO để thực hiện suy luận trên các khung hình video. Tập lệnh này giả định rằng bạn đã cài đặt các gói cần thiết (opencv-python và ultralytics).

import cv2

from ultralytics import YOLO

# Load the YOLO model
model = YOLO("yolo26n.pt")

# Open the video file
video_path = "path/to/your/video/file.mp4"
cap = cv2.VideoCapture(video_path)

# Loop through the video frames
while cap.isOpened():
    # Read a frame from the video
    success, frame = cap.read()

    if success:
        # Run YOLO inference on the frame
        results = model(frame)

        # Visualize the results on the frame
        annotated_frame = results[0].plot()

        # Display the annotated frame
        cv2.imshow("YOLO Inference", annotated_frame)

        # Break the loop if 'q' is pressed
        if cv2.waitKey(1) & 0xFF == ord("q"):
            break
    else:
        # Break the loop if the end of the video is reached
        break

# Release the video capture object and close the display window
cap.release()
cv2.destroyAllWindows()

Tập lệnh này sẽ chạy các dự đoán trên từng khung hình của video, trực quan hóa kết quả và hiển thị chúng trong một cửa sổ. Vòng lặp có thể được thoát bằng cách nhấn phím 'q'.

Câu hỏi thường gặp (FAQ)

Ultralytics YOLO và chế độ predict của nó để suy luận thời gian thực là gì?

Ultralytics YOLO là mô hình tiên tiến nhất dành cho việc phát hiện đối tượng, phân đoạn và phân loại trong thời gian thực. Chế độ predict của nó cho phép người dùng thực hiện suy luận tốc độ cao trên các nguồn dữ liệu đa dạng như hình ảnh, video và luồng trực tiếp. Được thiết kế cho hiệu suất và tính linh hoạt, nó cũng cung cấp các chế độ xử lý theo lô (batch) và phát trực tuyến. Để biết thêm chi tiết về các tính năng, hãy xem chế độ predict của Ultralytics YOLO.

Làm thế nào để chạy suy luận bằng Ultralytics YOLO trên các nguồn dữ liệu khác nhau?

Ultralytics YOLO có thể xử lý nhiều nguồn dữ liệu, bao gồm hình ảnh đơn lẻ, video, thư mục, URL và các luồng. Bạn có thể chỉ định nguồn dữ liệu trong lệnh gọi model.predict(). Ví dụ, sử dụng 'image.jpg' cho hình ảnh cục bộ hoặc 'https://ultralytics.com/images/bus.jpg' cho một URL. Hãy xem các ví dụ chi tiết cho nhiều nguồn suy luận khác nhau trong tài liệu.

Làm cách nào để tối ưu hóa tốc độ suy luận và mức sử dụng bộ nhớ của YOLO?

Để tối ưu hóa tốc độ suy luận và quản lý bộ nhớ hiệu quả, bạn có thể sử dụng chế độ phát trực tuyến (streaming mode) bằng cách đặt stream=True trong phương thức gọi của bộ dự đoán. Chế độ phát trực tuyến tạo ra một trình tạo các đối tượng Results tiết kiệm bộ nhớ thay vì tải tất cả các khung hình vào bộ nhớ. Để xử lý các video dài hoặc tập dữ liệu lớn, chế độ phát trực tuyến đặc biệt hữu ích. Tìm hiểu thêm về chế độ phát trực tuyến.

Ultralytics YOLO hỗ trợ những đối số suy luận nào?

Phương thức model.predict() trong YOLO hỗ trợ các đối số khác nhau như conf, iou, imgsz, device và nhiều đối số khác. Các đối số này cho phép bạn tùy chỉnh quá trình suy luận, thiết lập các thông số như ngưỡng độ tin cậy, kích thước ảnh và thiết bị được sử dụng để tính toán. Mô tả chi tiết về các đối số này có thể được tìm thấy trong phần đối số suy luận.

Làm cách nào để trực quan hóa và lưu kết quả dự đoán của YOLO?

Sau khi chạy suy luận với YOLO, các đối tượng Results chứa các phương thức để hiển thị và lưu ảnh đã chú thích. Bạn có thể sử dụng các phương thức như result.show() và result.save(filename="result.jpg") để trực quan hóa và lưu kết quả. Mọi thư mục cha còn thiếu trong đường dẫn tệp đều được tạo tự động (ví dụ: result.save("path/to/result.jpg")). Để có danh sách đầy đủ các phương thức này, hãy tham khảo phần làm việc với kết quả.