Dự đoán mô hình với Ultralytics YOLO#

Giới thiệu#

Trong thế giới của machine learning và computer vision, quá trình diễn giải dữ liệu trực quan thường được gọi là inference hoặc prediction. Ultralytics YOLO26 cung cấp một tính năng mạnh mẽ được gọi là predict mode, được thiết kế riêng cho inference thời gian thực, hiệu suất cao trên nhiều nguồn dữ liệu khác nhau.

Các ứng dụng thực tế#

Sản xuất	Thể thao	An toàn
Phát hiện phụ tùng xe	Phát hiện cầu thủ bóng đá	Phát hiện người ngã

Tại sao nên sử dụng Ultralytics YOLO cho Inference?#

Dưới đây là lý do tại sao bạn nên cân nhắc sử dụng predict mode của YOLO26 cho các nhu cầu inference đa dạng:

• Tính linh hoạt: Có khả năng thực hiện inference trên hình ảnh, video và cả các luồng phát trực tiếp.
• Hiệu suất: Được thiết kế để xử lý tốc độ cao, thời gian thực mà không làm giảm độ chính xác.
• Dễ sử dụng: Giao diện Python và CLI trực quan cho phép triển khai và kiểm thử nhanh chóng.
• Khả năng tùy biến cao: Cung cấp nhiều thiết lập và tham số để điều chỉnh hành vi inference của mô hình theo yêu cầu cụ thể của bạn.
• Sẵn sàng cho Production: Triển khai các model dưới dạng Ultralytics Platform inference endpoints với tính năng tự động mở rộng và giám sát, hoặc chạy inference cục bộ.

Các tính năng chính của Predict Mode#

Predict mode của YOLO26 được thiết kế để trở nên mạnh mẽ và linh hoạt, bao gồm:

• Tương thích với nhiều nguồn dữ liệu: Cho dù dữ liệu của bạn ở dạng hình ảnh đơn lẻ, tập hợp hình ảnh, tệp video hay luồng video thời gian thực, predict mode đều hỗ trợ tốt.
• Streaming Mode: Sử dụng tính năng streaming để tạo một generator tiết kiệm bộ nhớ chứa các đối tượng Results. Bật tính năng này bằng cách đặt stream=True trong phương thức gọi của bộ dự đoán. Khác với hành vi mặc định (stream=False), trả về một danh sách chứa tất cả các kết quả, stream=True trả về từng kết quả một, điều này đặc biệt hữu ích cho các video dài và luồng trực tiếp.
• Batch Processing: Xử lý nhiều hình ảnh hoặc khung hình video trong một batch, giúp giảm tổng thời gian inference.
• Dễ dàng tích hợp: Dễ dàng kết nối với các pipeline dữ liệu hiện có và các thành phần phần mềm khác nhờ API linh hoạt.

Các model Ultralytics YOLO trả về một Python list chứa các đối tượng Results hoặc một generator tiết kiệm bộ nhớ chứa các đối tượng Results khi stream=True được truyền vào model trong quá trình inference:

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n.pt")  # pretrained YOLO26n model

# Run batched inference on a list of images
results = model(["image1.jpg", "image2.jpg"])  # return a list of Results objects

# Process results list
for result in results:
    boxes = result.boxes  # Boxes object for bounding box outputs
    masks = result.masks  # Masks object for segmentation masks outputs
    keypoints = result.keypoints  # Keypoints object for pose outputs
    probs = result.probs  # Probs object for classification outputs
    obb = result.obb  # Oriented boxes object for OBB outputs
    result.show()  # display to screen
    result.save(filename="result.jpg")  # save to disk

Nguồn Inference#

YOLO26 có thể xử lý các loại nguồn đầu vào khác nhau cho inference, như được hiển thị trong bảng dưới đây. Các nguồn bao gồm hình ảnh tĩnh, luồng video và các định dạng dữ liệu khác nhau. Bảng cũng chỉ ra liệu mỗi nguồn có thể được sử dụng ở streaming mode với đối số stream=True ✅ hay không. Streaming mode rất hữu ích để xử lý video hoặc luồng trực tiếp vì nó tạo ra một generator kết quả thay vì tải toàn bộ các khung hình vào bộ nhớ.

Dưới đây là các ví dụ mã để sử dụng từng loại nguồn:

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Define path to the image file
source = "path/to/image.jpg"

# Run inference on the source
results = model(source)  # list of Results objects

Các đối số suy luận#

model.predict() chấp nhận nhiều đối số có thể được truyền vào thời điểm inference để ghi đè các giá trị mặc định:

Hình dạng cố định so với hình chữ nhật tối thiểu (rect)#

Theo mặc định, predict sử dụng rect=True, cho phép đệm hình chữ nhật tối thiểu khi có thể. Hình ảnh được chia tỷ lệ để vừa vặn bên trong imgsz và chỉ được đệm đến bội số bước nhảy (stride) gần nhất, do đó tensor cuối cùng có thể nhỏ hơn imgsz. Việc đệm hình chữ nhật tối thiểu chỉ được sử dụng khi tất cả các hình ảnh trong lô có cùng hình dạng và backend hỗ trợ (PyTorch .pt, hoặc ONNX động / Triton). Nếu không, các hình ảnh được đệm đến mục tiêu đầy đủ imgsz.

Sử dụng rect=False để luôn đệm đến mục tiêu imgsz đầy đủ. Điều này được khuyến nghị khi bạn cần kích thước đầu vào cố định để khớp với các model đã xuất (ONNX, TensorRT, v.v.).

Số nguyên so với tuple imgsz

• Một imgsz=640 kiểu số nguyên sẽ trở thành một mục tiêu vuông (640, 640) sau khi làm tròn bước nhảy.
• Một imgsz=(384, 672) kiểu tuple đặt mục tiêu hình chữ nhật. Với rect=True và auto=True, tensor thực tế có thể nhỏ hơn mục tiêu này.

Training so với predict/export

Training chỉ chấp nhận một số nguyên duy nhất imgsz (danh sách [h, w] được ép kiểu thành giá trị lớn nhất). Predict và export chấp nhận số nguyên hoặc tuple (height, width).

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on 'bus.jpg' with arguments
model.predict("https://ultralytics.com/images/bus.jpg", save=True, imgsz=320, conf=0.25)

Các đối số suy luận:

Các đối số trực quan hóa:

Các định dạng hình ảnh và video#

YOLO26 hỗ trợ nhiều định dạng hình ảnh và video khác nhau, như được chỉ định trong ultralytics/data/utils.py. Xem các bảng dưới đây để biết phần mở rộng hợp lệ và các lệnh predict ví dụ.

Hình ảnh#

Bảng dưới đây chứa các định dạng hình ảnh hợp lệ của Ultralytics.

Video#

Bảng dưới đây chứa các định dạng video hợp lệ của Ultralytics.

Làm việc với các kết quả#

Tất cả các lệnh gọi Ultralytics predict() sẽ trả về một danh sách các đối tượng Results:

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")
results = model(
    [
        "https://ultralytics.com/images/bus.jpg",
        "https://ultralytics.com/images/zidane.jpg",
    ]
)  # batch inference

Các đối tượng Results có các thuộc tính sau:

Kết quả theo tác vụ#

Các trường nào dưới đây được điền dữ liệu tùy thuộc vào tác vụ của model — hãy so sánh detection, segmentation, semantic segmentation, depth estimation, classification, pose và OBB nếu bạn chưa chọn một tác vụ nào. Mỗi dự đoán trả về một đối tượng Results cho mỗi hình ảnh hoặc khung hình. Các trường chung ở trên luôn có sẵn, trong khi dữ liệu dự đoán đặc thù của tác vụ được lưu trữ trong các trường dưới đây. Các tensor tọa độ, độ tin cậy và xác suất ở định dạng torch.float32 trừ khi sử dụng độ chính xác bán phần (half precision), khi đó sẽ là torch.float16. Sau result.numpy(), các tensor trở thành các mảng NumPy với các kiểu dữ liệu NumPy tương ứng. Các mặt nạ thực thể (instance masks) là các tensor nhị phân torch.uint8, trong khi mặt nạ ngữ nghĩa (semantic masks) sử dụng kiểu dữ liệu số nguyên thực tế nhỏ nhất cho ID lớp: torch.uint8, torch.int16, hoặc torch.int32, tùy thuộc vào số lượng lớp.

Các đối tượng Results có các phương thức sau:

Để biết thêm chi tiết, hãy xem tài liệu lớp Results.

Boxes#

Đối tượng Boxes có thể được sử dụng để lập chỉ mục, thao tác và chuyển đổi các hộp giới hạn sang các định dạng khác nhau.

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.boxes)  # print the Boxes object containing the detection bounding boxes

Dưới đây là bảng cho các phương thức và thuộc tính của lớp Boxes, bao gồm tên, kiểu và mô tả của chúng:

Để biết thêm chi tiết, hãy xem tài liệu lớp Boxes.

Masks#

Đối tượng Masks có thể được sử dụng để lập chỉ mục, thao tác và chuyển đổi mặt nạ thành các phân đoạn (segments).

from ultralytics import YOLO

# Load a pretrained YOLO26n-seg Segment model
model = YOLO("yolo26n-seg.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.masks)  # print the Masks object containing the detected instance masks

Dưới đây là bảng cho các phương thức và thuộc tính của lớp Masks, bao gồm tên, kiểu và mô tả của chúng:

Để biết thêm chi tiết, hãy xem tài liệu lớp Masks.

SemanticMask#

SemanticMask lưu trữ một bản đồ lớp dày đặc (dense class map) cho kết quả semantic segmentation. Khác với Masks, nó không chứa một mặt nạ nhị phân cho mỗi đối tượng và không cung cấp các tiện ích đa giác.

from ultralytics import YOLO

# Load a pretrained YOLO26n-sem Semantic model
model = YOLO("yolo26n-sem.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.semantic_mask.data)  # print the H x W class-ID map

Keypoints#

Đối tượng Keypoints có thể được sử dụng để lập chỉ mục, thao tác và chuẩn hóa tọa độ.

from ultralytics import YOLO

# Load a pretrained YOLO26n-pose Pose model
model = YOLO("yolo26n-pose.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.keypoints)  # print the Keypoints object containing the detected keypoints

Dưới đây là bảng cho các phương thức và thuộc tính của lớp Keypoints, bao gồm tên, kiểu và mô tả của chúng:

Để biết thêm chi tiết, hãy xem tài liệu lớp Keypoints.

Probs#

Đối tượng Probs có thể được sử dụng để lấy các chỉ mục và điểm số phân loại top1 và top5.

from ultralytics import YOLO

# Load a pretrained YOLO26n-cls Classify model
model = YOLO("yolo26n-cls.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.probs)  # print the Probs object containing the detected class probabilities

Dưới đây là bảng tóm tắt các phương thức và thuộc tính cho lớp Probs:

Để biết thêm chi tiết, hãy xem tài liệu lớp Probs.

OBB#

Đối tượng OBB có thể được sử dụng để lập chỉ mục, thao tác và chuyển đổi các hộp giới hạn xoay (oriented bounding boxes) sang các định dạng khác nhau.

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n-obb.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/boats.jpg")  # results list

# View results
for r in results:
    print(r.obb)  # print the OBB object containing the oriented detection bounding boxes

Dưới đây là bảng cho các phương thức và thuộc tính của lớp OBB, bao gồm tên, kiểu và mô tả của chúng:

Để biết thêm chi tiết, hãy xem tài liệu lớp OBB.

Trực quan hóa kết quả#

Phương thức plot() trong các đối tượng Results hỗ trợ trực quan hóa các dự đoán bằng cách chồng các đối tượng được phát hiện (như hộp giới hạn, mặt nạ, keypoint và xác suất) lên hình ảnh gốc. Phương thức này trả về hình ảnh đã được chú thích dưới dạng một mảng NumPy, cho phép hiển thị hoặc lưu dễ dàng.

from PIL import Image

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on 'bus.jpg'
results = model(["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"])  # results list

# Visualize the results
for i, r in enumerate(results):
    # Plot results image
    im_bgr = r.plot()  # BGR-order numpy array
    im_rgb = Image.fromarray(im_bgr[..., ::-1])  # RGB-order PIL image

    # Show results to screen (in supported environments)
    r.show()

    # Save results to disk
    r.save(filename=f"results{i}.jpg")

Tham số phương thức plot()#

Phương thức plot() hỗ trợ nhiều đối số khác nhau để tùy chỉnh đầu ra:

Suy luận an toàn với đa luồng#

Đảm bảo tính an toàn của luồng (thread safety) trong quá trình inference là rất quan trọng khi bạn chạy nhiều model YOLO song song trên các luồng khác nhau. Inference an toàn với luồng đảm bảo rằng các dự đoán của mỗi luồng là độc lập và không can thiệp lẫn nhau, tránh tình trạng race conditions và đảm bảo kết quả nhất quán và đáng tin cậy.

Khi sử dụng các model YOLO trong ứng dụng đa luồng, điều quan trọng là phải khởi tạo các đối tượng model riêng biệt cho từng luồng hoặc sử dụng bộ lưu trữ cục bộ của luồng (thread-local storage) để tránh xung đột:

from threading import Thread

from ultralytics import YOLO

def thread_safe_predict(model, image_path):
    """Performs thread-safe prediction on an image using a locally instantiated YOLO model."""
    model = YOLO(model)
    results = model.predict(image_path)
    # Process results

# Starting threads that each have their own model instance
Thread(target=thread_safe_predict, args=("yolo26n.pt", "image1.jpg")).start()
Thread(target=thread_safe_predict, args=("yolo26n.pt", "image2.jpg")).start()

Để tìm hiểu sâu hơn về inference an toàn luồng (thread-safe inference) với các model YOLO và hướng dẫn từng bước, vui lòng tham khảo Hướng dẫn Inference An toàn Luồng YOLO. Hướng dẫn này sẽ cung cấp cho bạn tất cả thông tin cần thiết để tránh những cạm bẫy phổ biến và đảm bảo quá trình inference đa luồng của bạn diễn ra suôn sẻ.

Vòng lặp for của Nguồn Streaming#

Dưới đây là một tập lệnh Python sử dụng OpenCV (cv2) và YOLO để chạy inference trên các khung hình video. Tập lệnh này giả định rằng bạn đã cài đặt các gói cần thiết (opencv-python và ultralytics).

import cv2

from ultralytics import YOLO

# Load the YOLO model
model = YOLO("yolo26n.pt")

# Open the video file
video_path = "path/to/your/video/file.mp4"
cap = cv2.VideoCapture(video_path)

# Loop through the video frames
while cap.isOpened():
    # Read a frame from the video
    success, frame = cap.read()

    if success:
        # Run YOLO inference on the frame
        results = model(frame)

        # Visualize the results on the frame
        annotated_frame = results[0].plot()

        # Display the annotated frame
        cv2.imshow("YOLO Inference", annotated_frame)

        # Break the loop if 'q' is pressed
        if cv2.waitKey(1) & 0xFF == ord("q"):
            break
    else:
        # Break the loop if the end of the video is reached
        break

# Release the video capture object and close the display window
cap.release()
cv2.destroyAllWindows()

Tập lệnh này sẽ chạy dự đoán trên từng khung hình của video, trực quan hóa kết quả và hiển thị chúng trong một cửa sổ. Có thể thoát vòng lặp bằng cách nhấn phím 'q'.

Các bước tiếp theo#

Đã sẵn sàng chuyển sang một model được huấn luyện sẵn? Xác nhận tác vụ của bạn phù hợp với vấn đề, định dạng dữ liệu của riêng bạn bằng Hướng dẫn Datasets, sau đó tiến hành train trên dữ liệu đó.

Câu hỏi thường gặp#