Link to this sectionDự đoán mô hình với Ultralytics YOLO#

Link to this sectionGiới thiệu#

Trong thế giới machine learning và computer vision, quá trình xử lý dữ liệu hình ảnh thường được gọi là inference hoặc dự đoán. Ultralytics YOLO26 cung cấp một tính năng mạnh mẽ được gọi là predict mode, được tinh chỉnh để phục vụ inference thời gian thực, hiệu suất cao trên nhiều nguồn dữ liệu khác nhau.

Link to this sectionCác ứng dụng thực tế#

Sản xuất	Thể thao	An toàn
Phát hiện phụ tùng xe	Phát hiện cầu thủ bóng đá	Phát hiện người ngã

Link to this sectionTại sao nên sử dụng Ultralytics YOLO cho Inference?#

Dưới đây là lý do tại sao bạn nên cân nhắc sử dụng predict mode của YOLO26 cho các nhu cầu inference đa dạng:

• Tính linh hoạt: Có khả năng thực hiện inference trên hình ảnh, video và cả các luồng phát trực tiếp.
• Hiệu suất: Được thiết kế để xử lý tốc độ cao, thời gian thực mà không làm giảm accuracy.
• Dễ sử dụng: Giao diện Python và CLI trực quan cho phép triển khai và kiểm thử nhanh chóng.
• Khả năng tùy biến cao: Cung cấp nhiều thiết lập và tham số để điều chỉnh hành vi inference của mô hình theo yêu cầu cụ thể của bạn.
• Sẵn sàng cho Production: Triển khai các mô hình dưới dạng endpoint API trên Ultralytics Platform với khả năng tự động mở rộng và giám sát, hoặc chạy inference cục bộ.

Link to this sectionCác tính năng chính của Predict Mode#

Predict mode của YOLO26 được thiết kế để trở nên mạnh mẽ và linh hoạt, bao gồm:

• Tương thích với nhiều nguồn dữ liệu: Cho dù dữ liệu của bạn ở dạng hình ảnh đơn lẻ, tập hợp hình ảnh, tệp video hay luồng video thời gian thực, predict mode đều hỗ trợ tốt.
• Streaming Mode: Sử dụng tính năng streaming để tạo một generator hiệu quả về bộ nhớ cho các đối tượng Results. Kích hoạt tính năng này bằng cách đặt stream=True trong phương thức gọi của predictor.
• Batch Processing: Xử lý nhiều hình ảnh hoặc khung hình video trong một batch, giúp giảm tổng thời gian inference.
• Dễ dàng tích hợp: Dễ dàng kết nối với các pipeline dữ liệu hiện có và các thành phần phần mềm khác nhờ API linh hoạt.

Các mô hình Ultralytics YOLO trả về một danh sách các đối tượng Results trong Python hoặc một generator hiệu quả về bộ nhớ cho các đối tượng Results khi tham số stream=True được truyền vào mô hình trong quá trình inference:

from ultralytics import YOLO

# Load a model
model = YOLO("yolo26n.pt")  # pretrained YOLO26n model

# Run batched inference on a list of images
results = model(["image1.jpg", "image2.jpg"])  # return a list of Results objects

# Process results list
for result in results:
    boxes = result.boxes  # Boxes object for bounding box outputs
    masks = result.masks  # Masks object for segmentation masks outputs
    keypoints = result.keypoints  # Keypoints object for pose outputs
    probs = result.probs  # Probs object for classification outputs
    obb = result.obb  # Oriented boxes object for OBB outputs
    result.show()  # display to screen
    result.save(filename="result.jpg")  # save to disk

Link to this sectionNguồn Inference#

YOLO26 có thể xử lý các loại nguồn đầu vào khác nhau cho việc inference, như được hiển thị trong bảng dưới đây. Các nguồn bao gồm hình ảnh tĩnh, luồng video và nhiều định dạng dữ liệu khác nhau. Bảng cũng chỉ ra liệu mỗi nguồn có thể được sử dụng trong streaming mode với đối số stream=True hay không ✅. Streaming mode rất hữu ích để xử lý video hoặc luồng trực tiếp vì nó tạo ra một generator các kết quả thay vì tải toàn bộ khung hình vào bộ nhớ.

Dưới đây là các ví dụ mã để sử dụng từng loại nguồn:

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Define path to the image file
source = "path/to/image.jpg"

# Run inference on the source
results = model(source)  # list of Results objects

Link to this sectionCác đối số suy luận#

model.predict() chấp nhận nhiều đối số có thể được truyền vào tại thời điểm suy luận để ghi đè các giá trị mặc định:

Link to this sectionKích thước cố định so với hình chữ nhật tối thiểu (rect)#

Theo mặc định, predict sử dụng rect=True, cho phép đệm hình chữ nhật tối thiểu khi có thể. Hình ảnh được thu nhỏ để vừa với imgsz và chỉ đệm đến bội số stride gần nhất, vì vậy tensor cuối cùng có thể nhỏ hơn imgsz. Đệm hình chữ nhật tối thiểu chỉ được sử dụng khi tất cả hình ảnh trong batch có cùng kích thước và backend hỗ trợ (PyTorch .pt hoặc ONNX / Triton động). Nếu không, hình ảnh sẽ được đệm theo mục tiêu imgsz đầy đủ.

Sử dụng rect=False để luôn đệm theo mục tiêu imgsz đầy đủ. Cách này được khuyến nghị khi bạn cần kích thước đầu vào cố định để khớp với các model đã xuất (ONNX, TensorRT, v.v.).

Số nguyên so với tuple imgsz

• Một số nguyên imgsz=640 sẽ trở thành mục tiêu hình vuông (640, 640) sau khi làm tròn theo stride.
• Một tuple imgsz=(384, 672) thiết lập mục tiêu hình chữ nhật. Với rect=True và auto=True, tensor thực tế có thể nhỏ hơn mục tiêu này.

Training so với predict/export

Training chỉ chấp nhận một số nguyên imgsz duy nhất (danh sách [h, w] sẽ bị ép kiểu về giá trị lớn nhất). Predict và export chấp nhận cả số nguyên hoặc một tuple (height, width).

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on 'bus.jpg' with arguments
model.predict("https://ultralytics.com/images/bus.jpg", save=True, imgsz=320, conf=0.25)

Các đối số suy luận:

Các đối số trực quan hóa:

Link to this sectionCác định dạng hình ảnh và video#

YOLO26 hỗ trợ nhiều định dạng hình ảnh và video khác nhau, như được chỉ định trong ultralytics/data/utils.py. Xem các bảng dưới đây để biết các hậu tố hợp lệ và các lệnh predict ví dụ.

Link to this sectionHình ảnh#

Bảng dưới đây chứa các định dạng hình ảnh hợp lệ của Ultralytics.

Link to this sectionVideo#

Bảng dưới đây chứa các định dạng video hợp lệ của Ultralytics.

Link to this sectionLàm việc với các kết quả#

Tất cả các lệnh predict() của Ultralytics sẽ trả về một danh sách các đối tượng Results:

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")
results = model(
    [
        "https://ultralytics.com/images/bus.jpg",
        "https://ultralytics.com/images/zidane.jpg",
    ]
)  # batch inference

Các đối tượng Results có những thuộc tính sau:

Link to this sectionKết quả theo tác vụ#

Mỗi dự đoán trả về một đối tượng Results cho mỗi ảnh hoặc frame. Các trường phổ biến ở trên luôn khả dụng, trong khi dữ liệu dự đoán đặc thù cho từng tác vụ được lưu trữ trong các trường dưới đây. Các tensor về tọa độ, độ tin cậy và xác suất là torch.float32 trừ khi sử dụng độ chính xác bán phần (half precision), khi đó sẽ là torch.float16. Sau khi gọi result.numpy(), các tensor trở thành NumPy array với các NumPy dtype tương ứng. Các mask thực thể (instance mask) là các tensor nhị phân torch.uint8, trong khi các mask ngữ nghĩa sử dụng dtype số nguyên thực tế nhỏ nhất cho ID lớp: torch.uint8, torch.int16 hoặc torch.int32, tùy thuộc vào số lượng lớp.

Các đối tượng Results có các phương thức sau:

Để biết thêm chi tiết, hãy xem tài liệu lớp Results.

Link to this sectionBoxes#

Đối tượng Boxes có thể được sử dụng để lập chỉ mục, thao tác và chuyển đổi các khung bao (bounding boxes) sang các định dạng khác nhau.

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.boxes)  # print the Boxes object containing the detection bounding boxes

Dưới đây là bảng các phương thức và thuộc tính của lớp Boxes, bao gồm tên, loại và mô tả của chúng:

Để biết thêm chi tiết, hãy xem tài liệu lớp Boxes.

Link to this sectionMasks#

Đối tượng Masks có thể được sử dụng để lập chỉ mục, thao tác và chuyển đổi các mask thành các phân đoạn (segments).

from ultralytics import YOLO

# Load a pretrained YOLO26n-seg Segment model
model = YOLO("yolo26n-seg.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.masks)  # print the Masks object containing the detected instance masks

Dưới đây là bảng các phương thức và thuộc tính của lớp Masks, bao gồm tên, loại và mô tả của chúng:

Để biết thêm chi tiết, hãy xem tài liệu lớp Masks.

Link to this sectionSemanticMask#

SemanticMask lưu trữ một bản đồ lớp dày đặc cho kết quả phân đoạn ngữ nghĩa (semantic segmentation). Không giống như Masks, nó không chứa một mask nhị phân trên mỗi đối tượng và không cung cấp các trình hỗ trợ đa giác.

from ultralytics import YOLO

# Load a pretrained YOLO26n-sem Semantic model
model = YOLO("yolo26n-sem.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.semantic_mask.data)  # print the H x W class-ID map

Link to this sectionKeypoints#

Đối tượng Keypoints có thể được sử dụng để lập chỉ mục, thao tác và chuẩn hóa tọa độ.

from ultralytics import YOLO

# Load a pretrained YOLO26n-pose Pose model
model = YOLO("yolo26n-pose.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.keypoints)  # print the Keypoints object containing the detected keypoints

Dưới đây là bảng các phương thức và thuộc tính của lớp Keypoints, bao gồm tên, loại và mô tả của chúng:

Để biết thêm chi tiết, hãy xem tài liệu về lớp Keypoints.

Link to this sectionProbs#

Đối tượng Probs có thể được sử dụng để lập chỉ mục, lấy các chỉ số top1 và top5 cùng điểm số phân loại.

from ultralytics import YOLO

# Load a pretrained YOLO26n-cls Classify model
model = YOLO("yolo26n-cls.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")  # results list

# View results
for r in results:
    print(r.probs)  # print the Probs object containing the detected class probabilities

Dưới đây là bảng tóm tắt các phương thức và thuộc tính cho lớp Probs:

Để biết thêm chi tiết, hãy xem tài liệu về lớp Probs.

Link to this sectionOBB#

Đối tượng OBB có thể được sử dụng để lập chỉ mục, thao tác và chuyển đổi các hộp bao xoay sang các định dạng khác nhau.

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n-obb.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/boats.jpg")  # results list

# View results
for r in results:
    print(r.obb)  # print the OBB object containing the oriented detection bounding boxes

Dưới đây là bảng cho các phương thức và thuộc tính của lớp OBB, bao gồm tên, loại và mô tả:

Để biết thêm chi tiết, hãy xem tài liệu về lớp OBB.

Link to this sectionTrực quan hóa kết quả#

Phương thức plot() trong các đối tượng Results giúp trực quan hóa các dự đoán bằng cách phủ các đối tượng đã phát hiện (chẳng hạn như hộp bao, mask, keypoints và xác suất) lên ảnh gốc. Phương thức này trả về ảnh đã chú thích dưới dạng mảng NumPy, cho phép hiển thị hoặc lưu dễ dàng.

from PIL import Image

from ultralytics import YOLO

# Load a pretrained YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on 'bus.jpg'
results = model(["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"])  # results list

# Visualize the results
for i, r in enumerate(results):
    # Plot results image
    im_bgr = r.plot()  # BGR-order numpy array
    im_rgb = Image.fromarray(im_bgr[..., ::-1])  # RGB-order PIL image

    # Show results to screen (in supported environments)
    r.show()

    # Save results to disk
    r.save(filename=f"results{i}.jpg")

Link to this sectionCác tham số của phương thức plot()#

Phương thức plot() hỗ trợ nhiều đối số để tùy chỉnh kết quả đầu ra:

Link to this sectionSuy luận an toàn với đa luồng#

Đảm bảo tính an toàn của luồng (thread safety) trong quá trình inference là rất quan trọng khi bạn chạy nhiều model YOLO song song trên các luồng khác nhau. Inference an toàn với luồng đảm bảo rằng các dự đoán của mỗi luồng là độc lập và không can thiệp lẫn nhau, tránh tình trạng race conditions và đảm bảo kết quả nhất quán và đáng tin cậy.

Khi sử dụng các model YOLO trong ứng dụng đa luồng, điều quan trọng là phải khởi tạo các đối tượng model riêng biệt cho từng luồng hoặc sử dụng bộ lưu trữ cục bộ của luồng (thread-local storage) để tránh xung đột:

from threading import Thread

from ultralytics import YOLO

def thread_safe_predict(model, image_path):
    """Performs thread-safe prediction on an image using a locally instantiated YOLO model."""
    model = YOLO(model)
    results = model.predict(image_path)
    # Process results

# Starting threads that each have their own model instance
Thread(target=thread_safe_predict, args=("yolo26n.pt", "image1.jpg")).start()
Thread(target=thread_safe_predict, args=("yolo26n.pt", "image2.jpg")).start()

Để có cái nhìn sâu sắc về inference an toàn với luồng với các model YOLO và hướng dẫn từng bước, vui lòng tham khảo Hướng dẫn về Inference An toàn với Luồng YOLO. Hướng dẫn này sẽ cung cấp cho bạn tất cả thông tin cần thiết để tránh các lỗi phổ biến và đảm bảo inference đa luồng của bạn chạy trơn tru.

Link to this sectionVòng lặp for nguồn streaming#

Dưới đây là một tập lệnh Python sử dụng OpenCV (cv2) và YOLO để chạy inference trên các khung hình video. Tập lệnh này giả định rằng bạn đã cài đặt các gói cần thiết (opencv-python và ultralytics).

import cv2

from ultralytics import YOLO

# Load the YOLO model
model = YOLO("yolo26n.pt")

# Open the video file
video_path = "path/to/your/video/file.mp4"
cap = cv2.VideoCapture(video_path)

# Loop through the video frames
while cap.isOpened():
    # Read a frame from the video
    success, frame = cap.read()

    if success:
        # Run YOLO inference on the frame
        results = model(frame)

        # Visualize the results on the frame
        annotated_frame = results[0].plot()

        # Display the annotated frame
        cv2.imshow("YOLO Inference", annotated_frame)

        # Break the loop if 'q' is pressed
        if cv2.waitKey(1) & 0xFF == ord("q"):
            break
    else:
        # Break the loop if the end of the video is reached
        break

# Release the video capture object and close the display window
cap.release()
cv2.destroyAllWindows()

Tập lệnh này sẽ chạy dự đoán trên từng khung hình của video, trực quan hóa kết quả và hiển thị chúng trong một cửa sổ. Có thể thoát vòng lặp bằng cách nhấn phím 'q'.

Link to this sectionCâu hỏi thường gặp#

Link to this sectionUltralytics YOLO và chế độ predict của nó cho inference thời gian thực là gì?#

Ultralytics YOLO là model hiện đại nhất cho phát hiện đối tượng, phân đoạn instance, phân đoạn ngữ nghĩa và phân loại theo thời gian thực. Chế độ predict của nó cho phép người dùng thực hiện inference tốc độ cao trên nhiều nguồn dữ liệu khác nhau như hình ảnh, video và luồng trực tiếp. Được thiết kế cho hiệu suất và tính linh hoạt, nó cũng cung cấp các chế độ xử lý theo batch và streaming. Để biết thêm chi tiết về các tính năng, hãy kiểm tra chế độ predict của Ultralytics YOLO.

Link to this sectionLàm thế nào để tôi có thể chạy inference bằng Ultralytics YOLO trên các nguồn dữ liệu khác nhau?#

Ultralytics YOLO có thể xử lý nhiều nguồn dữ liệu, bao gồm từng ảnh, video, thư mục, URL và luồng. Bạn có thể chỉ định nguồn dữ liệu trong lệnh gọi model.predict(). Ví dụ, sử dụng 'image.jpg' cho một ảnh cục bộ hoặc 'https://ultralytics.com/images/bus.jpg' cho một URL. Hãy xem các ví dụ chi tiết cho các nguồn inference khác nhau trong tài liệu.

Link to this sectionLàm thế nào để tôi tối ưu hóa tốc độ inference và việc sử dụng bộ nhớ của YOLO?#

Để tối ưu hóa tốc độ inference và quản lý bộ nhớ hiệu quả, bạn có thể sử dụng chế độ streaming bằng cách đặt stream=True trong phương thức gọi của predictor. Chế độ streaming tạo ra một trình tạo các đối tượng Results tiết kiệm bộ nhớ thay vì tải tất cả các khung hình vào bộ nhớ. Đối với việc xử lý video dài hoặc các tập dữ liệu lớn, chế độ streaming đặc biệt hữu ích. Tìm hiểu thêm về chế độ streaming.

Link to this sectionUltralytics YOLO hỗ trợ những đối số inference nào?#

Phương thức model.predict() trong YOLO hỗ trợ nhiều đối số như conf, iou, imgsz, device và nhiều đối số khác. Các đối số này cho phép bạn tùy chỉnh quá trình inference, thiết lập các tham số như ngưỡng tin cậy, kích thước ảnh và thiết bị được sử dụng để tính toán. Mô tả chi tiết về các đối số này có thể được tìm thấy trong phần đối số inference.

Link to this sectionLàm thế nào để tôi có thể trực quan hóa và lưu kết quả dự đoán của YOLO?#

Sau khi chạy inference với YOLO, các đối tượng Results chứa các phương thức để hiển thị và lưu ảnh đã chú thích. Bạn có thể sử dụng các phương thức như result.show() và result.save(filename="result.jpg") để trực quan hóa và lưu kết quả. Bất kỳ thư mục cha nào bị thiếu trong đường dẫn filename sẽ được tạo tự động (ví dụ: result.save("path/to/result.jpg")). Để có danh sách đầy đủ các phương thức này, hãy tham khảo phần làm việc với kết quả.