Suy luận#

Ultralytics Platform cung cấp tính năng suy luận trên trình duyệt để kiểm thử các model đã huấn luyện và các endpoint chuyên dụng để truy cập qua lập trình.

Tab Dự đoán (Predict)#

Mỗi model đều bao gồm tab Predict cho việc suy luận trên trình duyệt:

1. Điều hướng đến model của bạn
2. Nhấp vào tab Predict
3. Tải lên một hình ảnh, sử dụng hình ảnh ví dụ hoặc mở webcam của bạn
4. Xem lại lớp phủ theo tác vụ, tóm tắt dự đoán, thời gian và phản hồi thô

Phương thức đầu vào#

Bảng điều khiển dự đoán hỗ trợ nhiều phương thức đầu vào:

graph LR
    A[Upload Image]:::start --> D[Auto-Inference]:::proc
    B[Example Image]:::start --> D
    C[Webcam Capture]:::start --> D
    D --> E[Results + Overlays]:::out

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef out fill:#9C27B0,color:#fff

Tải lên hình ảnh#

Kéo và thả hoặc nhấp để tải lên:

• Các định dạng được hỗ trợ: JPEG, PNG, WebP, AVIF, HEIC, JP2, TIFF, BMP, DNG, MPO
• Dung lượng tối đa: 10MB
• Tự động suy luận: Kết quả xuất hiện tự động sau khi tải lên

Hình ảnh ví dụ#

Bảng dự đoán hiển thị các hình ảnh ví dụ từ tập dữ liệu được liên kết với model của bạn. Nếu không có tập dữ liệu nào được liên kết, các ví dụ mặc định sẽ được sử dụng:

Đối với các model OBB, hình ảnh chụp từ trên không về tàu thuyền và sân bay sẽ được hiển thị thay thế.

Webcam#

Nhấp vào thẻ webcam để bắt đầu luồng camera trực tiếp:

1. Cấp quyền truy cập camera khi được yêu cầu
2. Nhấp vào bản xem trước video để chụp khung hình
3. Suy luận tự động chạy trên khung hình đã chụp
4. Nhấp lại để khởi động lại webcam

Xem kết quả#

Kết quả suy luận hiển thị đầu ra phù hợp với tác vụ của model: các hộp, mặt nạ, điểm then chốt, hộp định hướng, điểm phân loại, độ bao phủ ngữ nghĩa hoặc bản đồ chiều sâu. Kết quả đối tượng sử dụng màu sắc lớp của dataset khi khả dụng. Bảng này cũng hiển thị thời gian tiền xử lý, suy luận, hậu xử lý và mạng.

Bảng kết quả hiển thị:

Tham số suy luận#

Điều chỉnh hành vi suy luận bằng ba thanh trượt bên dưới hình ảnh:

Ngưỡng tin cậy#

Lọc các dự đoán theo độ tin cậy:

• Cao hơn (0.5+): Ít dự đoán hơn, độ chính xác cao hơn
• Thấp hơn (0.1-0.25): Nhiều dự đoán hơn, có thể kèm theo nhiễu
• Mặc định (0.25): Cân bằng cho hầu hết các trường hợp sử dụng

Ngưỡng IoU#

Kiểm soát Non-Maximum Suppression:

• Cao hơn (0.7+): Cho phép nhiều hộp chồng lấp hơn
• Thấp hơn (0,3-0,5): Loại bỏ các phát hiện chồng chéo mạnh mẽ hơn
• Mặc định (0.7): Hành vi NMS cân bằng cho hầu hết các trường hợp sử dụng

Suy luận triển khai#

Mỗi endpoint chuyên dụng đang chạy đều bao gồm một tab Predict ngay trên thẻ triển khai của nó. Tính năng này sử dụng dịch vụ suy luận riêng của bản triển khai thay vì dịch vụ dự đoán dùng chung, cho phép bạn kiểm tra endpoint đã triển khai từ trình duyệt.

API Endpoint chuyên dụng#

Thẻ API Docs trong tab Predict của model chứa các yêu cầu mẫu bằng Python, JavaScript và cURL. Các ví dụ này sử dụng trình giữ chỗ cho đến khi bạn triển khai model. Sau khi triển khai, thẻ Code của phần triển khai sẽ điền URL endpoint và API key có sẵn cho workspace của bạn.

Xác thực#

Bao gồm khóa API của bạn trong các yêu cầu:

Authorization: Bearer YOUR_API_KEY

Endpoint#

POST https://YOUR_DEPLOYMENT_URL.run.app/predict

Yêu cầu#

import requests

url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"
headers = {"Authorization": "Bearer YOUR_API_KEY"}
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

with open("image.jpg", "rb") as image_file:
    response = requests.post(url, headers=headers, files={"file": image_file}, data=data)
print(response.json())

Tham số yêu cầu#

Phản hồi#

{
    "images": [
        {
            "shape": [1080, 1920],
            "results": [
                {
                    "class": 0,
                    "name": "person",
                    "confidence": 0.92,
                    "box": { "x1": 100, "y1": 50, "x2": 300, "y2": 400 }
                },
                {
                    "class": 2,
                    "name": "car",
                    "confidence": 0.87,
                    "box": { "x1": 400, "y1": 200, "x2": 600, "y2": 350 }
                }
            ],
            "speed": {
                "preprocess": 1.2,
                "inference": 12.5,
                "postprocess": 2.3
            }
        }
    ],
    "metadata": {
        "imageCount": 1,
        "functionTimeCall": 0.018,
        "task": "detect",
        "version": {
            "ultralytics": "8.x.x",
            "torch": "2.6.0",
            "torchvision": "0.21.0",
            "python": "3.13.0"
        }
    }
}

Các trường phản hồi#

Phản hồi đặc thù cho từng tác vụ#

Định dạng phản hồi thay đổi tùy theo tác vụ:

{
  "class": 0,
  "name": "person",
  "confidence": 0.92,
  "box": {"x1": 100, "y1": 50, "x2": 300, "y2": 400}
}

Giới hạn tốc độ (Rate Limits)#

API model chia sẻ bị giới hạn ở 20 request/phút cho mỗi API key, người gọi đã đăng nhập hoặc IP ẩn danh. Khi bị giới hạn tốc độ, API trả về 429 kèm theo header Retry-After. Xem tài liệu tham khảo giới hạn tốc độ đầy đủ cho tất cả các danh mục endpoint.

Xử lý lỗi#

Các phản hồi lỗi phổ biến:

Câu hỏi thường gặp#

Tôi có thể chạy suy luận trên video không?#

Cả hai phương thức suy luận đều chấp nhận tệp video:

• Dedicated endpoints chấp nhận trực tiếp tệp video. Các định dạng được hỗ trợ (lên đến 100 MB): ASF, AVI, GIF, M4V, MKV, MOV, MP4, MPEG, MPG, TS, WEBM, WMV. Mỗi khung hình được xử lý riêng biệt và kết quả được trả về theo từng khung hình. Xem dedicated endpoints để biết chi tiết.
• Suy luận chia sẻ (/api/models/{id}/predict) sử dụng cùng một dịch vụ dự đoán và chấp nhận các định dạng video giống nhau. Tab Predict trên trình duyệt chỉ chọn hình ảnh, vì vậy hãy sử dụng API hoặc endpoint chuyên dụng cho video.

Làm cách nào để lấy ảnh đã được chú thích?#

API trả về các dự đoán dưới dạng JSON. Để trực quan hóa:

1. Sử dụng các dự đoán để vẽ hộp bao cục bộ
2. Sử dụng phương thức plot() của Ultralytics:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
results = model("image.jpg")
results[0].save("annotated.jpg")

Xem tài liệu chế độ Predict để biết đầy đủ về API kết quả và các tùy chọn trực quan hóa.

Kích thước ảnh tối đa là bao nhiêu?#

• Giới hạn tab Predict: 10 MB
• Giới hạn API endpoint chuyên dụng: 100 MB
• Tự động thay đổi kích thước trong tab Predict: Hình ảnh được thay đổi kích thước theo Image Size đã chọn trước khi tải lên

Ảnh lớn sẽ tự động được thay đổi kích thước trong khi vẫn giữ nguyên tỷ lệ khung hình.

Tôi có thể chạy suy luận theo lô (batch) không?#

API hiện tại xử lý một ảnh mỗi yêu cầu. Để xử lý theo lô:

1. Gửi các request riêng biệt cho từng hình ảnh
2. Phân phối request trên các endpoint chuyên dụng khi thích hợp
3. Sử dụng suy luận cục bộ cho các batch lớn

import concurrent.futures

import requests

url = "https://predict-abc123.run.app/predict"
headers = {"Authorization": "Bearer YOUR_API_KEY"}
images = ["img1.jpg", "img2.jpg", "img3.jpg"]

def predict(image_path):
    with open(image_path, "rb") as f:
        return requests.post(url, headers=headers, files={"file": f}).json()

with concurrent.futures.ThreadPoolExecutor(max_workers=4) as executor:
    results = list(executor.map(predict, images))