Suy luận#

Ultralytics Platform cung cấp tính năng suy luận trên trình duyệt để kiểm thử các model đã train và các endpoint chuyên dụng để truy cập qua lập trình.

Tab Dự đoán (Predict)#

Mỗi model có weights đều bao gồm một tab Predict để chạy inference trên trình duyệt:

1. Điều hướng đến model của bạn
2. Nhấp vào tab Predict
3. Tải lên một hình ảnh, sử dụng hình ảnh ví dụ hoặc mở webcam của bạn
4. Xem lại lớp phủ theo tác vụ, tóm tắt dự đoán, thời gian và phản hồi thô

Các model không có weights sẽ hiển thị trạng thái trống — hãy train model hoặc tải weights lên trước.

Phương thức đầu vào#

Bảng điều khiển dự đoán hỗ trợ nhiều phương thức đầu vào:

graph LR
    A[Upload Image]:::start --> D[Auto-Inference]:::proc
    B[Example Image]:::start --> D
    C[Webcam Capture]:::start --> D
    D --> E[Results + Overlays]:::out

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef out fill:#9C27B0,color:#fff

Tải lên hình ảnh#

Kéo và thả hoặc nhấp để tải lên:

• Các định dạng được hỗ trợ: JPEG, PNG, WebP, AVIF, HEIC, JP2, TIFF, BMP
• Kích thước tối đa: 10 MB
• Tự động suy luận: Kết quả xuất hiện tự động sau khi tải lên

Hình ảnh ví dụ#

Bảng predict hiển thị tối đa hai ảnh ví dụ từ dataset được liên kết với model của bạn, ưu tiên split val, sau đó đến test, rồi train. Nếu không có dataset nào được liên kết, các ví dụ mặc định sẽ được sử dụng:

Đối với các model OBB, ảnh chụp trên không về tàu thuyền và sân bay sẽ được hiển thị thay thế.

Webcam#

Nhấp vào thẻ webcam để bắt đầu luồng camera trực tiếp:

1. Cấp quyền truy cập camera khi được yêu cầu
2. Nhấp vào bản xem trước video để chụp khung hình
3. Suy luận tự động chạy trên khung hình đã chụp
4. Nhấp lại để khởi động lại webcam

Xem kết quả#

Kết quả suy luận hiển thị đầu ra phù hợp với tác vụ của model: các hộp, mặt nạ, điểm then chốt, hộp định hướng, điểm phân loại, độ bao phủ ngữ nghĩa hoặc bản đồ chiều sâu. Kết quả đối tượng sử dụng màu sắc lớp của dataset khi khả dụng. Bảng này cũng hiển thị thời gian tiền xử lý, suy luận, hậu xử lý và mạng.

Bảng kết quả hiển thị:

Có hai điều khiển nằm trên phần xem trước sau khi có kết quả: nhấp vào ảnh để phóng to với các lớp phủ vẫn giữ nguyên, và sử dụng nút tải xuống để lưu JPEG đã được chú thích của kết quả hiện tại.

Tham số suy luận#

Điều chỉnh hành vi suy luận bằng ba thanh trượt bên dưới hình ảnh:

Ngưỡng tin cậy#

Lọc các dự đoán theo độ tin cậy:

• Cao hơn (0.5+): Ít dự đoán hơn, độ chính xác cao hơn
• Thấp hơn (0.1-0.25): Nhiều dự đoán hơn, có thể kèm theo nhiễu
• Mặc định (0.25): Cân bằng cho hầu hết các trường hợp sử dụng

Ngưỡng IoU#

Kiểm soát Non-Maximum Suppression:

• Cao hơn (0.7+): Cho phép nhiều hộp chồng lấp hơn
• Thấp hơn (0,3-0,5): Loại bỏ các phát hiện chồng chéo mạnh mẽ hơn
• Mặc định (0.7): Hành vi NMS cân bằng cho hầu hết các trường hợp sử dụng

Suy luận triển khai#

Mỗi dedicated endpoint đang chạy đều bao gồm một tab Predict ngay trên thẻ deployment của nó. Tính năng này sử dụng dịch vụ suy luận của riêng deployment thay vì dịch vụ predict dùng chung, cho phép bạn kiểm thử endpoint đã deploy trực tiếp từ trình duyệt.

API Endpoint chuyên dụng#

Thẻ API Docs trong tab model Predict chứa các ví dụ request bằng Python, JavaScript và cURL, được điền sẵn độ tin cậy, IoU và kích thước ảnh hiện được đặt trên các thanh trượt. URL và khóa là các placeholder cho đến khi bạn triển khai model — nút Deploy bên cạnh các tab code sẽ chuyển đến tab Deploy của model. Sau khi triển khai, tab Code của thẻ triển khai sẽ điền URL của endpoint đó và, đối với chủ sở hữu workspace, khóa API được liên kết của endpoint đó, sẵn sàng để sao chép và chạy.

Xác thực#

Bao gồm khóa API của bạn trong các yêu cầu:

Authorization: Bearer YOUR_API_KEY

Endpoint#

Các endpoint chuyên dụng nhận request trên URL riêng của chúng:

POST https://YOUR_DEPLOYMENT_URL.run.app/predict

Inference chia sẻ sử dụng Platform API với đường dẫn đầy đủ của model:

POST https://platform.ultralytics.com/api/models/{owner}/{project}/{model}/predict

Cả hai đều chấp nhận cùng một body multipart/form-data và trả về cùng một cấu trúc phản hồi. Với Python SDK, hãy sử dụng client.models.predict(owner, project, model, body=...) cho inference chung hoặc client.deployments.predict(owner, deployment, body=...) cho một deployment chuyên dụng:

from ultralytics_platform import Platform

client = Platform()  # reads ULTRALYTICS_API_KEY
with open("image.jpg", "rb") as f:
    results = client.models.predict("acme-vision", "inspection", "v3", body={"file": f, "conf": 0.25})

Yêu cầu#

import requests

url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"
headers = {"Authorization": "Bearer YOUR_API_KEY"}
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

with open("image.jpg", "rb") as image_file:
    response = requests.post(url, headers=headers, files={"file": image_file}, data=data)
print(response.json())

Tham số yêu cầu#

Phản hồi#

{
    "images": [
        {
            "shape": [1080, 1920],
            "results": [
                {
                    "class": 0,
                    "name": "person",
                    "confidence": 0.92,
                    "box": { "x1": 100, "y1": 50, "x2": 300, "y2": 400 }
                },
                {
                    "class": 2,
                    "name": "car",
                    "confidence": 0.87,
                    "box": { "x1": 400, "y1": 200, "x2": 600, "y2": 350 }
                }
            ],
            "speed": {
                "preprocess": 1.2,
                "inference": 12.5,
                "postprocess": 2.3
            }
        }
    ],
    "metadata": {
        "imageCount": 1,
        "functionTimeAlive": 1284.51,
        "functionTimeCall": 0.018,
        "task": "detect",
        "version": {
            "ultralytics": "8.x.x",
            "torch": "2.6.0",
            "torchvision": "0.21.0",
            "python": "3.13.0"
        }
    }
}

Các trường phản hồi#

Phản hồi đặc thù cho từng tác vụ#

Định dạng phản hồi thay đổi tùy theo tác vụ:

{
  "class": 0,
  "name": "person",
  "confidence": 0.92,
  "box": {"x1": 100, "y1": 50, "x2": 300, "y2": 400}
}

Giới hạn tốc độ (Rate Limits)#

API model dùng chung bị giới hạn ở 20 request/phút cho mỗi API key, người gọi đã đăng nhập hoặc IP ẩn danh. Khi bị giới hạn tốc độ, API sẽ trả về 429 với header Retry-After. Xem toàn bộ tài liệu tham khảo về rate-limit cho tất cả các danh mục endpoint.

Xử lý lỗi#

Các phản hồi lỗi phổ biến:

Câu hỏi thường gặp#