Chuyển đến nội dung

Giám sát

Nền tảng Ultralytics cung cấp khả năng giám sát các điểm cuối đã được triển khai. Theo dõi các chỉ số yêu cầu, xem nhật ký và kiểm tra trạng thái hoạt động bằng cách tự động thăm dò.

Ultralytics Tổng quan trang triển khai nền tảng và bản đồ thế giới

Bảng điều khiển triển khai

Hàm Deploy Trang ở thanh bên đóng vai trò là bảng điều khiển giám sát cho tất cả các triển khai của bạn. Nó kết hợp bản đồ thế giới, các chỉ số tổng quan và quản lý triển khai trong một giao diện duy nhất. Xem Điểm cuối chuyên dụng Dùng để tạo và quản lý các triển khai.

graph TB
    subgraph Dashboard
        Map[World Map] --- Cards[Overview Cards]
        Cards --- List[Deployments List]
    end
    subgraph "Per Deployment"
        Metrics[Metrics Row]
        Health[Health Check]
        Logs[Logs Tab]
        Code[Code Tab]
        Predict[Predict Tab]
    end
    List --> Metrics
    List --> Health
    List --> Logs
    List --> Code
    List --> Predict

    style Dashboard fill:#f5f5f5,color:#333
    style Map fill:#2196F3,color:#fff
    style Cards fill:#FF9800,color:#fff
    style List fill:#4CAF50,color:#fff

Thẻ tổng quan

Bốn thẻ tóm tắt ở đầu trang hiển thị:

Ultralytics Trang tổng quan về triển khai nền tảng (4 thẻ)

Chỉ sốMô tả
Tổng số yêu cầu (24 giờ)Các yêu cầu trên tất cả các điểm cuối
Triển khai đang hoạt độngCác điểm cuối đang chạy hiện tại
Tỷ lệ lỗi (24h)Tỷ lệ phần trăm các yêu cầu thất bại
Độ trễ P95 (24 giờ)thời gian phản hồi ở phân vị thứ 95

Cảnh báo tỷ lệ lỗi

Thẻ báo cáo tỷ lệ lỗi sẽ được tô đỏ khi tỷ lệ vượt quá 5%. Hãy kiểm tra... Logs Nhấn vào tab trên từng lần triển khai riêng lẻ để chẩn đoán lỗi.

Bản đồ thế giới

Bản đồ thế giới tương tác hiển thị:

  • Mã vùng cho tất cả 43 vùng hiện có.
  • Ghim màu xanh lá cây biểu thị các khu vực đã triển khai.
  • Các ghim màu xanh lam động biểu thị các khu vực đang có hoạt động triển khai.
  • Kích thước chân cắm có thể thay đổi tùy thuộc vào trạng thái triển khai và độ trễ.

Ultralytics Trang triển khai nền tảng - Bản đồ thế giới với các khu vực đã triển khai

Danh sách triển khai

Bên dưới các thẻ tổng quan, danh sách triển khai hiển thị tất cả các điểm cuối trên các dự án của bạn. Sử dụng nút chuyển đổi chế độ xem để chuyển đổi giữa:

XemMô tả
ThẻCác thẻ chi tiết đầy đủ với các tab về số liệu, nhật ký, mã nguồn và dự đoán.
Thu gọnLưới gồm các thẻ nhỏ hơn (1-4 cột) với các chỉ số chính.
BảngBảng dữ liệu với các cột có thể sắp xếp: Tên, Khu vực, Trạng thái, Yêu cầu, P95, Lỗi

Cập nhật thời gian thực

Bảng điều khiển sẽ kiểm tra cập nhật số liệu cứ sau 30 giây. Khi quá trình triển khai đang trong giai đoạn chuyển tiếp (đang tạo, đang triển khai), tần suất kiểm tra sẽ tăng lên 3 giây một lần. Nhấp vào nút làm mới để nhận cập nhật ngay lập tức.

Số liệu theo từng lần triển khai

Mỗi thẻ triển khai (trong chế độ xem thẻ) hiển thị các số liệu theo thời gian thực:

Hàng số liệu

Chỉ sốMô tả
Yêu cầuSố lượng yêu cầu (24 giờ) kèm biểu tượng
Độ trễ P95thời gian phản hồi ở phân vị thứ 95
Tỷ lệ lỗiTỷ lệ phần trăm các yêu cầu thất bại

Các số liệu được lấy từ điểm cuối API của biểu đồ đường và được làm mới sau mỗi 60 giây.

Kiểm tra sức khỏe

Các triển khai đang chạy hiển thị chỉ báo kiểm tra trạng thái:

Chỉ báoNghĩa
Trái tim xanhKhỏe mạnh — cho thấy độ trễ phản hồi
Trái tim đỏKhông tốt cho sức khỏe — hiển thị thông báo lỗi
Biểu tượng xoayĐang tiến hành kiểm tra sức khỏe.

Quá trình kiểm tra sức khỏe sẽ tự động thử lại sau mỗi 20 giây khi gặp sự cố. Nhấp vào biểu tượng làm mới để kích hoạt kiểm tra sức khỏe thủ công. Quá trình kiểm tra sức khỏe sử dụng thời gian chờ 55 giây để phù hợp với việc khởi động nguội trên các điểm cuối có quy mô về 0.

Ultralytics Kiểm tra tình trạng thẻ triển khai nền tảng: Hoạt động tốt với độ trễ thấp

Khả năng chịu đựng khi khởi động nguội

Quá trình kiểm tra sức khỏe sử dụng thời gian chờ 55 giây để tính đến thời gian khởi động nguội trên các điểm cuối có quy mô bằng không (lên đến ~45 giây trong trường hợp xấu nhất). Sau khi điểm cuối hoạt động ổn định, quá trình kiểm tra sức khỏe sẽ hoàn tất trong vài mili giây.

Nhật ký

Mỗi thẻ triển khai bao gồm một Logs tab để xem các mục nhật ký gần đây:

Ultralytics Tab Nhật ký Thẻ Triển khai Nền tảng với Bộ lọc Mức độ nghiêm trọng

Mục nhật ký

Mỗi mục nhật ký hiển thị:

TrườngMô tả
Mức độ nghiêm trọngThanh được mã hóa màu (xem bên dưới)
Dấu thời gianYêu cầu thời gian (định dạng địa phương)
Thông báoNội dung nhật ký
Thông tin HTTPMã trạng thái và độ trễ (nếu có)

Lọc nhật ký theo mức độ nghiêm trọng bằng cách sử dụng các nút lọc:

Cấp độMàu sắcMô tả
GỠ LỖIXámThông báo gỡ lỗi
INFOXanh lamYêu cầu thông thường
CẢNH BÁOVàngSự cố không nghiêm trọng
LỖIĐỏYêu cầu thất bại
PHÊ BÌNHĐỏ đậmThất bại nghiêm trọng
Điều khiểnMô tả
LỗiLọc theo các mục LỖI và CẢNH BÁO
Tất cảHiển thị tất cả các mục nhật ký
Sao chépSao chép tất cả nhật ký hiển thị vào clipboard
Làm cho khỏe lạiTải lại các mục nhật ký

Giao diện người dùng hiển thị 20 mục gần đây nhất. API mặc định hiển thị 50 mục mỗi yêu cầu (tối đa 200 mục).

Quy trình gỡ lỗi

Khi điều tra lỗi: trước tiên hãy nhấp vào Lỗi để lọc các mục LỖI và CẢNH BÁO, sau đó xem lại dấu thời gian và mã trạng thái HTTP. Sao chép nhật ký vào clipboard để chia sẻ với nhóm của bạn.

Ví dụ mã

Mỗi thẻ triển khai bao gồm một Code Tab này hiển thị mã API sẵn sàng sử dụng cùng với URL điểm cuối và khóa API thực tế của bạn:

import requests

# Deployment endpoint
url = "https://predict-abc123.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())
// Build form data with image and parameters
const formData = new FormData();
formData.append("file", fileInput.files[0]);
formData.append("conf", "0.25");
formData.append("iou", "0.7");
formData.append("imgsz", "640");

// Send image for inference
const response = await fetch(
  "https://predict-abc123.run.app/predict",
  {
    method: "POST",
    headers: { Authorization: "Bearer YOUR_API_KEY" },
    body: formData,
  }
);

const result = await response.json();
console.log(result);
# Send image for inference
curl -X POST "https://predict-abc123.run.app/predict" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -F "file=@image.jpg" \
  -F "conf=0.25" \
  -F "iou=0.7" \
  -F "imgsz=640"

Thông tin đăng nhập được điền tự động

Khi xem Code Trong tab trên nền tảng, URL điểm cuối và khóa API thực tế của bạn sẽ được tự động điền vào. Sao chép mã và chạy trực tiếp. Xem Khóa API để tạo khóa.

Dự đoán triển khai

Hàm Predict Tab trên mỗi thẻ triển khai cung cấp bảng dự đoán nội tuyến — giao diện giống với giao diện của mô hình. Predict tab, nhưng chạy suy luận thông qua điểm cuối triển khai thay vì dịch vụ dùng chung. Điều này hữu ích để kiểm tra điểm cuối đã triển khai trực tiếp từ trình duyệt. Xem Suy luận Để biết chi tiết về tham số và định dạng phản hồi.

Điểm cuối API

Tổng quan về giám sát

GET /api/monitoring

Trả về các số liệu tổng hợp cho tất cả các triển khai thuộc sở hữu của người dùng đã xác thực. Có khả năng nhận biết không gian làm việc thông qua tùy chọn. owner tham số truy vấn.

Số liệu triển khai

GET /api/deployments/{deploymentId}/metrics?sparkline=true&range=24h

Trả về dữ liệu dạng biểu đồ thu nhỏ và các chỉ số tóm tắt cho một triển khai cụ thể. Chu kỳ làm mới: 60 giây.

Tham sốLoạiMô tả
sparklinebooleanBao gồm dữ liệu biểu đồ đường nhỏ (sparkline).
rangechuỗiKhoảng thời gian: 1h, 6h, 24h, 7d, hoặc 30d

Nhật ký triển khai

GET /api/deployments/{deploymentId}/logs?limit=50&severity=ERROR,WARNING

Trả về các mục nhật ký gần đây với tùy chọn lọc theo mức độ nghiêm trọng và phân trang.

Tham sốLoạiMô tả
limitintSố lượng mục tối đa trả về (mặc định: 50, tối đa: 200)
severitychuỗibộ lọc mức độ nghiêm trọng được phân tách bằng dấu phẩy
pageTokenchuỗiMã thông báo phân trang từ phản hồi trước đó

Sức khỏe triển khai

GET /api/deployments/{deploymentId}/health

Trả về trạng thái kiểm tra sức khỏe kèm theo độ trễ phản hồi.

{
    "healthy": true,
    "status": 200,
    "latencyMs": 142
}

Tối ưu hóa hiệu suất

Sử dụng dữ liệu giám sát để tối ưu hóa quá trình triển khai của bạn:

Nếu độ trễ quá cao:

  1. Kiểm tra số lượng phiên bản (có thể cần thêm)
  2. Xác minh kích thước mô hình phù hợp
  3. Hãy xem xét một khu vực gần hơn.
  4. Kiểm tra kích thước hình ảnh đang được gửi

Giảm độ trễ

Chuyển từ imgsz=1280 đến imgsz=640 Để đạt được tốc độ nhanh hơn khoảng 4 lần với tổn thất độ chính xác tối thiểu cho hầu hết các trường hợp sử dụng. Triển khai tại khu vực gần người dùng hơn để giảm độ trễ mạng.

Nếu xảy ra lỗi:

  1. Xem lại nhật ký lỗi trong Logs tab
  2. Kiểm tra định dạng yêu cầu (yêu cầu biểu mẫu nhiều phần)
  3. Xác minh khóa API hợp lệ
  4. Kiểm tra giới hạn tốc độ

Nếu đạt đến giới hạn dung lượng:

  1. Cân nhắc sử dụng nhiều khu vực
  2. Tối ưu hóa việc nhóm yêu cầu
  3. Tăng CPU và tài nguyên bộ nhớ

Câu hỏi thường gặp

Dữ liệu được lưu giữ trong bao lâu?

Kiểu dữ liệuThời gian lưu giữ
Các độ đo30 ngày
Nhật ký7 ngày

Tôi có thể thiết lập giám sát bên ngoài không?

Có, URL điểm cuối hoạt động với các công cụ giám sát bên ngoài:

  • Giám sát thời gian hoạt động (Pingdom, UptimeRobot)
  • Các công cụ APM (Datadog, New Relic)
  • Kiểm tra sức khỏe theo yêu cầu thông qua... /health điểm cuối

Các số liệu về độ trễ chính xác đến mức nào?

Các chỉ số độ trễ đo lường:

  • P50: Thời gian phản hồi trung vị
  • P95: phân vị thứ 95
  • P99: phân vị thứ 99

Những chỉ số này đại diện cho thời gian xử lý phía máy chủ, không bao gồm độ trễ mạng đến người dùng của bạn.

Tại sao các chỉ số của tôi bị trễ?

Các chỉ số có độ trễ khoảng 2 phút do:

  • Quy trình tổng hợp chỉ số
  • Các cửa sổ tổng hợp
  • Bộ nhớ đệm của bảng điều khiển

Để gỡ lỗi theo thời gian thực, hãy kiểm tra nhật ký có độ trễ gần như tức thì.

Tôi có thể giám sát nhiều điểm cuối cùng lúc không?

Đúng vậy, trang triển khai hiển thị tất cả các điểm cuối với các thẻ tổng quan được tổng hợp. Sử dụng chế độ xem dạng bảng để so sánh hiệu suất giữa các lần triển khai.



📅 Được tạo 1 tháng trước ✍️ Cập nhật 5 ngày trước
glenn-jochersergiuwaxmann

Bình luận