YOLO Vision 2026:

モニタリング#

Ultralytics Platformは、デプロイ済みエンドポイントのモニタリングを提供します。自動ポーリングにより、リクエストメトリクスの追跡、ログの表示、ヘルスステータスの確認を行います。

Ultralytics Platform Deploy Page Overview Cards And World Map

デプロイメントダッシュボード#

サイドバーのDeployページは、すべてのデプロイに対するモニタリングダッシュボードとして機能します。ワールドマップ、概要メトリクス、デプロイ管理を1つのビューに統合しています。デプロイの作成と管理については、Dedicated Endpointsを参照してください。

graph TB
    subgraph Dashboard
        Map[World Map]:::proc --- Cards[Overview Cards]:::proc
        Cards --- List[Deployments List]:::decide
    end
    subgraph "Per Ready Deployment"
        Metrics[Metrics Row]:::out
        Health[Health Check]:::out
        Logs[Logs Tab]:::out
        Code[Code Tab]:::out
        Predict[Predict Tab]:::out
    end
    List --> Metrics
    List --> Health
    List --> Logs
    List --> Code
    List --> Predict

    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

概要カード#

ページ上部の4つのサマリーカードには以下が表示されます:

Ultralytics Platform Deploy Page Four Overview Cards

メトリクス説明
合計リクエスト数 (24時間)全エンドポイントの合計リクエスト数
アクティブなデプロイメント現在 Ready 状態にあるエンドポイント
エラー率 (24時間)リクエスト数で重み付けされた、4xx または 5xx ステータスのレスポンスの割合
P95レイテンシ (24時間)ボリュームで重み付けされた、1 時間ごとの 95 パーセンタイル遅延の平均

ヘルスチェックは数ミリ秒で応答するため、中央値ではなく P95 が報告されます。中央値を使用すると、実際の推論遅延の全体像が歪められてしまいます。

エラー率アラート

エラー率が5%を超えると、エラー率カードが赤色でハイライト表示されます。エラーを診断するには、個々のデプロイにあるLogsタブを確認してください。

世界地図#

インタラクティブな世界地図には以下が表示されます:

  • 利用可能な全42リージョンのリージョンピン
  • デプロイメントが準備完了している地域の Green pins
  • 現在デプロイ実行中のリージョンを示すアニメーション付き青いピン
  • デプロイメントのステータスとレイテンシに基づいてサイズが変化するピンのサイズ

任意の地域をクリックして、New Deployment ダイアログを開きます。画面サイズが小さい場合、マップは非表示になります。

Ultralytics Platform Deploy Page World Map With Deployed Regions

デプロイメントリスト#

概要カードの下には、プロジェクト全体のすべてのエンドポイントが表示されるデプロイメントリストがあります。表示モードの切り替えにより、以下を選択できます:

表示説明
カードメトリクス、ログ、コード、予測タブを含む詳細カード
コンパクト主要メトリクスを含む小型カードのグリッド(1〜4列)
テーブル名前、リージョン、ステータス、リクエスト数、P95、エラーでソート可能なデータテーブル
リアルタイム更新

ダッシュボードは自動的に更新され、デプロイメントが移行状態(creatingdeploying、または stopping)の間はより高速に更新されます。今すぐ更新するには、更新ボタンをクリックしてください。

デプロイメントごとのメトリクス#

各デプロイメントカード(カードビュー)にはリアルタイムのメトリクスが表示されます。メトリクス行、ヘルスチェック、および以下で説明する LogsCodePredict の各タブは、デプロイメントが Ready の間のみ表示されます。

メトリクス行#

メトリクス説明
リクエスト数過去 24 時間のリクエスト数
P95レイテンシ1 時間ごとの 95 パーセンタイル遅延の平均(24h)
エラー率4xx および 5xx レスポンスの割合(0 より大きい場合のみ表示)

メトリクスは自動的に更新されます。リクエストをまだ処理していないエンドポイントには「No traffic yet」と表示され、メトリクスは Ready 状態のデプロイメントに対してのみ収集されます。デプロイメントダッシュボードでは、最新の 20 件のデプロイメントのメトリクスが取得されます。

ヘルスチェック#

実行中のデプロイメントにはヘルスチェックインジケーターが表示されます:

インジケーター意味
緑色のハート正常 — レスポンスレイテンシを表示します
赤色のハート異常 — エラーメッセージを表示します
回転するアイコンヘルスチェック実行中

ヘルスチェックは、異常な状態の間は自動的に再試行され、エンドポイントが応答すると停止します。更新アイコンをクリックして手動でヘルスチェックをトリガーすることもできます。これは、トラフィックを送信する前に、スケールがゼロのエンドポイントをウォームアップする方法としても機能します。

Ultralytics Platform Deployment Card Health Check Healthy With Latency

コールドスタートの許容

プラットフォームはヘルスチェックに追加の時間を与え、一時的な接続の失敗を再試行するため、スケールがゼロのエンドポイントが起動する時間が確保されます。カードに「Service starting up...」と表示された場合は、その間に起動が完了したインスタンスを反映するために更新してください。

ログ#

各デプロイカードには、最近のログエントリを表示するためのLogsタブが含まれています。

Ultralytics Platform Deployment Card Logs Tab With Severity Filter

ログエントリ#

各ログエントリには以下が表示されます:

フィールド説明
深刻度色分けされたバー(下記参照)
タイムスタンプリクエスト時刻(ローカル形式)
メッセージログの内容
HTTP情報ステータスコードとレイテンシ(該当する場合)

各エントリには、色分けされた重要度バーが表示されます:

レベル説明
DEBUGグレーデバッグメッセージ
INFOブルー通常のリクエスト
WARNING琥珀色非致命的な問題
ERRORレッド失敗したリクエスト
CRITICALレッド致命的な障害

API は、カンマ区切りのフィルターとしてすべてのログ重要度を受け入れます:DEBUGINFONOTICEWARNINGERRORCRITICALALERTEMERGENCY

UI には最新の 20 件のエントリが表示され、空のエントリは非表示になります。API はリクエストごとにデフォルトで 50 件のエントリ(最大 200 件)を返し、さらに過去のデータを取得するための nextPageToken を返します。

デバッグワークフロー

エラーを調査する際は、まずErrorsをクリックしてERRORおよびWARNINGエントリに絞り込み、次にタイムスタンプとHTTPステータスコードを確認してください。チームと共有するためにログをクリップボードにコピーします。

コード例#

各デプロイメントカードには、エンドポイント URL が入力されたすぐに使える API コードを表示する Code タブが含まれています。ワークスペースの所有者向けには、デプロイメントにバインドされた API キーが挿入され、すぐにコピーして実行できます。所有者以外には、YOUR_API_KEY プレースホルダーが表示されます:

import requests

# Deployment endpoint
url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())
自動入力される資格情報

プラットフォームで Code タブを表示すると、エンドポイント URL と、ワークスペースの所有者の場合はデプロイメントの bound API key が自動的に入力されます。キーを生成するには、API Keys を参照してください。

デプロイメント予測#

各デプロイカードのPredictタブには、インライン予測パネル(共有サービスではなくデプロイエンドポイントを介して推論を実行する点を除き、モデルのPredictタブと同じインターフェース)が用意されています。これは、ブラウザからデプロイされたエンドポイントを直接テストする際に便利です。パラメータの詳細とレスポンスフォーマットについては、Inferenceを参照してください。

API エンドポイント#

すべてのデプロイメントは所有者名とデプロイメント名によって指定され、各ルートには API キーが必要です。認証の詳細については、API reference を参照してください。

デプロイメントメトリクス#

GET /api/deployments/{owner}/{deployment}/metrics?range=24h

Python SDK: client.deployments.metrics(owner, deployment, range="24h")

デプロイメントの完全なメトリクスペイロードを返します:総リクエスト数、エラー数とエラー率、平均、P50、P95、P99 の遅延を含む summary ブロックに加え、リクエスト、エラー、P50 および P95 の遅延、CPU とメモリの使用率、インスタンス数の timeSeries 配列が含まれます。

パラメータタイプ説明
rangestring時間範囲:1h6h24h7d、または 30d(デフォルトは 24h
sparklinebool完全なペイロードの代わりに、コンパクトなダッシュボードのサマリーを返します

sparkline=true を使用すると、レスポンスはデプロイメントカードで使用されるコンパクトな形式になります(24 時間ごとのリクエスト数、総リクエスト数、エラー率、平均遅延)。これは 60 秒ごとに更新を行う呼び出しです。

デプロイメントログ#

GET /api/deployments/{owner}/{deployment}/logs?limit=50&severity=ERROR,WARNING

Python SDK: client.deployments.logs(owner, deployment, limit=50, severity="ERROR,WARNING")

オプションの重要度フィルタとページネーションを備えた最近のログエントリを返します。

パラメータタイプ説明
limitint返す最大エントリ数 (デフォルト: 50、最大: 200)
severitystringカンマ区切りの重要度フィルタ
pageTokenstring前回のレスポンスからのページネーショントークン

デプロイメントの健全性#

GET /api/deployments/{owner}/{deployment}/health

Python SDK: client.deployments.health(owner, deployment)

デプロイメントに ping を実行し、測定されたラウンドトリップ遅延とともにヘルス状態を返します:

{
    "healthy": true,
    "status": 200,
    "latencyMs": 142
}

エンドポイントにまったく到達できなかった場合、異常な状態のレスポンスから status が省略され、error メッセージが追加されます。

ダッシュボードの概要

Deploy ページ上の集計された数値は、単一の REST エンドポイントとしては提供されていません。GET /api/deployments/{owner} (client.deployments.list(owner)) によって返される各デプロイのメトリクスルートを呼び出すことで、それらを再現してください。

パフォーマンスの最適化#

監視データを使用してデプロイメントを最適化する方法:

レイテンシが高すぎる場合:

  1. モデルサイズが適切であることを確認してください
  2. より近いリージョンを検討する
  3. 各リクエストと共に送信される画像サイズを確認してください
レイテンシの削減

より小さなimgsz値を試し、モデルの結果としてのレイテンシと精度を比較してください。ネットワークレイテンシを削減するには、呼び出し元に近いリージョンにデプロイしてください。

よくある質問 (FAQ)#

  • メトリクス API は 1 時間から 30 日までの選択可能なウィンドウをサポートしており、ウィンドウが長くなるにつれてより粗いサンプリングになります(1 時間の場合は 1 分ごとのバケット、30 日の場合は最大 4 時間ごとのバケット)。デプロイメントカードには最新の 20 件のログエントリが表示されます。ログ API はリクエストごとに最大 200 件のエントリを返すことができ、ページネーションをサポートしています。

    メトリクスとログはデプロイメントが存在する間のみ保持されるため、デプロイメントを削除するとその履歴へのアクセスも終了します。エンドポイントを削除する前に、保持する必要のあるものはすべてエクスポートしてください。

  • はい、デプロイメントページには、集計された概要カードとともにすべてのエンドポイントが表示されます。テーブルビューを使用して、デプロイメント全体のパフォーマンスを比較してください。

  • いいえ。メトリクスとヘルスチェックは、Ready 状態のデプロイメントに対してのみ収集されます。停止されたエンドポイントはそのカードと履歴ウィンドウを保持しますが、再び起動するまでライブの数値は表示されません。

コメント