モニタリング#

Ultralytics Platformは、デプロイされたエンドポイントのモニタリングを提供します。エンドポイントのリクエスト、レイテンシ、エラー、ログを追跡します。また、有料の専用エンドポイントでは、ライブの予測統計や、検査してデータセットに保存できる一時的なサンプルも提供されます。

デプロイメントダッシュボード#

サイドバーの Deploy ページは、すべてのデプロイメントのモニタリングダッシュボードとして機能します。ワールドマップ、概要メトリクス、デプロイメント管理を1つのビューに統合しています。デプロイメントの作成と管理については、Dedicated Endpointsを参照してください。

graph TB
    subgraph Dashboard
        Map[World Map]:::proc --- Cards[Overview Cards]:::proc
        Cards --- List[Deployments List]:::decide
    end
    subgraph "Per Ready Deployment"
        Monitoring[Monitoring Tab: Paid Endpoints]:::out
        Metrics[Metrics Row]:::out
        Health[Health Check]:::out
        Logs[Logs Tab]:::out
        Code[Code Tab]:::out
        Predict[Predict Tab]:::out
    end
    List --> Monitoring
    List --> Metrics
    List --> Health
    List --> Logs
    List --> Code
    List --> Predict

    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

概要カード#

ページ上部の4つのサマリーカードには、次の情報が表示されます。

ヘルスチェックは数ミリ秒で完了するため、中央値ではなくP95レイテンシを報告します。中央値を使用すると、実際の推論レイテンシの状況がヘルスチェックによって左右されてしまいます。

ワールドマップ#

インタラクティブなワールドマップには、次の情報が表示されます。

• 利用可能な42のすべてのリージョンのリージョンピン
• Ready 状態のデプロイメントがあるリージョンの緑色のピン
• デプロイメントが進行中のリージョンのアニメーション付き青色のピン
• デプロイメントのステータスとレイテンシに応じて変化するピンのサイズ

任意のリージョンをクリックすると、New Deployment ダイアログが開きます。小さい画面ではマップは非表示になります。

デプロイメント一覧#

概要カードの下には、プロジェクト全体のすべてのエンドポイントがデプロイメント一覧として表示されます。ビューモードの切り替えを使用して、次の表示を切り替えられます。

デプロイメントごとのメトリクス#

各デプロイメントカード（カードビュー）には、リアルタイムメトリクスが表示されます。以下で説明するメトリクス行、ヘルスチェック、Logs、Code、Predict タブは、デプロイメントが Ready の場合にのみ表示されます。

メトリクス行#

メトリクスは自動的に更新されます。リクエストをまだ処理していないエンドポイントには「まだトラフィックがありません」と表示され、メトリクスは Ready 状態のデプロイメントに対してのみ収集されます。デプロイメントダッシュボードでは、最新の20件のデプロイメントについてメトリクスが取得されます。

Health Check#

実行中のデプロイメントには、ヘルスチェックインジケーターが表示されます。

ヘルスチェックは異常な状態の間、自動的に再試行され、エンドポイントがレスポンスを返すと停止します。更新アイコンをクリックすると、ヘルスチェックを手動で実行できます。これは、トラフィックを送信する前に、スケール・トゥ・ゼロ状態のエンドポイントをウォームアップする方法としても機能します。

モニタリングタブ#

Deployを開き、Cardsビューに切り替えて、ステータスがReadyの有料専用エンドポイントでMonitoringを選択します。PredictタブまたはエンドポイントAPI経由で画像を送信すると、Temporary ExamplesとPrediction Statisticsにデータが入力されます。最初に画像が処理される前は、タブにNo images processedと表示されます。

一時的なサンプル#

ギャラリーには、予測オーバーレイ付きの処理済み画像のローリングサンプルが表示されます。画像を開いてフルスクリーンビューアで予測を検査し、表示コントロールを使用してオーバーレイを調整します。ギャラリーには初期状態で最大12個のサンプルが表示され、Show allをクリックすると展開されます。

• サンプリング: 初期状態では最大2個のサンプル、その後は1分あたり最大1個の追加画像が取得されます。キャプチャはベストエフォート方式で行われ、推論はサンプルのエンコード処理を待機しません。
• 容量: 圧縮画像、予測メタデータ、および関連アセット用の共有100 MiBメモリ制限内で、最大100枚の画像。インターフェースではこの制限が100 MBと表記されます。
• 置き換え: いずれかの制限に達すると、古いサンプルから順に置き換えられます。閲覧中にサンプルが利用できなくなる場合があります。
• ストレージ: 一時的なサンプルはエンドポイントのメモリ内に留まります。それらをデータセットに保存すると、通常のワークスペースストレージおよび処理制限が適用されます。

サンプルをデータセットに保存する#

コンテンツ編集権限を持つワークスペースメンバーは、エンドポイントのワークスペース内のデータセットにサンプルを保存できます。

1. チェックボックスを使用して個別のサンプルを選択するか、Select allをクリックします。
2. Save to datasetをクリックします。
3. デプロイされたモデルと同じタスクを持つ既存のデータセットを選択します。接続ソースのデータセットは除外されます。利用可能なデータセットがない場合は、あらかじめ互換性のあるデータセットを作成してください。
4. 選択された画像の数が表示されているSaveボタンをクリックし、データセットを開いて処理の進行状況を確認します。

選択した画像と予測は、標準のデータセットアップロードおよびインジェストワークフローを通じてコピーされます。通常のクォータ、クラスマッピング、および重複処理が適用されます。保存後も、一時的なサンプルはギャラリーに残ります。データセットに正常にインジェストされた画像は、エンドポイントの再起動や削除後も保持されます。トレーニングに使用する前に、予測されたラベルを確認してください。

一時的なサンプルを削除するには、画像にマウスオーバーして表示されるゴミ箱アイコンを使用するか、サンプルを選択して一括削除ボタンをクリックし、Deleteを確認します。サンプルを削除しても、集計された予測統計や、すでにデータセットに保存された画像は変更されません。

予測統計#

統計は、ギャラリーのサンプリングとは独立して処理済み画像を集計します。サンプルの削除や置き換えを行っても、その寄与分は減算されません。サマリーには、選択した期間の画像、予測、および予測のない画像が表示されます（深度モデルの場合は画像数が表示されます）。

日付ピッカーのデフォルトは過去の30日で、最大365日までの範囲を指定できます。選択した日付はUTCの境界を使用し、チャートのタイムスタンプはローカル時間で表示されます。直近72時間以内に収まる3日以内の直近の範囲では1時間ごとの履歴が使用され、その他の範囲では日ごとの履歴が使用されます。日付範囲で統計をフィルタリングする一方、ギャラリーには引き続き現在の一時的なサンプルが表示されます。

履歴は72個の1時間バケットおよび365個の日別バケットに制限されており、現在のインスタンスが起動してからの期間のみ利用可能です。処理された画像がない期間を選択すると、No images processed in this periodと表示されます。

利用可能なチャートは、タスクおよび収集された予測によって異なります。

パネルが開いて表示されている間、モニタリングは約2秒ごとに更新されます。パネルが画面外にある場合やブラウザタブが非表示の場合、ポーリングは一時停止します。また、デプロイのPredictタブを通じた正常な推論によっても統計の更新がトリガーされます。

ログ#

各デプロイメントカードには、最近のログエントリを表示するための Logs タブがあります。

ログエントリ#

各ログエントリには、次の情報が表示されます。

UIには最新の20件のエントリが表示され、空のエントリは非表示になります。APIのデフォルトは1リクエストあたり50件（最大200件）で、さらに過去のページを取得するための nextPageToken を返します。

コード例#

各デプロイメントカードには、エンドポイント URL が入力済みのすぐに使用できる API コードを表示する Code タブがあります。ワークスペース 所有者の場合は、デプロイメントに紐付けられた API キーが挿入されており、そのままコピーして実行できます。所有者以外には YOUR_API_KEY プレースホルダーが表示されます：

import requests

# Deployment endpoint
url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

デプロイメントのPredict#

各デプロイメントカードの Predict タブには、インラインの predict パネルがあります。これはモデルの Predict タブと同じインターフェースですが、共有サービスではなくデプロイメントのエンドポイントを介して推論を実行します。ブラウザーからデプロイ済みエンドポイントを直接テストする場合に便利です。パラメーターの詳細とレスポンス形式については 推論 を参照してください。

API エンドポイント#

すべてのデプロイメントは所有者とデプロイメント名によって指定され、各ルートには API キーが必要です。認証の詳細については API リファレンス を参照してください。

デプロイメントメトリクス#

GET /api/deployments/{owner}/{deployment}/metrics?range=24h

Python SDK: client.deployments.metrics(owner, deployment, range="24h")

デプロイメントの完全なメトリクスペイロードを返します。summary ブロックには、リクエスト総数、エラー数とエラー率、 平均、P50、P95、P99 のレイテンシが含まれます。また、リクエスト、エラー、P50 および P95 のレイテンシ、CPU とメモリの 使用率、インスタンス数について、timeSeries 配列も含まれます。

sparkline=true を指定すると、デプロイメントカードで使用される簡潔な形式でレスポンスが返されます。24 時間分のリクエスト数に加え、リクエスト総数、 エラー率、平均レイテンシが含まれます。これは 60 秒ごとに更新される呼び出しです。

デプロイメントログ#

GET /api/deployments/{owner}/{deployment}/logs?limit=50&severity=ERROR,WARNING

Python SDK: client.deployments.logs(owner, deployment, limit=50, severity="ERROR,WARNING")

オプションの重大度フィルターとページネーションを使用して、最近のログエントリを返します。

デプロイメントのヘルス#

GET /api/deployments/{owner}/{deployment}/health

Python SDK: client.deployments.health(owner, deployment)

デプロイメントに ping を送信し、測定したラウンドトリップレイテンシとともにヘルスステータスを返します：

{
    "healthy": true,
    "status": 200,
    "latencyMs": 142
}

エンドポイントにまったく到達できなかった場合、異常レスポンスでは status が省略され、error メッセージが追加されます。

パフォーマンスの最適化#

モニタリングデータを使用してデプロイメントを最適化します：

FAQ#