専用エンドポイント#

Ultralytics Platformでは、世界42か所のリージョンにある専用エンドポイントにYOLOモデルをデプロイできます。各エンドポイントは、固有のエンドポイントURLと独立したモニタリングを備えたシングルテナントサービスです。デフォルトのリソースサイズはアイドル時にゼロまでスケールダウンします。カスタムサイズではインスタンスが常時起動状態に保たれ、稼働時間に応じて課金されます。

エンドポイントを作成#

Deployタブから#

モデルのDeployタブからモデルをデプロイします。

1. モデルに移動します
2. Deployタブをクリックします
3. 世界地図とリージョンテーブルを確認します。リージョンテーブルは、現在地から測定したレイテンシの順に並んでいます
4. 使用するリージョンの行にあるDeployをクリックします
5. ダイアログでCPU、メモリ、料金、デプロイ名を確認し、Create Deploymentをクリックします

推奨名にはモデル名とリージョンの都市名が組み合わされます（例: yolo26n-iowa）。デプロイ前に編集できます。モデルに重みがない場合、リージョンテーブルの代わりに空の状態が表示されます。

Deploymentsタブから#

プロフィールのDeploymentsタブまたはサイドバーからデプロイメントを作成します。

1. DeploymentsタブのNew Deploymentをクリックするか、サイドバーのDeploymentsの横にある+をクリックします
2. 完了済みモデルが一覧表示されるモデルセレクターからモデルを選択します
3. ミニマップまたはレイテンシテーブルからリージョンを選択します
4. CPUとメモリを選択し、料金を確認して、必要に応じて推奨デプロイ名を編集します
5. Create Deploymentをクリックします

デプロイメントのライフサイクル#

デプロイメントの準備が完了したとき、または起動に失敗したときにメッセージを受け取るには、Slackアラートを接続します。

リージョンの選択#

世界各地の42リージョンから選択できます。インタラクティブなリージョンマップとテーブルには、次の情報が表示されます。

• リージョンのピン: 緑から赤へのグラデーションでレイテンシを色分けします（レイテンシが低いリージョンは緑、高いリージョンは赤で表示されます）
• デプロイ済みのリージョン: テーブルに「Deployed」バッジで表示されます
• デプロイ中のリージョン: ピンとテーブルの行にアニメーション付きのパルスインジケーターが表示されます
• 双方向のハイライト: マップ上にカーソルを合わせるとテーブルの行がハイライトされ、その逆も同様です

モデルのDeployタブにあるリージョンテーブルには、次の情報が含まれます。

テーブルは都市、国、ゾーンで検索でき、デフォルトではレイテンシ順に並んでいます。

利用可能なリージョン#

エンドポイントの設定#

新規デプロイダイアログ#

New Deployment ダイアログでは、モデル、リージョン、リソース、デプロイ名を選択できます。

リソースの設定でCPUとメモリのサイズを選択し、デプロイを作成する前に表示される料金を確認してください。CPUの選択肢は1、2、4、6、または8 vCPU、メモリの選択肢は2～32 GiBです。メモリサイズを大きくするには、より多くのvCPUが必要です（たとえば、16 GiBには最低4 vCPUが必要です）。無効な組み合わせの場合は、ダイアログに説明が表示されます。デフォルトサイズ（1 vCPU、2 GiB）は無料で、アイドル時にはゼロまでスケールします。カスタムサイズではインスタンスが1つウォーム状態に保たれ、エンドポイントの準備完了から停止まで、アイドル時間を含めて表示されたリージョン別の時間料金が課金されます。カスタムサイズの作成、起動、または変更には利用可能なクレジットが必要です。ワークスペースのクレジットがなくなると、カスタムサイズのエンドポイントは自動的に停止します。エージェントで新規デプロイ…を選択した場合も、このダイアログが再利用されます。

Deployタブ（クイックデプロイ）#

モデルの Deploy タブからデプロイすると、モデルとリージョンがあらかじめ選択された同じダイアログが開きます。エンドポイントを作成する前に、リソースサイズ、料金、自動生成された名前を確認してください。作成中のデプロイは、リージョンテーブルの下にあるモデルのデプロイ一覧に表示されます。

エンドポイントの管理#

表示モード#

デプロイ一覧では、次の3つの表示モードを利用できます。

デプロイページ#

各デプロイには /{username}/deploy/{deployment} に専用ページがあり、次の情報が表示されます。

• ヘッダー：リージョンの旗、表示名（クリックして名前を変更できます。ページURLとAPIパスは新しい名前のスラッグに変わりますが、エンドポイントURLは変わりません）、ステータスバッジ、場所、CPUとメモリのサイズ
• アクション：ステータスが準備完了の場合は設定を更新、モデルを置換、デプロイを停止、ステータスが停止中の場合はデプロイを開始を表示します。また、情報、更新、デプロイを削除を含むその他のアクション（…）メニューもあります
• メトリクス：過去24時間のHTTPリクエスト、HTTPエラー率、HTTP P95レイテンシをスパークラインで表示し、デプロイ済みモデルへのリンクを含むカードも表示します
• タブ：Overview、Monitoring、Predict、Logs
• ステータスメッセージ：デプロイに失敗した場合の失敗理由

Overview タブには、場所のマップ、コピー可能なエンドポイントURLを含むエンドポイントカード、API documentationリンク、ヘルスチェック、料金、リージョン、CPU、メモリを含むデプロイ情報カードが表示されます。 Logs タブには、重大度フィルター（すべて／エラー）付きの最近のログエントリが表示されます。Predict タブには、デプロイ上で直接テストするためのインライン予測パネルがあります。そのドキュメント結果タブには、エンドポイントURLと、ワークスペース所有者の場合は紐付けられたAPIキーが入力済みの、すぐに使えるPython、 JavaScript、cURLのコード例があります（モニタリングを参照）。情報ダイアログにはデプロイのプロパティが表示され、カスタムメタデータを編集できます。

CPUとメモリの更新#

1. 準備完了状態のエンドポイントのデプロイページを開きます。
2. 設定を更新をクリックします。
3. CPUとメモリを選択し、表示される時間あたりの料金を確認します。
4. 設定を更新をクリックします。新しい設定の準備ができるまで、現在の設定で引き続きサービスが提供されます。

カスタムリソースは稼働時間に応じて課金され、インスタンスを起動状態に保ちます。これにより、追加料金なしでIPカメラを稼働させることもできます（バックグラウンドカメラを参照）。デフォルトのリソースに戻すと、ゼロスケール動作が復元され、バックグラウンドカメラは削除されます。

モデルの置換#

URLを変更せずに、準備完了状態のエンドポイントで使用するモデルを置き換えます。

1. デプロイページを開きます
2. モデルを置換をクリックします
3. 同じワークスペースから別の完了済みモデルを選択します
4. 必要に応じてデプロイ名を編集します
5. モデルを置換をクリックします

置換モデルの起動中も、現在のモデルでサービスが継続されます。置換モデルの準備が完了すると、新しいモデルにトラフィックが移ります。デプロイID、URL、リージョン、APIキーは変更されません。表示名は新しい名前を入力した場合にのみ変わります。置換に失敗した場合は、以前のモデルと名前が引き続き有効です。

置換には以下のすべての条件が必要です。条件を満たさない場合、置換は拒否されます。

• デプロイはReadyで、進行中の他のライフサイクル操作はありません
• 置き換えるモデルには重みがあり、デプロイと同じワークスペースに属しています
• 置き換えるモデルは、すでにデプロイされているモデルではありません

デプロイのステータス#

Readyのデプロイでは、エンドポイントが最初のヘルスチェックに応答するまで、ページのバッジはStartingと表示されます。チェックに失敗すると、Not respondingと表示されます。

エンドポイントURL#

各エンドポイントには固有のURLがあります。例:

https://predict-<deployment-id>-<hash>-<region>.a.run.app

コピー ボタンをクリックすると、URLをコピーできます。API documentationをクリックすると、エンドポイント専用のAPIリファレンスが開きます。エンドポイントは次のパスを提供します:

ライフサイクル管理#

エンドポイントの状態を管理します:

エンドポイントの停止#

リクエストを受け付けないようにするには、エンドポイントを停止します:

1. デプロイページでStop deploymentをクリックします
2. エンドポイントのステータスが「Stopping」から「Stopped」に変わります

停止したエンドポイント:

• リクエストを受け付けず、ライブメトリクスやヘルスステータスも報告しません
• 稼働時間に応じた料金の発生が停止します
• サービス提供インスタンスのシャットダウン時に、一時的なモニタリング統計とサンプル画像が失われます
• URL、リージョン、関連付けられたAPIキーは保持され、いつでも再起動できます
• プランのデプロイ上限には引き続きカウントされます。枠を空けるにはエンドポイントを削除してください

エンドポイントの削除#

エンドポイントを完全に削除するには:

1. デプロイページでMore actions (…)を開いてDelete Deploymentをクリックするか、サイドバーでデプロイの横にあるゴミ箱アイコンをクリックします
2. Deleteで確定します

モデルまたはプロジェクトを完全に削除した場合や、ゴミ箱に入れたモデルまたはプロジェクトの保持期間が終了した場合も、デプロイは削除されます。

エンドポイントの使用#

認証#

各デプロイには、モデルを所有するワークスペースのAPIキーが1つ関連付けられます。リクエストにそのキーを含めてください:

Authorization: Bearer YOUR_API_KEY

エンドポイントが受け付けるのは作成時に関連付けられたキーだけです。そのため、他のキーではアクセスできません。同じワークスペース内の別の有効なキーも使用できません。関連付けるキーを指定するには、ワークスペース所有者のキーで認証したAPI経由でデプロイしてください。そのキーが正確に関連付けられ、すでにそのキーを所持しているためです。その他の方法（Platform UI、またはチームメンバーとして認証したAPI呼び出し）で作成したデプロイには、所有ワークスペースの有効なキーのいずれかが自動的に関連付けられます。キーの値を確認できるのは所有者だけなので、ワークスペース所有者にキーの値を問い合わせてください（APIキーを参照）。関連付けられたキーを持たないチームメンバーも、ブラウザーでPlatformのpredictプロキシを介して推論を実行できます。

エンドポイントへの直接リクエスト#

本番環境のリクエストは、デプロイページに表示されるURLに直接送信してください。これらのリクエストはPlatform APIのレート制限を通らないため、predictの毎分20リクエスト制限は適用されません。ただし、エンドポイント自体には容量の上限があります:

• 各エンドポイントは単一のインスタンスで処理し、一度に処理できるリクエスト数には制限があります
• 迅速に処理できないリクエストは、429とRetry-Afterヘッダーを返します
• 1つのリクエストは最大1時間実行できます。これにより、動画推論を完了できます
• リクエスト本文の上限は32 MBです。これを超えるアップロードは413で拒否されます
• 1 KBを超えるレスポンスはgzip圧縮され、クロスオリジンのブラウザーリクエストは許可されます

リクエストの例#

import requests

# デプロイエンドポイント
url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"

# デプロイAPIキーを含むヘッダー
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# 推論パラメーター
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# 推論する画像を送信
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

リクエストパラメーター#

エンドポイントでは最後のロールアウト時の推論ランタイムが維持されるため、トレーニングサイズのimgszのデフォルトや上記のvid_strideなど、新しい動作が反映されるのは、たとえばモデルを置き換えるかCPUまたはメモリを変更するなどして、新しいリビジョンがロールアウトされた後です。入力サイズを固定するには、imgszを明示的に指定してください。

bitsが返される深度マップをどのように変化させるか、およびデコード方法については、深度レスポンスを参照してください。

レスポンス形式#

タスク固有のフィールドを含め、共有推論と同じです。

よくある質問#