デプロイ#
Ultralytics Platformは、YOLOモデルを本番環境に導入するための包括的なモデルデプロイオプションを提供します。ブラウザー上で推論をテストし、世界42地域の専用エンドポイントにデプロイして、パフォーマンスをリアルタイムで監視できます。
視聴: Ultralytics Platformを始める - デプロイ
概要#
デプロイメントセクションでは、次のことができます：
Predictタブを使って、ブラウザー上でモデルをテストする- 世界42地域の専用エンドポイントにデプロイする
- すべての専用エンドポイントのリクエストメトリクス、ログ、ヘルスチェック、一時的な予測結果を監視する
- リソースを選択する：デフォルトのエンドポイントはゼロまでスケールダウンし、カスタムサイズでは稼働時間に応じた課金でインスタンスを起動状態に保ちます
デプロイオプション#
Ultralytics Platformでは、複数のデプロイ方法を利用できます：
| オプション | 説明 | 最適な用途 |
|---|---|---|
| Predictタブ | 画像、Webカメラ、サンプル。独自のエンドポイントではIPカメラも利用可能 | 開発、検証 |
| 共有推論 | 3つのデータリージョンにまたがるマルチテナントサービス | 軽量な利用、テスト |
| 専用エンドポイント | 42地域にわたるシングルテナントサービス | 本番環境、低レイテンシ |
| エクスポート | ローカルまたはエッジランタイム向けに、22種類の形式で重みをダウンロードできます。 | オフライン、デバイス上 |
ワークフロー#
| ステージ | 説明 |
|---|---|
| テスト | Predictタブでモデルを検証する |
| 設定 | モデル、リージョン、CPU、メモリを選択し、料金とデプロイ名を確認する |
| デプロイ | Deployタブから専用エンドポイントを作成する |
| 監視 | モニタリングでエンドポイントのメトリクスと一時的な予測結果を確認する |
アーキテクチャ#
共有推論#
共有推論サービスは、主要な3つのリージョンで稼働します。モデルへのリクエストは、そのモデルのデータリージョンにあるサービスにルーティングされるため、結果はモデルが保存されているリージョン内にとどまります：
| リージョン | ラベル | 場所 | 最適な用途 |
|---|---|---|---|
| US | 南北アメリカ | 米国アイオワ州 | 南北アメリカのユーザー向け。南北アメリカで最速 |
| EU | ヨーロッパ、中東、アフリカ | ヨーロッパ、ベルギー | ヨーロッパのユーザー向け。GDPRに準拠 |
| AP | アジア太平洋 | アジア太平洋、台湾 | アジア太平洋のユーザー向け。APACで最小のレイテンシ |
専用エンドポイント#
Ultralytics Cloudで世界42地域にデプロイできます：
- 南北アメリカ：14地域
- ヨーロッパ：13地域
- アジア太平洋：12地域
- 中東・アフリカ：3地域
各エンドポイントは、次の特長を備えたシングルテナントサービスです：
- デプロイ前に料金を確認でき、CPUとメモリを設定可能
- デフォルトのリソースではゼロまでスケールダウンし、カスタムリソースでは稼働時間に応じた課金でインスタンスを起動状態に維持
/docsに独自のインタラクティブなAPIリファレンスを備えた、固有のエンドポイントURL- 専用のAPIキー紐付けにより、そのキーのみがエンドポイントを呼び出し可能
- 独立したモニタリング、ログ、ヘルスチェック
デプロイメントタブ#
すべてのデプロイメントは、プロフィールのデプロイメントタブ（/{username}?tab=deployments）に、データセットやプロジェクトと並んで表示されます。サイドバーのデプロイメントセクションにはデプロイメントの一覧が表示され、それぞれのデプロイメントページへのリンク、作成用の+ボタン、タブ全体へのリンクが用意されています。タブには次の情報が表示されます：
- デプロイ済みリージョンのピンを表示する世界地図。リージョンをクリックすると
New Deploymentダイアログが開きます - 概要カード：アクティブなデプロイメント数、HTTPリクエスト数（24時間）、HTTPエラー率（24時間）、HTTP P95レイテンシ（24時間）
- 検索、並べ替え、カード、コンパクト、テーブルの3つの表示モードを備えたデプロイメント一覧。各デプロイメントから専用ページに移動でき、そのページには
Overview、Monitoring、Predict、Logsの各タブがあります - 完了済みの任意のモデルからエンドポイントを作成する新しいデプロイメントボタン
タブは自動的に更新され、デプロイメントの状態が変化している間（creating、deploying、またはstopping）は更新頻度が上がります。詳しくはモニタリングをご覧ください。
準備完了状態の専用エンドポイントでは、チャートとサンプル画像が提供されますが、これらはサービングインスタンスのメモリ内にのみ保持されます。停止、再起動、再デプロイ、サイズ変更、モデルの置き換えを行うと、データが消去される場合があります。サンプルをデータセットに保存し、取り込みの完了を待つことで保持できます。詳しくはモニタリングをご覧ください。
主な機能#
グローバルなカバレッジ#
42地域のカバレッジを活用し、ユーザーの近くにデプロイできます。対象地域は次のとおりです：
- 北米、南米
- ヨーロッパ、中東、アフリカ
- アジア太平洋、オセアニア
スケーリングの動作#
エンドポイントは現在、次のように動作します：
- デフォルトのリソース：アイドル状態のエンドポイントはゼロまでスケールダウンし、次のリクエスト時にコールドスタートします
- カスタムリソース：1つのインスタンスが起動状態を保ち、停止するまで稼働時間に応じた料金が発生します
- 単一のアクティブインスタンス：現在、すべてのプランで各エンドポイントは1つのインスタンスからリクエストを処理します
- 負荷制御：エンドポイントが一時的に容量上限に達すると、リクエストには
429レスポンスが返されます。詳しくはダイレクトエンドポイントリクエストをご覧ください - リクエストタイムアウト：エンドポイントへの直接リクエストの最大実行時間は1時間です。対応する入力については推論をご覧ください
リージョン別デプロイ#
測定されたリージョンのレイテンシを参考に、呼び出し元に近い場所へエンドポイントを配置してください。実際の推論レイテンシは、モデル、入力サイズ、エンドポイントの状態、ネットワーク経路によって異なります。
ヘルスチェック#
実行中の各デプロイメントには、次の機能を備えた自動ヘルスチェックが含まれます：
- ライブステータスインジケーター（正常／異常）
- レスポンスレイテンシの表示
- 異常を検知すると自動で再試行し、正常になると停止
- 手動で再確認するボタン
クイックスタート#
デプロイメントを作成する：
- プロジェクトにモデルをトレーニングまたはアップロードする
- モデルのDeployタブに移動します
- レイテンシテーブルで、リージョンのDeployをクリックします
- デプロイダイアログで、CPU、メモリ、料金、名前を確認します
- Create Deploymentをクリックし、デプロイステータスがReadyになるまで待ちます
Model → Deploy tab → Deploy in a region → Review configuration → Create Deploymentデプロイ名はモデル名とリージョンの都市名から自動生成され、デプロイ前に編集できます。デプロイ後は、エンドポイントURLとAPIキーを使って、任意のアプリケーションから推論リクエストを送信できます。
クイックリンク#
よくある質問#
サービスの起動中、デプロイは作成中またはデプロイ中の状態になります。ステータスがReadyに変わると使用可能になります。所要時間はモデルとリージョンによって異なり、通常は数分です。
はい。各モデルには、異なるリージョンに複数のエンドポイントを設定できます。デプロイ数はプランによって制限されます：Free
3、Pro10、Enterpriseunlimited。クォータはモデルを所有するワークスペースに適用され、1つのエンドポイントが同時に提供できるモデルは1つだけです。URLを変更せずにモデルを入れ替えるには、モデルの置き換えを使用します。デフォルトリソースのエンドポイントは、アイドル状態になるとゼロまでスケールダウンします。
- 非アクティブ状態が続くと、エンドポイントはスケールダウンします
- 最初のリクエストでコールドスタートが発生します
- その後のリクエストは高速です
アイドル期間後の最初のリクエストではコールドスタートが発生します。デプロイページを開くとヘルスチェックが実行され、エンドポイントがウォームアップされるため、その直後のテスト推論はすばやく応答します。
カスタムリソースのエンドポイントは起動状態を維持し、アイドル時間を含む稼働時間に対して料金が発生します。稼働料金を停止するには、エンドポイントを停止してください。