参考 ultralytics/utils/triton.py
注
このファイルはhttps://github.com/ultralytics/ultralytics/blob/main/ ultralytics/utils/ triton.py にあります。もし問題を発見したら、Pull Request🛠️ を投稿して修正にご協力ください。ありがとうございました!
ultralytics.utils.triton.TritonRemoteModel
リモートのTriton Inference Server モデルと対話するためのクライアント。
属性:
名称 | タイプ | 説明 |
---|---|---|
endpoint |
str
|
Triton サーバー上のモデル名。 |
url |
str
|
Triton サーバのURL。 |
triton_client |
Triton クライアント(HTTP または gRPC)。 |
|
InferInput |
Triton クライアントの入力クラス。 |
|
InferRequestedOutput |
Triton クライアントの出力リクエストクラス。 |
|
input_formats |
List[str]
|
モデル入力のデータタイプ。 |
np_input_formats |
List[type]
|
モデル入力のnumpyデータ型。 |
input_names |
List[str]
|
モデル入力の名前。 |
output_names |
List[str]
|
モデルの出力名。 |
ソースコード ultralytics/utils/triton.py
__call__(*inputs)
与えられた入力でモデルを呼び出す。
パラメーター
名称 | タイプ | 説明 | デフォルト |
---|---|---|---|
*inputs |
List[ndarray]
|
モデルへの入力データ。 |
()
|
リターンズ
タイプ | 説明 |
---|---|
List[ndarray]
|
モデルの出力。 |
ソースコード ultralytics/utils/triton.py
__init__(url, endpoint='', scheme='')
TritonRemoteModelを初期化します。
引数は個別に指定することもできるし、以下のような形式の'url'引数から解析することもできる。
パラメーター
名称 | タイプ | 説明 | デフォルト |
---|---|---|---|
url |
str
|
Triton サーバのURL。 |
必須 |
endpoint |
str
|
Triton サーバー上のモデル名。 |
''
|
scheme |
str
|
通信方式('http'または'grpc')。 |
''
|