Referência para ultralytics/utils/triton.py
Nota
Este ficheiro está disponível em https://github.com/ultralytics/ ultralytics/blob/main/ ultralytics/utils/ triton.py. Se encontrares um problema, por favor ajuda a corrigi-lo contribuindo com um Pull Request 🛠️. Obrigado 🙏!
ultralytics.utils.triton.TritonRemoteModel
Cliente para interagir com um modelo remoto do Servidor de Inferência Triton .
Atributos:
Nome | Tipo | Descrição |
---|---|---|
endpoint |
str
|
O nome do modelo no servidor Triton . |
url |
str
|
O URL do servidor Triton . |
triton_client |
O cliente Triton (HTTP ou gRPC). |
|
InferInput |
A classe de entrada para o cliente Triton . |
|
InferRequestedOutput |
A classe de pedido de saída para o cliente Triton . |
|
input_formats |
List[str]
|
Os tipos de dados das entradas do modelo. |
np_input_formats |
List[type]
|
Os tipos de dados numpy das entradas do modelo. |
input_names |
List[str]
|
Os nomes das entradas do modelo. |
output_names |
List[str]
|
Os nomes das saídas do modelo. |
Código fonte em ultralytics/utils/triton.py
__call__(*inputs)
Chama o modelo com os dados fornecidos.
Parâmetros:
Nome | Tipo | Descrição | Predefinição |
---|---|---|---|
*inputs |
List[ndarray]
|
Dados de entrada para o modelo. |
()
|
Devolve:
Tipo | Descrição |
---|---|
List[ndarray]
|
Resultados do modelo. |
Código fonte em ultralytics/utils/triton.py
__init__(url, endpoint='', scheme='')
Inicializa o TritonRemoteModel.
Os argumentos podem ser fornecidos individualmente ou analisados a partir de um argumento coletivo 'url' da forma
Parâmetros:
Nome | Tipo | Descrição | Predefinição |
---|---|---|---|
url |
str
|
O URL do servidor Triton . |
necessário |
endpoint |
str
|
O nome do modelo no servidor Triton . |
''
|
scheme |
str
|
O esquema de comunicação ("http" ou "grpc"). |
''
|