Referencia para ultralytics/utils/triton.py
Nota
Este archivo está disponible en https://github.com/ultralytics/ ultralytics/blob/main/ ultralytics/utils/ triton.py. Si detectas algún problema, por favor, ayuda a solucionarlo contribuyendo con una Pull Request 🛠️. ¡Gracias 🙏!
ultralytics.utils.triton.TritonRemoteModel
Cliente para interactuar con un modelo remoto del Servidor de Inferencia Triton .
Atributos:
Nombre | Tipo | Descripción |
---|---|---|
endpoint |
str
|
El nombre del modelo en el servidor Triton . |
url |
str
|
La URL del servidor Triton . |
triton_client |
El cliente Triton (HTTP o gRPC). |
|
InferInput |
La clase de entrada para el cliente Triton . |
|
InferRequestedOutput |
La clase de solicitud de salida para el cliente Triton . |
|
input_formats |
List[str]
|
Los tipos de datos de las entradas del modelo. |
np_input_formats |
List[type]
|
Los tipos de datos numpy de las entradas del modelo. |
input_names |
List[str]
|
Los nombres de las entradas del modelo. |
output_names |
List[str]
|
Los nombres de las salidas del modelo. |
Código fuente en ultralytics/utils/triton.py
__call__(*inputs)
Llama al modelo con las entradas dadas.
Parámetros:
Nombre | Tipo | Descripción | Por defecto |
---|---|---|---|
*inputs |
List[ndarray]
|
Datos de entrada al modelo. |
()
|
Devuelve:
Tipo | Descripción |
---|---|
List[ndarray]
|
Salidas del modelo. |
Código fuente en ultralytics/utils/triton.py
__init__(url, endpoint='', scheme='')
Inicializa el TritonRemoteModel.
Los argumentos pueden proporcionarse individualmente o analizarse a partir de un argumento colectivo "url" de la forma
Parámetros:
Nombre | Tipo | Descripción | Por defecto |
---|---|---|---|
url |
str
|
La URL del servidor Triton . |
necesario |
endpoint |
str
|
El nombre del modelo en el servidor Triton . |
''
|
scheme |
str
|
El esquema de comunicación ("http" o "grpc"). |
''
|