Référence pour ultralytics/utils/triton.py
Note
Ce fichier est disponible à l'adresse https://github.com/ultralytics/ ultralytics/blob/main/ ultralytics/utils/ triton.py. Si tu repères un problème, aide à le corriger en contribuant à une Pull Request 🛠️. Merci 🙏 !
ultralytics.utils.triton.TritonRemoteModel
Client pour interagir avec un modèle de serveur d'inférence distant Triton .
Attributs :
Nom | Type | Description |
---|---|---|
endpoint |
str
|
Le nom du modèle sur le serveur Triton . |
url |
str
|
L'URL du serveur Triton . |
triton_client |
Le client Triton (HTTP ou gRPC). |
|
InferInput |
La classe d'entrée pour le client Triton . |
|
InferRequestedOutput |
La classe de demande de sortie pour le client Triton . |
|
input_formats |
List[str]
|
Les types de données des entrées du modèle. |
np_input_formats |
List[type]
|
Les types de données numpy des entrées du modèle. |
input_names |
List[str]
|
Les noms des entrées du modèle. |
output_names |
List[str]
|
Les noms des sorties du modèle. |
Code source dans ultralytics/utils/triton.py
__call__(*inputs)
Appelle le modèle avec les entrées données.
Paramètres :
Nom | Type | Description | DĂ©faut |
---|---|---|---|
*inputs |
List[ndarray]
|
Données d'entrée du modèle. |
()
|
Retourne :
Type | Description |
---|---|
List[ndarray]
|
Résultats du modèle. |
Code source dans ultralytics/utils/triton.py
__init__(url, endpoint='', scheme='')
Initialise le modèle TritonRemoteModel.
Les arguments peuvent être fournis individuellement ou analysés à partir d'un argument "url" collectif de la forme
Paramètres :
Nom | Type | Description | DĂ©faut |
---|---|---|---|
url |
str
|
L'URL du serveur Triton . |
requis |
endpoint |
str
|
Le nom du modèle sur le serveur Triton . |
''
|
scheme |
str
|
Le schéma de communication ('http' ou 'grpc'). |
''
|