Referans için ultralytics/utils/triton.py
Not
Bu dosya https://github.com/ultralytics/ultralytics/blob/main/ ultralytics/utils/ triton.py adresinde mevcuttur. Bir sorun tespit ederseniz lütfen bir Çekme İsteği 🛠️ ile katkıda bulunarak düzeltilmesine yardımcı olun. Teşekkürler 🙏!
ultralytics.utils.triton.TritonRemoteModel
Uzak bir Triton Inference Server modeli ile etkileşim için istemci.
Nitelikler:
İsim | Tip | Açıklama |
---|---|---|
endpoint |
str
|
Modelin Triton sunucusundaki adı. |
url |
str
|
Triton sunucusunun URL'si. |
triton_client |
Triton istemcisi (HTTP veya gRPC). |
|
InferInput |
Triton istemcisi için giriş sınıfı. |
|
InferRequestedOutput |
Triton istemcisi için çıktı istek sınıfı. |
|
input_formats |
List[str]
|
Model girdilerinin veri türleri. |
np_input_formats |
List[type]
|
Model girdilerinin numpy veri türleri. |
input_names |
List[str]
|
Model girdilerinin adları. |
output_names |
List[str]
|
Model çıktılarının adları. |
Kaynak kodu ultralytics/utils/triton.py
__call__(*inputs)
Modeli verilen girdilerle çağırın.
Parametreler:
İsim | Tip | Açıklama | Varsayılan |
---|---|---|---|
*inputs |
List[ndarray]
|
Modele giriş verileri. |
()
|
İade:
Tip | Açıklama |
---|---|
List[ndarray]
|
Model çıktıları. |
Kaynak kodu ultralytics/utils/triton.py
__init__(url, endpoint='', scheme='')
TritonRemoteModel'i başlatın.
Bağımsız değişkenler ayrı ayrı sağlanabilir veya aşağıdaki formdaki toplu bir 'url' bağımsız değişkeninden ayrıştırılabilir
Parametreler:
İsim | Tip | Açıklama | Varsayılan |
---|---|---|---|
url |
str
|
Triton sunucusunun URL'si. |
gerekli |
endpoint |
str
|
Modelin Triton sunucusundaki adı. |
''
|
scheme |
str
|
İletişim şeması ('http' veya 'grpc'). |
''
|