рдХреЗ рд▓рд┐рдП рд╕рдВрджрд░реНрдн ultralytics/utils/triton.py
рдиреЛрдЯ
рдпрд╣ рдлрд╝рд╛рдЗрд▓ рдпрд╣рд╛рдБ рдЙрдкрд▓рдмреНрдз рд╣реИ https://github.com/ultralytics/ultralytics/рдмреВрдБрдж/рдореБрдЦреНрдп/ultralytics/utils/triton.pyред рдпрджрд┐ рдЖрдк рдХреЛрдИ рд╕рдорд╕реНрдпрд╛ рджреЗрдЦрддреЗ рд╣реИрдВ рддреЛ рдХреГрдкрдпрд╛ рдкреБрд▓ рдЕрдиреБрд░реЛрдз рдХрд╛ рдпреЛрдЧрджрд╛рди рдХрд░рдХреЗ рдЗрд╕реЗ рдареАрдХ рдХрд░рдиреЗ рдореЗрдВ рдорджрдж рдХрд░реЗрдВ ЁЯЫая╕Пред ЁЯЩП рдзрдиреНрдпрд╡рд╛рдж !
ultralytics.utils.triton.TritonRemoteModel
рд░рд┐рдореЛрдЯ рдХреЗ рд╕рд╛рде рдмрд╛рддрдЪреАрдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдХреНрд▓рд╛рдЗрдВрдЯ Triton Inference Server рдореЙрдбрд▓.
рд╡рд┐рд╢реЗрд╖рддрд╛рдПрдБ:
рдирд╛рдо | рдкреНрд░рдХрд╛рд░ | рдпрд╛ рдХрд╝рд┐рд╕реНтАНрдо |
---|---|---|
endpoint |
str
|
рдкрд░ рдореЙрдбрд▓ рдХрд╛ рдирд╛рдо Triton рд╕рд░реНрд╡рд░ред |
url |
str
|
рдХрд╛ URL Triton рд╕рд░реНрд╡рд░ред |
triton_client |
рд╡рд╣реА Triton рдХреНрд▓рд╛рдЗрдВрдЯ (рдпрд╛ рддреЛ HTTP рдпрд╛ gRPC)ред |
|
InferInput |
рдХреЗ рд▓рд┐рдП рдЗрдирдкреБрдЯ рдХреНрд▓рд╛рд╕ Triton рдЧреНрд░рд╛рд╣рдХред |
|
InferRequestedOutput |
рдХреЗ рд▓рд┐рдП рдЖрдЙрдЯрдкреБрдЯ рдЕрдиреБрд░реЛрдз рд╡рд░реНрдЧ Triton рдЧреНрд░рд╛рд╣рдХред |
|
input_formats |
List[str]
|
рдореЙрдбрд▓ рдЗрдирдкреБрдЯ рдХреЗ рдбреЗрдЯрд╛ рдкреНрд░рдХрд╛рд░ред |
np_input_formats |
List[type]
|
рдореЙрдбрд▓ рдЗрдирдкреБрдЯ рдХреЗ рд╕реБрдиреНрди рдбреЗрдЯрд╛ рдкреНрд░рдХрд╛рд░ред |
input_names |
List[str]
|
рдореЙрдбрд▓ рдЗрдирдкреБрдЯ рдХреЗ рдирд╛рдоред |
output_names |
List[str]
|
рдореЙрдбрд▓ рдЖрдЙрдЯрдкреБрдЯ рдХреЗ рдирд╛рдоред |
рдореЗрдВ рд╕реНрд░реЛрдд рдХреЛрдб ultralytics/utils/triton.py
__call__(*inputs)
рджрд┐рдП рдЧрдП рдЗрдирдкреБрдЯ рдХреЗ рд╕рд╛рде рдореЙрдбрд▓ рдХреЛ рдХреЙрд▓ рдХрд░реЗрдВред
рдкреИрд░рд╛рдореАрдЯрд░:
рдирд╛рдо | рдкреНрд░рдХрд╛рд░ | рдпрд╛ рдХрд╝рд┐рд╕реНтАНрдо | рдЪреВрдХ |
---|---|---|---|
*inputs |
List[ndarray]
|
рдореЙрдбрд▓ рдореЗрдВ рдЗрдирдкреБрдЯ рдбреЗрдЯрд╛ред |
()
|
рджреЗрддрд╛:
рдкреНрд░рдХрд╛рд░ | рдпрд╛ рдХрд╝рд┐рд╕реНтАНрдо |
---|---|
List[ndarray]
|
рдореЙрдбрд▓ рдЖрдЙрдЯрдкреБрдЯред |
рдореЗрдВ рд╕реНрд░реЛрдд рдХреЛрдб ultralytics/utils/triton.py
__init__(url, endpoint='', scheme='')
TritonRemoteModel рдХреЛ рдкреНрд░рд╛рд░рдВрдн рдХрд░реЗрдВред
рддрд░реНрдХ рд╡реНрдпрдХреНрддрд┐рдЧрдд рд░реВрдк рд╕реЗ рдкреНрд░рджрд╛рди рдХрд┐рдП рдЬрд╛ рд╕рдХрддреЗ рд╣реИрдВ рдпрд╛ рдлреЙрд░реНрдо рдХреЗ рд╕рд╛рдореВрд╣рд┐рдХ 'url' рддрд░реНрдХ рд╕реЗ рдкрд╛рд░реНрд╕ рдХрд┐рдП рдЬрд╛ рд╕рдХрддреЗ рд╣реИрдВ
рдкреИрд░рд╛рдореАрдЯрд░:
рдирд╛рдо | рдкреНрд░рдХрд╛рд░ | рдпрд╛ рдХрд╝рд┐рд╕реНтАНрдо | рдЪреВрдХ |
---|---|---|---|
url |
str
|
рдХрд╛ URL Triton рд╕рд░реНрд╡рд░ред |
рдЖрд╡рд╢реНрдпрдХ |
endpoint |
str
|
рдкрд░ рдореЙрдбрд▓ рдХрд╛ рдирд╛рдо Triton рд╕рд░реНрд╡рд░ред |
''
|
scheme |
str
|
рд╕рдВрдЪрд╛рд░ рдпреЛрдЬрдирд╛ ('http' рдпрд╛ 'grpc')ред |
''
|
рдореЗрдВ рд╕реНрд░реЛрдд рдХреЛрдб ultralytics/utils/triton.py
2023-11-12 рдмрдирд╛рдпрд╛ рдЧрдпрд╛, рдЕрдкрдбреЗрдЯ рдХрд┐рдпрд╛ рдЧрдпрд╛ 2024-05-08
рд▓реЗрдЦрдХ: рдмреБрд░рд╣рд╛рди-рдХреНрдпреВ (1), рдЧреНрд▓реЗрди-рдЬреЛрдЪрд░ (4)