์ฐธ์กฐ ultralytics/utils/triton.py
์ฐธ๊ณ
์ด ํ์ผ์ https://github.com/ultralytics/ ultralytics/blob/main/ ultralytics/utils/ triton.py์์ ํ์ธํ ์ ์์ต๋๋ค. ๋ฌธ์ ๋ฅผ ๋ฐ๊ฒฌํ๋ฉด ํ ๋ฆฌํ์คํธ ๐ ๏ธ ์ ๊ธฐ์ฌํ์ฌ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋๋ก ๋์์ฃผ์ธ์. ๊ฐ์ฌํฉ๋๋ค ๐!
ultralytics.utils.triton.TritonRemoteModel
์๊ฒฉ Triton ์ถ๋ก ์๋ฒ ๋ชจ๋ธ๊ณผ ์ํธ ์์ฉํ๊ธฐ ์ํ ํด๋ผ์ด์ธํธ์ ๋๋ค.
์์ฑ:
์ด๋ฆ | ์ ํ | ์ค๋ช |
---|---|---|
endpoint |
str
|
Triton ์๋ฒ์ ์๋ ๋ชจ๋ธ์ ์ด๋ฆ์ ๋๋ค. |
url |
str
|
Triton ์๋ฒ์ URL์ ๋๋ค. |
triton_client |
Triton ํด๋ผ์ด์ธํธ(HTTP ๋๋ gRPC). |
|
InferInput |
Triton ํด๋ผ์ด์ธํธ์ ์ ๋ ฅ ํด๋์ค์ ๋๋ค. |
|
InferRequestedOutput |
Triton ํด๋ผ์ด์ธํธ์ ์ถ๋ ฅ ์์ฒญ ํด๋์ค์ ๋๋ค. |
|
input_formats |
List[str]
|
๋ชจ๋ธ ์ ๋ ฅ์ ๋ฐ์ดํฐ ์ ํ์ ๋๋ค. |
np_input_formats |
List[type]
|
๋ชจ๋ธ ์ ๋ ฅ์ ์ซ์ ๋ฐ์ดํฐ ์ ํ์ ๋๋ค. |
input_names |
List[str]
|
๋ชจ๋ธ ์ ๋ ฅ์ ์ด๋ฆ์ ๋๋ค. |
output_names |
List[str]
|
๋ชจ๋ธ ์ถ๋ ฅ์ ์ด๋ฆ์ ๋๋ค. |
์ ์์ค ์ฝ๋ ultralytics/utils/triton.py
__call__(*inputs)
์ฃผ์ด์ง ์ ๋ ฅ๊ฐ์ผ๋ก ๋ชจ๋ธ์ ํธ์ถํฉ๋๋ค.
๋งค๊ฐ๋ณ์:
์ด๋ฆ | ์ ํ | ์ค๋ช | ๊ธฐ๋ณธ๊ฐ |
---|---|---|---|
*inputs |
List[ndarray]
|
๋ชจ๋ธ์ ๋ฐ์ดํฐ๋ฅผ ์ ๋ ฅํฉ๋๋ค. |
()
|
๋ฐํํฉ๋๋ค:
์ ํ | ์ค๋ช |
---|---|
List[ndarray]
|
๋ชจ๋ธ ์ถ๋ ฅ. |
์ ์์ค ์ฝ๋ ultralytics/utils/triton.py
__init__(url, endpoint='', scheme='')
ํธ๋ฆฌํค๋ฆฌ๋ชจํธ๋ชจ๋ธ์ ์ด๊ธฐํํฉ๋๋ค.
์ธ์๋ ๊ฐ๋ณ์ ์ผ๋ก ์ ๊ณต๋๊ฑฐ๋ ๋ค์๊ณผ ๊ฐ์ ํ์์ ์งํฉ์ 'URL' ์ธ์์์ ๊ตฌ๋ฌธ ๋ถ์๋ ์ ์์ต๋๋ค.
๋งค๊ฐ๋ณ์:
์ด๋ฆ | ์ ํ | ์ค๋ช | ๊ธฐ๋ณธ๊ฐ |
---|---|---|---|
url |
str
|
Triton ์๋ฒ์ URL์ ๋๋ค. |
ํ์ |
endpoint |
str
|
Triton ์๋ฒ์ ์๋ ๋ชจ๋ธ์ ์ด๋ฆ์ ๋๋ค. |
''
|
scheme |
str
|
ํต์ ์ฒด๊ณ('http' ๋๋ 'grpc'). |
''
|