?? ????? ??? ?? ??
???? ??? ???? ?? ??? ?????. ???? ? ??? ???? ??? ??? ?? ????? ?? ??, ??? ?? ??? ???? ????? ??? ??? ????. ??? ??? ??????
NVIDIA Triton ?? ???????. NVIDIA Triton ? ??? ???? ??? ???? ??? ???? ? ???? ?? ??? ???? ? ??? ???? ?? ??? ??? ? ??? ?????. ?? NVIDIA Triton ?? ??? ??? ?? ?? GPU ? ???? ??? ??? ???? ??? ? ????.
NVIDIA DLI(Deep Learning Institute)? NVIDIA Triton? ??? ??? ???? ?? 4?? ??? ?? ?? ?? ?????????.?
MLOps ??
NVIDIA Triton? ???? ?????(MLOps)? ???? ???????. MLOps? ?? ???? ???? ??? ???? ???? ? ??? ??? ?? DevOps?? ??? ??? ??? ?????. NVIDIA Triton? ??? ????? ?? ?? ?? ??? ?????. ?? ?? ?? ? ?? ?? ?? ?? ??? ???? ???? ?? Prometheus?? ?????.
?? ??
? ??? MLOps? ???? ??? NVIDIA Triton ?? ?? ??? ?????.
?? ??? ??? ????.
- ?? ?????? ?? ????? ??? NVIDIA Triton ??? ??
- Prometheus? ???? GPU ? ???? ?? ??? ??
- ??? ??? ???? ??? ???
?? ??? ???? NVIDIA Triton ??? ??? ??? ??? ? ????.
??? ?? ??? DLI ??? ??? ?????.
?
