Consumer Internet

2025? 3? 12?

Spotlight: NVIDIA TensorRT-LLM? ??? NAVER Place? SLM Vertical Service ?? ????

NAVER Place??? Place ??? ??? SLM Vertical Service? ???? ???? ???? ??(????, ??…
7 MIN READ
2025? 1? 17?

Nemotron-CC? ?????: LLM ?? ??? ?? 1? ?? ??? ?? ??? ?? ??

NVIDIA? 1? 9?? ?? ?? ?? ???? ???? ?? ??? ?? ?? ??(LLM)? ?? ??? ?? 6? 3?? ?? ????…
3 MIN READ
2024? 8? 9?

NVIDIA NIM ??????? ? LangChain?? AI ???? ????

NVIDIA AI Enterprise? ??? NVIDIA NIM? ?? Llama 3.1? ?? ??? ?? ?? ?? ??? ?????.
2 MIN READ
2024? 7? 3?

NVIDIA NIM? ?? ???? ?? LoRA ??? ??

?? ??? ????? ?? ?? ??(LLM)?? ??? ?? ?? ??? ??? ?? ?? ?? ??? ??? ?? ?? ???????.
7 MIN READ
2024? 5? 29?

?????? NVIDIA TensorRT 10.0? ???, ??, AI ?? ??

NVIDIA? ?? ??? ? ?? ??? ?? API ?????? NVIDIA TensorRT? ?? ???? ??????.
4 MIN READ
2024? 5? 17?

NVIDIA TensorRT Model Optimizer? ??? AI ?? ?? ???

??? ???? ??? AI ???? ???? ?? ??? ?? ??? ??? ??? ?????. ?? ??? ???? ??????? ???? ??…
6 MIN READ
2024? 5? 11?

NVIDIA H100 Tensor ?? GPU??? ???? ??? ?? ??? ??

NVIDIA? 2023? 7? NVIDIA LaunchPad? ?? ???? ???(CC) ?? ?? ???? ??? ??? ??? ?? ???…
2 MIN READ
2024? 4? 18?

NVIDIA TensorRT-LLM?? LoRA LLM ?? ? ??

?? ?? ??(LLM)? ??? ?? ???? ???? ??? ?? ? ??? ?? ???? ??? ???? ???? ???? ???…
10 MIN READ
2024? 3? 15?

LLM ????? Mixture of Experts(MoE)? ????

Mixture of Experts(MoE) ?? ?? ??(LLM) ????? ?? GPT-4? ?? ?? LLM? ?? Mixtral 8x7B?…
7 MIN READ
2024? 1? 19?

NVIDIA TensorRT? ???? ??? ???? ?? ??

CES?? NVIDIA? SDXL Turbo, LCM-LoRA ? Stable Video Diffusion? ?? NVIDIA TensorRT?…
2 MIN READ
2024? 1? 10?

NVIDIA RTX ????? Windows PC?? LLM ?????? ????

?? ?? ??(LLM)? ??? ???? ?????? ??? ????? ??? ????. ??? ??? ??? ???? ?? ??? ???…
3 MIN READ
2023? 11? 27?

LLM ?? ?????: ???? ???

????? ???? ?? ??? ??? ??? ??? ?? ???? ???? ????, ?? ??? ????, ??? ??? ??? ??? ???…
15 MIN READ
2023? 11? 10?

?? ??? ??? ?? ?? ?? ?? ????

?? ?? ??(LLM)? ??? ?? ????? ??? ??? ??? ??? ??? ??? ? ?? ???????. LLM? ??, ??…
8 MIN READ
2023? 10? 18?

SteerLM: ?? ?? LLM? ?? ??? ? ?? ???? ???? ??

?? ? ? ?? GPT-3, Megatron-Turing, Chinchilla, PaLM-2, Falcon, Llama 2? ?? ??? ??…
6 MIN READ