?? ?? ??(LLM)? ??? ??? ??? ???? ???? ?? ?? ???? ? ??? ?? ??? ?????. ?? ??? ??? ??? ??? ???(corpora) ?? ??? ????? ?? ??? ?????. ?? ??, ????? ?????? ?? ? ????? SQL ??? ?? ??? ??? ???? ??? ? ????.
??? ??? ?? ??? ?? ??? ???? ??? ??? ? ??? ???? ???, ????? ??? ?? ??? ????. ???? ??? LLM? ???? ??? ???? ?? ?? ? ?? ?? ???? LLM? ???? ?????. ? ??? ?? ?? ??(RAG)?? ??? ? ???, ?? ???? ?? NVIDIA Generative AI ?? GitHub ?????? ???? ????.
??? ???? ???? LLM? ???? ??? ??? ???? ???? AI ??????? ?? ? ????. ?? ??
- ??: ?? ??? ?? AI ??? ??? ?????? ???? ?? ????? ???? ????. RAG? ?? ??? ?? ??? ?? ??? ?? ??? ??? ? ????. ?? ??, ?? ??? ?? ??? ?? ??? ? ????.
- ?? ???: ??? ??? ??? ???? ??? ?? ??? ??? ??? ?? ??? ? ??? ??? ? ????.
- ?????? ??: ??? ?? ??, ?? ??, IT ?? ??, ?? ????? ? ?? ??? ?? ??? ??? ???? ????. ???? ?? ?? ??? ???? ? ??? ????? ??? ??? ? ????.
? ?????? RAG ?????? ?? ??? ?? LLM ??????? ??? ? RAG ??? ???? ?? ? ?? ??? ?? ?????. ? ???? ?? ? ??? ??? RAG 101? ?????: ?? ?? ??? ?? ??? ??? ?????.
RAG? ??
RAG? ???? ? ?? ??? ????:
- ??? ??? ???? ?? LLM ???? ?? ??
- ??? ???? ??
- LLM ?? ?? ??
??? ??? ???? LLM ???? ?? ??
???? ???? ???? ???? ????. LLM? ???? AI ???? ?? ??? ???? ?? ???? ? ?? RAG? ?? ?? ??? ??? ? ????. ??? ???? ??? ? ???? ???? ??? ? ????.
??? ????? ??
??? ????? ??? ???? ?? ?????. ?? ??? LLM(RAG ??????? ??)? ???? ??? ???? ??? ???? ????? ?????? ??? ? ????.
LLM? ?? ??? ??
??? ??? ?? ??? ???? ?? ??, LLM? ??? ??? ???? ??? ???? ??? ????. ?? ?? ????? ???, RAG? ??? ?? ???? ??? LLM? ?????? ?? ??? ???? ?????.
? ?? RAG ????? ?? ? ????
???? RAG ?????? ?? ??? ?????. ?? ?? ????? ?????? ?????, ??? ??? ???? ?? ??? ???? ??? ?????.
?? 1? /NVIDIA/GenerativeAIExamples GitHub ?????? ?? ? ??? ? ?? ???? RAG ?????? ?????.
? ??? ???????? NGC ?? ?????? ?? ??? ????? ???? ????. ?? ???? ??, RAG ???? ????? ?? 1? ??? ??????? ??? ? ????:
- ?? ???, ??, ??? ??? ???? ?????
- ??? ?? ? ?? ??? ??? ?? ?????
?? ??
?? ??????, ?? ?? ??? ??? ?? ??? ??? ?? ???? RAG ????? ?????. ? ???? ????? ?? LangChain? ??? ???? ??? ??? ???? ???? ??? ?? ??? ?????.
?? ???? ??? ???? ?????. ?? ??? ??? ?? ??(PDF, ??? ?? ?)?? ??? ? ?? ?? ??? ????. ?? ?? LangChain? Confluence, CSV ??, Outlook ??? ?? ??? ??? ?????. LlamaIndex? ?? ??? ??? ????, ?? LlamaHub?? ??? ? ????.
?? ???
??? ??? ??? ?? ??? ?????. ?? ?? ? ??? ? ???? ? ?? ????? ??? ??? ?????. ?? ?? ?? ??? 512? ??? ??? e5-large-v2? ???? ??? ? ?????. ???? ???? ?? ??? ???? ??? ??? ?? ? ????.
??? ??
???? ???? ????? ????? ??? ? ?? ???? ???? ???. ??? ???? ???? ?? ???? ???? ???? ??? ??? ???? ??? ?????.
?? ??????? ??? ????
??? ???? ??? ???? ?? ???????? ?? ??????? ?????. ??? ??????? ???? ???? ???? ? ????? ?? ??? ?? ? ?? ??? ?????. Milvus? ?? RAPIDS RAFT ?? ?? ??????? ???? ???? ??? ?? ?? ?? ??? ?? ???? ? ?? ??? ??? ? ????.
LLM
LLM? RAG ?????? ?? ?? ?? ??? ?????. ??? ?? ??? ?? ??? ??? ??? ??? ?? ???? ??? ??? ???? ???? ??? ? ????. RAG? ???? LLM? ??? ?? ? ?? DB?? ??? ??? ?? ? ?? ??? ???? ??? ??? ??? ???? ? ?????.
??
???? ??? ???? RAG ???? ???? ???? ??? ???? ???? ??? ?????. ???? ?? ??? ?? DB? ??? ??? ???? ?? ??? ?????. ?? ?? LLM? ??? ???? ???? ??? ??? ?????.
? ???? ??? ??? ????? /NVIDIA/GenerativeAIExamples GitHub ??????? ? ?? ?????? ???? ???.
???????? RAG ?? ????
RAG? ???? LLM?? ?? ?? ??? ?? ????, ??? ??? ???, ??? ??? ????, ??? ??? ???? ??? ? ????.
?? ??? ???? ???? ???? ??? ???? ??? ? ?? ?? ??? ????? NVIDIA AI ?? RAG ?????? ?????.
?? ???
- GTC ??: ??? ??? ?? ??? ?? ?? ??(2023? ?)
- GTC ??: ?? ?? ?? ??? ???? ? ??? ??? ?? ??(2023? ?)
- GTC ??: ??? AI ??? ??(2023? ?)
- NGC ????: NVIDIA K8s ??? LLM ???
- NGC ????: ?? ??
- ???: NVIDIA? ?? ?? ?????? AI? ?? ???
