NVIDIA NeMo Retriever? RAG? ?? ????? ??? ?? ????? ??

Reading Time: 4 minutes

???? ???? ???? ??? ???? ????? ???? ??? ? ????? ???? ???? ??? ?? ????. ???? ??? AI? ?? ???? ??? ?? ?? ?? ??(RAG) ??? ?? ? ???? ??? ?? ??? ?? ??? ???? ????? ??? ? ????.

??? ???? ????? ?? ?????? ???? ?? ???? ??? ?? ??? ??? ??? ?? ????? ????? ???? ? ??? ???? ?????. NVIDIA? NIM ?? ??????? ???? NeMo Retriever? ??? ??? ? ???? ?? ??? ???? ???? ???. NeMo Retriever? ???? ?? ?? ??(LLM), ????, ?? ? ?? AI? ??? ??? ??? AI? ???? ? ???? NeMo ???? ?????. NVIDIA? ??? ???? ?? NeMo Retriever NIM 4?? ??????.

? ?? NeMo Retriever ??? NIM:
- NV-EmbedQA-E5-v5: ??? ??-?? ??? ???? ??? ??.
- NV-EmbedQA-Mistral7B-v2: ??? ???? ??? ?? ??? ?? ?? ??? ??? ??.
- Snowflake-Arctic-Embed-L: ??? ???? ???? ??.
??? NeMo Retriever Reranking NIM:
- NV-RerankQA-Mistral4B-v3: ??? ???? ??? ?? ??? ?? ?? ??? ??.

?? ?? ?????? ?? ?? ????

??? ?? ??? ???? ?? ?? ??????? ??? ????? ??? ????? ??? ??? ?????(?? 1).

*?? 1. ??????? ?? ?????? ???? ?? NIM? ????? ????? NeMo Retriever? ???? ???? ????*

??? ??

??? ???? ?? ??? ??? ???? ??? ????? ???? ?? ??? ???? ? ?????. ?? ?? ??? ??? ?? ??????? ?????. ???? ??? ?? ? ??? ??? ??? ??? ???? ??? ??????. ?? ?? ? ??? ?? ??????? ??? ??? ???? ‘?? ??? ??’ ??? ?? ???? ???? ???? ?? ???? ?? ??? ???? ? ?????.

??? ??

??? ??? ??? ???? ??? ??? ???? ?? ??? ??? ?? ?? ? ???? ???? ??????.

??? ??? ???? ??? ? ??? ??? ?? ????? ? ??? ??? ???? ??? ??? ??? ??? ?????. ??? ???? ??? ?, ? ? ??? ?? ???? ??? ??? ?? ? ????. ?? ?? ??? ???? ?? ? ?????

??? ??? ?? ?? ???? ??????? ????. ??? ??? ??? ???? ?? ??? ?????, ??? ??? ?? ? ?????.

? ??? ??? ??? ???? ?? ? ??? ??? ??? ??? ???? ???? ??? ??? ?? ?? ?(?: 100?)? ?????. ?? ?? ?? ???? ?? ??? ???? ?? ? ???? ? ??? ??? ??? ?????. ?? ?? ?????? ???? ? ??(?, ?? PDF ??, ???? ?????? ?)?? ?? ???? ?? ?? 5?? ??? ???? ??, ??? ??? ??? ??? ?? ??? ?? ??? ??? ? ?????.

NeMo Retriever NIM: ??? ?? ???

??????? ?? ?? ?????? ??? ?? ??? ?????? ? ?? ?? ?? ??? ????. NeMo Retriever NIM? ? ? ??? ??? ????? ???????.

??

??? ?? ?? ??? ?? ?? ??? ??? ????.

?? ??: NIM? ???? ?? ?? ??? ?? ?? ????? ???? ?????? ?????? ???? ??? ?? ? ??? ??? ???? ?? ?????? ?? ??? ??? ? ??? ????. NIM? ?????? ?????, ??? ?? ?? ?? API ? Helm ??? ?? ?????.

??? ???: NIM? NVIDIA AI ?????? ?????? ?? ???? ???? ?? ??? ??????? ??? ???? ?? ? ?? ??? ????? ?????? ???? ???? ? ?? ??? ?????.

???

NIM? API ???, ?? ??, ?? ??, ??????? ??????? ??? ??? ?? ??? ???? NVIDIA AI ?????? ????? ???, AI? ???? ????? ???? ??? ?? ?????.

*?? 2. NVIDIA NIM ?? ???????? ??? ??? ???? ??? ???? ?????*

?? ?????? ?? NIM ????

?? ?????? ??? ? ???, ?? ??, ??? ?? ???, ???? ??? ? ? ?? ??? ??? ??? ???. ???? NIM ???? ?? ?? ?? ??? ?? ?? ???? ????? ?? ??? ?????? ??? ? ????. ??? ? ?? ???? ?? ?????:

??? ??? ? ?? ?? ???

???? ????? ?? ?? ??? ????? ?? ??? ?? ??? ??? ?? ??? ??? NV-EmbedQA-E5-v5 NIM? ???? ????.

???, ?? ??????? ???

??? ? ?? ???????? ?? ???? ?? ???? ??? ??? ???? ??? ????. ??? ??, ?? ?? ??? ????? ???? ???? ????? ?? ?? ? ???? ?? ??? NV-EmbedQA-Mistral7B-v2 NIM? ???? ?? ????.

??? ? ?? ???? ???

??? ? ?? ???? ???? ?????? ?? ??? ????? ?? ?? ??? ?????. ?? ?? ??? ??? ??? ???? ??? ?? ???? ??? ?? ???? ????? ??? ? ????. ???? ?? NV-EmbedQA-E5-v5 NIM? ???? NV-RerankQA-Mistral-4B-v3? ???? ??? ???? ?? ????.

?? 3? ?? 4?? NeMo Retriever NIM? ???? ???? ?? ??? ??? ?? ????. ??? ??? ??? ???? ?????? ?? ?? ??? ? ???? ? ?? ?? ????? ?????, ?? ??? ???? ??? ???? ?? ??? ?? NIM? ???? ?? ????.

?? ?????? ???? ?? ?? ??? ?? ??? ????? ? ???? ?????.

*?? 3. NeMo Retriever NIM? ???? ??? ??? 2?, ??? ??? 1.75? ?????.*

*?? 4. NQ, HotpotQA, FiQA, TechQA? ?? ?? ?? ???? ??? ???? ??? ???? ???? NeMo Retriever NIM ?????? ??(Recall @5)*

????

??? ??? API ?????? ?? ?? NVIDIA NeMo Retriever NIM? ??? ???. ?? ??????? ???? ?? NVIDIA NIM? ???? ??? ???? NVIDIA ??? AI ??? ?????. NVIDIA LaunchPad?? RAG ?????? ??? AI ??? ??? ? ? ?? ?? ?????. NIM? ??? ???? ?????? ???? ?? ?? ?? ?????.