??????(SOC) ????? ?? ??? ?? ?? ??? ?????. ??? ???? ??? ???? ?? ??? ???? ??? ??? ??? ???? ?? ?? ??? ??? ? ? ?? ?? ???? ?? ??? ?? ????. ??? ??? ?? ?? ??? ??? ??? ?? ??? ?? ? ????. ????? ??? ?? ??? ??? ?? ?? ????? ?????.
??? ??? ???? ??? ????? ? ?? ??? ??? ???? ?????? ??? ? ?????
? ??? ?? ??? ???? ???? ???? ?? GPU ?? ??? ?? AI ?????? NVIDIA Morpheus? ???? ??? ?????. ?? ?????? ??? ?? ??? ??? ? ?? ??? ????? AI ?????? ??? ????.
??? ????? ???????? ?? ???? ???? ?? ???? ???? ?? ?? ??? ??? ?????. ???? ?? ?? ??? ??? ??? ???? ? ??? ????? ??, ?? ??? ???? z-??? ?????.
?? ??? ???? ?? NVIDIA NIM? ??? AI? ??
????? ??? ?????? ?? AI ?? ??? ?? ?? ?? ?????? ??? ?? ?? ??? ?? ???? ?? ??? ?? ????? ?? ?? ?????? ??? ? ??? ??? ?????.
? ??? ?? ??? ????? ???? ? ??? ?? ?? ? ????. ? ???? ??? AI? ??? ????? ?????? ???? ??? ???? ???? ?? ???? ?? ?? ??? ????? ???? ??? ?????.
?? Llama 3.1 ??? ???? ??? ??? ?? ????? ??? ?? ???? ???? ???? ??? ???? ??????. ? ?? ????? ??? ???? ?????? ????? ?? ?? ??? ????? ??? ????, ?????, ???? ????. ? ?? ??? ????? ??? ???? ? ??? ?? ??? ?????.
?? ?? ? ?? ??? ???? ??? ?? ???? ???? ?? ?????? ?? ? ????. ????? ?? SOC ?????? ?? ??? ?? ?? ??? ?????.
??? ???? ????? ?????:
??? ???? ?????.
LLM ????? ???? ? ?????? ??? ?? ???? ?? ??? ??? ?????. ?? ??? ????? ???? ??? ??????? ???? ??? ?? SOC ???? ???? ??????? ??? ?? ?? ??? ??? ?????.
????? ?? ?? ??(RAG)? ?? ?? ??? ?????.
LLM ????? ?? ??? ?? ???? ?????.
???? ??? ??? ?????? ??? ????.
??? ???? ???? ?????? ??? ??? NVIDIA NIM ???????? ? ???? ????? ?????.
?? ???? ??:
- ?? ??? ???? ???? ?? ?? ??(ASR)? ?? Parakeet-CTC-1.1B NIM ???????.
- LLM ??? ?? ???? ???? ?? NVIDIA Riva? ??? ?? ??(TTS)? FastPitch-HifiGAN NIM ???????.
- Llama 3.1 NIM ???????? LLM ????? ?????.
RAG? ??? ? ?? ????? ??:
- ???? ?? NVIDIA NeMo Retriever? embed-qa-4 ?? NIM ???????.
- ???? rerank-qa-mistral-4b ??, ?? NeMo Retriever?? ??.
- ? ??????? ??? ?? 5.4?? ???? ?? ???? ??? ??? ?? ??? ??????? NVIDIA Audio2Face NIM.
?? ???? NIM ???????? ???? ?? ??? ?? API ???? ?? build.nvidia.com?? ????? ???? ?? ?????? ?? ??? ? ?? ??? ?? API ?????? ????? ??? ??? ?????.
? ?? ????? ??? ?? SOC ??? ??? ????? ?? ??? ?? ????? ??????. ????? ? ?????? ??? ?? ??? ???? ???? ????? ???? ?? ????? ?? ?????.
????
???? ?? 1 SOC ????? ????? ??? june@domain.com ? ????? ?? ????? ???? ???? ???? ??? ??? ???? ??? ?????.
?? ???? ???? ?? ??????? ?????. ?? ???? ?? ??? ?? ??? ???? ?? ? ?? ??? ?? ?? ??? ???? ???.
??? ???? ???? ??? ???? ?? URL? ?????. ? URL? VirusTotal? ?? ??? ?? ??? ?????. ? URL? ????? ??? ?? ???? ???? ? ??? ?? ???? ??? ????.
????? SOC ???? ??? ????? ??? ??? ???? ?? ?? ?? ? ????, ???? ??? ?? ? ?? ???? ??? ?????.
??? ??? ???? RAG ?????? “june@domain.com ???? ?????? ??? ?? ?? ????? ??? ? ????”?? ?? ???? ??? ? ????.
LLM ????? ?? ???? ??? ?? ?? ?? ? ?? ???? ???? ? ?? ??? ??? ???? ?? ???? ??? ??? ??? ?? ??? ??? ??? ??? ? ????.
??? ??? ????? ??? ??? ?? ? ?? ??? ?? ??? ??? ? ??? ????? ???. LLM? ??? ???? ?? ?? ???? ???? ?? ?? ????? ?????. ??? SOC ???? ?? ??? ???? ?? ??? ? ? ????. ?? ??? LLM ?????? “??? ?? ??? ??? ?? ???? ???????”? ?? ??? ? ? ????.
??? ???? ??? SOC ???? ???? ?? ? ???? ???? ??? ??? ???? ???? ? ??? ? ??? ?? ????. ??? ??? ???? ????? ? ?? ??? ?? ?? ??? ????? ???? ?? ???? ???? ? ?? ??? ?? ??? ??? ?? ?????.
??, ??? ?? ???? ?? ??? ? ?? NVIDIA Riva NIM ???????? ?? ?? ??? ??? ?????.
????? ? ?? ??? ??? ??? ???? ????. ??? ??? ??? ?? ?? ??? ???? ?? ???? LLM? ??? ? ??? ???? ??? ? ????. NVIDIA ACE Audio2Face NIM ???????? ???? ?? ??? ???? ?? ???? ???? ?? ??? ?????? ??? ?????.
???? ??? ???? ???, ???? ?? ??? ?? ??? ???? ??? ??? ????? ???? ??? ??? ? ?? ??? ?????(??? 1). ??? ???? ?? ?? ??? ???? ?? AI? ???? ????.
???? ?? ??? ??? ? ?? ???? ?? ???? ??? ?? ?? ??? ??? ? ?? ??? ??? ?? ???? ???? ??? ??? ?????.
NVIDIA ?? ?? ???? ???? ??? ?????? ?? ??? ????? ?? ???? ???? ??? ??? ? ?? ??? ??? ???? ?? ???? ????.
NVIDIA Morpheus ????
? ?????? ? ? ??? Morpheus ??? ?????? ?? ???? ?????? ?? ???? ?? ?? ??? ?? 100% ??? ???? ????? ?????.
? ?????? ??? ???? RAG ?????? ???? ????? NVIDIA Morpheus ?? ??? ?? AI ?????? ???? ???. ? ?????? ?? ??? ?? ????? ???? ??? ? ??? ?? ????? ????? ?? ???????.
??? ???? ??? ?? ???? ??? ??? ?? ?? ????? ????, SOC ?????? ??? ???? ??? ??? ? ?? ?? ??? ??? ????? ?? ??? ?? ??? ?? ??? ? ????.
?? NVIDIA NIM ???????? ?? NVIDIA Morpheus? ???? ??? ??? ?? ?????? ??? ???? ?????? ?????.
??? ??? ?? ???? ?????:
- Morpheus ??? ??
- AI ?? ??? ?? ????? ??(?? ?? ?? ? ?? ??? ?? ??)
- NVIDIA API ????(??? ? ?? ??? ??? ?? NVIDIA NIM ???????)
- ??? ?? ?? ??? GitHub ?????
?? ???
- GTC ??: AI? ???? OT ???? ??? ?? ?? ? ?? ????
- GTC ??: LLM ?? ????? ?? ????(Quantiphi, Inc. ??)
- GTC ??: ?? ?? ??? ???? ? ??? ??? ?? ??? ???? ??(??: Quantiphi, Inc.)
- NGC ????: ASR Parakeet CTC Riva 1.1b
- NGC ????: TTS FastPitch HifiGAN Riva
- NGC ????: NMT Megatron Riva 1b
