??? AI ??? ?? ??????? ??? ???? ????? ???? ???? ? ???? ? ? ?? ??? ?????. ??? ?? ??????? ????? ?? ??????? ??? ??, ?? ??, ?? ??? ? ??? ??? ?????. ??? ???????? ??? ?? ??? ???? ?? ??? ??? ?? ???? ??? ???? ?? ????? ?????.
? ??? ??? ???? ?? Cyborg? ??? ?????? ?? ??? ????? ?? ?? ??? RAPIDS cuVS ?????? ???? ?? ??????? ??? ???? ?? NVIDIA? ???? ????. ? ??? ??? Cyborg? ???? ?? ?? ??? GPU ??? ???? ?? ?? ?? ??? ??? ???? ????.
?? ?????? ???
?? ??????? ?? ??? ??? ??????? ????, ?? ?? ??(RAG) ??????? ?? ???? ????? ?? ?? ?????.
??? ??????? ??? ??? ?? ? ?? ??? ??? ??????? ??????, ??? ???? ??? ?? ???? ?? ? ??? ???? ??? ? ? ????. ??? ?? ??? ?? ??? ???? ?? ??? ???? ?? ???? ?????:
- ?? ??: ?? ??, ??, ?? ???, ?? ??? ??? ???? ?? ? ?? ???? ?? ?? ??? ? ????? ??????? ??? ??? ??? ? ????.
- IP ?? ??: ?? ??, ?? ??? ??? ?? ??? ?? ??? ???? ??, ??, ?? ??? ??? ?????.
??? ??? AI ?? ????? ????? ?? ??? ??? ? ???, ?? ??? ???? ? ???? ????.
???: ???? ?? ??
??? ??? ? ????? Cyborg? ? ??? ???? ?? ????? ???? ?? ?? ??? ??????. ??? ????? ? ??? ??? ???? Cyborg Vector Search? ?? ???? ???? ???? ??? ? ?? ????. ????? ???? ????? ?? ??? ??????? ???? ??? ????? ?? ??? ??? ???? ?? ??? ??? ??? ??? ? ????.
Cyborg ?? ??? ??? ?? ?? ?? ??? ??? ???? ???????:
- ????? ???: ??? ???? ?? ??? ?? ???? ?? ????? ?? ?? ??? ??? ???? ?????.
- ???: ????? ???? ?? ??? ????? ???? ???? ??? ??? ????? ?? 5% ??? 30% ???? ?????.
- ???: ?? ?? ?? ????? ? ?????? ???? ???? ??????? ?????? ???? ??? ? ????.
NVIDIA ????
? ???? GPU?? ???? ???? ???? ?? ?? NVIDIA ???? ???? ?????. ???? ???? ??? ? ?? ?? ??(TEE)? ???? ??? ??? ?? ??? ??? ?????? ??? ? ??? ??? ??? ?? ??? ??? ?????. ? ??? GPU ?? ??? ? ???? ???? ???? ? ?? ?????.
? ???? ?? ????? ???? ???? ???? NVIDIA H100 ?? ?? GPU(80GB)???. ???? ???? ?? ?? NVIDIA Hopper ?? ?? GPU?? ????? ??? ? ???, ??? NVIDIA ??? ?? ?? GPU??? ?? ??? ?????.
CC ??? ??? NVIDIA GPU?? ???? ?? ??? ??, ??? ? ?? ?? ??? ????? TEE? ???? ????? ?? ???? GPU?? ???? ?? ?? ????? ????? ???? ??? ? ????.
NVIDIA Hopper ???? ???? PCIe ??? ?? ??? ???? AES-GCM256?? ??? ? ???? ?? ? ?? ??? ???? ??? ????? ??? ? ?? ? ???? ?????. ?? NVIDIA? ?? ?? ?? ???? ???? ?? ??? ?? ?? ???? ????? ???? ??? ??????? ?? ???? ???? ?? ??? ?? ? ??? ???.
Cyborg? NVIDIA LaunchPad? ???? ??? ????? ??? ??????. LaunchPad? NVIDIA ??, ???, ISV?? ???? ?? ???? ???? ?? ??? ?? ?? ?? ???? ?????. ? ??? ?? VM ?????? ?? ?? ?? ?? ????? ?? ???? ???? ???? ???? ? ??? ?? ??? ?? ???????. Cyborg? ???? ?? ??? ?? ?? ??? ??? ??? ? ?????.
???? ?? ?? ???
???? ?? ??? ??? ?? ??? ????? ?? ??? ?? ?? ?????? ????? ??? ? ????. ??? GPU ???? ?? ??? ?????. RAPIDS cuVS?? ?? ?? ??? ???? ?????? ???? ????.
??? ??? ??? ???? ?? Cyborg? NVIDIA? ?? ?? ??(POC)? ??????. ???? GPU ???? ???? ?? ??? ????? ?? cuVS? Cyborg ?? ??? ???? ??? ???????.
? PoC??? CPU? GPU?? ???? ??? ? ?? ??? ??????. ?????, CPU? scikit-learn KMeans? hashlib? ?? GPU? cuVS? ??? SHA-3 CUDA ??? ??????. ??? ? ??? ?????:
- ??? ?? ??? ?? 47? ??? ?? ???? ????? ? ??? ??? ? ???? ? ??? ???????. ????? ?? ?? ? ??? ??, cuVS? ????? ??? 52.2?? ?? ? ???????.
- ?? ?? ??? ??? ?????. ?????? cuVS ???? ??? ???? ?? ???? 9.8?? ?? ??? ??????.
- ???? ???? ????? ???? ?? NVIDIA Hopper ???? ??? ??? ????? ????? ?? ??? ?? ?? 1~2%, 15~25% ??? ??? ???????. ?? GPU ???? ?? ??? ? ?? ??? ?? ????????.
?? 2? ??? ?? ?????? ???? GPU? ??? CPU? ?? ?? ??? ?????.
????? ?? ??? ????? ??? ?? ??? ?????. ????? ???? ??? ? ???? ????? ?????, GPU? ??? ??? ??? ?????(?? 3).
?????, GPU? ???? ?? ?? ??????? ??? ?? ??? ?? ? ????(?? 4).
?? ??? ??? ??? ??(?? ?? > 0.95)?? ?? ????.
???? ???? ?? ??? ?? IVFPQ ??? ??? ???????.
??
??? ??? ?? ? ???? ???? ??? ?? ???? ??? ??? ?????. Cyborg ?? ??? RAPIDS cuVS ? NVIDIA ???? ???? ??? ??? ????? ??? ???? ???? ?? ??? ?? ??????? ??? ???? ??? ?? ??? ?????.
NVIDIA? ????? ?? ??? ?? ??? ???? ?? ???? ??? ???? ???? ???? ?? ??? GPU ?????, NVIDIA Hopper ???? ?? ???? ??? ???? ?????. NVIDIA? ??, ?? ? ?? ???? ????? ?? ?? ?? ???? ???? ??? ??? ??? ????? ???? ????.
Cyborg ?? ??? ?? ?? ?? ???? ?? ??? ???? ?? ????. ??? ?? ???? ?? ??? ??? AI ????? ??? ?? Cyborg?? ???? ??? ?? ????.
?? NVIDIA Hopper ???? ???? ??? ??? LaunchPad ?? ?????. ?? ???? ? ???? ?? ??? ?? ???? ???? ??? ? ????.
?? ???
- DLI ??: RAPIDS cuDF? ?????? ?? ?? ???
- GTC ??: GPU ?? ?? ?? ? RAG ?????? ??? ?? ??, ??? ??? ??, ??? ????
- GTC ??: GPU ?? ??????? AI ?????? ????
- GTC ??: GPU ?? ?? ??????
- NGC ????: NVIDIA RAPIDS PB 2023? 10? (PB 23h2)
- SDK: RAPIDS
