• <xmp id="om0om">
  • <table id="om0om"><noscript id="om0om"></noscript></table>
  • Data Science

    Cyborg ? RAPIDS cuVS? ?? ??? ??? ??

    Reading Time: 5 minutes

    ??? AI ??? ?? ??????? ??? ???? ????? ???? ???? ? ???? ? ? ?? ??? ?????. ??? ?? ??????? ????? ?? ??????? ??? ??, ?? ??, ?? ??? ? ??? ??? ?????. ??? ???????? ??? ?? ??? ???? ?? ??? ??? ?? ???? ??? ???? ?? ????? ?????.

    ? ??? ??? ???? ?? Cyborg? ??? ?????? ?? ??? ????? ?? ?? ??? RAPIDS cuVS ?????? ???? ?? ??????? ??? ???? ?? NVIDIA? ???? ????. ? ??? ??? Cyborg? ???? ?? ?? ??? GPU ??? ???? ?? ?? ?? ??? ??? ???? ????.

    ?? ?????? ???

    ?? ??????? ?? ??? ??? ??????? ????, ?? ?? ??(RAG) ??????? ?? ???? ????? ?? ?? ?????.
    ??? ??????? ??? ??? ?? ? ?? ??? ??? ??????? ??????, ??? ???? ??? ?? ???? ?? ? ??? ???? ??? ? ? ????. ??? ?? ??? ?? ??? ???? ?? ??? ???? ?? ???? ?????:

    • ?? ??: ?? ??, ??, ?? ???, ?? ??? ??? ???? ?? ? ?? ???? ?? ?? ??? ? ????? ??????? ??? ??? ??? ? ????.
    • IP ?? ??: ?? ??, ?? ??? ??? ?? ??? ?? ??? ???? ??, ??, ?? ??? ??? ?????.

    ??? ??? AI ?? ????? ????? ?? ??? ??? ? ???, ?? ??? ???? ? ???? ????.

    ???: ???? ?? ??

    ??? ??? ? ????? Cyborg? ? ??? ???? ?? ????? ???? ?? ?? ??? ??????. ??? ????? ? ??? ??? ???? Cyborg Vector Search? ?? ???? ???? ???? ??? ? ?? ????. ????? ???? ????? ?? ??? ??????? ???? ??? ????? ?? ??? ??? ???? ?? ??? ??? ??? ??? ? ????.

    Cyborg ?? ??? ??? ?? ?? ?? ??? ??? ???? ???????:

    • ????? ???: ??? ???? ?? ??? ?? ???? ?? ????? ?? ?? ??? ??? ???? ?????.
    • ???: ????? ???? ?? ??? ????? ???? ???? ??? ??? ????? ?? 5% ??? 30% ???? ?????.
    • ???: ?? ?? ?? ????? ? ?????? ???? ???? ??????? ?????? ???? ??? ? ????.

    NVIDIA ????

    ? ???? GPU?? ???? ???? ???? ?? ?? NVIDIA ???? ???? ?????. ???? ???? ??? ? ?? ?? ??(TEE)? ???? ??? ??? ?? ??? ??? ?????? ??? ? ??? ??? ??? ?? ??? ??? ?????. ? ??? GPU ?? ??? ? ???? ???? ???? ? ?? ?????.
    ? ???? ?? ????? ???? ???? ???? NVIDIA H100 ?? ?? GPU(80GB)???. ???? ???? ?? ?? NVIDIA Hopper ?? ?? GPU?? ????? ??? ? ???, ??? NVIDIA ??? ?? ?? GPU??? ?? ??? ?????.

    CC ??? ??? NVIDIA GPU?? ???? ?? ??? ??, ??? ? ?? ?? ??? ????? TEE? ???? ????? ?? ???? GPU?? ???? ?? ?? ????? ????? ???? ??? ? ????.
    NVIDIA Hopper ???? ???? PCIe ??? ?? ??? ???? AES-GCM256?? ??? ? ???? ?? ? ?? ??? ???? ??? ????? ??? ? ?? ? ???? ?????. ?? NVIDIA? ?? ?? ?? ???? ???? ?? ??? ?? ?? ???? ????? ???? ??? ??????? ?? ???? ???? ?? ??? ?? ? ??? ???.

    Cyborg? NVIDIA LaunchPad? ???? ??? ????? ??? ??????. LaunchPad? NVIDIA ??, ???, ISV?? ???? ?? ???? ???? ?? ??? ?? ?? ?? ???? ?????. ? ??? ?? VM ?????? ?? ?? ?? ?? ????? ?? ???? ???? ???? ???? ? ??? ?? ??? ?? ???????. Cyborg? ???? ?? ??? ?? ?? ??? ??? ??? ? ?????.

    ???? ?? ?? ???

    ???? ?? ??? ??? ?? ??? ????? ?? ??? ?? ?? ?????? ????? ??? ? ????. ??? GPU ???? ?? ??? ?????. RAPIDS cuVS?? ?? ?? ??? ???? ?????? ???? ????.
    ??? ??? ??? ???? ?? Cyborg? NVIDIA? ?? ?? ??(POC)? ??????. ???? GPU ???? ???? ?? ??? ????? ?? cuVS? Cyborg ?? ??? ???? ??? ???????.

    ?? 1. Cyborg-NVIDIA ?? PoC? ???? ??? ? ?? ?????

    ? PoC??? CPU? GPU?? ???? ??? ? ?? ??? ??????. ?????, CPU? scikit-learn KMeans? hashlib? ?? GPU? cuVS? ??? SHA-3 CUDA ??? ??????. ??? ? ??? ?????:

    • ??? ?? ??? ?? 47? ??? ?? ???? ????? ? ??? ??? ? ???? ? ??? ???????. ????? ?? ?? ? ??? ??, cuVS? ????? ??? 52.2?? ?? ? ???????.
    • ?? ?? ??? ??? ?????. ?????? cuVS ???? ??? ???? ?? ???? 9.8?? ?? ??? ??????.
    • ???? ???? ????? ???? ?? NVIDIA Hopper ???? ??? ??? ????? ????? ?? ??? ?? ?? 1~2%, 15~25% ??? ??? ???????. ?? GPU ???? ?? ??? ? ?? ??? ?? ????????.

    ?? 2? ??? ?? ?????? ???? GPU? ??? CPU? ?? ?? ??? ?????.

    ?? 2. CPU? GPU? ?? ??? ?? ??

    ????? ?? ??? ????? ??? ?? ??? ?????. ????? ???? ??? ? ???? ????? ?????, GPU? ??? ??? ??? ?????(?? 3).

    ?? 3. CPU? GPU?? ????? ?? ??? ?? ?? ??? ?? ??

    ?????, GPU? ???? ?? ?? ??????? ??? ?? ??? ?? ? ????(?? 4).

    ?? 4. CPU? GPU??? ?? ??

    ?? ??? ??? ??? ??(?? ?? > 0.95)?? ?? ????.

    ???? ???? ?? ??? ?? IVFPQ ??? ??? ???????.

    ??

    ??? ??? ?? ? ???? ???? ??? ?? ???? ??? ??? ?????. Cyborg ?? ??? RAPIDS cuVS ? NVIDIA ???? ???? ??? ??? ????? ??? ???? ???? ?? ??? ?? ??????? ??? ???? ??? ?? ??? ?????.

    NVIDIA? ????? ?? ??? ?? ??? ???? ?? ???? ??? ???? ???? ???? ?? ??? GPU ?????, NVIDIA Hopper ???? ?? ???? ??? ???? ?????. NVIDIA? ??, ?? ? ?? ???? ????? ?? ?? ?? ???? ???? ??? ??? ??? ????? ???? ????.

    Cyborg ?? ??? ?? ?? ?? ???? ?? ??? ???? ?? ????. ??? ?? ???? ?? ??? ??? AI ????? ??? ?? Cyborg?? ???? ??? ?? ????.

    ?? NVIDIA Hopper ???? ???? ??? ??? LaunchPad ?? ?????. ?? ???? ? ???? ?? ??? ?? ???? ???? ??? ? ????.

    ?? ???

    Discuss (0)
    0

    Tags

    人人超碰97caoporen国产