• <xmp id="om0om">
  • <table id="om0om"><noscript id="om0om"></noscript></table>
  • Generative AI / LLMs

    ???? ?? ?? ?? 101

    Reading Time: 7 minutes

    ?? ?? ?? (RAG) ??????? ????? ??? ?, ???, ??, ????? ? ??? ??? ???? ??? ??? ? ??? ? ???? ??????? ??? ????. ??? ??? ???? ??? ???? ???? ???, ??? ? ?? ??? ??? ???? ???? ???? ??? ??? ? ?? ?????? ?????.

    ? ?????? ???? RAG ?????? ???? ?? ?? ?? ??? ?? ??? ?? ?? ???? ?? ?????. ??? ????? ?? ???? ??? ? ?? ?????? ??? ??????.

    ????? ??? ??? ??????

    ??????(???) ???? ???? ???? ?? ? ??? ??? ?, ??, ????? ?? ??? PDF? ?? ?? ??? ???? ?? ??? ????.

    ??? ??? ?? ?? ?? ?, ? ???? ??? ??? ??? ???? ?? ?? ??? ??? ??? ???? ???????.

    ? ???? ??? ??? ????.

    ???? ?? ??(?? 1), ?? ???? ?? ???? ?????? ???? ???? ? ??? ?? ????. ??, ??, ??, ??? ?? ? ?? ?? ????? ??? ???? ??? ??? ? ????.

    ?? 1. ????? ???? ???? ??? ?? ??

    ???? ???? ??? ?????? ?? ?? ??? ?? ???? ??? ? ???, ??? ????? ????? ???? ??? ????? ??? ? ?? ?? ????? ???????. ?? ?????? ???? ??? ???? ???? ???? ??? ????? ??? ? ????.

    ?? ??? ?? ??? ??? ??????

    ? ?? ??? ??? ??? ????? ?? ??? ???? ????. ?? ??, ??? ???? ?? ??? ???? ??? ??? ??? ???? ???? ???? ??? ????? ???? ???.

    ???? ??? ?? ?? ??

    ?? ??? ????? ?? ??? ??? ???? ?? RAG ????? ??? ?? ??? ?????.

    ???? RAG ?????? ???? ?? ? ?? ?? ?? ??? ????:

    • ?? ????? ??? ?? ??? ????
    • ?? ????? ??? ?? ????? ??
    • ?? ?? ????? ?? ??? ??? ??

    ??? ????? ?? ???? ??? ??? ???? ?????.

    ?? ????? ??? ?? ??? ?????

    ???? ???? ?? CLIP? ?? ??? ???? ???? ???? ?? ??? ?? ??? ???? ? ????. ??? ?? ??? ??? ??? ?? RAG ???? ???? ??? ??? ???? ?? ????? ??? ? ????. ?? ?? ?? ??? ?? ?? ??? ??? ?? ?? ?? ?? (LLM)? ???? LLM(MLLM)?? ?????.

    ? ?? ??? ?? ?? ??????? ??? ??? ?? ??? ??? ??? ???? ???? ?????? ??????.

    ? ????? ??? ??? ???? ???? ????? ???? ? ?? ??? ????? ???? ???? ??? ?? ?? ??? ??? ?? ??? ? ??? ??? ??? ????.

    ?? ????? ??? ?? ????? ????

    ? ?? ??? ??????? ??? ?? ?? ????? ???? ?? ?? ????? ?? ????? ?? ????.

    ?? ?? ??????? ?? PDF?? ??? ?? Q&A? ???? ????? ??? ?????. ? ?? ???? ????? ????? ???? ?? ??? ???? ??? ??? ?????? ?????. ?? ??? ??? ? ??? ???? ?????.

    ?? ???? ??? ?? ???? ?? ??? ??? ?????? ???? ????, ??? ??? ??? ?? LLM? MLLM? ???? ?? ?????.

    ??? ?? ? ??? ??? ??? ????? ??? ?????? ???? ??? ??? ? ?? ????? ????. ?? ??? ???? ?? ??? ??? ???? ??? ??? ?? ??? ??? ?? ???? ???? ? ???? ??? ???. ?? ??? ??? ??? ???? ???? ????? ????.

    ??? ????? ?? ??? ??? ??

    ??-???? ?? ?? ????? ?? ??? ???? ????, ?? ???? ?? N?? ??(Chunk)? ??? ??, ?? ???? ???? ?? ???? ?? ??? ????? ?? ? ?? ?? ?????.

    ? ?? ??? ??? ????? ?????? ?? ???? ???? ?? ??? ??? ??? ??? ????. ??? ?? ??? M*N ??( M?? ???? ??N? )? ???? ?? ???? ??? ???? ?????.

    ??? ?? ???? ??

    LLM? ??? ?? ??? ????, ????, ????? ???????. ??? ?? ??? ???? ??? LLM? ??? ??, ??, ?? ?? ?? ?? ??? ??? ?? ??? ??? ? ????.

    MLLM? ??? ??? ??? ?? ??? ? ????. MLLM? ???, ???, ???? ?? ??? ??? ? ???, ?? ?? ?? ???? ???? ?????. ??? ??? ??? ??? ???? ??? ?? ????? ?????? ??? ???? ???? ??????.

    ??? ??? ??? ??? ??? ? ????:

    • ?? ?? ?? ? ??
    • ?? ?? ??
    • ??? ??
    • ??? ?? ??(VQA)

    ??? ??? ?? RAG ???? ?? ????? ????? ??? ?? ? ?? ?????. MLLM? ??? ? ???? ?? ???? ??? ? ?? ????? ??? ??? ??? ????? ??? ??? ????.

    MLLM? ?? ?? ?? ?? ? ??? ??? ?? ?? ???? ??? ??? ??? ??? ???? ?? ?? ??? ???-??? ??? Pix2Struct???. ? ??? ???? ? ? ??? ????? ??? ???? ??? ?????. ?? ??, Pix2Struct ??? ???? ?? ??? ???? ???? ??? ? ????.

    ?? ????? ?? RAG ?????? ???? ??? ???????.

    ???? RAG? ?? ????? ????

    ??? ??? ???? ???? ??? ????? ?? NVIDIA H100 GPU? MLPerf ???? ?? ????? ?? ?? ?? ???? ????? ??????? ?????. ? ????? ??? ???, ? ??? ???? ?? ??? ??? ??? ???? ??? ???? ???? ????.

    ???? ???? RAG ?????? ???? ?? ??? ??? ??? ??? ????:

    • MLLM: ??? ?? ? VQA? ?????.
    • LLM: ???? ?? ? ??? ?? ??.
    • ?? ???: ???? ??? ??????.
    • ?? ??????: ??? ?? ???? ??? ?????.

    ???? ??? ?? ? ?? ?????? ???

    RAG ??????? ???? ?? ? ?? ??? ???? ????? ?? ???? ??? ??? ?? ??? ?? ?? ??? ??? ? ??? ?? ????.

    ???? ???? ?? ??, ??? ??? ? ?? ???? RAG ??? ????????(?? 2).

    ?? 2. ???? ?? ???? ?? ???? RAG ??? ?????

    ??? ????? ?? 3? ?? ??? ??? ?? ? ???? ????. ??? ?? ??? ????? LLM? ???? ??? ??? ??? ? ?? ??? ?? ??? Google? DePlot? ?????. ? ??? NGC?? ??? ? ????.

    RAG ???????? DePlot API? ???? ??? ?? ??? ??? ???? DePlot ??? ??? ????? ?????.

    ?? 3. ??? ??? PDF? ??? ?? ??

    ? ????? ??? ??? ??? ?? ????. ?? ???? ?? ???? ???? ?? ?? ???? ???? ?? ?? ??? ??? ??? ? ?? ???? ??? ? ????. ?? ?? ??? ?? ???? ??? ???? ??? ???? ?? ? ?? ??? ????: ?? ??? ???? ????? ??? MLLM? ????? ??? ??? ???? ?? ?? ???? ???? ????.

    ??? ???? ?? ?? ? ?? ??? ??? ??? ??? ???????:

    ? ???? ??? ?????? ???? ??? ?? ??? ???, ??? ?? MLLM ? LLM? ???? ??DB? ???? ??????? ? ????? ???? ??? ?? ??? ?????(?? 4).

    ?? 4. ??? ??? ???? ???? ??? ?? MLLM? ??? RAG ??? ?????

    ??? ??? ?????? ? ?? ?? ?????:

    • ???? ??? ??
    • ??? ??? ?? MLLM? ???? ???? ?????.
    • PDF? ??? ??

    ???? ??? ??

    ??? ???? ??? ??? ??? ????. ?? ???? ???? ???? ???? ???? ?????. ?? ?? ? ? ?? ????? ???? ????? ?? ???? ??? ? ????.

    ??? ??? ?? MLLM? ???? ??? ????

    MLLM?? ??? ??? ??? ???? ????? ??? ?? ???? ????? ??? ? ????. ??? ?? ???? ??? ???? DePlot? ???? ???? ? ??? ???? ?????. ? ???? ?? ???? ????? ???? ?? ?? ??? ??? ? ?? ??? ???? ? ???? ?? ? ????.

    ???? ???? ??? ??? ???? ?? ???? ???? ??? ?? MLLM? ??? ?????? ???? ?? ?? ??? ? ??? ?? ?? ????.

    PDF? ??? ??

    ?? ?? ???? ?? ??? ??? ?? ??? ???? ??? RAG ??? ?? ? ????. ???? ??? ? ??? ??? ?????.

    ?? ??????? ????

    ? ?????? ???? PDF? ?? ?? ???? ??? ????? ??? ? ????. ???? ??? ? ? RAG ?????? ???? ??? ??? ????.

    ???? ???? ??? ???? ??? RAG ?????? ??? ????? ???? ??? ??? ???? ?? ?? ??? ?????. ??? ??? ????? ???? ?? ???? ?? ??? ???? ?? ?? ??? LLM?? ??? ?? ? ?? ?? ??? ?????.

    ?? 5? ???? ??? ???? ??? ??? ??? ???? ??? ??? ???? ??? ?? ?? ??? ?????.

    ?? 5. ???? ????? ??? ???? ??? MLLM? ??? RAG ?? ?????

    ??? ?? ?? PDF? ???? ? ?? ???? RAG ?? ??? “3D U-Net? ???? NVIDIA A100? NVIDIA H100(v2.1)? ?? ??? ??????”?? ??? ?? ?????.

    ?????? ?? ??? ???? ???? ? ????, 3D U-Net ?????? ???? ??? ??? NVIDIA A100?? NVIDIA H100(v2.1)? 80% ? ??? ??? ???? ???? ? ??????.

    ?? 6. NVIDIA ??? ???? ??? ???? ??? ??? ??? ?? ??

    ??? ??? ???? ?? 5?? ?? ??? ??? ? ??? ???? ? ??? ? ?? ?? ?????:

    • ??? ????? ??? ?? MLLM? ??? ??? ?? ???? ???? ?? ??? ?????. ?? VQA ??? ?????. ?? ?? ??? ??? LLM? ???? ?? ?? ????? ?????.
    • ??? ???? ??? ??? ??, ?????? ??? ???? ???? ??? ???? LLM? ????? ?????.
    • ????? ?? ????? ??? ??? ??? ?????.

    ?? ??? ??? ?? ? ?? ??? LLM?? ?? ??? ??? ??? ?????. ?? 6? ??? ???? ?? ??? ????? ??? ??? ???? ??? ???? ??? ?? ??? ??????.

    RAG ????? ????

    ? ?????? ?? ??? ??? ???? ???? ??? ??? ?? ??? ??? ????? ?? ????. ???? RAG ??? ?? ????? ? ??? ???? ?? ??? ?? ?? ??? ??? ? ????.

    ??? ???? ??? ??? ?? ????

    ???? ?? ??? ??? ???? ??? ??? ??? ??? ??? ? ??? ??? ???? ??? ????? ??????? ?? ??? ??????

    ???? ??

    ?? 6??? ?? ??? ?? ??? ?? ??? ???? ???? ?? ?????. ??? ?? ??? ?? ??? ??? ?? ??? ?? ??? ?? ?? ????. ?? ??, ???? ??? ?? ? ??? ?? ??? ?? ???? ????? ? ??? ? ????.

    ???? ????

    ??? ???? ??? ?? ??? ??? ??? ???? ????. ?? ???? ??, ???? ??, ?? ??? ?????. ??? ??? LLM ???? ??? ?????.

    ??

    ???? ??? ??? RAG ?? ?? ? ???? ?? ?? ??? ?? ??? AI ???????? ?? ???? ??? ???? ??? ? ?? ??? ?? ????.

    ???? ??? ?? ?? ? ?? ??? ??? ? ?? ??? ?? ???? ?? ?? ??? ?? AI ??? ? ??? ??? ? ?? ? ?? ??? ?? ????.

    GitHub?? ???? RAG ?????? ???? ?? ??? ???.

    ?? ???

    Discuss (0)
    +1

    Tags

    人人超碰97caoporen国产