• <xmp id="om0om">
  • <table id="om0om"><noscript id="om0om"></noscript></table>
  • Generative AI

    ?? ??? ?? LoRA? ??? ??, DoRA ????

    Reading Time: 4 minutes

    ?? ?? ??(FT)? ????? ?? ????? ??? ?? ?? ??? ?? ??? ???? ? ?????. ?? ??? ??? ?? ???? ????? ?? ??? ??? ?? ???? ???? ??? ?? ??(PEFT) ??? ???????. ? ? ?? ?? ??(LoRA)? ? ??? ?? ?? ??? ?? ? ?? ??? ??? ?? ????. ??? ??? ??? ??? ?? ?? ???? ??? ??? ??? ???? ??? ????.

    NVIDIA Research Taiwan? NVIDIA ?? ? ?? ?? ??? LoRA? ???? ??? ? ?? ??? ?? ??? ??(DoRA)? ??????. DoRA? ???? ?? ???? ?? LoRA? ?? ??? ???? ?? ?????.

    DoRA? ?? ??? ?? ??? ?? ?? ??(LLM) ? ?? ?? ??(VLM) ???? LoRA?? ???? ??? ??? ?????(?? ??(+3.7/+1.0 on Llama 7B/13B, +2. 9, Llama 2 7B?? +4.4), ???(MT) ????(Llama/Llama 2 7B? ?? +0.4/+0.3), ???/???-??? ??(VL-BART?? +0.9/+1.9), ??? ?? ??(LLaVA 7B?? +0.6)? ?? ??? ?? ??? ??????. DoRA? ?? ?? LLM ? ???-??? ?? ? ?? ????? ???????. ? ??? ICML 2024? ?? ???? ???????(??? 1.5%).

    ?? 1. ??? ?? ? ???? DoRA? LoRA? ?? ??

    DoRA? ??? ??????

    DoRA? ?? ??? ???? ??? ?? ???? ??? ?? ? ??? ?? ?? ???? ??? ?????. ???? ???? ?? ??? ??? ???? ??? ?? 2?? ? ? ??? DoRA? ?? ??? ?? LoRA? ???? ???? ?? ??? ???? ???. ?????, DoRA? ?? ?? ?? ??? ???? ??? ? ???? ???? ?? ??? ?? ? ????.

    ?? 2. DoRA ??

    DoRA? ?? ??? ?? ??? ?????

    DoRA? ?? ??? ?? ??? ???? ???? ?? DoRA ??? W’? ?? ??? ??? W0 ??? ?? ? ?? ??(?D, ?M)? ?? 3? ???????(FT ? LoRA? ?????). DoRA? FT? (?D, ?M)? ?? ???? ??, LoRA?? ??? ??? ?? ???? ?? ??? ?? ???? DoRA? FT? ?????? ?? ? ? ????. ?? ?? ??? ?? ?? ?? ??? ??? ????, ?? ?? ??? ? ???? ??? ?????.

    ?? 3. FT, LoRA ? DoRA? ?? ? ?? ????

    DoRA? FT? ? ??? ?? ??? ????? ????? ???? ?? ?? ?? ? ??? ??? ?? ??? ? ? ?? ??? ?????. ?? LoRA?? ??? ?? ??? ?????. ?? ????? ??? ??? ?? ??? ??? DoRA: ??? ?? ??? ??? ?????.

    ??

    DoRA? LLM, VLM, ?? LLM, ?? ?? ? ??? ???? LoRA?? ??? ?????.

    ?? ?? ??

    ? 1?? ? ? ??? ???? ??? ?? ?? ???? DoRA? LoRA?? ?? ??? ??? ????. ?? ? 2? MT ?????? ? ? ??? DoRA? LoRA?? ?? ? ??? ?? ??? ? ?????.

    Model# Params (%)BoolQ PIQASIQAHellaSwag WinoGrande ARC-e ARC-c OBQA Avg.
    ChatGPT-3.573.185.468.578.566.189.879.974.877.0
    Llama-LoRA0.8368.980.777.478.178.877.861.374.874.7
    Llama-DoRA (Ours)0.8469.783.478.687.281.081.966.279.278.4
    Llama 2-LoRA0.8369.879.979.583.682.679.864.781.077.6
    Llama 2-DoRA (Ours)0.8472.083.179.989.183.084.571.081.280.5
    Llama 3-LoRA0.8370.885.279.991.784.384.271.279.080.8
    Llama 3-DoRA (Ours)0.8474.689.379.995.585.690.580.485.885.2
    ? 1. ??? ?? ????? ?? LoRA? DoRA? ??
    Model# Params (%)Score
    Llama-LoRA2.315.1
    Llama-DoRA (Ours)2.335.5
    Llama-VeRA0.024.3
    Llama-DVoRA (Ours)0.045.0
    Llama 2-LoRA2.315.7
    Llama 2-DoRA (Ours)2.336.0
    Llama 2-VeRA0.025.5
    Llama 2-DVoRA (Ours)0.046.0
    ? 2. MT-Bench??? LoRA? DoRA ??(GPT-4? ?? ??). DVoRA? VeRA? DoRA? ???? ?? ?????.

    ?? ?? ??

    DoRA? ?? ??? ??(NLP) ??? ??? ??? ??(? 3), ??? ??? ??(? 4), ??? ??? ??(? 5) ?? ??? LoRA?? ??? ??? ?????.

    Model# Params (%)VQAv2GQANVLR2COCO Cap.Avg.
    VLBART-LoRA5.9365.253.671.9115.376.5
    VLBART-DoRA (Ours)5.9665.854.773.1115.977.4
    ? 3. ???-??? ?? ??? ?? LoRA? DoRA? ??
    Model# Params (%)TVQA How2QA TVC YC2CAvg.
    VLBART-LoRA5.1775.572.944.6140.983.5
    VLBART-DoRA (Ours)5.1976.374.145.8145.485.4
    ? 4. ??? ??? ?? ??? ?? LoRA? DoRA? ??
    Model# Params (%)VQAv2 GQA Vis-Wiz SQA VQAT POPE MMBench Avg.
    LLaVA-LoRA4.6179.162.947.868.458.286.466.166.9
    LLaVA-DoRA (Ours)4.6378.662.952.269.957.087.266.167.6
    ? 5. ??? ????? ?? ??? ?? LoRA? DoRA? ??

    ?? ?? LLM

    PEFT ?? ??? ??? ???? ?? ??? ?? QLoRA? ?? ??? ??? 4??? ????? ??? ???? ?? ?? LoRA? ?? ??? ?? ?????. LoRA? FT ??? ??? ??? DoRA? ?? QLoRA ????? ??? LoRA? ???? ???? ? ???? ??? ???? ???.

    ?? ?? ?? Answer.AI? ?? ????? ???? QLoRA? LoRA ?? ??? DoRA? ???? QDoRA ????? ??????. ? ?? QDoRA? ?? Llama 2? Llama 3 ???? FT, QLoRA?? ??? ??? ??? ??????(?? 4).

    ?? 4. 10? ?? ?? ??? ??? Orca-Math ??? ???? QDoRA? ?? ??? ??? ??

    ???-??? ??

    DoRA? Hugging Face?? ??? ?? ?? ????? ???? ???-??? ???? ?? DreamBooth? ??? ?? ????. ???? 3d_icon ? lego_set ??? ??? ?? ??? ??? ??? ??? ?? ???? DoRA? LoRA?? ?? ??? ??? ??? ?? ? ?? ??? ??????(?? 5).

    ?? 5. ???? 3D ???(?) ? ??(??) ??? ???? DreamBooth? DoRA? ??? ??? ??
    ??

    ??

    DoRA? ????? ????? ???? ???? ???? ??? NVIDIA ???, ??? ? ??????? ? ??? ?????. DoRA? LoRA ? ? ??? ???? ?? ?? ???? FT ?? ??? ? ??? ??? ????. DoRA? ??? ?? ?? ??? ?? ?????? LoRA?? ????? ??? ??? ?????. ??, DoRA? ?? ? ??? ?? ? ?? ?? ??? ?? ??? ???? ?? ??? ? ?? ???? ?? ????? ???? ???? ?? ??? ?? LoRA? ???? ??? ? ????. NVIDIA? DoRA? ?? ??? ????? ??? NVIDIA Metropolis, NVIDIA NeMo, NVIDIA NIM, NVIDIA TensorRT, ???, ?? ??, ??? AI ?? ??? ??????? ????? ???? ? ??? ??? ????.

    ??? ??? ?? ???? ?????:

    ?? ???

    Discuss (0)
    0

    Tags

    人人超碰97caoporen国产