大模型微调-参数千亿级以上

情景学习

• In-Context Learning
  • zero-short learning
  • one-short learning
  • few-short learning

指令学习方法应用、

• Instruction Tuning

通过给出更明显的指令/提示，让模型去理解并做出正确的action

思维连方法实现

• Chain-of-Thought
  • Few-shot Cot
  • Zero-shot Cot

PEFT大模型参数高效微调方法原理

• Parameter-Effcient-Fine-Tuning
  • Prefix/Prompt-Tuning
  • Adapter-Tuning
  • LoRA
    • （Low-Rank Adaptation）

通过学习小参数的低秩矩阵来近似模型权重矩阵 W 的参数更新，训练时只优化低秩矩阵参数