大模型微调（finetune）方法

微调方法

1、lora

2、adapter

3、prefix-tuning

4、p-tuning

5、prompt-tuning

大模型微调后灾难性遗忘

可以从数据和模型两方面去考虑。

1、通用的指令数据（数据）

主流解决大模型微调后灾难行遗忘的方法是在微调过程中加入通用的指令数据。

2、自我蒸馏方法（数据）

主要是通过模型本身对任务数据进行生成引导，构建自我蒸馏数据集，改变任务数据的信息分布，减少与原始模型信息分布的差距。
Paper: https://arxiv.org/abs/2402.13669
Github: https://github.com/sail-sg/sdft

To address the problem, we introduce Self-Distillation Fine-Tuning (SDFT),a novel approach that bridges the distribution gap by guiding fine-tuning with a distilled dataset generated by the model itself to match its original distribution.
使用模型本身生成一些蒸馏数据集，用这些数据集在来微调模型，这样的话使得模型微调是所用的数据集和