大模型学习笔记2【大模型】

学习内容

• 介绍流程

1.选择基座模型

• 基座模型对结果比较重要，一般选择的流程：首先关注整体性能（打榜），其次关注所需任务的评分，一般选用Chat模型，节省训练对话所需的语料和成本。
• 目前中文表现较好的是Yi,ChatGLM
• 目前中文表现较好的是LLaMA

2.验证

• 用手上的数据、任务的数据验证一下哪个模型最好
• 如果手上没有数据，可以寻找相关的任务/领域通用数据
• 如果效果比较好的话，直接用Prompt就可以上线了

3.微调

• 微调数据：一般1000-10000条就够了
• 个人经验1：一百多条通过改写问题模板+改写答案 也很好用
• 个人经验2：可以计算一下参数量，LoRA参数量 * 2bit信息是理论最大容量，可以根据问题的困难程度控制在LoRA参数量的10%及以下。

4.训练数据

• 优秀的数据对于效果至关重要！！！！宁缺毋滥！！
• 数据分为：全自动、人工、半人工。
• 其中自动和半人工需要人类验证。

5.Instruction Tuning

• 对于特定任务的数据进行训练
• 如果发生遗忘的话，添加通用的Instruction。 可以设置不同的训练权重和比例。
• 在Pretrain阶段进行Instruction

6.训练

• 别整花活，死用LoRA就行了
• 从较小的模型开始训练，如果验证了结果好，往大的训练

7.测试

8.部署