Xtuner:
Finetune简介
两种方法：
- 增量预训练：让基座模型学习一些新知识。训练数据可以是文章、书籍、代码。
- 指令跟随：让模型学会对话模板，根据人类指令进行对话。训练数据是高质量的对话、问答数据。
下面是指令跟随微调的详细介绍：
指令跟随微调
每一种模型的对话模板也是不相同的
下面是增量预训练的详细介绍：
11:45Lora&QLora&全参数
XTuner介绍
- 多种微调算法
- 适配多种开源生态
- 自动优化加速
【书生·浦语大模型实战营】第4节：XTuner 大模型单卡低成本微调实战（笔记版）
最新推荐文章于 2024-07-04 11:22:15 发布
1053
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
