XTuner 微调个人小助手认知任务
任务目标:使用 XTuner 微调 InternLM2-Chat-1.8B 实现自己的小助手认知,如下图所示(图中的需替换成自己的昵称),记录复现过程并截图。
1.进入开发机之后,使用git克隆Tutorial仓库的资料到本地。
2.创建一个新的虚拟环境,然后安装必要的python依赖。
3.使用git从Github 上下载源码,然后安装XTuner。
4.在电脑本地的powershell上进行端口映射运行。
5.然后登录对应的网站,调用大模型进行对话。
6.为了训练对应的模型人,准备需要的微调数据集,大量加入我们想要的数据,然后将数据集之中的对应姓名更改。
7.使用 xtuner train
命令令即可开始训练,对已经设置的模型进行训练。
8.使用提供的指令,将Pytorch 训练出来的模型权重文件转换为目前通用的 HuggingFace 格式文件。
9.使用提供的指令,进行模型合并。
10.重新进行powershell的端口映射,然后开始运行脚本,得到训练之后的模型得出的回答。