首先就是老生常谈的环境搭建和仓库clone。
各种依赖,库,还有xtuner的下载
通过验证xtuner下载成功。
创建微调目录,一键软连接到模型文件。
查看目录文件
接下来我们要开始查看微调前的模型对话,看看是什么效果
直接调用我们熟悉的Streamlit
再进行老生常谈的端口映射。
哦对,我们已经给internstudio上的所有开发机都设置了公钥,很轻松就启动了服务
接下来我们访问网页进行对话。
从这里可以看出它并不知道自己是个什么东西。(最起码不是我希望它是的东西)
下面我们让它真正了解到它自己是个什么东西:
我们先创建对话文件,再执行脚本将数据写入文件。
当然我们要先改名字,让他成为一个我认识的人的助手。
生成之后查看我们的目录:
一点毛病没有啊
接下来让我们来准备配置文件
直接找到并复制好配置文件然后查看目录:
没毛病
直接复制调好的配置文件。
开训!
训练中🦅
训练完成啦
目录结构应该没什么问题。
我们进行了模型格式转换,也成功了。
目录也没问题。
下面我们可以进行模型合并了也就是merge
终于 merge也结束了
修改我们的模型路径
然后直接启动steamlit查看效果
直接问她原问题
OK,它已经知道自己是个什么东西了。完美