书生大模型实战营基础岛第五关 XTuner微调个人小助手认知

首先就是老生常谈的环境搭建和仓库clone。

各种依赖,库,还有xtuner的下载

通过验证xtuner下载成功。

创建微调目录,一键软连接到模型文件。

查看目录文件

接下来我们要开始查看微调前的模型对话,看看是什么效果

直接调用我们熟悉的Streamlit

再进行老生常谈的端口映射。

哦对,我们已经给internstudio上的所有开发机都设置了公钥,很轻松就启动了服务

接下来我们访问网页进行对话。

从这里可以看出它并不知道自己是个什么东西。(最起码不是我希望它是的东西)

下面我们让它真正了解到它自己是个什么东西:

我们先创建对话文件,再执行脚本将数据写入文件。

当然我们要先改名字,让他成为一个我认识的人的助手。

生成之后查看我们的目录:

一点毛病没有啊

接下来让我们来准备配置文件

直接找到并复制好配置文件然后查看目录:

没毛病

直接复制调好的配置文件。

开训!

训练中🦅

训练完成啦

目录结构应该没什么问题。

我们进行了模型格式转换,也成功了。

目录也没问题。

下面我们可以进行模型合并了也就是merge

终于 merge也结束了

修改我们的模型路径

然后直接启动steamlit查看效果

直接问她原问题

OK,它已经知道自己是个什么东西了。完美

  • 2
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值