第四节Xtuner作业

本文介绍了如何在OpenXLab上进行环境设置、数据集生成、模型微调、转换为hf格式并上传Adapter模型。后续内容包括将训练好的模型上传到OpenXLab,以及应用部署过程中遇到的问题和解决方案。
摘要由CSDN通过智能技术生成

 基础作业

1. 安装环境和代码

2.生成数据集

3.修改配置文件

4.开始微调

5.模型转化成hf格式,合并模型

6.开启推理和网页Demo

结果:

进阶作业:

1. 将训练好的Adapter模型权重上传到 OpenXLab

首先参照上传模型文件 | OpenXLab浦源 - 文档中心建立和interStudio算力平台的ssh连接

然后在OpenXlab创建模型

通过git ssh方式,下载模型仓库

将训练合并的Adapter模型权重文件夹“hf”放到仓库xtunter下(xtunter为仓库名)下。并执行:

git add hf/
git commit -m "add hf adapter"
git push

上传结果

2. 将训练好后的模型应用部署到 OpenXLab 平台

最近哦openxlab升级,上传模型和应用中心对于模型的调用都发生了变化,踩了很多坑,主要是openxlab应用中心对于openxlab上上传好的模型的调用(ustbzgn/InternLMXtunter: 书生浦语大模型实战营微调部署至OpenXlab (github.com)

(1)上传微调后的模型

(2)创建应用

   github仓库地址:https://github.com/ustbzgn/InternLMXtunter.git

 

部署成功:应用中心-OpenXLab

  • 6
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值