超级会员免费看
本文记录了在CPU上尝试微调ChatGLM6B大模型的过程，使用P-Tuning v2方法。首先，安装所需工具，接着下载并准备训练数据，调整训练脚本。在训练过程中遇到找不到文件、编译内核错误等问题，通过分析错误日志和调整配置文件来解决问题，但最终仍遇到困难。
这里我们先试着训练一下,我们用官方提供的训练数据进行训练.
也没有说使用CPU可以进行微调,但是我们先执行一下试试:
https://www.heywhale.com/mw/project/6436d82948f7da1fee2be59e
可以看到说INT4量化级别最低需要7GB显存可以启动微调,但是
并没有说CPU可以进行微调.我们来尝试一下:
可以看到有这两种微调方式,然后
基于p-tuning v2的,还有基于
QLoRA的,这里我们用官方开源的,P-Tuning v2进行微调
现在还有langchain可以实现,扩展知识库,这个后面我们再说,我先用P-Tuning V2试试,
我们是在CPU下进行的.
首先进入到
订阅专栏 解锁全文
220
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
