![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
AI
文章平均质量分 87
AI相关的技术知识分享。
WongVin
永远相信美好的事情即将发生
展开
-
ChatGLM2-6B部署及使用
咳咳,工作需要,我一个Unity程序员去做AI相关的研究。从一开始的调用文心一言接口到现在自己部署ChatGLM2-6B并且通过Api调用。记录一下这个过程。首先要保证自己的显卡有6G。这是最基础的要求,说白了就是GTX1060或者1660。玩AI都是用N卡,哎~我的6700XT.. 期待战未来。首先,先安装python,版本的话,在写这个文章的时候我用的是3.11.5。够用就好,太新怕有莫名其妙的BUG。原创 2023-11-07 16:11:14 · 2520 阅读 · 9 评论 -
ChatGLM2-6B 模型基于 P-Tuning v2 的微调
公司做技术储备,今天来分享一下微调的流程,当然也算是自己加深印象。除了安装ChatGLM2-6B的依赖之外,还需要安装以下依赖:在ChatGLM2-6B文件夹下进入ptuning文件夹。里面有train.json、dev.json,这两个json文件,都用同一份数据就好了。格式如下:这里的prompt和response是自定义的Key主键,在train.sh中会有表现。但是呢,官方提供的shell脚本,在Windows下不能直接使用。原创 2023-11-16 15:53:48 · 308 阅读 · 8 评论