自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(8)
  • 收藏
  • 关注

原创 部署微调ChatGLM遇到的问题及解决方案

问题2:home/user/.local/lib/python3.10/site-packages/gradio/helpers.py:818: UserWarning: Using the update method is deprecated. Simply return a new object instead, e.g. return gr.Textbox(...) instead of return gr.update(...)2.因为此文件是我们自己加进去的,需要给予此文件权限(!

2023-10-16 09:25:03 1002 2

原创 ChatGLM-6B的微调

等待大约5个小时,完成训练,会生成一个output文件,里面有几个checkpoint文件,就是此次训练的结果。很显然训练后的回答,更加的贴切,如果说买衣服的时候能有这样的客服的话,对销售方面还是很好的。基于ChatGLM-6B的部署教程的微调(因为模型和项目文件已经下载,就不重复操作了)比如那些遮肉显瘦,显腿细等关键词,是比较贴合女性的。看自己的显存大小来配置,这边是24g的显存,改为。可以用自己的,我这里直接用官方给的数据集。等待1小时后,生成的结果保存在。5.使用训练好的模型,检验成果。

2023-10-16 09:21:22 127 1

原创 ChatGLM-6B的部署

ChatGLM是一个基于GLM模型的对话生成系统。它使用了预训练的语言模型,并通过微调来生成有逻辑和连贯性的对话回复。ChatGLM可以用于各种对话场景,如智能客服、聊天机器人等。它是一个开源项目,你可以通过GitHub上的ChatGLM仓库进行查看和使用。1.购买一个GPU服务器,显存>24G,镜像选择pytorch的最高版本。

2023-10-16 09:18:27 297 1

原创 经验总结(语言模型调用)

3.没有考虑各个工具与电脑gpu的兼容,cuda,anaconda,pytorch这三者的版本使用严格要求的,需要兼容,因为这个问题卡了很久。1.不了解anaconda,按照教程操作迷糊,各种环境和库安装的位置不对,只能全部卸载重装。安装pytorch之前必须要先安装cuda,不然pytorch不能启动cuda,导致不能使用gpu来训练模型。重装后查资料才发现。2.在安装库和工具包时,下载显示fail,原因是国外网站下载慢,切换的清华源有些的失效了,后面找到最新的清华源才正常安装。

2023-05-03 15:21:19 100

原创 语言模型训练第一步

2.安装cuda(用与GPU训练模型),安装cunna(用于加速训练语言模型),安装pytorch(它是一个模型深度学习的框架,包含很多库和工具包)1.安装anaconda,他是一个环境管理工具,我利用它创建多个虚拟环境,再激活环境,在其中安装环境和库。3.配置vscode的编译器路径(虚拟环境的python),配置pytorch环境变量。最近几天一直在尝试在本地跑通语言模型--firefly,也是卡了很久,踩了很多坑。训练模型第一步--在本地调用语言模型。安装transformers库等。

2023-05-03 15:20:02 185

原创 今日分享(gpt小程序)

1.更加细致的了解了chatgpt小程序的代码流程,前端文件有JavaScript,css,html这几种文件类型,HTML是网页文字的排版,大小等,css是网页的美化,颜色等,JavaScript是在使用网页交互或者点击某个按钮时执行的代码,实现网页的跳转和服务器访问等。目前可以自主的修改网页的文本内容。3.对chatgpt的训练有了新的认识,之前以为是用很多字符串去匹配答案,现在知道训练gpt需要数据的训练集,让chatgpt理解数据集里的文字内容,通过大量的数据让它进行学习。

2023-05-03 15:18:42 310 1

原创 进度分享:ChatGPT搭建h5网页

具体做h5网页的流程简单说一下,与ChatGPT小程序差不多,服务器最好使用海外的,提前备好备案好的域名,并且建站。把后端代码放服务器中去,在服务器开发一个端口,前端的代码就通过此端口访问服务器了,前段代码再运行到Hbuilder工具,在通过此工具运行到建立好的网站就可以了。这种h5网页相对于微信小程序不用审核,不容易被封。最近几天在捣鼓ChatGPT h5网页的搭建,发现相对于游戏小程序实在要简单的多,而且有了一点收获,分享一下。

2023-05-03 15:14:02 878

原创 ChatGPT微信小程序搭建总结

搭建流程如下,首先需要准备好一个云服务器、前后端代码,要想很方便地控制服务器,就需要下载一个finalshell软件,并输入云服务器主机地账号密码连接,连接到主机后就可以对服务器进行操作了,后端的代码可以使用不同的编程语言,所以还需要在服务器上安装相对应的开发环境,我使用的是java语言,所以安装Java环境,先下载压缩包,再解压,再将其放到相应的文件夹中,这其中会使用到wget、tar、mv、cd/等linux系统的命令。找一些与现阶段相匹配的做项目的团队,加入他们,至少可以做一些小事,整理文件什么的。

2023-05-03 15:13:07 2794 1

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除