书生·浦语大模型实战营第二期学习笔记(2)
视频地址:轻松玩转书生·浦语大模型趣味 Demo_哔哩哔哩_bilibili
操作文档:https://github.com/InternLM/Tutorial/blob/camp2/helloworld/hello_world.md
部署 InternLM2-Chat-1.8B
模型进行智能对话:
部署实战营优秀作品 八戒-Chat-1.8B
模型
部署实战营优秀作品 Chat-
嬛嬛-1.8B
模型
由于下载时没注意,加载了7b的嬛嬛模型,但是未将开发机升级成30%A100,所以出现报错,后续会向助教申请GPU额度,完成后续作业。
个人感悟:体验了chat1.8B模型部署使用,配置本地环境,且连接成功,但是个人感觉回答略呆滞,猪猪1.8模型和智能对话模型,回答的内容差不多,猪猪模型是以猪猪的口吻来回答。期待后续微调,并找了队友准备申请网络流量分类方面的项目,希望能微调出项目所需模型。
2024.4.3更
找助教申请了gpu,实战体验了后面的7b的嬛嬛模型、InternLM2-Chat-7B 模型,以及浦语·灵笔2 模型。,
实战:使用 Lagent
运行 InternLM2-Chat-7B
模型
浦语·灵笔2图文写作实战如下:
浦语·灵笔2图片理解实战如下
个人感受;
使用chat-嬛嬛的时候,能回答一些问题,问数学答不上来,跟人设符合,没有多问其他问题。使用使用 Lagent 运行 InternLM2-Chat-7B 模型的时候,能回答解方程问题,还能根据问题描述编程序。
但是浦语·灵笔2模型,图文写作没有多测试。图片理解回答有点问题,会记录历史回答,把历史回答混淆到新回答里面,可以纠正它。重新启动模型后测试,还是会带历史聊天记录回答,有点笨笨的,希望后续能优化吧。