![](https://img-blog.csdnimg.cn/direct/e9c20e4f0a1545188eb3a803296d6030.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
书生·浦语LLM
学习大语言模型的笔记和作业
吴意义
这个作者很懒,什么都没留下…
展开
-
书生·浦语LLM 第一节课笔记
原创 2024-04-07 11:55:02 · 92 阅读 · 0 评论 -
书生·浦语LLM 第二节课笔记
将 /root/code/InternLM/web_demo.py 中 29 行和 33 行的模型更换为本地的。下载InternLM2-Chat-1.8B 模型。password复制过来(不显示,直接回车。克隆:(需自建一些文件夹。新建cli.py并运行。原创 2024-04-07 11:57:06 · 246 阅读 · 0 评论 -
书生·浦语LLM 第二节课作业
原创 2024-04-07 12:02:57 · 122 阅读 · 0 评论 -
书生·浦语LLM 第三节课笔记
似乎案例中给到的已知问题并非全部有回答。“茴香豆 怎么应用到。群”,“ 茴香豆 支持哪些通讯软件”反馈异常。对于变换句式的提问有些反应不过来。原创 2024-05-05 12:08:56 · 270 阅读 · 0 评论 -
书生·浦语LLM 第三节课作业
似乎案例中给到的已知问题并非全部有回答。“茴香豆 怎么应用到飞书群”,“ 茴香豆 支持哪些通讯软件”反馈异常。对于变换句式的提问有些反应不过来。原创 2024-04-16 20:36:47 · 123 阅读 · 0 评论 -
书生·浦语LLM 第四节课笔记
通过微调,使大模型在某一方面的性能突出,这在具身智能方面具有重大作用。通过折叠部分的修改,内容如下,可以直接将以下代码复制到。选中所有文件并删除后再将代码复制进去)。XTuner 启动成功。list-cfg显示。原创 2024-05-05 12:15:12 · 112 阅读 · 0 评论 -
书生·浦语LLM 第四节课作业
XTuner 启动成功。list-cfg显示。原创 2024-05-05 09:26:08 · 87 阅读 · 0 评论 -
书生·浦语LLM 第五节课笔记
运行方式对比LMDeploy加载模型76-95s46s生成故事19s3-4s显存限制对比无限制0.10.01显存占用785649444560生成小故事速度约4s约4s约4s。原创 2024-04-27 23:45:49 · 242 阅读 · 1 评论 -
书生·浦语LLM 第五节课作业
总结:禁用前后模型加载速度和推理速度衰减不明显,可能是“生成小故事”过于简单。具体差异应该会在复杂问题的推理上体现。能明显感觉到LMDeploy比Transformer速度快很多。4.LMDeploy模型量化(lite)原创 2024-04-27 23:35:44 · 223 阅读 · 1 评论 -
书生·浦语LLM 第六节课笔记
AgentLego 是一个提供了多种开源工具 API 的多模态工具包,旨在像是乐高积木一样,让用户可以快速简便地拓展自定义工具,从而组装出自己的智能体。通过 AgentLego 算法库,不仅可以直接使用多种工具,也可以利用这些工具,在相关智能体框架(如 Lagent,Transformers Agent 等)的帮助下,快速构建可以增强大语言模型能力的智能体。Lagent 是一个轻量级开源智能体框架,旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力。原创 2024-05-05 12:21:22 · 341 阅读 · 1 评论 -
书生·浦语LLM 第六节课作业
环境配置成功:安装Lagent和AgentLego和依赖关系正常:原创 2024-05-05 10:19:12 · 92 阅读 · 0 评论 -
书生·浦语LLM 第七节课笔记
上海人工智能实验室科学家团队正式发布了大模型开源开源体系“司南”(OpenCompass2.0),为大语言模型、多模态模型等提供一站式体育服务。原创 2024-05-05 12:30:54 · 409 阅读 · 0 评论 -
书生·浦语LLM 第七节课作业
所有data应该是在/root/opencompass/data 还是/opt/jupyterlab/opencompass/data?在/opt/jupyterlab/opencompass/中运行”列出所有跟 InternLM 及 C-Eval 相关的配置“顺利。至此,文件配齐和解压的问题,但显然并不能正常运行,python内的错误我暂时无法深究和解决。将整个文件(含解压的data)移到我的根目录的对应位置。新建开发机,重新配置环境,遇到的同样的问题。按照指令应该是前者,否则解压运行不了。原创 2024-05-05 12:01:49 · 204 阅读 · 1 评论