InternLM训练营实践记录
文章平均质量分 58
InternLM训练营实践记录
人工智能学习记录
这个作者很懒,什么都没留下…
展开
-
llama3本地云部署
出现gpu不足的情况:1不运行,改为2。3.Web Demo 部署。原创 2024-05-18 16:48:03 · 113 阅读 · 0 评论 -
第6Lagent & AgentLego 智能体应用搭建
创建文件夹配置conda环境安装 Lagent 和 AgentLego下载 demo 文件:原创 2024-05-07 13:34:11 · 165 阅读 · 0 评论 -
第4课XTuner 完成个人小助手的微调!
下载网页端 web demo 所需要的依赖。替换webdemo.py文件。无法打开网页,待解决。原创 2024-05-07 12:02:38 · 207 阅读 · 0 评论 -
第六课Lagent & AgentLego 智能体应用搭建
应当满足3个条件:感知环境。采取动作改变环境。运用推理能力理解信息、解决问题、产生推断、决定动作。原创 2024-04-23 16:26:00 · 382 阅读 · 0 评论 -
第七课OPenCompass 大模型评测
垂直领域:法律、医疗体系完善,仍有需要改进的地方:测试集混入训练数据,造成污染,结果不准确。原创 2024-04-19 13:23:58 · 295 阅读 · 0 评论 -
第四课:【XTuner 微调个人小助手认知】笔记
q1:为什么要微调?A:目前现有模型都是基座模型,是为了一般性任务进行预训练,运用于实际特定领域效果不佳,需要进行领域内微调q2:两种Finetune范式:A2:增量预训练微调:基座模型学习新知识(文章、书籍、代码)指令跟随微调:模型学会对话模板,根据人类质量进行对话(高质量对话,问答数据)高质量标注原始数据——>改为标准格式数据——>添加对话模板——>Tokenized数据——>添加Label——>开始训练标准数据格式添加对话模板,不同厂家有不同的模板。原创 2024-04-19 12:47:39 · 787 阅读 · 0 评论 -
第五课:【LMDeploy 量化部署 LLM&VLM实战】笔记
LMDeploy是什么?软件:涵盖LLM全套轻量化、部署、和服务解决方案。(降低缓存占用)KV缓存管理器:将不用的缓存暂时放置在内存中,等需要使用的时候放入显存。量化(不用的时候量化)——反量化(使用的时候量化)新版本LMDeploy:不仅支持语言模型,也支持视觉模型。原创 2024-04-16 18:44:11 · 293 阅读 · 0 评论 -
Interlm笔记——第一课:书生·浦语大模型全链路开源体系
视频首先讨论了通用人工智能的发展趋势,从专用模型向通用大模型的转变。然后介绍了书生模型在过去几个月的升级,包括支持多模态、8K语境和不同尺寸的模型,以及在语言建模能力、对话交互和智能体框架方面的提升。最后,视频介绍了书生·浦语大模型的不同尺寸和类型,以适应不同的使用需求。- 总结了书生葡语的全链路开源开放体系,包括数据、预训练、微调、部署、评测和应用等环节。- 介绍了智能体的框架,包括轻量级智能体框架和多模态智能体工具箱。- 书生·浦语模型的升级:支持8K语境、多模态和不同尺寸的模型。原创 2024-04-15 22:34:49 · 312 阅读 · 0 评论 -
第二课:玩转书生·浦语大模型全趣味demo
四、如何完成第三个实战任务,即使用基于书生葡语二大语言模型的图文多模态大模型进行图文写作和图像理解。一、书生葡语社区大模型角色扮演特别幸运小组的组长任玉鹏,将带领大家完成书生葡语趣味demo的相关内容,包括基础练习、进阶部分和实战部署等。- 完成第二个实战任务,关闭STREAMLET,准备后续任务。- 打开图片理解实战,复制代码,等待本地端口映射完成。- 运行程序,配置本地端口环境,耐心等待模型加载完成。- 需要升级开发机配置,安装环境包,下载相关代码资源。- 完成图片生成任务,关闭软件,重新开启终端。原创 2024-04-15 22:53:08 · 329 阅读 · 0 评论 -
第三课:茴香豆:零代码搭建你的 RAG 智能助理作业
讲师:北辰老师文档地址:https://github.com/InternLM/Tutorial/blob/camp2/huixiangdou/readme.mdB站视频课程地址:https://www.bilibili.com/video/BV1QA4m1F7t4/?internstudio地址:https://sso.openxlab.org.cn/login?原创 2024-04-16 16:02:47 · 1035 阅读 · 1 评论