- 博客(7)
- 收藏
- 关注
RSS订阅原创 书生·浦语大模型实战营第二期（初夏专场）学习笔记：（七）OpenCompass 大模型评测实战
OpenCompass通过将用户的评测请求切分为多个并行独立执行的任务，从而以最大化利用计算资源，同时还支持多种输出方案。大语言模型评测中有如下挑战：如何全方面评测大模型能力；评测集存在数据污染；
2024-06-02 23:05:50
223
原创 书生·浦语大模型实战营第二期（初夏专场）学习笔记：（六）Lagent & AgentLego 智能体应用搭建
一个智能体应当具备以下三个条件：可以感知环境中的动态条件；能采取动作影响环境；能运用推理能力理解信息、解决问题、产生推断、决定动作。AgentLego是一个多模态工具包，允许用户可以快速简便地拓展自定义工具，从而组装出自己的智能体。Lagent是一个轻量级开源智能体框架，能够支持多种智能体范式，并能够支持多种工具。LLM具有如下局限性：可能产生幻觉、时效性不强与可靠性不高。一个智能体一般由以下三部分组成：大脑、感知以及动作。
2024-06-01 21:29:10
291
原创 书生·浦语大模型实战营第二期（初夏专场）学习笔记：（五）LMDeploy 量化部署 LLM-VLM 实践
LMDeploy是一款涵盖了LLM的轻量化、部署以及服务的开源框架，功能齐全，性能高效，还在不断迭代升级过程里LMDeploy 量化部署 LLM-VLM 实践_哔哩哔哩_bilibili。
2024-05-29 22:31:14
279
原创 书生·浦语大模型实战营第二期（初夏专场）学习笔记：（四）XTuner 微调 LLM：1.8B、多模态、Agent
增量预训练微调：让LLM学习到垂直领域的新知识即可，但可能不具备对话能力指令跟随微调：让LLM能够像人类一样进行对话，需要高成本标注的高质量的对话、问答数据如果是文本+图像多模态的LLM，相比于文本单模态的LLM而言，两者区别在于其在原始文本模态输入分支下加入了处理图像模态数据的分支，该分支通过Image Projector将输入图像编码成图像向量，随后同文本向量一同输入到LLM中得到输出文本。所以该类型的多模态LLM只具有图像理解能力，不具有图像生成能力。
2024-05-27 23:17:14
437
原创 书生·浦语大模型实战营第二期（初夏专场）学习笔记：（三）茴香豆：搭建你的 RAG 智能助理
RAG维护一个外部知识库，当用户询问一个问题时，首先将该问题编码为向量，与知识库里的所有向量进行相似度比对（相似度通常通过余弦相似度以及点乘计算得到），找出最相似的文档，之后再将这些文档与该问题一起作为提示词输入到大模型中，即可生成最终的回答。茴香豆首先将用户输入语句预处理成查询，再通过与数据库里的问题做匹配，得出两者相似度得分，再根据得分判断是否需要拒绝回答，最后再对处理过后的查询做出应答响应。通过将文本形式的知识源分割成块（chunk），编码成向量后再存储到向量数据库中。
2024-05-26 21:16:52
339
原创 书生·浦语大模型实战营第二期（初夏专场）学习笔记：（二）轻松玩转书生·浦语大模型趣味 Demo
课程链接：轻松玩转书生·浦语大模型趣味 Demo_哔哩哔哩_bilibili文档链接：Tutorial/helloworld/hello_world.md at camp2 · InternLM/Tutorial · GitHub
2024-05-24 17:20:04
139
1
原创 书生·浦语大模型实战营第二期（初夏专场）学习笔记：（一）全链路开源体系
书生·浦语大模型实战营第二期（初夏专场）学习笔记：（一）全链路开源体系
2024-05-24 16:35:35
132
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人