书生·浦语大模型第三课笔记

已于 2024-01-11 22:24:20 修改
阅读量384 收藏 8
点赞数 9
文章标签： 笔记
于 2024-01-11 22:22:21 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/gaxzj/article/details/135462859
版权

这节课主要介绍的如何使用InternLM和LangChain搭建属于自己的知识库

LLM局限

大模型虽然能力强大，但是知识具有时效性，并且定制成本高
在这里插入图片描述
对比finetune，rag成本低，并且可以实时更新，但是非常依赖基座模型
在这里插入图片描述
RAG的流程如下，其基本问题步骤在于文本向量化，然后从数据库中匹配相似文本，一起作为prompt输入到基础模型中，获得最终输出结果
在这里插入图片描述
利用langchain这一框架实现自己的知识库，其可以各种通用接口
在这里插入图片描述
这是基于langchain搭建自己的知识库的流程
在这里插入图片描述
RAG的优化策略有以下几点：
在这里插入图片描述

gaxzj
关注
  • 9
    点赞
  • 踩
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
书生浦语大模型实战课 第二课笔记
03-31
书生浦语大模型实战课 第二课笔记
书生 浦语大模型实战训练营第二期 第三节笔记
04-14
书生 浦语大模型实战训练营第二期 第三节笔记
书生·浦语大模型 第三课 笔记
01-11 372
基于LangChain搭建RAG应用。基于文本构建向量数据库。
书生浦语大模型-第三课笔记
liusao123的专栏
04-07 356
RAG: 检索增强生成， 通俗理解为检索引擎，从知识库中所有相关内容，结合大语言模型生成回答。第一步： 生成索引， 将知识源文件，网页等分割成chunk，编码成向量存储到向量数据库中。第二步： 将用户的问题编码成向量在向量数据库中检索第三步： 将检索到的片段与远程问题一起作为提示给大模型生成最终回答的问题，返还给用户三种RAG的范式：Naive RAG： 即索引，检索，生成三部分构成的最基本的泛式， 这种范式经常用于简答的问答系统和信息检索场景中Advanced RAG： 在三个基础部分之外对检索前后都进行
【 书生·浦语大模型实战营】学习笔记（一）：全链路开源体系介绍
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
03-31 1557
本文为实战营第一次课程笔记，主要分为两个部分，第一部分从书生·浦语大模型发展、分类、组成进行详细介绍，方便大家理解。第二部分为对 InternLM2技术报告解读，后续系列会继续更新，欢迎大家交流！
书生浦语大模型实战营第三次课笔记
qq_40831032的博客
01-11 452
简介：LangChain 是一套专为 LLM 开发打造的开源框架，实现了 LLM 多种强大能力的利用，提供了 Chain、Agent、Tool 等多种封装工具，基于 LangChain 可以便捷开发应用程序，极大化发挥 LLM 潜能。这次课程介绍了基于InternLM和Langchain去搭建个人知识库。 1.LLM的局限性 2.RAG vs Finetune RAG指的是检索问答增强，Finetune是大模型微调 3.基于Langchain搭建RAG应用的流程 4.将个人数据转换
书生·浦语大模型训练营第三次课笔记
Adela0546的博客
01-13 960
首先，对于以本地文档形式存在的个人知识库，会使用Unstructed Loader组件来加载本地文档，这个组件会将不同格式的本地文档统一转换为纯文本格式。然后通过Text Splitter组件对提取出来的纯文本进行分割成chunk，再通过开源词向量模型Sentence Transformer将文本段转化为向量格式存储到基于Chroma的相对数据库中。
书生·浦语大模型实战营 学习笔记 第三课
TINGTING_93的博客
04-11 1758
关键词： 固定长度的向量， 实现高效的相似性检索，余弦相似度或者点乘。当出现大规模数据或者实时响应要求很高时，vectorDB的优化很多时候都是对向量表示的优化。基本方法：使用更高级的文本编码技术，或者是用更好的预训练模型。
书生浦语大模型实战营第四次课笔记
qq_40831032的博客
01-14 1178
以数据集为例基于 InternLM-chat-7B 模型，用 MedQA 数据集进行微调，将其往医学问答领域对齐。
书生·浦语大模型第一节课笔记
m0_60895722的博客
04-05 120
书生浦语2.0体系提供了7B和20B的规格，各自对应三个不同的模型版本，分别是基座模型，强化版基座模型和经过优化对话功能的聊天模型。
书生浦语大模型第二期第一节课笔记
m0_55546566的博客
03-27 715
书生浦语全链路
书生·浦语大模型第二课
03-04
书生·浦语大模型第二课
书生浦语大模型实战课 第二课作业（更新）
04-04
书生浦语大模型实战课 第二课作业（更新）
书生浦语大模型实战课（第二期） 第二课作业
04-04
书生浦语大模型实战课（第二期） 第二课作业
随心笔记，第六更
leen的博客
06-13 553
今天给大家分享的是使用idea 将xml转为JavaBean，并且取其中的数据和其他的数据进行交互。
Python学习笔记11 -- 细碎内容
m0_71291382的博客
06-12 262
记录一些琐碎点，包括如何注释、变量常量说明、字符串拼接的三种方法及转义字符的简单说明
【虚幻5】自学纯蓝图笔记（一）
最新发布
lklalmq的博客
06-16 644
本笔记使用v15.17.1版本的IDE ，v5.4.2的引擎有许多小的功能记录在快捷键一节中，节省时间就不单独记录学习本章内容时的机器太差了，i58代的CPU，16g运存，所以GIF截图会非常卡顿指导老师：B站UP主-张亮002。
笔记97：C++ 中 string / char 和 int 之间相互转化
weixin_44063383的博客
06-12 347
方法：使用强制类型转化进行 char 和 int 之间的转换；
书生·浦语大模型 黑屏
06-13
"书生·浦语"并不是一个广泛为人知的特定模型，可能是某个特定项目、产品或者人物的代称。由于信息有限，我无法提供详细的介绍。如果你是在问关于某个特定领域的大模型，比如人工智能研究中的一个模型，通常这类模型是由大型科技公司或研究机构开发的，如阿里云的通义千问或谷歌的BERT等。如果这是个虚构的名字，那可能是一个文学作品或者游戏中的角色。 若你想了解类似"浦语"这样的人工智能模型，通常这类模型会涉及自然语言处理技术，能够进行语言理解和生成，例如对话系统、文本翻译或内容创作。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值