书生·浦语大模型第三课笔记

已于 2024-01-11 22:24:20 修改
阅读量455 收藏 8
点赞数 9
文章标签： 笔记
于 2024-01-11 22:22:21 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/gaxzj/article/details/135462859
版权
本文介绍了如何利用InternLM和LangChain搭建自定义知识库，强调了大模型如LLM的局限性，以及RAG模型的优势，包括低成本、实时更新和依赖于基座模型的流程。同时，文中详细阐述了基于LangChain实现知识库的步骤和RAG的优化策略。
摘要由CSDN通过智能技术生成

这节课主要介绍的如何使用InternLM和LangChain搭建属于自己的知识库

LLM局限

大模型虽然能力强大，但是知识具有时效性，并且定制成本高
在这里插入图片描述
对比finetune，rag成本低，并且可以实时更新，但是非常依赖基座模型
在这里插入图片描述
RAG的流程如下，其基本问题步骤在于文本向量化，然后从数据库中匹配相似文本，一起作为prompt输入到基础模型中，获得最终输出结果
在这里插入图片描述
利用langchain这一框架实现自己的知识库，其可以各种通用接口
在这里插入图片描述
这是基于langchain搭建自己的知识库的流程
在这里插入图片描述
RAG的优化策略有以下几点：
在这里插入图片描述

gaxzj
关注
【 书生·浦语大模型实战营】学习笔记（一）：全链路开源体系介绍
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
03-31 1752
本文为实战营第一次课程笔记，主要分为两个部分，第一部分从书生·浦语大模型发展、分类、组成进行详细介绍，方便大家理解。第二部分为对 InternLM2技术报告解读，后续系列会继续更新，欢迎大家交流！
书生·浦语大模型 第三课 笔记
01-11 413
基于LangChain搭建RAG应用。基于文本构建向量数据库。
书生浦语大模型-第三课笔记
liusao123的专栏
04-07 448
RAG: 检索增强生成， 通俗理解为检索引擎，从知识库中所有相关内容，结合大语言模型生成回答。第一步： 生成索引， 将知识源文件，网页等分割成chunk，编码成向量存储到向量数据库中。第二步： 将用户的问题编码成向量在向量数据库中检索第三步： 将检索到的片段与远程问题一起作为提示给大模型生成最终回答的问题，返还给用户三种RAG的范式：Naive RAG： 即索引，检索，生成三部分构成的最基本的泛式， 这种范式经常用于简答的问答系统和信息检索场景中Advanced RAG： 在三个基础部分之外对检索前后都进行
书生·浦语大模型第三期实战营第一课笔记+作业
m0_53217058的博客
07-14 361
test.sh。
书生·浦语大模型第三期实战营第三课笔记+作业
m0_53217058的博客
07-14 586
欢迎来到ShortStoryMasterA项目仓库！本项目旨在使用QLoRA或全量微调的方式，基于大语言模型“谱语”和整个技术栈制作一个短篇小说创作大师。我们的目标是通过优化和微调模型，生成多种类型的高质量短篇小说，满足不同读者的需求。
书生浦语大模型实战营第三次课笔记
qq_40831032的博客
01-11 530
简介：LangChain 是一套专为 LLM 开发打造的开源框架，实现了 LLM 多种强大能力的利用，提供了 Chain、Agent、Tool 等多种封装工具，基于 LangChain 可以便捷开发应用程序，极大化发挥 LLM 潜能。这次课程介绍了基于InternLM和Langchain去搭建个人知识库。 1.LLM的局限性 2.RAG vs Finetune RAG指的是检索问答增强，Finetune是大模型微调 3.基于Langchain搭建RAG应用的流程 4.将个人数据转换
书生·浦语大模型训练营第三次课笔记
Adela0546的博客
01-13 1049
首先，对于以本地文档形式存在的个人知识库，会使用Unstructed Loader组件来加载本地文档，这个组件会将不同格式的本地文档统一转换为纯文本格式。然后通过Text Splitter组件对提取出来的纯文本进行分割成chunk，再通过开源词向量模型Sentence Transformer将文本段转化为向量格式存储到基于Chroma的相对数据库中。
轻松玩转书生·浦语大模型趣味 Demo (笔记和作业)
sorrowyn的博客
05-26 1834
Lagent 是一个轻量级、开源的基于大语言模型的智能体（agent）框架，支持用户快速地将一个大语言模型转变为多种类型的智能体，并提供了一些典型工具为大语言模型赋能。它的整个框架图如下:流式输出：提供 stream_chat 接口作流式输出，本地就能演示酷炫的流式 Demo。接口统一，设计全面升级，提升拓展性，包括：Model : 不论是 OpenAI API, Transformers 还是推理加速框架 LMDeploy 一网打尽，模型切换可以游刃有余；
书生·浦语大模型实战营 学习笔记 第三课
TINGTING_93的博客
04-11 1834
关键词： 固定长度的向量， 实现高效的相似性检索，余弦相似度或者点乘。当出现大规模数据或者实时响应要求很高时，vectorDB的优化很多时候都是对向量表示的优化。基本方法：使用更高级的文本编码技术，或者是用更好的预训练模型。
书生 浦语大模型实战训练营第二期 第三节笔记
04-14
书生 浦语大模型实战训练营第二期 第三节笔记
【 书生·浦语大模型实战营】学习笔记（二）：轻松玩转书生·浦语大模型趣味Demo
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
04-05 1228
本文为实战营第二次课程笔记，主要分为两个部分，第一部分部署 InternLM2-Chat-1.8B 模型进行智能对话。第二部分为完成 Lagent 工具调用 数据分析 Demo 部署，后续系列会继续更新，欢迎大家交流！
【第1节】书生·浦语大模型全链路开源开放体系
熊猫小妖的AI世界
04-17 1502
书生·浦语 InternLM介绍InternLM 是在过万亿 token 数据上训练的多语千亿参数基座模型。通过多阶段的渐进式训练，InternLM 基座模型具有较高的知识水平，在中英文阅读理解、推理任务等需要较强思维能力的场景下性能优秀，在多种面向人类设计的综合性考试中表现突出。在此基础上，通过高质量的人类标注对话数据结合 RLHF 等技术，使得 InternLM 可以在与人类对话时响应复杂指令，并且表现出符合人类道德与价值观的回复。
【 书生·浦语大模型实战营】作业（二）：轻松玩转书生·浦语大模型趣味Demo
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
04-05 482
🎉知识星球是一个致力于提供《机器学习 | 深度学习 | CV | NLP | 大模型 | 多模态 | AIGC 》各个最新AI方向综述、论文等成体系的学习资料，配有全面而有深度的专栏内容，包括不限于 前沿论文解读、资料共享、行业最新动态以、实践教程、求职相关（简历撰写技巧、面经资料与心得）多方面综合学习平台，强烈推荐AI小白及AI爱好者学习，性价比非常高！➡️。
【JasperReports笔记06】JasperReports报表开发之Jasper Studio开发工具中添加自定义字体
✅ Java 开发工程师，从事 Web 应用程序的研发，擅长 Spring、SpringBoot 等技术。 ✅ 热爱编程，业余时间学习新知识，通过 CSDN 记录学习心得和笔记内容。
10-11 118
在使用Jasper Studio工具制作报表模板的时候，我们一定会使用到字体文件，常见的字体有：微软雅黑和宋体，但是如果你想添加其他的字体，那么必须要下载字体，然后将其添加到Jasper Studio工具里面，这样才可以在开发开发工具里面使用对应的字体。我们可以在一些字体网站找自己喜欢的字体，然后下载到本地电脑里面，后续就可以开始配置字体路径啦。字体下载_免费字体下载_商用字体设计定制--字魂网字体天下-提供各类字体的免费下载和在线预览服务免费字体下载_免费商用字体_免费字体网_自由字体官网。
PostgreSQL学习笔记十：锁机制详解
软件行业技术文化交流。
10-11 1266
它通过不同级别的锁来控制对数据对象的并发访问，主要包括表级锁、行级锁、页级锁、咨询锁（Advisory Locks）以及死锁（Deadlocks）。咨询锁可以用于实现更细粒度的锁控制，例如，在不同的事务之间同步对特定资源的访问。咨询锁可以是会话级别的或事务级别的，允许用户在不同的进程或事务之间进行协调。：设计事务时，应尽量减少锁的持有时间，并避免长时间运行的事务，因为这会增加死锁的风险。这些锁可以是行级的、事务级的，或者是咨询锁（advisory locks），它们用于控制对表或行的并发访问。
[C++ 核心编程]笔记 5 函数提高
Alex的博客
10-11 430
作用:函数名可以相同，提高复用性同一个作用域下函数名称相同函数参数类型不同 或者 个数不同 或者 顺序不同注意: 函数的返回值不可以作为函数重载的条件//原函数cout
JAVA Web(学习笔记)
m0_74728220的博客
10-09 1227
客户端在发送一个请求时，一般而言都会携带一些数据(例如URL中的参数、页面中的表单、Ajax提交的参数等)，当一个Servlet接收到这些请求时，Java Servlet中的类通过所提供的方法就能得到这些参数，也正是这个原因，Servlet可以对发送请求起到拦截作用，它在某些请求前先做一个预处理分析，从而判断客户端是否可以做某些请求，当Servlet具有如上功能时，一般称之为拦截器。Servlet起到这个中间角色的功能，协调各组件、各部分完成相应的功能，根据不同的请求做出相应的响应并显示结果。
前端学习笔记 --css 黑马程序员3
m0_73805171的博客
10-11 537
文章目录盒子模型盒子的边框边框的复合写法表格的细线边框边框的注意事项paddingpadding的复合属性padding的注意事项marginmargin 让块元素、行内元素、行内块元素实现水平居中margin 外边距合并相邻块元素垂直外边距合并嵌套块元素垂直外边距合并圆角边框圆角边框的使用盒子边框文字阴影浮动浮动的原理与语法浮动的特性--脱标浮动特性--浮动元素一行显示浮动特征--浮动元素具有行内块元素的特性浮动的使用注意事项清除浮动清除浮动的方法清除浮动总结定位相对定位绝对定位固定定位粘性定位定位分类总
苍穹外卖学习笔记(二十一)
最新发布
₍˄·͈༝·͈˄*₎◞ ̑̑的博客
10-13 319
取消订单与再来一单
书生浦语大模型实战课：解决配置与端口问题
"书生浦语大模型实战课的第二课作业中，学员们通过视频教程进行学习，但在实际操作中遇到了一系列问题，包括端口配置、权限不足、端口被占用以及URL无法打开等。这些问题主要围绕SSH免密登录和端口占用问题展开。在...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值