【InternLM 实战营第二期笔记3】“茴香豆“:零代码搭建你的 RAG 智能助理

已于 2024-04-18 21:58:49 修改
阅读量931 收藏 24
点赞数 16
分类专栏： nlp 文章标签： 人工智能 语言模型 nlp
于 2024-04-11 00:26:19 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_45776432/article/details/137474143
版权

目录

笔记

引言

补充知识点-向量知识库（Vector-DB）

RAG工作流具体示意

RAG常见优化方法

RAG v.s. 微调（Tuning） 

RAG评测

茴香豆介绍

一些小练习

Task1

1. 在茴香豆 Web 版中创建自己领域的知识问答助手

Bonus Task 集成开发飞书 

Task 2 

2.在 InternLM Studio 上部署茴香豆技术助手

其他优秀参考资料

笔记

视频地址：茴香豆：搭建你的 RAG 智能助理_哔哩哔哩_bilibili

文档链接：Tutorial/huixiangdou/readme.md at camp2 · InternLM/Tutorial (github.com) 

作业小练习链接：Tutorial/huixiangdou/homework.md at camp2 · InternLM/Tutorial (github.com) 

引言

为什么要使用RAG？以及什么是RAG？

举个🌰：

这里问题是：huixiangdou是什么？【这个属于新增知识】

- 如左图：回答其实已经开始胡编乱造，出现hallucination了

- 如右图：使用了RAG，在没有额外训练的情况下，能正确回答问题啦！

 什么是RAG？

通俗一点来说，可以将RAG看成一个搜索引擎，用户输入的内容作为索引，在外部知识库中搜索该内容，结合大语言模型的能力生成回答。

三个重要的部分：Indexing，Retrieval，Generation.（索引，检索，生成）

补充知识点-向量知识库（Vector-DB）

  • 向量表示的优化，会直接影响RAG的结果好坏

 从这里开始会有很多内容来自下面这篇survey，感兴趣的小伙伴们可以看看！

Survey Link: https://arxiv.org/abs/2312.10997icon-default.png?t=N7T8https://arxiv.org/abs/2312.10997

RAG工作流具体示意

LLM回答的内容，经过RAG之后，均会来自其调用的相关数据库。

 RAG常见优化方法

  • 嵌入优化，索引优化--对向量数据库的优化
  • 查询优化和上下文管理，分别为Advanced RAG范式中的前检索，以及后检索部分。

 RAG v.s. 微调（Tuning） 

从对外部知识的需求，任务对模型适配度的这两个方面进行考量：

  • Fine-tuning: 对外部需求不高，但要求任务对模型适配度高的情况

三种方法集合在一起，当然能做一个更综合的trade-off。

RAG评测

茴香豆介绍

下图为茴香豆的工作流

一些小练习

Task1

1. 在茴香豆 Web 版中创建自己领域的知识问答助手

Step1：登录网页端（OpenXLab浦源 - 应用中心）- 创建自己的知识库（比如：这里举了个例子，如下图上传一个pdf file）

Step2：与线上茴香豆助手对话5轮

Task 1 作业截图
Bonus Task 集成开发飞书 

参考链接：Docsicon-default.png?t=N7T8https://aicarrier.feishu.cn/docx/H1AddcFCioR1DaxJklWcLxTDnEc

Step1：将AppID与AppSecret填入对应的红框位置，然后“保存凭证”。

注：

这红框三个都要勾选哦！！！ 

Bonus Task 集成开发飞书截图

Task 2 

2.在 InternLM Studio 上部署茴香豆技术助手

  • 根据教程文档搭建 茴香豆技术助手，针对问题  "茴香豆怎么部署到微信群？"进行提问并截图
Task 2 针对问题  "茴香豆怎么部署到微信群？"进行提问并截图

注：

  • 可以用sed方式更改配置文件

- sed linux命令：利用脚本的方式处理文件（Linux sed 命令 | 菜鸟教程）

  • 创建知识库

  • 特征提取

其他优秀参考资料

[HoK][RAG]基于茴香豆Web知识库的王者荣耀英雄故事助手[书生·浦语大模型实战营第二期第三课作业] - 知乎Keywords：InternLM， LLM，Finetune，王者荣耀, 微调, 知识库搭建，检索问答链, RAG，Retrieval Augmented Generation, Prompt Template，Web Gradio，飞书，微信， 茴香豆，huixiangdou，HoK，Honor of Kings 教…icon-default.png?t=N7T8https://zhuanlan.zhihu.com/p/691827925/

  • 茴香豆也可以接入微信

参考文档：茴香豆零编程接入微信 - 知乎

ALE.code
关注
  • 16
    点赞
  • 踩
  • 24
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
RAG实战代码及知识库
03-13
在本资源中，“RAG实战代码及知识库”是一个针对自然语言处理领域的实践项目，它基于yuan2.0大模型构建了一个名为RAG（Retrieval-Augmented Generation）的系统。RAG是一种混合了检索和生成两种能力的模型，它能够...
基于langchain的RAG实战
02-19
基于langchain的RAG实战
【InternLM 实战营第二期-笔记3】茴香豆：搭建你的 RAG 智能助理
Oven_maizi的博客
04-12 1151
大模型的训练时间在前，无法解答针对新增知识的问题，如何解决大模型的幻觉？传统方法：采集新增语料，通过微调等方式对模型进行再训练。缺陷：知识新增太快，语料太多，语料难以收集，训练成本太大。rag技术的提出。（不需要训练，解决新增知识的问题）Rag(retrieval augmented generation)是一种结合了检索（retrieval)和生成（generation)的技术，旨在通过利用外部知识库来增强大型语言模型（llms)的性能。
InternLM实战营第二期第3节课笔记-“茴香豆“:零代码搭建你的 RAG 智能助理
maizijieguida的博客
06-02 1268
RAG（Retrieval Augmented Generation）检索增强生成。一句话解释：为LLM提供外部知识（记忆），使模型交互时能以外部知识库作为参考。完成不少于 400 字的笔记 + 线上茴香豆助手对话截图(不少于5轮)在提供给大量文件输入知识向量库后，只要提问者提问相关问题，小助手是能够快速并且精确地给出回答的，很适合从业者或者学生，是一个很便利的文档问答工具，可以快速提问自己文档中的内容从而得到答案。
InternLM实战营第二期笔记·③「茴香豆：搭建你的 RAG 智能助理】」
m0_69227055的博客
04-14 791
教程链接：https://github.com/InternLM/Tutorial/blob/camp2/huixiangdou/readme.md视频链接：https://www.bilibili.com/video/BV1QA4m1F7t4/
【InternLM实战营第二期03笔记】【茴香豆：搭建你的 RAG 智能助理】
w626394316的博客
04-30 660
RAG（Retrieval Augmented Generation）技术，通过检索与用户输入相关的信息片段，并结合外部知识库来生成更准确、更丰富的回答。解决 LLMs 在处理知识密集型任务时可能遇到的挑战, 如幻觉、知识过时和缺乏透明、可追溯的推理过程等。提供更准确的回答、降低推理成本、实现外部记忆。RAG 能够让基础模型实现非参数知识更新，无需训练就可以掌握新领域的知识。本次课程选用的茴香豆应用，就应用了 RAG 技术，可以快速、高效的搭建自己的知识领域助手。
【InternLM 实战营第二期笔记+基础作业03】茴香豆：搭建你的RAG智能助理
zzzibo的博客
05-14 837
RAG（retrieval augmented generation）是一种结合了检索（retrieval）和生成（generation）的技术，旨在通过利用外部知识库来增强大型语言模型（LLMs）的性能，通过检索与用户输入相关的信息片段，并结合这些信息来生成更准确、更丰富的回答。通俗理解，RAG是一个搜索引擎，在外部知识库当中搜寻相关的内容，结合大语言模型的能力生成回答。最大的优点是帮助大模型处理知识密集型任务时遇到的挑战，可以解决外部记忆缺失的难题。应用场景：问答系统、文本生成、信息检索、图片描述。
【InternLM实战营第二期笔记】03：“茴香豆“，搭建你的 RAG 智能助理
莉莉兹的摸鱼日记
05-28 397
Indexing 部分，llamaIndex 是目前比较火的框架。两篇技术报告写得很好，推荐开发者去读一下，很多问题并不是新问题，但在新技术场景下可以尝试不同的解决方案。看来浦语对茴香豆的定位升级成平台性产品了。
【InternLM 实战营第二期作业03】茴香豆：搭建你的RAG智能助理
qq_74261455的博客
04-14 1012
通过对上述正例问题的分析，我们可以看到茴香豆对于数据分析领域的相关知识库掌握得相当扎实。它能够针对不同的数据分析场景和需求，提出恰当且具体的问题，显示出其对于数据清洗、预处理、可视化、时间序列分析、机器学习应用、关联规则挖掘、模型评估、数据挖掘与数据分析的区别、聚类分析以及统计方法和测试选择等方面的深入理解。这些正例问题不仅有助于深化对数据分析领域的认识，同时也为数据分析的实践提供了有价值的指导。茴香豆的回答能力充分展现了其在数据分析领域的专业素养和扎实的知识储备。我上传了python数据分析的文档。
【InternLM 实战营第二期笔记】使用茴香豆搭建你的RAG智能助理
JeffDing
04-07 985
茴香豆是一个基于 LLM 的群聊设计拒答、响应两阶段 pipeline 应对群聊场景，解答问题同时不会消息泛滥。精髓见技术报告成本低至 1.5G 显存，无需训练适用各行业提供一整套前后端 web、android、算法源码，工业级开源可商用。
【InternLM 实战营第二期笔记03】茴香豆：搭建你的RAG智能助理
qq_74261455的博客
04-14 1015
茴香豆是一个基于LLMs的领域知识助手，由书生浦语团队开发。它专门用于即时通讯工具中的群聊场景，为用户提供及时准确的技术支持和首动花问答服务。通过应用检索增强生成（RAG）技术，茴香豆能够理解和高效准确地回应与特定知识领域相关的复杂查询。它的应用场景广泛，包括智能客服的技术支持和领域知识对话，以及群聊中处理各种类型的信息。然而，随着用户数量的增加，群聊中的信息量巨大且内容多样，从技术讨论到闲聊应有尽有，这给茴香豆带来了一定的挑战。
大模型LLM，RAG实战.zip
03-14
标题中的“大模型LLM，RAG实战”指的是在自然语言处理领域中，大型语言模型（Large Language Models, LLM）的应用，特别是Relevance-Aware Generation（RAG）模型的实际操作。RAG是一种结合了检索式和生成式模型优势...
Langchain-一个简单的基于Langchain+RAG的应用示例-附项目源码+流程教程-优质项目实战.zip
07-22
Langchain_一个简单的基于Langchain+RAG的应用示例_附项目源码+流程教程_优质项目实战
人工智能-项目实践-信息检索-从0-1系统性快速学习大模型检索增强技术RAG
02-29
在本项目实践中，我们将深入探讨“人工智能-项目实践-信息检索-从0-1系统性快速学习大模型检索增强技术RAG”。RAG，全称为Retrieval-Augmented Generation，是一种将检索技术与生成模型相结合的方法，用于提高信息...
【自然语言处理】概论（一）：自然语言处理概要
古月居
07-25 617
语言：语言就广义而言，是采用一套具有共同处理规则来进行表达的沟通指令，指令会以视觉、声音或者触觉等方式来传递。可以分为:自然语言、动物语言、计算机语言。。。自然语言人类在发展过程中形成的一种信息交流方式，包括口语和书面语，反映人类的思想。它自然地随文化演化，是人类用来沟通的指令，可以通过视觉、声音或触觉等方式传递。定义：自然语言处理是计算机科学和人工智能的一个分支，它旨在开发能够理解和生成人类语言的技术。通过建立形式化计算模型来分析、理解和生成自然语言的学科。
2024钉钉杯A题思路详解
最新发布
全栈川川
07-26 1519
2024钉钉杯思路
常见的文心一言的指令
知码客
07-25 1115
文心一言，作为百度研发的预训练语言模型“ERNIE 3.0”的一项功能，能够与人对话互动，回答问题，协助创作，高效便捷地帮助人们获取信息、知识和灵感。
安装TensorRT各自小库版本问题
Ppandaer的博客
07-24 382
降版本：protobuf3.19，onnx 1.12。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值