RAG技术介绍
RAG(Retrieval Augmented Generation)技术,通过检索相关信息并结合外部知识,生成更准确、全面的答案。它解决了之前大型语言模型(LLM)在处理知识密集型任务时存在的幻觉问题、知识陈旧以及缺乏透明和可追踪推理过程等挑战。它允许进行非参数化知识更新,而不需要训练,非常适合构建知识问答助手。通过使用RAG技术的应用茴香豆,与基线模型InternLM2-Chat-7B的结果进行对比,证明了RAG的有效性。
(此为教程中示意图,侵删)
茴香豆知识助手详细介绍
茴香豆(Huixiangdou)是一个基于RAG(Retrieval Augmented Generation)技术的知识问答助手,它结合了检索和外部知识,提供精确、全面的答案。参考视频:
特点和优势
- 茴香豆擅长处理如微信、飞书等群聊场景中的问题。
- 它提供了一种针对技术问题的算法pipeline,能有效解答用户提问。
- 它可以无缝集成到通讯软件中,用户无需编程知识即可使用。
- 茴香豆的部署成本很低,只需满足4个trait的LLM模型便能回答大部分问题。
- 它可以通过Web端创建和管理知识库,支持上传文档来扩展知识。
创新之处
- Web端创建知识库:用户能通过简单的Web界面上传文档,构建专属知识库。
- 语言切换:支持中英文切换,方便国际用户使用。
- 效率和效果:上传文档后,即可带着知识库与茴香豆互动,有效提高了答疑的精准度。
操作演示
- 用户可以通过上传相关领域的文档例如“电信办卡优惠”,茴香豆便能针对这个领域的问题提供答案。
- 茴香豆利用其算法判断提问的重要性,像常见的问候“你好”,可能就不给予回答,以避免群聊信息泛滥。
功能配置演示
- 茴香豆允许用户自定义知识库,添加正反例以细化问答效果,使之更符合用户的实际需求。
- 配置更改十分简易,只需点几下鼠标,即可保存修改。
移动集成
茴香豆还提供了安卓app,用于无缝集成到通讯软件中。只需简单设置Web端地址,就能让茴香豆在后台运行,扫描屏幕并智能解答问题。
茴香豆已经在多个群运行超过半年,不仅帮助了很多用户解答问题,也得到了社区的广泛认可。
茴香豆Web版部署笔记
1.创建与管理知识库
通过茴香豆Web版界面创建个性化知识库。可上传与专业领域相关的文档,茴香豆便能结合这些知识源提供更精准的回答。茴香豆web版网址:https://openxlab.org.cn/apps/detail/tpoisonooo/huixiangdou-web
# Web界面上传文档示例
- 点击“上传文档”按钮
- 选择你的领域文档
- 等待文档处理完成
此步骤对于后续的问答效果至关重要,确保上传的是高质量且领域相关的材料。
2. Web端配置
茴香豆的Web端支持多种配置选项,能对知识库、助手回应等进行个性化设置。例如,可以根据需要更改助手对不同类型问题的响应策略,比如回答哪些问题,拒绝哪些问题。
3. 功能测试
完成配置后,就可以与茴香豆助手进行对话测试其回答效果。结合实际提问场景,验证知识库的有效性和茴香豆的响应能力。
(web端示例)
(拓展)4. 整合到群聊工具
通过将茴香豆安装到常用的群聊工具,如微信和飞书,让其在群聊中提供实时的专业问答服务。根据相关教程,这一过程十分简便,无需深入编程知识。
我参考茴香豆官方文档,部署了一个茴香豆机器人到飞书群中:
(参考教程:茴香豆零编程接入飞书 - 飞书云文档 (feishu.cn))
下面我们详细介绍如何实现。
准备工作
1. 创建企业自建应用(机器人)
首先,需要访问飞书开放平台,创建属于企业的自建应用,以此作为将Bot接入群聊的基础。然后新增一个机器人,它将作为群聊中的问答助手,可以配置为自动响应成员提问。
配置项
1. 凭证信息填入
在飞书开发平台,找到应用的基础信息,复制App ID和App Secret。将这些凭证信息填入到茴香豆Web的Integrate With Lark 表单中,以确保两个服务可以正常对接。
2. 加密策略同步
茴香豆Web为飞书群聊提供的加密策略需要复制后,填入到飞书开发配置中的事件与回调设置里。确保加密策略双向匹配,以便于安全地传输数据和信息。
# 配置示例
- 应用凭证:App ID(XXXXXX),App Secret(XXXXXXXX)
- 加密策略:填入相应字段
3.订阅事件:
继续点击当前页面的【添加事件】按钮,搜索【接收消息】事件,并申请开通对应权限
4.权限配置:
点击开发配置-权限管理tab下,申请开通权限:im:chat:readonly 和 im:message:send_as_bot
最后,点击上方提示栏,发布当前应用版本,提示“已发布”后即配置成功。
完成上述步骤后,茴香豆就可以成功接入到飞书群聊中啦,作为一个智能的群聊助手,它能够即时回答群内提出的相关领域问题,有效提升群聊的工作效率和知识分享的互动性。
(飞书群聊测试)
最后,通过实际的群聊场景来检验茴香豆助手的表现,确保其在实战环境中满足用户需求。
结语
这就是茴香豆的相关介绍啦。根据教程,我们可以顺利通过茴香豆Web版来部署并运行自己的智能助手,有助于提高群聊中的互动质量,并可以作为一个及时的专业知识库在日常工作中发挥巨大作用。此外,茴香豆的部署过程相对简单,即使没有专业的编程技能,也可以通过跟随教程轻松完成。