【书生·浦语大模型实战营】第3节笔记（一）：茴香豆：搭建你的RAG 智能助理

RAG技术介绍

RAG（Retrieval Augmented Generation）技术，通过检索相关信息并结合外部知识，生成更准确、全面的答案。它解决了之前大型语言模型（LLM）在处理知识密集型任务时存在的幻觉问题、知识陈旧以及缺乏透明和可追踪推理过程等挑战。它允许进行非参数化知识更新，而不需要训练，非常适合构建知识问答助手。通过使用RAG技术的应用茴香豆，与基线模型InternLM2-Chat-7B的结果进行对比，证明了RAG的有效性。

 （此为教程中示意图，侵删）

茴香豆知识助手详细介绍

茴香豆（Huixiangdou）是一个基于RAG（Retrieval Augmented Generation）技术的知识问答助手，它结合了检索和外部知识，提供精确、全面的答案。参考视频：

【零编程玩转大模型，学习茴香豆部署群聊助手】

特点和优势

• 茴香豆擅长处理如微信、飞书等群聊场景中的问题。
• 它提供了一种针对技术问题的算法pipeline，能有效解答用户提问。
• 它可以无缝集成到通讯软件中，用户无需编程知识即可使用。
• 茴香豆的部署成本很低，只需满足4个trait的LLM模型便能回答大部分问题。
• 它可以通过Web端创建和管理知识库，支持上传文档来扩展知识。

创新之处

• Web端创建知识库：用户能通过简单的Web界面上传文档，构建专属知识库。
• 语言切换：支持中英文切换，方便国际用户使用。
• 效率和效果：上传文档后，即可带着知识库与茴香豆互动，有效提高了答疑的精准度。

操作演示

• 用户可以通过上传相关领域的文档例如“电信办卡优惠”，茴香豆便能针对这个领域的问题提供答案。
• 茴香豆利用其算法判断提问的重要性，像常见的问候“你好”，可能就不给予回答，以避免群聊信息泛滥。

功能配置演示

• 茴香豆允许用户自定义知识库，添加正反例以细化问答效果，使之更符合用户的实际需求。
• 配置更改十分简易，只需点几下鼠标，即可保存修改。

移动集成

茴香豆还提供了安卓app，用于无缝集成到通讯软件中。只需简单设置Web端地址，就能让茴香豆在后台运行，扫描屏幕并智能解答问题。

茴香豆已经在多个群运行超过半年，不仅帮助了很多用户解答问题，也得到了社区的广泛认可。

茴香豆Web版部署笔记

1.创建与管理知识库

通过茴香豆Web版界面创建个性化知识库。可上传与专业领域相关的文档，茴香豆便能结合这些知识源提供更精准的回答。茴香豆web版网址：https://openxlab.org.cn/apps/detail/tpoisonooo/huixiangdou-web

# Web界面上传文档示例
- 点击“上传文档”按钮
- 选择你的领域文档
- 等待文档处理完成

此步骤对于后续的问答效果至关重要，确保上传的是高质量且领域相关的材料。

2. Web端配置

茴香豆的Web端支持多种配置选项，能对知识库、助手回应等进行个性化设置。例如，可以根据需要更改助手对不同类型问题的响应策略，比如回答哪些问题，拒绝哪些问题。

3. 功能测试

完成配置后，就可以与茴香豆助手进行对话测试其回答效果。结合实际提问场景，验证知识库的有效性和茴香豆的响应能力。

（web端示例）

（拓展）4. 整合到群聊工具

通过将茴香豆安装到常用的群聊工具，如微信和飞书，让其在群聊中提供实时的专业问答服务。根据相关教程，这一过程十分简便，无需深入编程知识。
我参考茴香豆官方文档，部署了一个茴香豆机器人到飞书群中：
（参考教程：‌‌‌​‌⁢⁡​‬​‌⁡⁡⁤‌⁢‬⁡⁢⁡‬‬⁡‬⁣​⁡⁢​​⁣​⁣​​​⁤‍‬​​‍​⁤​⁢⁢​⁢茴香豆零编程接入飞书 - 飞书云文档 (feishu.cn)）

下面我们详细介绍如何实现。

准备工作

1. 创建企业自建应用（机器人）

首先，需要访问飞书开放平台，创建属于企业的自建应用，以此作为将Bot接入群聊的基础。然后新增一个机器人，它将作为群聊中的问答助手，可以配置为自动响应成员提问。

配置项

1. 凭证信息填入

在飞书开发平台，找到应用的基础信息，复制App ID和App Secret。将这些凭证信息填入到茴香豆Web的Integrate With Lark 表单中，以确保两个服务可以正常对接。

2. 加密策略同步

茴香豆Web为飞书群聊提供的加密策略需要复制后，填入到飞书开发配置中的事件与回调设置里。确保加密策略双向匹配，以便于安全地传输数据和信息。

# 配置示例
- 应用凭证：App ID（XXXXXX），App Secret（XXXXXXXX）
- 加密策略：填入相应字段

3.订阅事件：

继续点击当前页面的【添加事件】按钮，搜索【接收消息】事件，并申请开通对应权限

4.权限配置：

点击开发配置-权限管理tab下，申请开通权限：im:chat:readonly 和 im:message:send_as_bot

最后，点击上方提示栏，发布当前应用版本，提示“已发布”后即配置成功。

完成上述步骤后，茴香豆就可以成功接入到飞书群聊中啦，作为一个智能的群聊助手，它能够即时回答群内提出的相关领域问题，有效提升群聊的工作效率和知识分享的互动性。

（飞书群聊测试）

最后，通过实际的群聊场景来检验茴香豆助手的表现，确保其在实战环境中满足用户需求。

结语

这就是茴香豆的相关介绍啦。根据教程，我们可以顺利通过茴香豆Web版来部署并运行自己的智能助手，有助于提高群聊中的互动质量，并可以作为一个及时的专业知识库在日常工作中发挥巨大作用。此外，茴香豆的部署过程相对简单，即使没有专业的编程技能，也可以通过跟随教程轻松完成。