茴香豆(HuiXiangDou)是一款基于 LLM(Language Model)的群聊知识助手,专为即时通信工具中的群聊场景优化而设计。它能够通过应用 RAG(Retrieval Augmented Generation)技术,理解用户输入并高效准确地回应与特定知识领域相关的查询。
以下是使用茴香豆的详细体验:
- 环境配置:
- 在 Intern Studio 服务器上部署茴香豆。
- 使用 Nvidia A100 GPU。
- 下载基础文件,包括 BCE 模型和大模型参数。
- 安装茴香豆:
- 安装所需的 Python 依赖。
- 下载茴香豆代码仓。
- 修改配置文件:
- 替换默认模型路径,指定用于向量数据库、词嵌入和检索的重排序模型。
- 实践体验:
- 茴香豆应用效果比对图显示,通过 RAG 技术实现了新增知识问答,即使在训练数据库中没有收录相关信息的情况下。
总之,茴香豆是一个强大且高效的 RAG 智能助理,适用于各行业,特别适合群聊场景中的知识查询和问题解答。
Pic 1.茴香豆web端试用
Pic 2.InternLM Studio
上部署茴香豆技术助手
Pic 3.服务器使用茴香豆记录
Pic 4.good-question调试成功