InterLM-课程3进阶作业

茴香豆（HuiXiangDou）是一款基于 LLM（Language Model）的群聊知识助手，专为即时通信工具中的群聊场景优化而设计。它能够通过应用 RAG（Retrieval Augmented Generation）技术，理解用户输入并高效准确地回应与特定知识领域相关的查询。

以下是使用茴香豆的详细体验：

1. 环境配置：
   • 在 Intern Studio 服务器上部署茴香豆。
   • 使用 Nvidia A100 GPU。
   • 下载基础文件，包括 BCE 模型和大模型参数。
2. 安装茴香豆：
   • 安装所需的 Python 依赖。
   • 下载茴香豆代码仓。
3. 修改配置文件：
   • 替换默认模型路径，指定用于向量数据库、词嵌入和检索的重排序模型。
4. 实践体验：
   • 茴香豆应用效果比对图显示，通过 RAG 技术实现了新增知识问答，即使在训练数据库中没有收录相关信息的情况下。

总之，茴香豆是一个强大且高效的 RAG 智能助理，适用于各行业，特别适合群聊场景中的知识查询和问题解答。

Pic 1.茴香豆web端试用

Pic 2.InternLM Studio 上部署茴香豆技术助手

Pic 3.服务器使用茴香豆记录

Pic 4.good-question调试成功