书生·浦语大模型实战营第二期（初夏专场）学习笔记：（三）茴香豆：搭建你的 RAG 智能助理

RAG（Retrieval Augmented Generation）

RAG的概念

RAG是一种无需微调即可使大模型能够回答出具有时效性知识的问题的方式。相比于微调，它能够以低成本让大模型能够进行知识更新。

RAG的原理

RAG维护一个外部知识库，当用户询问一个问题时，首先将该问题编码为向量，与知识库里的所有向量进行相似度比对（相似度通常通过余弦相似度以及点乘计算得到），找出最相似的文档，之后再将这些文档与该问题一起作为提示词输入到大模型中，即可生成最终的回答。

知识库的维护

通过将文本形式的知识源分割成块（chunk），编码成向量后再存储到向量数据库中。

茴香豆

茴香豆的概念

茴香豆是应用RAG技术开发的特定领域知识助手

茴香豆的工作流

茴香豆首先将用户输入语句预处理成查询，再通过与数据库里的问题做匹配，得出两者相似度得分，再根据得分判断是否需要拒绝回答，最后再对处理过后的查询做出应答响应。

课程链接：茴香豆：搭建你的 RAG 智能助理_哔哩哔哩_bilibili