书生·浦语大模型 第三课 茴香豆:搭建你的RAG智能助理

一. 什么是RAG

通俗点来说，RAG作为一个搜索引擎，用户输入的内容作为索引，在外部知识库中搜寻相关内容结合大语言模型的能力生成回答

构建一个向量数据库（Vector-DB），关于向量数据库的存储、检索、及向量数据库的优化

二.关于RAG

1.RAG流程实例

2.RAG的范式

三种rag范式：Navie rag(问答系统、信息检索)      Advanced rag（三个基础部分之外对于检索前后都进行了增强，在检索之前对用户问题进行扩展路由扩展、重写、对检索到的信息进行重排序，融合，总结处理、）（摘要生成，内容推荐）    Modular rag（基础部分和后续功能模块化、根据实际业务需求定制）（多模态任务，对话系统）

3.RAG的优化方法

4.RAG和微调

大模型的常见优化方法有：微调（Fine Tuning）、RAG、Prompt Engineering。很多时候会将三者结合使用

Fine Tuning && RAG

微调适用于：对于外部知识需求要求不高，对于模型适配，专业性要求高的场景的优化手段
RAG适用于：高外部知识需求，对于模型适配度要求不高的场景
 

5.RAG的评测

对于RAG的评测主要是检索和生成两方面

三.茴香豆

1.茴香豆的特性

2.茴香豆工作流程

第三节课作业

1.openxlab上的ComfyUI问答助手

这里将你好设置为正例，茴香豆助手进行了回复

这里对于一些方言方式的提问，茴香豆助手有些答非所问

这里让推荐火锅美食，但是茴香豆助手还是结合了上一个问题，推荐的是乐山的火锅店

二.茴香豆知识助手的服务器端部署