一. 什么是RAG
通俗点来说,RAG作为一个搜索引擎,用户输入的内容作为索引,在外部知识库中搜寻相关内容结合大语言模型的能力生成回答
构建一个向量数据库(Vector-DB),关于向量数据库的存储、检索、及向量数据库的优化
二.关于RAG
1.RAG流程实例
2.RAG的范式
三种rag范式:Navie rag(问答系统、信息检索) Advanced rag(三个基础部分之外对于检索前后都进行了增强,在检索之前对用户问题进行扩展路由扩展、重写、对检索到的信息进行重排序,融合,总结处理、)(摘要生成,内容推荐) Modular rag(基础部分和后续功能模块化、根据实际业务需求定制)(多模态任务,对话系统)
3.RAG的优化方法
4.RAG和微调
大模型的常见优化方法有:微调(Fine Tuning)、RAG、Prompt Engineering。很多时候会将三者结合使用
Fine Tuning && RAG
微调适用于:对于外部知识需求要求不高,对于模型适配,专业性要求高的场景的优化手段
RAG适用于:高外部知识需求,对于模型适配度要求不高的场景
5.RAG的评测
对于RAG的评测主要是检索和生成两方面
三.茴香豆
1.茴香豆的特性
2.茴香豆工作流程
第三节课作业
1.openxlab上的ComfyUI问答助手
这里将你好设置为正例,茴香豆助手进行了回复
这里对于一些方言方式的提问,茴香豆助手有些答非所问
这里让推荐火锅美食,但是茴香豆助手还是结合了上一个问题,推荐的是乐山的火锅店