RAG(Retrieval Augmented Generation)技术,通过检索与用户输入相关的信息片段,并结合外部知识库来生成更准确、更丰富的回答。解决 LLMs 在处理知识密集型任务时可能遇到的挑战, 如幻觉、知识过时和缺乏透明、可追溯的推理过程等。提供更准确的回答、降低推理成本、实现外部记忆。
RAG 能够让基础模型实现非参数知识更新,无需训练就可以掌握新领域的知识。本次课程选用的茴香豆应用,就应用了 RAG 技术,可以快速、高效的搭建自己的知识领域助手。
RAG工作原理
RAG流程示例
RAG发展进程
评估框架和基准测试
RAG总结
RAG应用——茴香豆
在商业应用中,大多对数据上网很敏感。RAG技术能够借助远端的大模型API+本部部署RAG应用,实现了个性化数据本地部署。