通过第三期课程《茴香豆:搭建你的 RAG 智能助理》的学习,对于RAG知识有一定了解、了解由书生浦语团队开发并开源的“茴香豆”产品。
视频地址:https://www.bilibili.com/video/BV1QA4m1F7t4/
文档地址:https://github.com/InternLM/Tutorial/blob/camp2/huixiangdou/readme.md
1、RAG 基础介绍
RAG(Retrieval Augmented Generation)是一种结合了检索(Retrieval)和生成(Generation)的技术,旨在通过利用外部知识库来增强大型语言模型(LLMs)的性能。它通过检索与用户输入相关的信息片段,并结合这些信息来生成更准确、更丰富的回答,但是也许会“胡说八道”。
简单介绍了RAG的工作原理,主要涉及向量数据库、检索、文本生成等。
介绍了RAG常见的优化方法
介绍RAG微调后,又简单了评估框架和基准测试
2、茴香豆产品简介
“茴香豆”是一个基于LLMS的领域知识助手,由书生浦语团队开发的开源大模型。
专为及时通信工具中的群聊场景优化的工作流,提供及时准确的技术支持和自动化问答服务。通过应用RAG技术,“茴香豆”能够理解和高效准确的回应与特定知识领域相关的复查查询。
“茴香豆”的核心特点主要有免费开源、高效准确、领域知识、部署成本低、安全性高、扩展性强等。
前端可以与微信、飞书等链接,支持多种文档格式知识库,后端可以接入多种成熟的其它LLM服务。
3、使用茴香豆搭建RAG知识库实战
待后续补充操作记录和截图。