1、学习了RAG技术的定义。是一种结合检索和生成的技术。通过外部的知识库来增强LLMs的性能。具体来说,当模型需要生成文本或者回答问题时,它会先从一个庞大的文档集合中检索出相关的信息,然后利用这些检索到的信息来指导文本的生成,从而提高预测的质量和准确性。适用于问答系统、文档生成、智能助手等多个自然语言处理任务中。RAG模型的优势在于通用性强、可实现即时的知识更新,以及通过端到端评估方法提供更高效和精准的信息服务。
2、RAG的工作原理。RAG通过三个关键部分实现工作:检索、利用和生成。在检索阶段,系统会从文档集合中检索相关信息;在利用阶段,系统会利用这些检索到的信息来填充文本或回答问题;最后在生成阶段,系统会根据检索到的知识来生成最终的文本内容。
3、RAG的优化方法。嵌入优化、索引优化、查询优化、上下文管理、迭代检索、递归检索、自适应检索、LLM微调。
4、RAG和微调的区别。RAG为非参数记忆。利用外部的知识库实时更新,知识密集。但是依赖于外部知识库的质量和覆盖范围,并且以来大模型能力。微调是参数记忆,需要大量标注数据,针对特定的任务。局限在于需要大量的标注数据,对新任务适应性差。
5、茴香豆。给予LLMs的领域知识助手,是书生的开源大模型应用。应用场景为智能客服等。加载了知识库,包括实时更新的企业内部文档、专业技术文档等。前端可适配微信、飞书等,后端可适配书生浦语、ChatGPT等。
茴香豆的工作流包括预处理、拒答工作流、应答工作流。预处理之后会与DB比较、得分。