RAG(Retrieval Augmented Generation,检索增强生成)是一种利用检索外部知识库的信息来增强大语言模型准确性和可靠性的技术。RAG 已经被证明能够有效解决一系列阻碍大模型应用的核心问题(例如出现幻觉、时效性差、专业领域知识不足、数据安全问题等)。而 Embedding 模型和向量数据库是实现这一方案的关键,更好的模型、功能更丰富的向量数据库,能够有效提升 RAG 的回复质量,帮助大语言模型实现更好的终端问答体验。
然而,由于基础 Dense Embedding 和向量召回方案的限制,一些场景下RAG 最终所呈现的效果还不尽如人意。目前,业界倾向于采取两种方案来提升 RAG 的问答质量:
方案一,使用 Sparse Vector 配合 Dense Vector 进行两路召回的方式。其中,Sparse Vector 可以覆盖传统全文检索的能力,帮助识别和捕捉特定的关键词,而 Dense Vector 则可以更有效地抓住文本中的整体语义信息。通过将这两种向量召回的结果整合,可以获得更丰富、更全面的信息,从而提升 RAG 的效果。