大模型知识检索RAG业务实践实践(高级篇)

大模型知识检索RAG业务实践实践(高级篇)

xxx作为智能对话机器人，承接着线上用户的实时 query，覆盖行情、事件、客服、投教、闲聊、荐股荐基等多种意图，能够快速地做出专业且准确地回答。但是，回答的承接性和准确性一直面临着挑战。据此，我们使用大模型能力升级xxx，以更好地服务用户。但是大语言模型的幻觉问题较为突出，模型可能给出非事实回答，甚至引发安全与合规问题，进而限制了它的应用。由此，检索增强生成技术（RAG）应运而生，它通过检索信息以增强生成的结果，进而缓解生成的幻觉问题。本文针对 RAG 中检索、策划、生成模型训练技术相关的挑战和解决方案进行总结。 传统对话机器人基本用 “意图” 来联接人的需求和对话系统的解决模块（或者说里面的数据库）。这其实大模型时代下，这类做法其实已经过时。单一 “意图” 其实已经不适合任务分发的唯一判别，单个数据源也不足以满足用户的期望，对于对话机器人的期待在不断提升，这也是为什么现在有这么多 RAG 融合方案。 那机器人怎么才能同时处理好这么多的并行信息输入并有效地将答案返回给用户呢？要做到这些的话，又需要做到什么呢？我们将核心能力拆解如下：

• 信息广度（检索能力，信息整合能力）
• 信息准确率（时效性、事实性、鲁棒性）
• 对话质