本文是LLM系列文章,针对《Self-Retrieval: Building an Information Retrieval System with
One Large Language Model》的翻译。
摘要
大型语言模型(LLM)的兴起已经改变了信息检索(IR)系统在人类获取信息方面的作用。由于孤立的体系结构和有限的交互,现有的IR系统无法完全适应从直接向人类提供信息到间接为大型语言模型服务的转变。在本文中,我们提出了自检索,这是一种端到端的LLM驱动的信息检索架构,可以将IR系统所需的能力完全内化为单个LLM,并在IR过程中深度利用LLM的能力。具体来说,自检索通过自然语言索引架构将语料库内化为LLM。然后,整个检索过程被重新定义为文档生成和自我评估的过程,可以使用单个大型语言模型端到端地执行。实验结果表明,自检索不仅大大优于以前的检索方法,而且可以显著提高LLM驱动的下游应用程序(如检索预测生成)的性能。