Large Search Model: Redefining Search Stack in the Era of LLMs

本文是LLM系列文章，针对《Large Search Model: Redefining Search Stack in the Era of LLMs》的翻译。

摘要

现代搜索引擎建立在一堆不同的组件之上，包括查询理解、检索、多级排名和问答等。这些组件通常是独立优化和部署的。在本文中，我们引入了一个新的概念框架，称为大型搜索模型，该框架通过将搜索任务与一个大型语言模型（LLM）统一来重新定义传统的搜索堆栈。所有任务都被公式化为自回归文本生成问题，允许通过使用自然语言提示来定制任务。该框架利用了LLM强大的语言理解和推理能力，在简化现有繁琐搜索堆栈的同时，提供了提高搜索结果质量的潜力。为了证实该框架的可行性，我们进行了一系列概念验证实验，并讨论了在现实世界的搜索系统中实现该方法的潜在挑战。

1 引言

2 相关工作

3 大搜索模型

4 概念验证实验

5 结论

本文引入了大型搜索模型框架来重新定义LLM时代搜索系统的技术堆栈。我们认为，LLM的独特特性允许对各种IR任务采用统一的建模方法，并提供改进的泛化能力，而不是微调和部署许多特定于任务的小型编码器-解码器或编码器模型。除了该框架的巨大潜力外，我们还讨论了一些需要进一步研究的新挑战，如高推理成本、长上下文建模和潜在的错位风险等。为了证明我们框架的可行性，我们进行了概念验证实验，尽管需要更大规模的评估来进行更全面的评估。
虽然现代搜索引擎在信息访问的民主化方面发挥了重要作用，但建立一个强大的搜索系统需要跨多个组件进行大量的工程工作࿰