LLM中的上下文和检索文档

LLM中的上下文和检索文档

在LLM中，上下文和检索文档有以下区别

定义与性质

• 上下文：指的是模型在生成回答时所依据的前文信息，包括用户的提问、之前的对话轮次、系统给定的前置说明等。它是与当前任务直接相关的文本环境，通常是动态的，随着对话或任务的进展而不断变化。例如，在一个对话系统中，用户先问“今天天气如何”，然后接着问“那明天呢”，这里“今天天气如何”就是“那明天呢”这个问题的上下文的一部分。
• 检索文档：是从大量的文本数据中根据一定的检索策略获取的相关文档集合。这些文档通常是事先存储在数据库或文件系统中的，具有相对固定的内容和结构。例如，在进行知识问答时，系统可能会从百科全书、新闻文章、学术论文等文档中检索与问题相关的信息。

作用与目的

• 上下文：帮助模型理解当**前任务的背景和语义，以便生成更准确、连贯