magic_road的博客

基本方法：检索与用户查询相关的上下文，然后将其与内存缓冲区中的聊天历史记录一起发送给LLM, 让LLM在生成下一个答案时了解先前上下文。，由于用户query存在部分口语化的词，如停用词等，直接抽取用户中的关键词做召回是一个有效的方式。优点：它同时考虑了查询与存储文档之间的语义相似性和关键字匹配度；- 1. 通过将检索到的上下文逐块发送到LLM来迭代地细化答案。- 3. 同的上下文块生成多个答案，然后将它们连接或总结。- 2. 总结检索到的上下文以适应提示。：聊天历史记录和最后一条消息都。