【可能是全网最丝滑的LangChain教程】五、快速入门Conversation Retrieval Chain

最新推荐文章于 2024-08-08 15:41:55 发布

黑客-雨

最新推荐文章于 2024-08-08 15:41:55 发布

阅读量391

点赞数 4

文章标签： langchain AI大模型人工智能语言模型大模型

本文链接：https://blog.csdn.net/2401_84204207/article/details/140085498

版权

使用LangChain构建应用

LangChain支持构建应用程序，将外部数据源和计算源连接到LLM。我们将从一个简单的 LLM 链开始，它只依赖于提示模板中的信息来响应。接下来，我们将构建一个检索链，该链从单独的数据库获取数据并将其传递到提示模板中。 然后，我们将添加聊天记录，以创建对话检索链。这允许您以聊天方式与此 LLM 进行交互，因此它会记住以前的问题。 最后，我们将构建一个代理，利用 LLM 来确定它是否需要获取数据来回答问题。

Conversation Retrieval Chain

到目前为止，我们创建的链只能回答单个问题。人们正在构建的LLM应用程序的主要类型之一是聊天机器人。那么，我们如何将这条链转化为一条可以回答后续问题的链呢？

我们仍然可以使用create_retrieval_chain函数，但我们需要更改两件事：

检索方法现在不应该只针对最近的输入，而是应该考虑整个历史。
最后的LLM链同样应考虑整个历史。

背景

基于百度百科的《让子弹飞》介绍，设计一个带历史对话的聊天机器人。

准备工作

主要是网页数据的加载、嵌入模型的初始化、向量数据库的初始化等，具体代码如下。

from langchain_community.document_loaders import WebBaseLoader
from langchain.embeddings.huggingface import HuggingFaceEmbeddings
import torch
from langchain_community.vectorstores import FAISS
from langchain_text_splitters import RecursiveCharacterTextSplitter 

# 词嵌入模型
EMBEDDING_DEVICE = "cuda" if torch.cuda.is_available() else "mps" if torch.backends.mps.is_available() else "cpu"
embeddings = HuggingFaceEmbeddings(model_name='D:\models\m3e-base', model_kwargs={'device': EMBEDDING_DEVICE})
# 加载外部文档
loader = WebBaseLoader("https://baike.baidu.com/item/%E8%AE%A9%E5%AD%90%E5%BC%B9%E9%A3%9E/5358?fr=ge_ala")
docs = loader.load()
# 文档向量化到FAISStext_splitter = RecursiveCharacterTextSplitter()
documents = text_splitter.split_documents(docs)
vector = FAISS.from_documents(documents, embeddings)
# 得到一个检索器
retriever = vector.as_retriever()

Updating Retrieval

为了更新检索，我们将创建一个新的链。该链将接收最近的输入（input）和会话历史（chat_history），并使用LLM生成搜索查询。

from langchain.chains import create_history_aware_retriever
from langchain_core.prompts import MessagesPlaceholder  
prompt = ChatPromptTemplate.from_messages([    
    MessagesPlaceholder(variable_name="chat_history"),    
    ("user", "{input}"),    
    ("user", "Given the above conversation, generate a search query to look up in order to get information relevant to the conversation")
])
retriever_chain = create_history_aware_retriever(llm, retriever, prompt)

现在我们有了这个新的检索器，我们可以创建一个新的链来继续对话，并牢记这些检索到的文档。

prompt = ChatPromptTemplate.from_messages([    
    ("system", "Answer the user's questions based on the below context:\n\n{context}"), 
    MessagesPlaceholder(variable_name="chat_history"),    
    ("user", "{input}"),
])
document_chain = create_stuff_documents_chain(llm, prompt) 
retrieval_chain = create_retrieval_chain(retriever_chain, document_chain)

测试一下效果

chat_history = [
    HumanMessage(content="《让子弹飞》什么时候在大陆上映的？"), 
    AIMessage(content="《让子弹飞》的大陆上映时间是2010年12月16日。")
]
retrieval_chain.invoke({    
    "chat_history": chat_history,    
    "input": "那韩国上映时间呢？"
})

最终输出

《让子弹飞》在2011年10月8日在韩国上映。

以上就是一个简单的，带历史记录的聊天机器人。整个的流程大概是：检索文档找到关联的文档（一条或者多条），基于文档和历史对话进行问答，得到问题的答案。如果如果还要继续进行问答，往chat_history中添加新的问答对即可。

Peace Guys~

如何学习AI大模型？

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述