系列文章地址
【可能是全网最丝滑的LangChain教程】一、LangChain介绍-CSDN博客
【可能是全网最丝滑的LangChain教程】二、LangChain安装-CSDN博客
【可能是全网最丝滑的LangChain教程】三、快速入门LLM Chain-CSDN博客
【可能是全网最丝滑的LangChain教程】四、快速入门Retrieval Chain-CSDN博客
使用LangChain构建应用
LangChain支持构建应用程序,将外部数据源和计算源连接到LLM。我们将从一个简单的 LLM 链开始,它只依赖于提示模板中的信息来响应。 接下来,我们将构建一个检索链,该链从单独的数据库获取数据并将其传递到提示模板中。 然后,我们将添加聊天记录,以创建对话检索链。这允许您以聊天方式与此 LLM 进行交互,因此它会记住以前的问题。 最后,我们将构建一个代理,利用 LLM 来确定它是否需要获取数据来回答问题。
Conversation Retrieval Chain
到目前为止,我们创建的链只能回答单个问题。人们正在构建的LLM应用程序的主要类型之一是聊天机器人。那么,我们如何将这条链转化为一条可以回答后续问题的链呢?
我们仍然可以使用create_retrieval_chain函数,但我们需要更改两件事:
- 检索方法现在不应该只针对最近的输入,而是应该考虑整个历史。
- 最后的LLM链同样应考虑整个历史。
背景
基于百度百科的《让子弹飞》介绍,设计一个带历史对话的聊天机器人。
准备工作
主要是网页数据的加载、嵌入模型的初始化、向量数据库的初始化等,具体代码如下。
from langchain_community.document_loaders import WebBaseLoader
from langchain.embeddings.huggingface import HuggingFaceEmbeddings
import torch
from langchain_community.vectorstores import FAISS
from langchain_text_splitters import RecursiveCharacterTextSplitter
# 词嵌入模型
EMBEDDING_DEVICE = "cuda" if torch.cuda.is_available() else "mps" if torch.backends.mps.is_available() else "cpu"
embeddings = HuggingFaceEmbeddings(model_name='D:\models\m3e-base', model_kwargs={'device': EMBEDDING_DEVICE})
# 加载外部文档
loader = WebBaseLoader("https://baike.baidu.com/item/%E8%AE%A9%E5%AD%90%E5%BC%B9%E9%A3%9E/5358?fr=ge_ala")
docs = loader.load()
# 文档向量化到FAISS
text_splitter = RecursiveCharacterTextSplitter()
documents = text_splitter.split_documents(docs)
vector = FAISS.from_documents(documents, embeddings)
# 得到一个检索器
retriever = vector.as_retriever()
Updating Retrieval
为了更新检索,我们将创建一个新的链。该链将接收最近的输入(input)和会话历史(chat_history),并使用LLM生成搜索查询。
from langchain.chains import create_history_aware_retriever
from langchain_core.prompts import MessagesPlaceholder
prompt = ChatPromptTemplate.from_messages([
MessagesPlaceholder(variable_name="chat_history"),
("user", "{input}"),
("user", "Given the above conversation, generate a search query to look up in order to get information relevant to the conversation")
])
retriever_chain = create_history_aware_retriever(llm, retriever, prompt)
现在我们有了这个新的检索器,我们可以创建一个新的链来继续对话,并牢记这些检索到的文档。
prompt = ChatPromptTemplate.from_messages([
("system", "Answer the user's questions based on the below context:\n\n{context}"),
MessagesPlaceholder(variable_name="chat_history"),
("user", "{input}"),
])
document_chain = create_stuff_documents_chain(llm, prompt)
retrieval_chain = create_retrieval_chain(retriever_chain, document_chain)
测试一下效果
chat_history = [HumanMessage(content="《让子弹飞》什么时候在大陆上映的?"), AIMessage(content="《让子弹飞》的大陆上映时间是2010年12月16日。")]
retrieval_chain.invoke({
"chat_history": chat_history,
"input": "那韩国上映时间呢?"
})
最终输出
《让子弹飞》在2011年10月8日在韩国上映。
以上就是一个简单的,带历史记录的聊天机器人。整个的流程大概是:检索文档找到关联的文档(一条或者多条),基于文档和历史对话进行问答,得到问题的答案。如果如果还要继续进行问答,往chat_history中添加新的问答对即可。
Peace Guys~