构建智能对话系统：使用RAG和代理的进阶指南

sjufgwgfhoia

于 2024-10-03 15:16:59 发布

阅读量138

点赞数 2

文章标签： python

本文链接：https://blog.csdn.net/sjufgwgfhoia/article/details/142692235

版权

引言

随着对话系统的复杂性增加，开发人员希望实现能够保持上下文和记忆的智能交互。本文将探讨如何使用检索增强生成（RAG）和代理技术打造这样的对话系统。我们将涵盖对话历史的管理，以及如何通过链和代理来处理历史消息。

主要内容

理解对话历史

在复杂的对话系统中，保持对话历史至关重要。通过维护一个会话历史记录，我们可以确保用户的上下文被保留，从而提高对话的连贯性。

两种方法：链和代理

链（Chains）

链方法始终执行一个检索步骤，通过将用户输入与历史消息结合来获取相关信息。我们可以构建一个问题回答链来处理这些消息。

代理（Agents）

代理使用大语言模型（LLM）的推理能力来决定是否执行检索步骤。代理可以根据用户输入进行多个检索或完全跳过检索。

设置环境

我们将使用OpenAI的嵌入和Chroma向量存储库。需要安装以下Python包：

%%capture --no-stderr
%pip install --upgrade --quiet langchain langchain-community langchainhub langchain-chroma bs4

LangSmith

对于复杂的应用程序，使用LangSmith可以帮助跟踪多个LLM调用的执行步骤。这有助于更好地理解链或代理的内部运作。

代码示例

下面是一个简单的RAG链的实现示例：

import bs4
from langchain.chains import create_retrieval_chain
from langchain.chains.combine_documents import create_stuff_documents_chain
from langchain_chroma import Chroma
from langchain_community.document_loaders import WebBaseLoader
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import OpenAIEmbeddings
from langchain_text_splitters import RecursiveCharacterTextSplitter

# 1. 加载并分割文档
loader = WebBaseLoader(
    web_paths=("https://lilianweng.github.io/posts/2023-06-23-agent/",),  # 使用代理服务提高访问稳定性
    bs_kwargs=dict(parse_only=bs4.SoupStrainer(class_=("post-content", "post-title", "post-header")))
)
docs = loader.load()

text_splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=200)
splits = text_splitter.split_documents(docs)
vectorstore = Chroma.from_documents(documents=splits, embedding=OpenAIEmbeddings())
retriever = vectorstore.as_retriever()

# 2. 构建QA链
system_prompt = "You are an assistant for question-answering tasks. {context}"
prompt = ChatPromptTemplate.from_messages([("system", system_prompt), ("human", "{input}")])
question_answer_chain = create_stuff_documents_chain(llm, prompt)
rag_chain = create_retrieval_chain(retriever, question_answer_chain)

response = rag_chain.invoke({"input": "What is Task Decomposition?"})
print(response["answer"])