【2024最全最细Langchain教程-10】Langchain记忆模块

【2024最全最细Lanchain教程-9】Langchain互联网查询-CSDN博客

        上节课我们介绍了如何利用langchain去加载互联网页面内容（中文信息）、向量化和利用大语言模型进行查询，这节课我们讲一下Langchain的记忆模块。

        我们利用langchain构造最多的就是聊天机器人，而要进行聊天的业务功能，就必须使得大语言模型能够获得上下文，这样对话才能继续。我们注意一下，这句话非常关键：

        记忆组件会将处理过的聊天信息数据注入提示词模板中，将模板传给大语言模型来实现记忆功能。

        也就是说，记忆的功能其实是通过prompt模板来实现的，在prompt中要给memory组件预留好一个位置并告诉模板，这个是记忆内容，并在加载模板的时候把上下文注入进去传给大模型，大模型才能够知道你上文说的是啥。

1. 了解和使用一个最简单的记忆组件ConversationBufferMemory

        ConversationBufferMemory是一个最简单的记忆组件，他不对数据结构和获取算法做任何讲过，就是简单的原进原出，我们来看他的代码：

from langchain.memory import ConversationBufferMemory

memory = ConversationBufferMemory()
memory.load_memory_variables({})

        运行load_memory_variables方法（注意要加载一个空的字典），不出意外可以得到空的一个memory：

        我们可以加载一些数据给memory再看一下：

memory.chat_memory.add_user_message("hi!")
memory.chat_memory.add_ai_message("what's up?")
memory.load_memory_variables({})

        再加载一下，就可以看到刚才加载的数据了：

2. 在LLMChain里加入memory功能

        我们尝试在LLMChain里，加入memory功能，下面是完整的可直接运行代码：

import os

from langchain_openai import OpenAI
from langchain.prompts import PromptTemplate
from langchain.chains import LLMChain
from langchain.memory import ConversationBufferMemory


llm = OpenAI(
    temperature=0,
    openai_api_key = os.getenv("OPENAI_API_KEY"),
    base_url = os.getenv("OPENAI_BASE_URL")
)

# 注意，在模板里，要给聊天记录留下位置，聊天记录是通过注入给模板来实现的

template = """You are a nice chatbot having a conversation with a human.

Previous conversation:
{chat_history}

New human question: {question}
Response:"""


prompt = PromptTemplate.from_template(template)

# `memory_key`要和模板里的参数保持一致

memory = ConversationBufferMemory(memory_key="chat_history")
conversation = LLMChain(
    llm=llm,
    prompt=prompt,
    verbose=True, 
    memory=memory
)

conversation.invoke({"question":"hi"})
conversation.invoke({"question":"你最喜欢什么动物?"})
conversation.invoke({"question":"那么它最爱吃什么?"})

memory.load_memory_variables({})

        注意几个要点：

1. 模板里要预留好memory参数的位置，且要和构造memory时，设置的memory_key保持一致，如果不一致，会报错。

        

2. 在LLMChain的设置里，可以选择verbose=True，会把创建链的一些中间过程给体现出来，方便理解业务，我们来看代码的运行结果：

        通过运行结果可以看到每次每次prompt模板加载的内容都有不同，就是每次在调用的时候memory的数据注入进了模板导致的。

3. 在LCEL语法中加入memory功能

        我们尝试在LCEL语法的chain中加入memory功能，下面是hi代码实现：

import langchain
import os

from operator import itemgetter

from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate,MessagesPlaceholder
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
from langchain.memory import ConversationBufferMemory



llm = ChatOpenAI(
    temperature=0,
    openai_api_key = os.getenv("OPENAI_API_KEY"),
    base_url = os.getenv("OPENAI_BASE_URL")
)

        这块是引入必要的包、构建好模型，然后继续：

memory = ConversationBufferMemory(return_messages=True)

prompt = ChatPromptTemplate.from_messages([
    ("system", "你是一个中国历史专家."),
    MessagesPlaceholder(variable_name="history"),
    ("user", "{input}")
])

memory.load_memory_variables({})

        这里注意，因为我们用的是ChatOpenAI聊天模型包装器，所以return_messages 要选择True，否则memory的输出会是str。

        然后我们在构造提示词的时候，需要用这个占位符来实现memory的插入，注意这里的variable_name是memory默认的history，如果你要改成chat_history，在memory构造的时候就要把key重新声明一下，这里我们就不改了，就用默认的history：

MessagesPlaceholder(variable_name="history"),

        我们继续：

chain = (
    RunnablePassthrough.assign(
        history=RunnableLambda(memory.load_memory_variables) | itemgetter("history")
    )
    | prompt
    | llm
)


input = {"input":"中国改革开放的总设计师是谁?"}
response = chain.invoke(input)
print(response)

memory.save_context(input, {"output": response.content})
memory.load_memory_variables({})

        这一行的难点在于：

  RunnablePassthrough.assign(
        history=RunnableLambda(memory.load_memory_variables) | itemgetter("history")
    )

        这里用RunnablePassthrough把用户输入的input传入，同时使用RunnableLambda方法将memory做加载（第一轮是空的，不过没关系，第二次调用就有数据里），RunnableLambda把memory加载获得数据（字典）赋值给history，构造了一个字典{“history”:"{}"}，然后传给itemgetter，itemgetter把键值对里的值取出来然后再传给 prompt，大体的流程就是这样的。

        我们进行一下调用看一下结果：

        注意我的第二个问题，“他是什么时候去世的？”如果不联系上文，大模型是不知道如何回答你的，我们做一下对比实验：

        我们重新构造一下memory，然后在第一次invoke之后不加载input和output，然后继续：

        如果之前你不把聊天记录加载到memory里，大模型就无法回答你的问题。

4. 了解更多类型的memory

        有更多类型的memory组件，我们就不一一介绍了，大家可以去官网上去看，或者简要看一下这个图就行了：

        需要用到更细的memory的时候再去学也来得及。

视频教学：【2024最全最细】LangChain之记忆模块_哔哩哔哩_bilibili

本教学演示代码已上传github: https://github.com/jerry1900/jupyter