langgraph：基于agent和qwen2.5构造一个多功能机器人，私有化部署

Python_金钱豹

于 2025-05-13 10:15:33 发布

阅读量489

点赞数 12

文章标签：机器人 windows embedding langchain 人工智能 transformer 数码相机

本文链接：https://blog.csdn.net/Python_cocola/article/details/147917472

版权

在这个例子中，我们将创建一个聊天机器人，帮助用户生成提示。它将首先从用户那里收集需求，然后生成提示（并根据用户输入对其进行细化）。这些被分为两个独立的状态，LLM决定何时在它们之间转换。系统的图形表示可以在下面找到。

收集信息

首先，让我们定义图中收集用户需求的部分。这将是一个带有特定系统消息的LLM调用。它将可以访问一个工具，当它准备好生成提示时可以调用该工具。

from typing import Listfrom langchain_core.messages import SystemMessagefrom langchain_openai import ChatOpenAI
from pydantic import BaseModel

模型我们使用qwen2.5 目前刚开源，基于ollama调用

template = """你的工作是从用户那里获取他们想要创建哪种类型的提示模板的信息。
您应该从他们那里获得以下信息：
-提示的目的是什么-将向提示模板传递哪些变量-输出不应该做什么的任何限制-输出必须遵守的任何要求
如果你无法辨别这些信息，请他们澄清！不要试图疯狂猜测。
在您能够辨别所有信息后，调用相关工具。
"""
def get_messages_info(messages):    return [SystemMessage(content=template)] + messages
class PromptInstructions(BaseModel):    """关于如何提示LLM的说明prompt"""    objective: str    variables: List[str]    constrains:List[str]    requirements: List[str]
llm =  ChatOpenAI(model="qwen2.5", openai_api_key="ollama", openai_api_base="http://localhost:11434/v1/")llm_with_tool = llm.bind_tools([PromptInstructions])# 根据用户的输入 调用 需要的工具def info_chain(state):    messages = get_messages_info(state['messages'])    response = llm_with_tool.invoke(messages)    return {"messages":[response]}

生成提示

我们现在设置将生成提示的状态。这将需要一个单独的系统消息，以及一个在工具调用之前过滤掉所有消息的函数（因为此时之前的状态决定是时候生成提示了

from langchain_core.messages import AIMessage,HumanMessage, ToolMessage
prompt_system = """根据以下要求，编写一个好的提示模板:{reqs}"""
def get_prompt_messages(messages:list):    tool_call = None    other_msgs = []    for m in messages:        if isinstance(m, AIMessage) and m.tool_calls:            tool_call = m.tool_calls[0]['args']        elif isinstance(m, ToolMessage):            continue        elif tool_call is not None:            other_msgs.append(m)    return [SystemMessage(content=prompt_system.format(reqs=tool_call))] + other_msgs

def prompt_gen_chain(state):    messages = get_prompt_messages(state["messages"])    response = llm.invoke(messages)    return {"messages":[response]}

定义状态逻辑

这是聊天机器人所处状态的逻辑。如果最后一条消息是工具调用，那么我们处于“提示创建者”（prompt）应该响应的状态。否则，如果最后一条消息不是HumanMessage，那么我们知道人类应该下一条响应，所以我们处于END状态。如果最后一条消息是HumanMessage，那么如果之前有工具调用，我们处于提示状态。否则，我们处于“信息收集”（info）状态。

from typing import Literal
from langgraph.graph import END
# 定义一个函数，用于获取当前状态def get_state(state)-> Literal["add_tool_message","info","__end__"]:    messages = state["messages"]    if isinstance(messages[-1],AIMessage) and messages[-1].tool_calls:        return "add_tool_message"    elif not isinstance(messages[-1], HumanMessage):        return END    return "info"

创建图形

我们现在可以创建图形。我们将使用SqliteSaver来保存对话历史记录。

# Create the graphfrom langgraph.checkpoint.memory  import MemorySaverfrom langgraph.graph import StateGraph,STARTfrom langgraph.graph.message import add_messagesfrom typing import Annotatedfrom typing_extensions import TypedDict

class State(TypedDict):    messages: Annotated[list, add_messages]
memory = MemorySaver()workflow = StateGraph(State)workflow.add_node("info",info_chain)workflow.add_node("prompt",prompt_gen_chain)
# 工具调用用来做提示词生成@workflow.add_nodedef add_tool_message(state:State):    return {        "messages":[            ToolMessage(                content="Prompt generated!",                tool_call_id= state["messages"][-1].tool_calls[0]['id']            )        ]    }
workflow.add_edge(START,"info")workflow.add_conditional_edges("info",get_state)workflow.add_edge("add_tool_message","prompt")workflow.add_edge("prompt",END)graph = workflow.compile(checkpointer=memory)

打印图

执行图

import uuid
config = {"configurable":{"thread_id":str(uuid.uuid4())}}
while True:    user = input("User (q/Q to quit): ")    print(f"User (q/Q to quit): {user}")    if user in {"q", "Q"}:        print("AI: Byebye")        break    output = None    for output in graph.stream(        {"messages":[HumanMessage(content=user)]}, config=config, stream_mode="updates"    ):        last_message = next(iter(output.values()))["messages"][-1]        last_message.pretty_print()    if output and "prompt" in output:        print("Done!")
 ``**测试效果**

使用程序，需要输入4个条件

- 提示的目的是什么？- 将向提示模板传递哪些变量？（例如，在这个例子中提到的数组）- 输出不应该做什么的任何限制。- 输出必须遵守的任何要求。

首先测试一个排序算法

1、写一个快速排序算法 2、“1,3,2,5“ 3、no 4、no

测试一个，写故事的

当你输入不完整时，他会自动要求你继续输入，还是很不错的

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述