【大模型LLM第四篇】langchain agent及用langchain框架写一个math agent

最新推荐文章于 2024-10-01 18:51:18 发布

小涂Ss

最新推荐文章于 2024-10-01 18:51:18 发布

阅读量847

点赞数 10

文章标签： langchain java 数据库语言模型人工智能 ai agi

本文链接：https://blog.csdn.net/Gaga246/article/details/141492814

版权

前言

利用langchain快速实现一个使用tool的agent

langchain agent相关的文章

以下都值得花时间看看

提供的内置tools：https://python.langchain.com/v0.2/docs/integrations/tools/

agent的类型：https://python.langchain.com/v0.1/docs/modules/agents/agent_types/

agent类：https://api.python.langchain.com/en/latest/agents/langchain.agents.agent.AgentExecutor.html
tool类：https://api.python.langchain.com/en/latest/tools/langchain_core.tools.BaseTool.html#langchain_core.tools.BaseTool
自定义tools：https://python.langchain.com/v0.2/docs/how_to/custom_tools/
tool的集合：https://api.python.langchain.com/en/latest/tools/langchain_core.tools.BaseToolkit.html#langchain_core.tools.BaseToolkit

自定义tool

主要有两种方式

继承baseTool

from typing import Type, Optional

from langchain_core.tools import BaseTool
from langchain_core.pydantic_v1 import BaseModel, Field
from langchain.tools import tool


class AddInput(BaseModel):
    a: int = Field(description="first number")
    b: int = Field(description="second number")


class AddTool(BaseTool):
    name = "add"
    description = "Adds two numbers together"
    args_schema: Optional[Type[BaseModel]] = AddInput
    return_direct: bool = True

    def _run(
            self, a: int, b: int,
    ) -> int:
        return a + b


add_tool = AddTool()

print(add_tool.name)
print(add_tool.description)
print(add_tool.args)

输出

add
Adds two numbers together
{'a': {'title': 'A', 'description': 'first number', 'type': 'integer'}, 'b': {'title': 'B', 'description': 'second number', 'type': 'integer'}}

可以看下BaseTool这个基类，就豁然开朗，知道咋用了：

name tool的名字，最好直接清晰的表达目的
description 主要作用就是描述如何为何要用这个tool，让llm知道什么时间用这个tool，可以加入一些few shot example
args_schema：tool的输入参数

其中只有一个abstract method：

这里实现tool的主要逻辑

tool装饰器

还有一种更为简单的方式来定义tool，直接用装饰器

@tool
def add(a: int, b: int) -> int:
    """Adds two numbers together"""
    return a + b

print(add.name)
print(add.description)
print(add.args)

这里直接会把a和b参数进行包装，且"""之间的即为 description

输出：

add
Adds two numbers together
{'a': {'title': 'A', 'type': 'integer'}, 'b': {'title': 'B', 'type': 'integer'}}

math agent example

实现一个可以做一些数学题的agent

这里只实现两个tool，一个是+一个是✖️

@tool
def add(a: int, b: int) -> int:
    """Adds two numbers together"""
    return a + b


@tool
def multipy(a: int, b: int) -> int:
    """Multiply two numbers"""
    return a * b

定义好tool之后，可以将tool按照toolkit进行管理

class MathToolkit(BaseToolkit):
    def get_tools(self) -> list[BaseAgentTool]:
        return [
            add,
            multipy
        ]

之后完成后面几步，就可以和agent进行沟通了，加上前面的步骤，主要需要实现：

定义tool
用toolkit进行分类管理
实例化llm
创建prompt
利用tool + llm + prompt创建agent
利用agent + tool创建agent executor

from typing import Type, Optional, List, Callable, Any

from docmesh_agent.tools.base import BaseAgentTool
from langchain.agents import create_tool_calling_agent, AgentExecutor
from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder
from langchain.tools import tool
from langchain_core.tools import BaseToolkit


@tool
def add(a: int, b: int) -> int:
    """Adds two numbers together"""
    return a + b


@tool
def multipy(a: int, b: int) -> int:
    """Multiply two numbers"""
    return a * b


class MathToolkit(BaseToolkit):
    def get_tools(self) -> list[BaseAgentTool]:
        return [
            add,
            multipy
        ]


from langchain_openai import ChatOpenAI

llm = ChatOpenAI(model="gpt-4o-2024-05-13")

prompt = ChatPromptTemplate.from_messages(
    [
        ("system", """
          You are a mathematical assistant. Use your tools to answer questions.
          If you do not have a tool to answer the question, say so. 

          Return only the answers. e.g
          Human: What is 1 + 1?
          You: 2
          """),
        MessagesPlaceholder("chat_history", optional=True),
        ("human", "{input}"),
        MessagesPlaceholder("agent_scratchpad"),
    ]
)

tools = [
    *MathToolkit().get_tools()
]
agent = create_tool_calling_agent(llm, tools, prompt)

agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

result = agent_executor.invoke({"input": "what is (1 + 3) * 6"})

print(result)

这里prompt设计，如果其他问题会拒答，得不到答案，按照目前的执行，打印log：

如果问一个非数学问题：

agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

result = agent_executor.invoke({"input": "What is the time now ?"})

print(result)