GPT实战系列-LangChain的Tools函数转换器

最新推荐文章于 2024-06-03 22:40:39 发布

Alex_StarSky

最新推荐文章于 2024-06-03 22:40:39 发布

阅读量1k

点赞数 24

分类专栏： GPT实战系列文章标签： LangChain Tools LLM Prompt

本文链接：https://blog.csdn.net/Alex_StarSky/article/details/136854268

版权

GPT实战系列专栏收录该内容

39 篇文章 11 订阅

订阅专栏

GPT实战系列-LangChain的Tools函数转换器

LangChain

GPT实战系列-LangChain如何构建基通义千问的多工具链

GPT实战系列-构建多参数的自定义LangChain工具

GPT实战系列-通过Basetool构建自定义LangChain工具方法

GPT实战系列-一种构建LangChain自定义Tool工具的简单方法

GPT实战系列-搭建LangChain流程简单应用

GPT实战系列-简单聊聊LangChain搭建本地知识库准备

GPT实战系列-LangChain + ChatGLM3构建天气查询助手

GPT实战系列-大模型为我所用之借用ChatGLM3构建查询助手

GPT实战系列-简单聊聊LangChain

大模型查询工具助手之股票免费查询接口

LangChain 附带许多实用程序来简化函数调用。也就是说，它带有

将函数绑定到模型的语法
用于将各种类型的对象格式化为预期函数模式的转换器
用于从 API 响应中提取函数调用的输出解析器

函数转为可调用解析

LangChain 有一个内置的转换器，可以将 Python 函数、Pydantic 类和 LangChain Tools 转换为 OpenAI 函数格式。

import json
from langchain_core.utils.function_calling import convert_to_openai_tool
 
def multiply(a: int, b: int) -> int:
    """Multiply two integers together.
    Args:
        a: First integer
        b: Second integer
    """
    return a * b
 
print(json.dumps(convert_to_openai_tool(multiply), indent=2))

json格式的tool函数描述：

{
  "type": "function",
  "function": {
    "name": "multiply",
    "description": "Multiply two integers together.",
    "parameters": {
      "type": "object",
      "properties": {
        "a": {
          "type": "integer",
          "description": "First integer"
        },
        "b": {
          "type": "integer",
          "description": "Second integer"
        }
      },
      "required": [
        "a",
        "b"
      ]
    }
  }
}

另一种定义方式，也是支持的。

from typing import Any, Type
from langchain_core.tools import BaseTool
 
class MultiplySchema(BaseModel):
    """Multiply tool schema."""
 
    a: int = Field(..., description="First integer")
    b: int = Field(..., description="Second integer")
 
class Multiply(BaseTool):
    args_schema: Type[BaseModel] = MultiplySchema
    name: str = "multiply"
    description: str = "Multiply two integers together."
 
    def _run(self, a: int, b: int, **kwargs: Any) -> Any:
        return a * b
 
 
# Note: we're passing in a Multiply object not the class itself.
print(json.dumps(convert_to_openai_tool(Multiply()), indent=2))

打印输出：

{
  "type": "function",
  "function": {
    "name": "multiply",
    "description": "Multiply two integers together.",
    "parameters": {
      "type": "object",
      "properties": {
        "a": {
          "description": "First integer",
          "type": "integer"
        },
        "b": {
          "description": "Second integer",
          "type": "integer"
        }
      },
      "required": [
        "a",
        "b"
      ]
    }
  }
}

给LLM传递工具参数

因此，有了它和Prompt，就可以调度起LLM，以合适方式设置提示的格式。

当大语言模型（LLM）支持tools参数的时候，创建一个聊天提示模板，如下所示：

from langchain_openai import ChatOpenAI
 
llm = ChatOpenAI(model="gpt-3.5-turbo")
llm.invoke("what's 5 times three", tools=[convert_to_openai_tool(multiply)])
 
AIMessage(content='', additional_kwargs={'tool_calls': [{'id': 'call_JvOu9oUwMrQHiDekZTbpNCHY', 'function': {'arguments': '{\n  "a": 5,\n  "b": 3\n}', 'name': 'multiply'}, 'type': 'function'}]})