又一突破！跨模型的Function_Calling来了

介绍

大型语言模型（LLM）通过工具调用能够与外部数据源进行交互。这项技术让开发者能够利用LLM来获取、交互和操作外部资源（比如数据库、文件和API等）。

随着越来越多的LLM提供商开始提供工具调用功能，我们注意到市场上出现了多种多样的接口。为了解决这个问题，LangChain推出了一个标准化的接口，这样用户就可以轻松地在不同的LLM提供商之间进行切换。

这个标准化接口包括以下几个方面：

• ChatModel.bind_tools：这个方法允许您将工具的定义附加到模型的调用过程中。
• AIMessage.tool_calls：这是一个新增的属性，它使得从模型返回的 AIMessage 中获取工具调用变得更加简单。
• create_tool_calling_agent：这是一个构建代理的函数，适用于任何实现了 bind_tools 并且能够返回 tool_calls 的模型。

下面，我们将详细解释这些组件。

ChatModel.bind_tools

为了让模型能够使用工具，我们需要告诉它哪些工具是可以使用的。这可以通过向模型提供一个包含工具定义的列表来实现，这些工具定义包括了工具参数的模式。不同的模型提供商可能需要不同的格式，但是 ChatModel.bind_tools 提供了一个统一的接口，让您可以指定哪些工具对模型来说是可用的。

这意味着，无论您使用的是哪种工具调用模型，代码的结构都将非常相似。

python
复制代码
from langchain_anthropic import ChatAnthropic
from langchain_core.pydantic_v1 import BaseModel, Field
from langchain_core.tools import tool

# ✅ Pydantic 类
class multiply(BaseModel):
    """返回 'x' 和 'y' 的乘积。"""
    x: float = Field(..., description="第一个因子")
    y: float = Field(..., description="第二个因子")
    
# ✅ LangChain 工具
@tool
def exponentiate(x: float, y: float) -> float:
    """将 'x' 乘以 'y'。"""
    return x**y
    
# ✅ 函数

def subtract(x: float, y: float) -> float:
    """从 'y' 中减去 'x'。"""
    return y-x
    
# ✅ OpenAI 格式字典
# 还可以传入一个带有 "title" 和 "description" 的 JSON 模式
add = {
  "name": "add",
  "description": "将 'x' 和 'y' 相加。",
  "parameters": {
    "type": "object",
    "properties": {
      "x": {"type": "number", "description": "要相加的第一个数字"},
      "y": {"type": "number", "description": "要相加的第二个数字"}
    },
    "required": ["x", "y"]
  }
}

llm = ChatAnthropic(model="claude-3-sonnet-20240229", temperature=0)

# 每当我们调用 `llm_with_tool` 时，这三个工具定义
# 都会被传递给模型。
llm_with_tools = llm.bind_tools([multiply, exponentiate, add, subtract])

如果我们想使用不同的工具调用模型，我们的代码看起来会非常相似：

python
复制代码
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(model="gpt-4-turbo", temperature=0)
llm_with_tools = llm.bind_tools([multiply, exponentiate, add, subtract])

那么调用 llm_with_tools 会是什么样子呢？这就是 AIMessage.tool_calls 的用武之地。

AIMessage.tool_calls

在过去，当使用工具调用模型时，模型返回的工具调用可能会放在 AIMessage.additional_kwargs 或 AIMessage.content 中，这取决于模型提供商的API，并遵循特定于提供商的格式。现在，AIMessage.tool_calls 提供了一个标准化的接口来获取模型的工具调用。这样，在调用了绑定了工具的模型之后，您将得到一个包含 tool_calls 属性的输出，其中列出了所有的工具调用。

在调用了绑定工具的模型之后，您将得到以下形式的输出：

python
复制代码
llm_with_tools.invoke([
	("system", "你是一个有用的助手"), 
	("human", "5 的 2.743 次方是多少"),
])

# 👀 注意 tool_calls 属性 👀

# -> AIMessage(
# 	  content=..., 
# 	  additional_kwargs={...},
# 	  tool_calls=[{'name': 'exponentiate', 'args': {'y': 2.743, 'x': 5.0}, 'id': '54c166b2-f81a-481a-9289-eea68fc84e4f'}]
# 	  response_metadata={...}, 
# 	  id='...'
#   )

其中 AIMessage 有一个 tool_calls: List[ToolCall] 属性，如果有工具调用，它将被填充，并将遵循工具调用的标准接口：

python
复制代码
class ToolCall(TypedDict):
  name: str
  args: Dict[str, Any]
	id: Optional[str]

也就是说，无论您是在调用 Anthropic、OpenAI、Gemini 等，只要有工具调用，它将以 AIMessage.tool_calls 形式作为 ToolCall 出现。

我们还添加了一些其他属性，用于处理流式工具调用块和无效工具调用。有关这些的更多信息，请阅读工具调用文档 这里。

create_tool_calling_agent

利用LLM的工具调用能力来构建代理是一个非常强大的应用场景。我们已经有了一个 create_openai_tools_agent() 构造函数，它可以方便地构建一个符合OpenAI工具调用API的代理。但是，这个构造函数并不适用于Anthropic和Gemini等模型。现在，有了 bind_tools() 和 tool_calls 这两个新接口，我们推出了 create_tool_calling_agent()，它能够与任何支持工具调用的模型一起工作。

python
复制代码
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import ConfigurableField
from langchain_core.tools import tool
from langchain.agents import create_tool_calling_agent, AgentExecutor

@tool
def multiply(x: float, y: float) -> float:
    """将 'x' 乘以 'y'。"""
    return x * y

@tool
def exponentiate(x: float, y: float) -> float:
    """将 'x' 乘以 'y' 的指数。"""
    return x**y

@tool
def add(x: float, y: float) -> float:
    """将 'x' 和 'y' 相加。"""
    return x + y

prompt = ChatPromptTemplate.from_messages([
    ("system", "你是一个有用的助手"), 
    ("human", "{input}"), 
    ("placeholder", "{agent_scratchpad}"),
])

tools = [multiply, exponentiate, add]

llm = ChatAnthropic(model="claude-3-sonnet-20240229", temperature=0)

agent = create_tool_calling_agent(llm, tools, prompt)
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

agent_executor.invoke({"input": "3 加上 5 的 2.743 次方是多少。还有 17.24 减去 918.1241 是多少。"})

我们可以使用 VertexAI 替代：

python
复制代码
from langchain_google_vertexai import ChatVertexAI

llm = ChatVertexAI(
	model="gemini-pro", 
	temperature=0, 
	convert_system_message_to_human=True
)
agent = create_tool_calling_agent(llm, tools, prompt)
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

agent_executor.invoke({"input": "3 加上 5 的 2.743 次方是多少。还有 17.24 减去 918.1241 是多少。"})

或者 OpenAI：

python
复制代码
llm = ChatOpenAI(model="gpt-3.5-turbo-0125", temperature=0)

agent = create_tool_calling_agent(llm, tools, prompt)
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

agent_executor.invoke({"input": "3 加上 5 的 2.743 次方是多少。还有 17.24 减去 918.1241 是多少。"})

等等。

有关新代理的完整文档，请查看 python.langchain.com/docs/module…。

总结

我们预计，将原生工具调用功能引入LLM的趋势将继续下去。我们希望这个标准化的工具调用接口能够帮助LangChain用户节省时间和精力，并使他们能够更容易地在不同的LLM提供商之间进行切换。

如何系统的去学习大模型LLM ？

作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的 AI大模型资料 包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

😝有需要的小伙伴，可以V扫描下方二维码免费领取🆓

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

四、AI大模型商业化落地方案

阶段1：AI大模型时代的基础理解

• 目标：了解AI大模型的基本概念、发展历程和核心原理。
• 内容：
  • L1.1 人工智能简述与大模型起源
  • L1.2 大模型与通用人工智能
  • L1.3 GPT模型的发展历程
  • L1.4 模型工程
    - L1.4.1 知识大模型
    - L1.4.2 生产大模型
    - L1.4.3 模型工程方法论
    - L1.4.4 模型工程实践
  • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

• 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
• 内容：
  • L2.1 API接口
    - L2.1.1 OpenAI API接口
    - L2.1.2 Python接口接入
    - L2.1.3 BOT工具类框架
    - L2.1.4 代码示例
  • L2.2 Prompt框架
    - L2.2.1 什么是Prompt
    - L2.2.2 Prompt框架应用现状
    - L2.2.3 基于GPTAS的Prompt框架
    - L2.2.4 Prompt框架与Thought
    - L2.2.5 Prompt框架与提示词
  • L2.3 流水线工程
    - L2.3.1 流水线工程的概念
    - L2.3.2 流水线工程的优点
    - L2.3.3 流水线工程的应用
  • L2.4 总结与展望

阶段3：AI大模型应用架构实践

• 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。
• 内容：
  • L3.1 Agent模型框架
    - L3.1.1 Agent模型框架的设计理念
    - L3.1.2 Agent模型框架的核心组件
    - L3.1.3 Agent模型框架的实现细节
  • L3.2 MetaGPT
    - L3.2.1 MetaGPT的基本概念
    - L3.2.2 MetaGPT的工作原理
    - L3.2.3 MetaGPT的应用场景
  • L3.3 ChatGLM
    - L3.3.1 ChatGLM的特点
    - L3.3.2 ChatGLM的开发环境
    - L3.3.3 ChatGLM的使用示例
  • L3.4 LLAMA
    - L3.4.1 LLAMA的特点
    - L3.4.2 LLAMA的开发环境
    - L3.4.3 LLAMA的使用示例
  • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

• 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。
• 内容：
  • L4.1 模型私有化部署概述
  • L4.2 模型私有化部署的关键技术
  • L4.3 模型私有化部署的实施步骤
  • L4.4 模型私有化部署的应用场景

学习计划：

• 阶段1：1-2个月，建立AI大模型的基础知识体系。
• 阶段2：2-3个月，专注于API应用开发能力的提升。
• 阶段3：3-4个月，深入实践AI大模型的应用架构和私有化部署。
• 阶段4：4-5个月，专注于高级模型的应用和部署。

这份完整版的大模型 LLM 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取🆓