大模型 Function call

大模型在面对实时性问题、私域知识型问题或数学计算等问题时可能效果不佳。

可以使用function call功能，通过调用外部工具来提升模型的输出效果。在调用大模型时，通过tools参数传入工具的名称、描述、入参等信息。大模型在收到提示词以及工具信息后，会判断是否需要使用工具：

• 如果不需要使用工具，大模型不会返回tool_calls参数，您的程序可以直接返回大模型的回答。
• 如果需要使用工具，大模型会返回一个包含tool_calls字段的信息，您的程序可以根据此信息判断需要调用工具。您的程序需要解析tool_calls信息中包含的工具函数名和入参，并将入参输入到工具函数来得到工具调用的结果。

# 假设这是模型返回的信息，包含需要调用的工具函数和参数
model_response = {
    "text": "根据问题，需要进行数学计算。",
    "tool_calls": [
        {
            "function": "calculator",
            "args": {
                "expr": "10 + 20 * 2"
            }
        }
    ]
}

# 程序解析模型返回的信息
if "tool_calls" in model_response:
    for call in model_response["tool_calls"]:
        function_name = call["function"]
        args = call["args"]
        
        # 根据函数名称调用相应的工具函数
        if function_name == "calculator":
            # 调用 calculator 函数进行数学计算
            result = calculator(**args)
            print(f"计算结果: {result}")
else:
    # 如果不需要调用工具，直接输出模型的回答
    print(model_response["text"])

# 假设的 calculator 函数，根据提供的表达式进行计算
def calculator(expr):
    # 这里应该是调用实际的计算工具或库的代码
    # 例如使用 eval() 进行简单的表达式计算（注意：实际使用中 eval 有安全风险）
    return eval(expr)

 

在这个示例中，模型返回了一个包含 tool_calls 字段的信息，程序解析这个字段，提取出需要调用的函数名称和参数。然后，程序调用 calculator 函数，并传入相应的参数来执行数学计算。最后，程序输出计算结果。

请注意，这个示例中的 calculator 函数只是一个假设的实现，实际使用中应该调用具体的计算库或工具来保证安全性和准确性。