目录
Dify的Http节点,给予工作流访问网络的能力,,比如图像,文字的加载,本质上LLM节点就是一个复杂的Http请求节点。
使用Http请求,你可以自己设置curl的header,参数以及body,并获取返回的json,
既然如此,我们也可以利用Http请求,来调用大模型,当然前提改工具提供了API文档。
下面演示如何使用Http节点调用硅基流动的模型
硅基流动API
首先找到硅基流动的API文档
硅基流动注册送免费的token,大家不需要担心花费
注意curl里的报头,url以及POST,这是你要在Http中填写的参数
把参数填写上去,示例:
你也可以按下面的方式填写API-KEY
创建代码执行节点
考虑到json的转义问题,你可以用代码的方式编写,同时你也可以在代码中加载变量;
import json
def main(arg1: str) -> dict:
data = {
"model": "Qwen/QwQ-32B",
"messages": [
{
"role": "user",
"content": arg1
}
],
"stream": False,
"max_tokens": 512,
"stop": None,
"temperature": 0.7,
"top_p": 0.7,
"top_k": 50,
"frequency_penalty": 0.5,
"n": 1,
"response_format": {"type": "text"},
"tools": []
}
return {
"result": json.dumps(data)
}
接着将代码执行的输出变量载入BODY中
运行结果:
注!
如果Http节点报错,显示读取超时等,你可以在Http节点中的超时设置调高;