kettle—http请求

本文介绍了如何在Kettle数据处理中使用HTTP请求,包括GET和POST两种方式。对于GET请求,详细说明了设置输入数据、发起请求及保存结果数据的步骤。POST请求则涉及使用HTTP Post请求组件,同样涵盖了请求参数的配置。通过实例展示了不同参数设置对请求URL的影响。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

kettle—http 请求

由于业务需要,我们需要在数据处理的过程需要获取外部数据,或者是通知外部的系统

  1. 根据当前的数据,发起请求获取外部数据
  2. 根据当前的数据,通知外部系统进行数据处理,也就是做交互

GET 请求

下面是我们一个常见的发起GET 请求的模式

image-20230323095103348

输入数据

定义的数据常量就是我们做http 请求的时候需要的一些参数,例如这里就是我们请求的地址和请求的关键词,正常情况下这些参数应该是从我们的数据中来,也就是表中例如表输入组件,但是这里为了方便我们直接使用常量定义组件

image-20230323095148256

这里我们的url 就是百度,搜索关键词就是人大

image-20230323095440665

发起请求

这里我们发起请求用的是HTTP client 组件,这里的URL 可以写死,也可以从字段中获取,这里我们就选择从上一步骤中的输出结果中获取,也就是从常量定义组件中的url 字段获取,输出保存在result字段

image-20230323095613543

接下来我们还有定义一下请求的参数字段,其实看到这里我们是完全可以将请求的参数字段和url 定义在一起,或者是通过转换组合在一起的,但是这里为了演示的完整性,我们还是去定义一下请求的参数

image-20230323095948443

这里可以定于请求参数和Headers 这里我们重点关注参数,这里的名称就是我们上一步骤的字段这里就是keyword 字段,命名参数就是我们发起请求的时候的参数名称,也就是说我们把keyword 字段的值当作wd 参数的值传递给请求

运行一下看日志就知道了,请求的url 是https://www.baidu.com/s?wd=%E4%BA%BA%E5%A4%A7

23/03/23 10:01:41 - 自定义常量数据.0 - 完成处理 (I=0, O=0, R=0, W=1, U=0, E=0)
2023/03/23 10:01:41 - Http - 转换已经分配了 3 线程 和 2 列组.
2023/03/23 10:01:41 - HTTP client.0 - 连接到 : [https://www.baidu.com/s?wd=%E4%BA%BA%E5%A4%A7]
2023/03/23 10:01:41 - HTTP client.0 - Response time (milliseconds): [154] for [https://www.baidu.com/s?wd=%E4%BA%BA%E5%A4%A7]
2023/03/23 10:01:41 - HTTP client.0 - 完成处理 (I=0, O=0, R=1, W=1, U=0, E=0)
2023/03/23 10:01:41 - 输出结果.0 - 完成处理 (I=0, O=2, R=1, W=1, U=0, E=0)
2023/03/23 10:01:41 - Spoon - 转换完成!!

这里我们把wd 改成wds 再试一下

image-20230323100255497

看一下运行日志,请求的url 是https://www.baidu.com/s?wds=%E4%BA%BA%E5%A4%A7

2023/03/23 10:03:13 - 自定义常量数据.0 - 完成处理 (I=0, O=0, R=0, W=1, U=0, E=0)
2023/03/23 10:03:13 - 输出结果.0 - 开始运行...
2023/03/23 10:03:13 - HTTP client.0 - 连接到 : [https://www.baidu.com/s?wds=%E4%BA%BA%E5%A4%A7]
2023/03/23 10:03:13 - Http - 转换已经分配了 3 线程 和 2 列组.
2023/03/23 10:03:14 - HTTP client.0 - Response time (milliseconds): [433] for [https://www.baidu.com/s?wds=%E4%BA%BA%E5%A4%A7]
2023/03/23 10:03:14 - HTTP client.0 - 完成处理 (I=0, O=0, R=1, W=1, U=0, E=0)
2023/03/23 10:03:14 - 输出结果.0 - 完成处理 (I=0, O=2, R=1, W=1, U=0, E=0)
2023/03/23 10:03:14 - Spoon - 转换完成!!
保存结果数据

我们最后一个组件就是为了保存请求的结果

image-20230323100615953

POST 请求

post 请求和get 请求差不多,只不过我们需要引入的组件不一样,我们需要引入HTTP Post 组件

image-20230323101231289

这个组件相比HTTP client 功能更加强大一些,但是大致也差不多。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

不二人生

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值