SparkStreaming滑动计算窗口reduceByKeyAndWindow图解说明

对于reduceByKeyAndWindow(_ + _, _ - _,Second(45), Second(5))这种算法不太明白的同学可以参考下,下图是通过个人理解所画,希望对大家理解这个函数有所帮助:
在这里插入图片描述首先,说一下需求,就是每隔5秒,计算过去45秒内的X数量。
第一个窗口(第一个45s内,时间点1)里面的X数量是17个,然后时间往后移动了5秒,变成了时间点2
图中,在时间滑动后,新增了5个X(黄色图内所示),而有3个X算是“过期”的(灰色框内)。
因此,计算当前时间窗口内的X数量的公式,就变成了:
X总量 = 上一个时间窗口总量 + 新增(黄色) - “过期”(灰色)
换成数字就是:
19 = 17 + 5 - 3

这样,只要通过加减算法,每次增量计算,就可以得出当前窗口最新的值,不用每次全量计算一个window内所有的rdd,因此也更高效。

  • 0
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Brad_Q1

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值