Flink有状态计算概述

在Flink架构中,有状态计算是核心特性之一,它允许在程序内部存储中间结果,用于后续计算,如CEP、聚合计算、模型训练及历史数据计算。这极大提升了流式计算的数据使用范围和复杂度,避免了依赖外部存储带来的性能开销和数据可靠性问题。
摘要由CSDN通过智能技术生成

在Flink架构体系中,有状态计算可以说是Flink非常重要的特性之一。有状态计算是指在程序计算过程中,在Flink程序内部存储计算产生的中间结果,并提供给后续Function或算子计算结果使用。状态数据可以维系在本地存储中,这里的存储可以是Flink的堆内存或者堆外内存,也可以借助第三方的存储介质,例如Flink中已经实现的RocksDB,当然用户也可以自己实现相应的缓存系统去存储状态信息,以完成更加复杂的计算逻辑。


和状态计算不同的是,无状态计算不会存储计算过程中产生的结果,也不会将结果用于下一步计算过程中,程序只会在当前的计算流程中实行计算,计算完成就输出结果,然后下一条数据接入,然后再处理。


无状态计算实现的复杂度相对较低,实现起来比较容易,但是无法完成提到的比较复杂的业务场景,例如下面的例子:

640?wx_fmt=png


  • 用户想实现CEP(复杂事件处理),获取符合某一特定事件规则的事件。

状态计算就可以将接入的事件进行存储,然后等待符合规则的事件触发:


  • 用户想按照分钟,小时、天进行聚合计算,求取当前的最大值、均值等聚会指标,这就需要利用状态来维护当前计算过程中产生的结果,例如事件的总数,总和以及最大,最小值。


  • 用户想在Strem上实现机器学习的模型训练,状态计算可以帮助用户维护当前版本模型使用的参数


  • 用户想使用历史的数据进行计算,状态计算可以帮助用户对数据进行缓存,使用户可以直接从状态中获取相应的历史数据。



以上场景充分说明了状态计算在整个流式计算过程中重要性,可以看出,在Flink引人状态这一特性,能够极大地提升流式计算过程中数据的使用范围以及指标计算的复杂度,而不再需要借助类似于Redis外部缓存存储中间结果数据,这种方式需要频繁地和外部系统交互,并造成大量系统性能开销,且不易保证数据在传输和计算过程中的可靠性,当外部存储发生变化,就可能会影响到Flink内部的计算结果。

640?wx_fmt=png


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值