CC00004.flink——|Hadoop&Flink.V04|——|Flink.v04|处理模型|流处理批处理|流处理引擎|技术选型|

一、Flink 处理模型:流处理与批处理
### --- Flink 专注于无限流处理,有限流处理是无限流处理的一种特殊情况

~~~     # 无限流处理:
~~~     输入的数据没有尽头,像水流一样源源不断
~~~     数据处理从当前或者过去的某一个时间 点开始,持续不停地进行

~~~     # 有限流处理:
~~~     从某一个时间点开始处理数据,然后在另一个时间点结束
~~~     输入数据可能本身是有限的(即输入数据集并不会随着时间增长),
~~~     也可能出于分析的目的被人为地设定为有限集(即只分析某一个时间段内的事件)
~~~     Flink封装了DataStream API进行流处理,封装了DataSet API进行批处理。
~~~     同时,Flink也是一个批流一体的处理引擎,提供了Table API / SQL统一了批处理和流处理
二、有状态的流处理应用:
三、流处理引擎的技术选型
### --- 流处理引擎的技术选型

~~~     市面上的流处理引擎不止Flink一种,其他的比如Storm、SparkStreaming、Trident等,
~~~     实际应用时如何进行选型,给大家一些建议参考
~~~     流数据要进行状态管理,选择使用Trident、Spark Streaming或者Flink
~~~     消息投递需要保证At-least-once(至少一次)或者Exactly-once(仅一次)不能选择Storm
~~~     对于小型独立项目,有低延迟要求,可以选择使用Storm,更简单
~~~     如果项目已经引入了大框架Spark,实时处理需求可以满足的话,
~~~     建议直接使用Spark中的SparkStreaming
~~~     消息投递要满足Exactly-once(仅一次),数据量大、有高吞吐、低延迟要求,
~~~     要进行状态管理或窗口统计,建议使用Flink
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

yanqi_vip

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值