大数据的【计算模式】主要分为两种,适用于不同的大数据应用场景
- 批量计算(batch computing)
批处理:对一定规模量的数据进行处理,类似搬砖,10个10个的搬
场景:离线数据统计、报表分析等(过去1年 10000亿条日志,分析日、周、月,接口响应延迟 状态码)
特点:批量计算非实时、高延迟,计算完成后才可以得到结果
框架:Hadoop MapReduce
- 流式计算(stream computing)
流处理:对源源不断的数据流进行处理,类似水龙头出水
特点:流式计算实时、低延迟,实时取最新的结果
场景:实时监控、实时风控等
框架:Spark(宏观上)、Flink
- 区分( 离线计算和实时计算 +流式计算和批量计算)
离线计算和实时计算 :是对数据处理的【延迟】不一样(一个实时和非实时)
流式计算和批量计算: 是对数据处理的【方式】不一样(一个流式和一个批量)
结论:离线和批量不等价,实时和流式不等价,因为不是同个维度的东西