离线计算(批处理)
代表处理MapReduce,Spark,Flink
批处理计算指的是按照某种规则(时间,大小,记录数量等)将数据流划分批次数据,对批次数据进行计算,得到批次计算结果。
特点:
1)高延迟`:计算会有比较高的时间延迟,通常适用于日志数据的处理。
2)大量:通常情况下批处理计算是计算海量数据的唯一方式。
3)有界:数据有起始有结束,范围区间数据集合。
4)持久:批处理计算的数据通常来源于一个持久化的存储系统,如:HDFS,HBase。
实时计算(流处理)
所谓流处理计算指的是每一条数据到达都会实施处理计算。
特点:
1)低延迟:计算延迟较低,通常在毫秒级。通常用于商品推荐,风控系统,自动驾驶。
2)无界:流处理数据时无界数据,尤其是永远不会有结束。
3)高吞吐:大多数的流数据处理框架都支持分布式并进行实时处理计算。