第11章 流计算

本文介绍了流计算的概念,对比了静态数据与流数据,阐述了批量计算与实时计算的区别。重点讲解了开源流计算框架Storm和Spark Streaming,包括它们的设计思想、特点和应用场景。Storm以其高可用性和实时性脱颖而出,而Spark Streaming则通过小批量处理融合批处理和实时计算。
摘要由CSDN通过智能技术生成

大数据包括静态数据和动态数据(流数据),相应地,大数据计算包括批量计算和实时计算。传统的MapReduce框架采用离线处理计算的方式,主要用于对静态数据的批量计算,并不适合处理流数据。流计算即针对流数据的实时计算。Storm流计算框架具有可扩展性、高容错性、能可靠地处理消息的特点,且使用简单,可以以较低的成本来开发实时应用。

流计算概念

静态数据和流数据(动态数据)

静态数据:静态数据是指不会随时间发生变化的数据。

流数据:数据以大量、快速、时变的流形式持续到达。例如:网络监控、电信金融、生产制造等。

从概念上来,流数据(或数据流)是指在时间分布和数量上无限的一系列动态数据集合体;数据记录是流数据的最小组成单元。

流数据具有如下特征:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值