Spark流编程指引(一)---------------------概述

本文介绍了Spark流编程的基本概念,它作为Spark核心API的扩展,用于处理实时数据流,支持从Kafka、Flume等源获取数据,并利用map、reduce等函数进行处理。处理后的数据可输出到文件系统、数据库或实时仪表板。DStream是Spark流中的关键抽象,表示持续的数据流,可通过高级操作构建。文章预告将深入探讨如何使用Scala、Java、Python编写Spark流程序。
摘要由CSDN通过智能技术生成

Spark流是Spark核心API的扩展,它提供了以高扩展,高吞吐量,高容错性的流的方式来处理实时数据的方法。

数据的涞源有很多,可以来自Kafka, Flume, Twitter, ZeroMQ, Kinesis或者TCP sockets。通过使用高级别的函数,比如map,reduce,join,window等,可以用复杂的算法来处理数据。

最后,处理后的数据能够被推送至文件系统,数据库,或者实时的dashboards。实际上,你可以在数据流上应用Spark的机器学习和图形处理算法。


Spark流的内部工作原理如下图。Spark流接收实时数据流,并将数据划分批次,然后交于Spark引擎生成最终成批的结果数据流。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

self-motivation

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值