- 博客(3)
- 资源 (10)
- 问答 (1)
- 收藏
- 关注
转载 Spark streaming接收Kafka数据的2种方式
前言在WeTest舆情项目中,需要对每天千万级的游戏评论信息进行词频统计,在生产者一端,我们将数据按照每天的拉取时间存入了Kafka当中,而在消费者一端,我们利用了spark streaming从kafka中不断拉取数据进行词频统计。本文首先对spark streaming嵌入kafka的方式进行归纳总结,之后简单阐述Spark streaming+kafka 在舆情项目中的应用,最后将自...
2018-01-28 22:42:37 3519
原创 spark2.3 源码分析之CoarseGrainedSchedulerBackend
概述CoarseGrainedSchedulerBackend是一个阻塞等待coarse-grained executors来连接的SchedulerBackend。该SchedulerBackend会在整个spark-job期间持有每个executor,而不是一个task结束后再为下一个task向Scheduler申请新的executor。executor可以通过多种方式建立,具体的方式由继...
2018-01-28 22:34:05 1484
原创 spark2.3源码分析之CoarseGrainedExecutorBackend
概述CoarseGrainedExecutorBackend向CoarseGrainedSchedulerBackend端发送的消息主要如下:registerExecutor:注册executor。SchedulerBackend在确认execId可以注册后,回复注册成功的消息。 statusUpdate:汇报Executor中运行的task的状态。CoarseGrainedExec...
2018-01-28 22:08:44 922
viewpager实现页面导航之三
2015-07-22
viewpager与预编译的点布局实现页面导航效果
2015-07-20
导入第三方类库却出现the importXXX can not be resolved
2015-06-04
TA创建的收藏夹 TA关注的收藏夹
TA关注的人