Storm
zz657114506
这个作者很懒,什么都没留下…
展开
-
Storm1.0 集群部署(HA)
storm1.0.2下载地址 http://archive.apache.org/dist/storm/apache-storm-1.0.2/apache-storm-1.0.2.tar.gzzookeeper集群部署 http://blog.csdn.net/zz657114506/article/details/53966944storm ha集群规划Nimbus原创 2017-01-14 18:19:23 · 681 阅读 · 0 评论 -
storm集群启动/停止脚本
storm集群启动脚本 在$STORM_HOME/bin下touch start-storm-cluster.sh并chmod a+x start-storm-cluster.sh#!/bin/bash#nimbus节点nimbusServers='mini01 mini02'#supervisor节点supervisorServers='mini01 mini02 mini03'#启动原创 2017-01-14 23:08:34 · 8914 阅读 · 3 评论 -
Storm 架构
Storm编程模型Topology:Storm中运行的一个实时应用程序的名称(拓扑)。类似于Hadoop的MapReduce JobSpout :在一个topology中获取源数据流的组件。将外部数据源转化成Storm内部的数据,以Tuple为基本的传输单元下发给BoltBolt :接受Spout发送的数据,或上游的bolt的发送的数据。根据业务逻辑进行处理。发送给下一个B原创 2017-01-16 22:30:10 · 466 阅读 · 0 评论 -
Storm 流程分析
流程说明client提交topology到nimbusnimbus针对该topology建立本地的目录,nimbus中的调度器根据topology的配置计算task,并把task分配到不同的worker上,调度的结果写入zk。在zk上创建assignments节点,存储task和supervisor中work的对应关系。 在zk上创建workerbeats节点来监控worker的心跳。su原创 2017-01-17 01:57:40 · 656 阅读 · 0 评论 -
Storm Worker 进程间通信
流程图 流程说明 1、Worker接受线程通过网络接受数据,并根据Tuple中包含的taskId,匹配到对应的executor;然后根据executor找到对应的incoming-queue,将数据存发送到incoming-queue队列中。 2、业务逻辑执行现成消费incoming-queue的数据,通过调用Bolt的execute(xxxx)方法,将Tuple作为参数传输给用户自定义原创 2017-01-19 00:58:46 · 1669 阅读 · 0 评论