Storm基本体系架构

转载 2016年11月23日 17:39:03

Apache Storm 是由Twitter开源的分布式实时计算系统。Storm可以非常容易并且可靠的处理无限的数据流。对比Hadoop的批处理,Storm是一个实时的、分布式的、具备高容错的计算系统。Storm应用可以使用不同的编程语言来进行开发。


-Storm基本体系结构图-


Nimbus和Supervisor之间的通信依靠Zookeeper来完成,并且Nimbus进程和Supervisor都是快速失败和无状态的。所有的状态要么在Zookeeper里面,要么在本地磁盘上。这就意味着你可以用Kill -9 来杀死 Nimbus和Supervisor进程,然后在重启它们,它们可以继续工作,就像什么也没发生。这个设计使Storm具有非常高的稳定性。

核心概念

在Storm中有一些核心基本概念,包括Topology、Nimbus、Supervisor、Worker、Executor、Task、Spout、Bolt、Tuple、Stream、Stream分组(grouping)等。

Topology:  一个实时计算应用程序逻辑上被封装在Topology对象中,类似Hadoop中的作业。与作业不同的是,Topology会一直运行直到显式地杀死它。

Nimbus:     负责资源分配和任务调度,类似Hadoop中的JobTracker。

Supervisor:负责接受Nimbus分配的任务,启动和停止属于自己管理的Worker进程,类似Hadoop中的TaskTracker。

Worker:      运行具体处理组件逻辑的进程。

Executor:    Storm 0.8之后,Executor为Worker进程中的具体的物理线程,同一个Spout/Bolt的Task可能会共享一个物理线程,一个Executor中只能运行隶属于同一个Spout/Bolt的Task。

Task:          每一个Spout/Bolt具体要做的工作,也是各个节点之间进行分组的单位。

Spout:         在Topology中产生源数据流的组件。通常Spout获取数据源的数据,然后调用nextTuple函数,发射数据供Bolt消费。

Bolt:            在Topology中接受Spout的数据然后执行处理的组件,Bolt可以执行过滤,函数操作,合并,写数据库等任何操作。Bolt在接收到消息后会调用execute函数,用户可在其中执行自己想要的操作。

Tuple:         消息传递的单元。

Stream:       源源不断传递的Tuple组成了Stream。

Stream分组:即消息的分区(partition)方法。Storm中提供若干种实用的分组方式。包括Shuffle、Fields、All、Global、None、Direct、Local or shuffle等。




关于分区方式的内容,下期继续,敬请期待……

Storm的Stream分组方式详解

相关文章推荐

Storm概念、原理详解及其应用(一)BaseStorm

Storm是基于数据流的实时处理系统,提供了大吞吐量的实时计算能力。通过数据入口获取每条到来的数据,在一条数据到达系统的时候,立即会在内存中进行相应的计算;Storm适合要求实时性较高的数据分析场景。...

实时计算storm流程架构总结

hadoop一般用在离线的分析计算中,而storm区别于hadoop,用在实时的流式计算中,被广泛用来进行实时日志处理、实时统计、实时风控等场景,当然也可以用在对数据进行实时初步的加工,存储到分布式数...

storm架构及原理

storm 架构与原理 1 storm简介 1.1 storm是什么 如果只用一句话来描述 storm 是什么的话:分布式 && 实时 计算系统。按照作者 Nathan Ma...

Storm的体系结构介绍以及Storm入门案例

# Storm的体系结构 # 学习前言 对java有兴趣的朋友可以加上面说的553175249这个群哦,一起学习,共同进步 . # Storm介绍 Storm...

flume+kafka+storm+mysql架构设计

转载出处:

Storm nimbus总结

一. Storm的基本概念 首先我们通过一个 storm 和hadoop的对比来了解storm中的基本概念。   Hadoop Storm ...

Apache Storm 集群环境搭建

Apache storm 是一个由twitter开源的大数据处理系统,与其他系统不同的是,storm旨在用于分布式实时处理并且与语言无关。笔者所认知的storm使用场景诸 如 实时日志分析、网站用户行...
  • da2015
  • da2015
  • 2015年01月14日 13:26
  • 329

体系架构番外篇 - MIPS基本地址空间

From: ongoingcre 体系架构番外篇 - MIPS基本地址空间到底是无知者无畏还是博学者无畏? - XXX辩论场MIPS 图说地址空间 几大名词的描述:Kuseg - 低2G地址,所谓的...

学习笔记(一):计算机体系架构的术语和基本概念

学习Computer Organization and Design>>的一些读书笔记:

移动智能网原理、体系架构,及基本业务过程 - CAMEL1/2

http://blog.sina.com.cn/s/blog_6b1025530101f3ya.html 1、CAMEL基本原理 ITU-T智能网的目标是支持完全基于IN模型构建移动网,形成一个“...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:Storm基本体系架构
举报原因:
原因补充:

(最多只允许输入30个字)