【Storm】storm入门

本文介绍了Apache Storm的基础知识,包括storm的架构,如Nimbus、Supervisor、Worker和Zookeeper的角色,集群搭建步骤,以及计算模型的拓扑结构、Spout和Bolt的工作原理。此外,还详细阐述了storm任务的提交流程。
摘要由CSDN通过智能技术生成

目录

一、storm简介

二、storm架构

三、集群搭建及启动

四、计算模型

五、storm任务提交流程


一、storm简介

storm是个实时的、分布式的、高容错、高可靠的计算系统。

它是由twitter开源在github上的实时大数据计算框架,2013年进入apache社区孵化,2014年成为apache的顶级金牌项目

二、storm架构

●Nimbus:资源调度、任务分配、接收jar

●Supervisor:接收nimbus分配的任务  、 启动/停止自己管理的worker进程(当前supervisorworker数量由配置文件设定)

●Worker:运行具体处理运算组件的进程(每个Worker对应执行一个Topology的子集)、worker任务类型,即spout任务、bolt任务两种、启动executor(executorworker JVM进程中的一个java线程,一般默认每个executor负责执行一个task任务)

●Zookeeper:存放任务信息。用来协调Nimbus和Supervisor,如果Supervisor因故障出现问题而无法运行Topology,Nimbus会第一时间感知到,并重新分配Topology到其它可用的Supervisor上运行。

三、集群搭建及启动

下载压缩包http://storm.apache.org/downloads.html

上传到服务器,然后解压。

环境准备:

Java 6+

Python 2.6.6+

zookeeper搭建完成

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值