Storm集群简单部署

Storm和Spark Stream对比
	技术			  延迟性		  开发难度		本质
	Strom		  毫秒级	 	    较难		流计算,逐行或逐批次计算,按行数处理
	Spark Streaming	 数十秒或分钟	简单	  按短小时间片段的批处理,比如2S一个时间片,按时间片处理
三台虚拟机:
	hadoop-01	192.168.119.141
	hadoop-02	192.168.119.142
	hadoop-03	192.168.119.143
一、JDK安装、SSH免密码登陆
二、zookeeper安装
三、storm集群安装
	1、下载storm的安装包
		apache-storm-1.0.2.tar.gz
	2、将安装包解压移动到/usr/lib目录下
		tar -zxvf apache-storm-1.0.2.tar.gz
		mv apache-storm-1.0.2.tar.gz /usr/lib/storm
	3、修改配置文件
		cd /usr/lib/storm/conf
		vi storm.yaml
			#zookeeper集群,注意空格,必须使用space,不可使用制表符
			#  - 与 " 之间留有空格
			storm.zookeeper.servers:
                     - "192.168.119.141"
                     - "192.168.119.142"
                     - "192.168.119.143"
            #nimbus设置两台机器,最好使用主机名,使用IP在webui界面会出现重复节点
    		nimbus.seeds: ["hadoop-01","hadoop-02"]
			#设置slots端口
			supervisor.slots.sport:
			               - 6700
			               - 6701
			               - 6702
			               - 6703
			#设置UI的端口,默认8080,避免与tomcat端口重复
			ui.port: 8082  
	4、将storm拷贝到另外两台机器(主从节点配置完全一样)
		scp -r /usr/lib/storm  hadoop-02:/usr/lib/storm
		scp -r /usr/lib/storm  hadoop-03:/usr/lib/storm
	5、分别启动主从节点的进程(启动前,需先启动zookeeper)
		hadoop-01:
			#开启numbus,将错误信息和标准信息打印到null,后台方式启动
			nimbus: bin/storm nimbus > /dev/null 2>&1 &
			logviewer: bin/storm logviewer > /dev/null 2>&1 &
			ui: bin/storm ui > /dev/null 2>&1 &
		hadoop-02:
			nimbus: bin/storm nimbus > /dev/null 2>&1 &
			logviewer: /bin/storm logviewer > /dev/null 2>&1 &
			supervisor: /bin/storm supervisor > /dev/null 2>&1 &
		hadoop-03:
			supervisor: /bin/storm supervisor > /dev/null 2>&1 &
			logviewer: /bin/sotrm logviewer > /dev/null 2>&1 &
	6、访问storm的ui界面来查看集群信息
		http://192.168.119.141:8082/
	7、提交topology
		bin/storm jar xxx.jar com.storm.xxx(完整类名)
	8、停掉topology
		bin/storm list
		bin/storm kill topology_name
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值