Storm和Spark Stream对比
技术 延迟性 开发难度 本质
Strom 毫秒级 较难 流计算,逐行或逐批次计算,按行数处理
Spark Streaming 数十秒或分钟 简单 按短小时间片段的批处理,比如2S一个时间片,按时间片处理
三台虚拟机:
hadoop-01 192.168.119.141
hadoop-02 192.168.119.142
hadoop-03 192.168.119.143
一、JDK安装、SSH免密码登陆
二、zookeeper安装
三、storm集群安装
1、下载storm的安装包
apache-storm-1.0.2.tar.gz
2、将安装包解压移动到/usr/lib目录下
tar -zxvf apache-storm-1.0.2.tar.gz
mv apache-storm-1.0.2.tar.gz /usr/lib/storm
3、修改配置文件
cd /usr/lib/storm/conf
vi storm.yaml
#zookeeper集群,注意空格,必须使用space,不可使用制表符
# - 与 " 之间留有空格
storm.zookeeper.servers:
- "192.168.119.141"
- "192.168.119.142"
- "192.168.119.143"
#nimbus设置两台机器,最好使用主机名,使用IP在webui界面会出现重复节点
nimbus.seeds: ["hadoop-01","hadoop-02"]
#设置slots端口
supervisor.slots.sport:
- 6700
- 6701
- 6702
- 6703
#设置UI的端口,默认8080,避免与tomcat端口重复
ui.port: 8082
4、将storm拷贝到另外两台机器(主从节点配置完全一样)
scp -r /usr/lib/storm hadoop-02:/usr/lib/storm
scp -r /usr/lib/storm hadoop-03:/usr/lib/storm
5、分别启动主从节点的进程(启动前,需先启动zookeeper)
hadoop-01:
#开启numbus,将错误信息和标准信息打印到null,后台方式启动
nimbus: bin/storm nimbus > /dev/null 2>&1 &
logviewer: bin/storm logviewer > /dev/null 2>&1 &
ui: bin/storm ui > /dev/null 2>&1 &
hadoop-02:
nimbus: bin/storm nimbus > /dev/null 2>&1 &
logviewer: /bin/storm logviewer > /dev/null 2>&1 &
supervisor: /bin/storm supervisor > /dev/null 2>&1 &
hadoop-03:
supervisor: /bin/storm supervisor > /dev/null 2>&1 &
logviewer: /bin/sotrm logviewer > /dev/null 2>&1 &
6、访问storm的ui界面来查看集群信息
http://192.168.119.141:8082/
7、提交topology
bin/storm jar xxx.jar com.storm.xxx(完整类名)
8、停掉topology
bin/storm list
bin/storm kill topology_name
Storm集群简单部署
最新推荐文章于 2023-02-25 18:39:22 发布