部署一个storm集群
(1)安装Java 7和Pythong 2.6.6
(2)下载storm安装包,解压缩,重命名,配置环境变量
tar -xzvf apache-storm-1.1.0.tar.gz
rm -rf apache-storm-1.1.0.tar.gz
mv apache-storm-1.1.0.tar.gz storm-1
vi /etc/profile
export STORM_HOME=/usr/local/storm
export PATH=$PATH:$STORM_HOME/bin
source /etc/profile
(3)修改storm配置文件(注意这个格式很容易造成启动出问题,空格引发的问题)
mkdir /var/storm
vi /usr/local/storm/conf/storm.yaml
#配置storm使用的zookeeper集群服务器
storm.zookeeper.servers:
- "139.199.10.125"
- "111.230.234.30"
- "139.199.6.253"
##########################下面这段可以先不用配置##########################
#指nimbus节点启动JVM最大可用内存大小(我服务器水,所以调小很多)
#nimbus.childopts: "-Xmx1024m"
nimbus.childopts: "-Xmx128m"
#指定supervisor启动JVM最大可用内存大小(我服务器水,所以调小很多)
#supervisor.childopts: "-Xmx1024m"
supervisor.childopts: "-Xmx64m"
#指定supervisor节点上,每个worker启动JVM最大可用内存大小(我服务器水,所以调小很多)
#worker.childopts: "-Xmx768m"
worker.childopts: "-Xmx32m"
#指定ui启动JVM最大可用内存大小,ui服务一般和nimbus在同一服务器
#ui.childopts: "-Xmx768m"
ui.childopts: "-Xmx32m"
##########################上面这段可以先不用配置##########################
#配置storm本地目录
storm.local.dir: "/var/storm"
#配置storm的nimbus节点
nimbus.seeds: ["139.199.10.125"]
#配置supervisor的worker数,slots.ports,指定每个机器上可以启动多少个worker,一个端口号代表一个worker
supervisor.slots.ports:
- 6700
- 6701
- 6702
- 6703
将storm文件夹拷贝到其他两台服务器上
scp -r /usr/local/storm cache02:/usr/local/
scp -r /usr/local/storm cache03:/usr/local/
创建文件夹mkdir /var/storm
并修改下配置文件
vi /etc/profile
export STORM_HOME=/usr/local/storm
export PATH=$PATH:$STORM_HOME/bin
source /etc/profile
(4)启动storm集群和ui界面
有错误日志输出的启动命令
启动nimbus(切换到storm的bin目录下,如果配置了环境变量则不用)
nohup storm nimbus &
nohup ./storm nimbus &
启动supervisor
nohup storm supervisor &
nohup ./storm supervisor &
启动storm UI
nohup storm ui &
nohup ./storm ui &
无错误日志输出的启动命令
一个节点,nohup storm nimbus >/dev/null 2>&1 &
三个节点,nohup storm supervisor >/dev/null 2>&1 &
一个节点,nohup storm ui >/dev/null 2>&1 & (和nimbus一台服务器)
2>&1的作用是将 2即错误输出 的内容重定向到&1即标准输出中,然后>/dev/null是将两者的结果输入到/dev/null中,
相当于抛弃掉。至于最后一个&,因为storm会一直运行,不会自动停掉,页面上就会不停的有内容。
&的作用就是将storm拿到后台执行。
jps命令查看借点运行情况
如果看log输出,还需要在其他supervisor节点上启动logviewer,才能看到日志,
nohup storm logviewer &
nohup storm logviewer >/dev/null 2>&1 &
(5)访问一下ui界面,8080端口
http://139.199.10.125:8080/index.html
(1)安装Java 7和Pythong 2.6.6
(2)下载storm安装包,解压缩,重命名,配置环境变量
tar -xzvf apache-storm-1.1.0.tar.gz
rm -rf apache-storm-1.1.0.tar.gz
mv apache-storm-1.1.0.tar.gz storm-1
vi /etc/profile
export STORM_HOME=/usr/local/storm
export PATH=$PATH:$STORM_HOME/bin
source /etc/profile
(3)修改storm配置文件(注意这个格式很容易造成启动出问题,空格引发的问题)
mkdir /var/storm
vi /usr/local/storm/conf/storm.yaml
#配置storm使用的zookeeper集群服务器
storm.zookeeper.servers:
- "139.199.10.125"
- "111.230.234.30"
- "139.199.6.253"
##########################下面这段可以先不用配置##########################
#指nimbus节点启动JVM最大可用内存大小(我服务器水,所以调小很多)
#nimbus.childopts: "-Xmx1024m"
nimbus.childopts: "-Xmx128m"
#指定supervisor启动JVM最大可用内存大小(我服务器水,所以调小很多)
#supervisor.childopts: "-Xmx1024m"
supervisor.childopts: "-Xmx64m"
#指定supervisor节点上,每个worker启动JVM最大可用内存大小(我服务器水,所以调小很多)
#worker.childopts: "-Xmx768m"
worker.childopts: "-Xmx32m"
#指定ui启动JVM最大可用内存大小,ui服务一般和nimbus在同一服务器
#ui.childopts: "-Xmx768m"
ui.childopts: "-Xmx32m"
##########################上面这段可以先不用配置##########################
#配置storm本地目录
storm.local.dir: "/var/storm"
#配置storm的nimbus节点
nimbus.seeds: ["139.199.10.125"]
#配置supervisor的worker数,slots.ports,指定每个机器上可以启动多少个worker,一个端口号代表一个worker
supervisor.slots.ports:
- 6700
- 6701
- 6702
- 6703
将storm文件夹拷贝到其他两台服务器上
scp -r /usr/local/storm cache02:/usr/local/
scp -r /usr/local/storm cache03:/usr/local/
创建文件夹mkdir /var/storm
并修改下配置文件
vi /etc/profile
export STORM_HOME=/usr/local/storm
export PATH=$PATH:$STORM_HOME/bin
source /etc/profile
(4)启动storm集群和ui界面
有错误日志输出的启动命令
启动nimbus(切换到storm的bin目录下,如果配置了环境变量则不用)
nohup storm nimbus &
nohup ./storm nimbus &
启动supervisor
nohup storm supervisor &
nohup ./storm supervisor &
启动storm UI
nohup storm ui &
nohup ./storm ui &
无错误日志输出的启动命令
一个节点,nohup storm nimbus >/dev/null 2>&1 &
三个节点,nohup storm supervisor >/dev/null 2>&1 &
一个节点,nohup storm ui >/dev/null 2>&1 & (和nimbus一台服务器)
2>&1的作用是将 2即错误输出 的内容重定向到&1即标准输出中,然后>/dev/null是将两者的结果输入到/dev/null中,
相当于抛弃掉。至于最后一个&,因为storm会一直运行,不会自动停掉,页面上就会不停的有内容。
&的作用就是将storm拿到后台执行。
jps命令查看借点运行情况
如果看log输出,还需要在其他supervisor节点上启动logviewer,才能看到日志,
nohup storm logviewer &
nohup storm logviewer >/dev/null 2>&1 &
(5)访问一下ui界面,8080端口
http://139.199.10.125:8080/index.html