自动化监控spark进程并重启

自动化监控spark进程并重启，实际生产中可能会出现服务进程挂掉的异常，自动监控与重启是非常重要。

1、监控主节点的shell脚本

[plain]  view plain  copy

1. #!/bin/bash  
2. #  
3. master=`ps -ef | grep Master | grep spark | awk '{print $2}'`  
4. echo $master  
5.   
6. if [ "$master" =  "" ]; then  
7.         echo "Spark Master is restart!"  
8.         /opt/modules/spark/sbin/stop-master.sh  
9.         /opt/modules/spark/sbin/start-master.sh  
10. else  
11.         echo "Spark Master is alive!"  
12. fi  

2、监控从节点的shell脚本

注:重启slave节点时，需要指定master的ip

[plain]  view plain  copy

1. #!/bin/bash  
2. #  
3. slave=`ps -ef | grep Worker | grep spark | grep 7077 | awk '{print $2}'`  
4. echo $slave  
5.   
6. if [ "$slave" =  "" ]; then  
7.         echo "Spark Worker is restart!"  
8.         /opt/modules/spark/sbin/stop-slave.sh  
9.         /opt/modules/spark/sbin/start-slave.sh spark://10.130.2.20:7077  
10. else  
11.         echo "Spark Worker is alive!"  
12. fi  

3、加入crontab的定时

[plain]  view plain  copy

1. */1 * * * * /opt/bin/monitorSparkSlave.sh  

每分钟监控一次，如果服务进程不存在，则重启该服务。