大数据平台监控服务及自动重启脚本

我们知道大数据平台有很多服务datanode,namenode,nodemananger,resourcemanager等等，这些服务可能会在跑任务的过程中直接退出，那么我们如何监控这些服务并重启服务呢？接下来总结一些这方面的监控脚本以备不时之需。

1、Datanode监控（hadoop_datanode_monitor.sh）

1. #!/bin/bash
2.  
3. source $HOME/.bashrc
4.  
5. function logger()
6. {
7. time=`date "+%Y-%m-%d %T"`
8. echo "$time $1"
9. }
10.  
11. #monitor base function
12. function proc_monitor()
13. {
14. if test $(ps -ef | grep -i proc_$1 | grep -v grep | wc -l) -eq 0;then
15. logger "$1 not exists!, start $1 by monitor"
16. hadoop-daemon.sh start $1
17. fi
18. }
19.  
20. #minitoring datanode
21. proc_monitor "datanode"

2、Namenode监控（hadoop_namenode_monitor.sh）

1. #!/bin/bash
2.  
3. source $HOME/.bashrc
4.  
5. function logger()
6. {
7. time=`date "+%Y-%m-%d %T"`
8. echo "$time $1"
9. }
10.  
11. #monitor base function
12. function proc_monitor()
13. {
14. if test $(ps -ef | grep -i proc_$1 | grep -v grep | wc -l) -eq 0;then
15. logger "$1 not exists!, start $1 by monitor"
16. hadoop-daemon.sh start $1
17. fi
18. }
19.  
20. #minitoring namenode
21. proc_monitor "namenode"

3、NodeManager监控（hadoop_nodemanager_monitor.sh）

1. #!/bin/bash
2.  
3. source $HOME/.bashrc
4.  
5. function logger()
6. {
7. time=`date "+%Y-%m-%d %T"`
8. echo "$time $1"
9. }
10.  
11. #monitor base function
12. function proc_monitor()
13. {
14. if test $(ps -ef | grep -i proc_$1 | grep -v grep | wc -l) -eq 0;then
15. logger "$1 not exists!, start $1 by monitor"
16. yarn-daemon.sh start $1
17. fi
18. }
19.  
20. #minitoring nodemanager
21. proc_monitor "nodemanager"

4、ResourceManager监控（hadoop_resourcemanager_monitor.sh）

1. #!/bin/bash
2.  
3. source $HOME/.bashrc
4.  
5. function logger()
6. {
7. time=`date "+%Y-%m-%d %T"`
8. echo "$time $1"
9. }
10.  
11. #monitor base function
12. function proc_monitor()
13. {
14. if test $(ps -ef | grep -i proc_$1 | grep -v grep | wc -l) -eq 0;then
15. logger "$1 not exists!, start $1 by monitor"
16. yarn-daemon.sh start $1
17. fi
18. }
19.  
20. #minitoring resourcemanager
21. proc_monitor "resourcemanager"

5、HMaster监控（hbase_master_monitor.sh）

1. #!/bin/bash
2.  
3. source $HOME/.bashrc
4.  
5. function logger()
6. {
7. time=`date "+%Y-%m-%d %T"`
8. echo "$time $1"
9. }
10.  
11. #monitor base function
12. function proc_monitor()
13. {
14. if test $(ps -ef | grep -i proc_$1 | grep -v grep | wc -l) -eq 0;then
15. logger "$1 not exists!, start $1 by monitor"
16. hbase-daemon.sh start $1
17. fi
18. }
19.  
20. #minitoring master
21. proc_monitor "master"

6、HRegionServer监控（hbase_regionserver_monitor.sh）

1. #!/bin/bash
2.  
3. source $HOME/.bashrc
4.  
5. function logger()
6. {
7. time=`date "+%Y-%m-%d %T"`
8. echo "$time $1"
9. }
10.  
11. #monitor base function
12. function proc_monitor()
13. {
14. if test $(ps -ef | grep -i proc_$1 | grep -v grep | wc -l) -eq 0;then
15. logger "$1 not exists!, start $1 by monitor"
16. hbase-daemon.sh start $1
17. fi
18. }
19.  
20. #minitoring regionserver
21. proc_monitor "regionserver"