ganglia集群监控100台服务器

100台服务监控如图

ganglia架构图

一.简介

Ganglia由gmond,gmetab和gweb三部分组成
gmond（Ganglia Monitoring Daemon）一种轻量级服务，比作传统监控系统中的“代理(agent)”软件,安装在每台需要收集指标数据的节点主机上,完成实际意义上的指标数据收集工作，并通过侦听/通告协议和集群内其他节点共享数据。可以很容易收集很多系统指标数据，如 CPU、内存、磁盘、网络和活跃进程的数据等。
gmetad（Ganglia Meta Daemon）是一种从其他 gmetad 或 gmond 源收集指标数据，并将其以 RRD 格式存储至磁盘的服务。gmetad 为从主机组收集的特定指标信息提供了简单的查询机制，并支持分级授权，使得创建联合监测域成为可能。
gweb（Ganglia Web）gweb 是一种利用浏览器显示 gmetad 所存储数据的 PHP 前端。在 Web 界面中以图表方式展现集群的运行状态下收集的多种不同指标数据。

二.安装和配置

1.监控节点安装

# 在本地软件库中搜索 gmond 安装包：
yum search ganglia-gmond

# 如果上一步没有搜到，需要在本地添加 rmp 资源(以 centos 为例)
# ①查看 linux 系统的版本信息
# cat /etc/redhat-release
# ②所以我们浏览器输入 http://mirror.ancl.hawaii.edu/linux/epel/ ，
# 找到下的 7 目录，然后点击 x86_64 ，一直往里面找，找到我们需要的 rpm 文件
# rpm -Uvh http://mirror.ancl.hawaii.edu/linux/epel/7/x86_64/Packages/e/epel-release-7-11.noarch.rpm 
# 或者用一下这个路径都可以
# rpm -Uvh http://dl.fedoraproject.org/pub/epel/7/x86_64/Packages/e/epel-release-7-11.noarch.rpm

# 再次搜索，查看是否添加成功
yum search ganglia-gmond
# 如果搜索到了，我们就可以安装gmond
yum install ganglia-gmond

2.主节点安装

# 安装gmond,gmetab和gweb
# 1.安装gmond
yum install ganglia-gmond

# 2.安装gmetad
# 在本地软件库中搜索 gmetad 安装包：
yum search ganglia-gmetad
yum -y install ganglia-gmetad

# 3.安装gweb
# Ganglia 3.4.0 的 Web 接口是一个独立的发布包，其源代码库也独立的。
# Gweb 发行周期和版本号与 Ganglia gmond 和 gmetad 守护进程的发型周期和版本号不再一致。
# 3.1安装 Apache 和 PHP
yum -y install httpd php

# 用户需要启用 PHP 的 JSON 扩展，JSON 已经包含在 PHP 5.2 及更新版本中。
# 通过检查/etc/php.d/json.ini 文件来检查 JSON 扩展的状态，如果已经启用 JSON 扩展，在该文件中应该包含类似下面语句的内容：
extension=json.ini
# 3.2下载最新版本的gweb 访问 https://sourceforge.net/projects/ganglia/files/gweb/

wget https://sourceforge.net/projects/ganglia/files/ganglia-web/3.7.2/ganglia-web-3.7.2.tar.gz

# 3.3解压刚下载的 gweb
# tar -zxvf ganglia-web-3.7.2.tar.gz -C /usr/local
cd /usr/local/ganglia-web-3.7.2
# 3.4 编辑Makefile
vim Makefile
# 找到一下内容修改为
GDESTDIR = /var/www/html/ganglia
APACHE_USER = apache

# 注意：GDESTDIR 和 APACHE_USER 要与 APACHE 的配置文件（/etc/httpd/conf/httpd.conf）中的 DocumentRoot 、 user 保持一致

# 3.5 开始编译 Makefile
make install

# 4.安装其他
yum -y install ganglia-devel
yum install -y rrdtool

# 5.关闭  SEL inux
# 查看 SELinux 状态
# getenforce 或者 # sestatus 
# 如果显示 Disabled，表示已经关闭了 selinux
# 关闭 SELinux
vi /etc/selinux/config 

#SELINUX=enforcing
SELINUX= disabled

3.主节点配置

# 1.配置 gmond.conf
# cd /etc/ganglia
# vim gmond.conf
cluster {
# 监控集群名称
name = "bigdata_cluster"
...
}
udp_send_channel {
# the host who gather this cluster's monitoring data and send these data to gmetad node
#注释掉多播模式的,以下出现这个都要注释掉
#mcast_join = 239.2.11.71
#添加单播模式的
host = 主机节点ip
port = 8649
}
udp_recv_channel {
port = 8649
# 注释掉多余的，留下端口即可
}
tcp_accept_channel {
port = 8649
}

# 将主节点配置好的 gmond.conf文件 发送并覆盖监控节点已有的gmond.conf文件
scp gmond.conf *.*.*.a:`pwd`
scp gmond.conf *.*.*.b:`pwd`
scp gmond.conf *.*.*.c:`pwd`
scp gmond.conf *.*.*.d:`pwd`
...
# 2.给ganglia-web创建登陆密码(可不设置)
# htpasswd -c /etc/httpd/auth.basic  adminganglia

# 3.修改ganglia-web访问权限
# vim /etc/httpd/conf/httpd.conf
# Listen 80  # 修改默认80端口
# Listen 8808
# 在文件的末尾添加
Alias /ganglia /usr/local/ganglia-web-3.7.2
<location /ganglia>
    Require all granted
</location>

# 如果第2步设置了账号密码,就需要修改为
#<Location /ganglia>
  #AuthType Basic
  #Options None
  #AllowOverride None
  #Order allow,deny
  #Allow from all
  #AuthName "ganglia Access"
  #AuthUserFile "/etc/httpd/auth.basic"
  #Require valid-user
#</Location>

# 4.配置 gmetad
# vim /etc/ganglia/gmetad.conf
# data_source:此参数定义了集群的名字，以及集群中的节点
data_source "bigdata_cluster" node1:8649 node2:8649 node3:8649 ...

4.启动服务(注意这里的顺序)

# 首先,监控节点
systemctl start gmond.service
systemctl status gmond.service
systemctl enable gmond.service

# 其次,主节点
systemctl start httpd.service
systemctl start gmetad.service
systemctl start gmond.service
systemctl enable httpd.service
systemctl enable gmetad.service
systemctl enable gmond.service

5.ganglia web界面操作

浏览器输入: http://主节点/ganglia/
选择监控集群名称

选择某个节点查看相应服务器资源状况

tips

如果gmetab所在的节点发生宕机或重启,导致gweb图表无法显示其他gmond节点信息,即gmetab无法收集本节点以外的信息时,则需要将除本节点以外的服务器上的gmond进程重启,最后重启本节点gmetab进程重启就可以解决