Monitor 监控环境搭建

###安装cAdvisor###
docker pull google/cadvisor:latest
lsof -i:8080
docker run -d -p 8080:8080 --name cadvisor -v /:/rootfs:ro -v /var/run:/var/run:rw -v /sys:/sys:ro -v /var/lib/docker/:/var/lib/docker:ro google/cadvisor:latest
#如果此步骤报错，则可以尝试查看日志
docker logs 1eaa1320f47f
#并按照如下方法解决
mount -o remount,rw '/sys/fs/cgroup'
ln -s /sys/fs/cgroup/cpu,cpuacct /sys/fs/cgroup/cpuacct,cpu
docker start 1eaa1320f47f

###访问webUI
http://192.168.12.33:8080

###安装grafana###
wget https://s3-us-west-2.amazonaws.com/grafana-releases/release/grafana-5.2.2-1.x86_64.rpm
sudo yum localinstall grafana-5.2.2-1.x86_64.rpm
###如果上一步报错,尝试用
yum install https://s3-us-west-2.amazonaws.com/grafana-releases/release/grafana-5.2.2-1.x86_64.rpm
如果提示连接超时，可以等待一会
安装成功后，查看安装的位置
rpm -qc grafana
systemctl daemon-reload
systemctl start grafana-server.service
systemctl status grafana-server

###访问webUI
http://192.168.12.33:3000

###安装prometheus###
tar xf prometheus-2.3.2.linux-amd64.tar.gz
./prometheus --web.enable-lifecycle --config.file=prometheus.yml

curl -X POST http://localhost:9090/-/reload

###访问webUI
http://192.168.12.33:9090

###安装nodeexporter###
tar xf node_exporter-0.16.0.linux-amd64.tar.gz
./node_exporter

###
将nodeexporter变成服务

service node_exporter status

###验证安装情况
curl 127.0.0.1:9100/metrics

###cadvisor 监控 process linux 命令
ps -e -o user,pid,ppid,stime,pcpu,pmem,rss,vsz,stat,time,comm,cgroup

###weave scope

###JMX 需要打开的参数
-Dcom.sun.management.jmxremote
-Dcom.sun.management.jmxremote.port=1097
-Dcom.sun.management.jmxremote.ssl=false
-Dcom.sun.management.jmxremote.authenticate=false
-Djava.rmi.server.hostname=192.168.12.105

###InfluxDB与MySQL对比
http://www.cnblogs.com/MikeZhang/p/InfluxDBTest20170212.html

###Spark 监控
集群整体监控工具，如：Ganglia，可以提供集群整体的使用率和资源瓶颈视图。比如，Ganglia的仪表盘可以迅速揭示出整个集群的工作负载是否达到磁盘、网络或CPU限制。
操作系统分析工具，如：dstat, iostat, 以及 iotop ，可以提供单个节点上细粒度的分析剖面。
JVM工具可以帮助你分析JVM虚拟机，如：jstack可以提供调用栈信息，jmap可以转储堆内存数据，jstat可以汇报时序统计信息，jconsole可以直观的探索各种JVM属性，这对于熟悉JVM内部机制非常有用。

###
dstat安装
yum install -y dstat

###
https://argus-sec.com/monitoring-spark-prometheus/

转载于:https://my.oschina.net/u/3424826/blog/1975930