Zookeeper指标分析

1. 问题描述
通过CDH管理平台，进入Zookeeper管理界面，Zookeeper的平均请求延迟、最小请求延迟、最大请求延迟指标趋势图维持不变，指标数据异常。

2.问题复现
登录CDH平台，进入Zookeeper管理页面，查看Zookeeper各服务器状态，页面如下：

查看如下指标
平均请求延迟、最小请求延迟、最大请求延迟三个指标维持不变，指标异常。



3.问题分析
3.1 指标来源
该指标是CDH通过ZookeeperJMX方式获取，具体参考Zookeeper官网
http://zookeeper.apache.org/doc/r3.5.3-beta/zookeeperJMX.html#ch_jmx
通过命令方式获取Zookeeper指标信息

[root@ip-172-31-10-61 ~]# echo mntr |nc 172.31.10.61 2181
zk_version       3.4.5-cdh5.10.0--1, built on 01/20/2017 20:10 GMT
zk_avg_latency  0
zk_max_latency  10
zk_min_latency  0
zk_packets_received      30569
zk_packets_sent 31521
zk_num_alive_connections        7
zk_outstanding_requests 0
zk_server_state follower
zk_znode_count  62
zk_watch_count  14
zk_ephemerals_count      9
zk_approximate_data_size        3049
zk_open_file_descriptor_count   43
zk_max_file_descriptor_count    32768

通过以上分析可以判断指标数据非CDH计算得来，而是Zookeeper计算，排除CM问题；

3.2 分析Zookeeper源码
命令行调用Zookeeper监控指标代码片段（MonitorCommand.java）

public void  commandRun() {
        if  (!isZKServerRunning()) {
            pw.println(ZK_NOT_SERVING);
            return;
        }
        ZKDatabase zkdb = zkServer.getZKDatabase();
        ServerStats stats = zkServer.serverStats();
 
        print("version",  Version.getFullVersion());
 
        print("avg_latency", stats.getAvgLatency());
        print("max_latency", stats.getMaxLatency());
        print("min_latency", stats.getMinLatency());
 
        print("packets_received", stats.getPacketsReceived());
        print("packets_sent", stats.getPacketsSent());
        print("num_alive_connections", stats.getNumAliveClientConnections());
 
        print("outstanding_requests", stats.getOutstandingRequests());
 
        print("server_state", stats.getServerState());
        print("znode_count", zkdb.getNodeCount());
 
        print("watch_count", zkdb.getDataTree().getWatchCount());
        print("ephemerals_count", zkdb.getDataTree().getEphemeralsCount());
        print("approximate_data_size", zkdb.getDataTree().approximateDataSize());
 
        OSMXBean osMbean = new  OSMXBean();
        if (osMbean != null  && osMbean.getUnix()  == true) {
            print("open_file_descriptor_count", osMbean.getOpenFileDescriptorCount());
            print("max_file_descriptor_count", osMbean.getMaxFileDescriptorCount());
        }
 
        if (stats.getServerState().equals("leader")) {
            Leader leader =  ((LeaderZooKeeperServer)zkServer).getLeader();
 
            print("followers", leader.getLearners().size());
            print("synced_followers", leader.getForwardingFollowers().size());
            print("pending_syncs", leader.getNumPendingSyncs());
        }
}

通过查看源码，指标数据是通过ServerStats获取“请求延迟”指标
分析ServerStats代码，代码片段（ServerStats.java）

//更新minLatency、maxLatency、count、totalLatency数据
synchronizedvoid  updateLatency(longrequestCreateTime) {
        longlatency = Time.currentElapsedTime()  - requestCreateTime;
        totalLatency += latency;
        count++;
        if (latency < minLatency) {
            minLatency = latency;
        }
        if (latency > maxLatency)  {
            maxLatency = latency;
        }
}
//获取avgLatency指标
synchronizedpubliclong getAvgLatency() {
    if (count != 0) {
        returntotalLatency / count;
    }
    return 0;
}

ServerStats只提供了updateLatency方法来更新maxLatency和minLatency指标。
调用更新ServerStats方法代码片段如下：（FinalRequestProcessor.java）

case OpCode.ping: {
                zks.serverStats().updateLatency(request.createTime);
 
                lastOp = "PING";
                cnxn.updateStatsForResponse(request.cxid, request.zxid, lastOp,
                        request.createTime, Time.currentElapsedTime());
 
                cnxn.sendResponse(new  ReplyHeader(-2,
                        zks.getZKDatabase().getDataTreeLastProcessedZxid(),  0), null, "response");
                return;
            }
            case OpCode.createSession: {
                zks.serverStats().updateLatency(request.createTime);
 
                lastOp = "SESS";
                cnxn.updateStatsForResponse(request.cxid, request.zxid, lastOp,
                        request.createTime, Time.currentElapsedTime());
 
                zks.finishSessionInit(request.cnxn, true);
                return;
            }

3.3 异常指标分析
通过分析代码，maxLatency和minLatency指标数据在Zookeeper服务器启动记录每次Request的指标数据；
在获取Zookeeper服务器的的maxLatency和minLatency指标记录服务器所有请求中最大请求延迟和最小请求延迟；
最大请求延迟指标
Zookeeper服务器1，在通过A请求更新ServerStats的maxLatency的指标值为100ms，在之后所有请求均未超过maxLatency为100ms的值。CDH平台每次获取Zookeeper服务器1的maxLatency指标时均为100ms，因此导致文章开头CDH平台Zookeeper的maxLatency指标维持不变“异常”。
最小请求延迟指标
Zookeeper服务器1，在通过A请求后更新ServerStats的minLatency的指标值为0ms，在之后所有请求均未小于minLatency为0ms的值。CDH平台每次获取Zookeeper服务器1的minLatency指标时均为0ms，因此导致文章开头CDH平台Zookeeper的minLatency指标为0ms维持不变的“异常”。
平均请求延迟指标
Zookeeper服务器1累计所有请求的延迟时间（totalLatency），累计总共请求次数（count），通过totalLatency/count获取avgLatency指标。至于avgLatency指标持续维持为0ms，由于totalLatency <count导致。
由此推断多次请求Latency的延迟为0ms。