python 命令行套件 & mesos http-api调用

TASK：

统计性能测试过程中，整个应用(learn app)占用host（例如：ec2机器）的cpu使用率/memory 平均值
环境：
learn app 部署在mesos-cluster ，为一个container。
mesos-cluster 使用aws ec2的机器部署。

开发小工具，初略统计（类似商用newrelic-infra agent 的功能）

方案：

    每隔3分钟，获取cpu使用率 、memory占用值，然后统计平均值
    memory 占用值，通过mesos接口/monitor/statistics    字段mem_rss_bytes 实时获取
    cpu使用率 ，通过mesos接口/monitor/statistics  字段 cpus_system_time_secs  cpus_user_time_secs 值经过 小计算可得
    cpu usage=（current的cpu总耗时- 前一个三分钟cpu总耗时）/（ current 时间戳-前一个三分钟时间戳）

knowledge：

1） optparse套件，
它功能强大，而且易于使用，可以方便地生成标准的、符合Unix/Posix 规范的命令行说明。

parser = OptionParser()
parser.add_option("-u", "--url", dest="api_url", help="Mesos api url")
parser.add_option("-e", "--executor-id", dest="executor_id", help="Executor id")

(options, args) = parser.parse_args()

2）标准HTTP API 调用
mesos-cluster 的agent-node （container运行的实体）
agent-node ipaddress：10.146.20.205
http://10.146.20.205:5051/monitor/statistics
可以返回每个container task 的resource信息，形如：

-{
executor_id: "performance_jenkins_feature_perf-testing-downgrade_learn.be8907ab-e3d5-11e7-a9bf-469c20cc1bbb",
executor_name: "Command Executor (Task: performance_jenkins_feature_perf-testing-downgrade_learn.be8907ab-e3d5-11e7-a9bf-469c20cc1bbb) (Command: sh -c '/mnt/mesos/s...')",
framework_id: "2df1664b-918a-4602-bd18-5d1c097352cb-34970",
source: "performance_jenkins_feature_perf-testing-downgrade_learn.be8907ab-e3d5-11e7-a9bf-469c20cc1bbb",
statistics: {
cpus_limit: 4.1,
cpus_system_time_secs: 10279.03,
cpus_user_time_secs: 39016.26,
mem_limit_bytes: 17213423616,
mem_rss_bytes: 9182752768,
timestamp: 1513676172.31889
}
},

说明：cpus_user_time_secs 该时刻user耗用cpu总时间
cpus_system_time_secs 该时刻 system耗用cpu总时间
mem_rss_bytes 该时刻memory耗用值

主任务程序

while True:
    rsp = poll(options.api_url)
    e = findExecutorMetric(rsp, options.executor_id)
    stat = Statistics()
    stat.fromJson(e)
    if current != None:
        stat.diffUse(current)

    current = stat
    dumpStat(current)
    time.sleep(3)

定义的class

# Statistics object
class Statistics:
    cpus_user_time_secs = 0.0
    cpus_system_time_secs = 0.0,
    cpus_limit = 0.0
    cpus_total_usage = 0.0
    mem_rss_bytes = 0.0
    mem_limit_bytes = 0.0
    disk_used_bytes = 0.0
    disk_limit_bytes = 0.0
    timestamp = 0.0
    def diffUse(self, stat):
        cpus_user_usage = (self.cpus_user_time_secs -      stat.cpus_user_time_secs) / (self.timestamp - stat.timestamp)
        cpus_system_usage = (self.cpus_system_time_secs - stat.cpus_system_time_secs) / (self.timestamp - stat.timestamp)
        self.cpus_total_usage = cpus_user_usage + cpus_system_usage
    def fromJson(self, e):
        stat = e['statistics']
        self.cpus_user_time_secs = stat['cpus_user_time_secs']
        self.cpus_system_time_secs = stat['cpus_system_time_secs']
        self.cpus_limit = stat['cpus_limit']
        self.cpus_total_usage = 0.0
        self.mem_rss_bytes = stat['mem_rss_bytes']
        self.mem_limit_bytes = stat['mem_limit_bytes']
        self.disk_used_bytes = 0.0
        self.disk_limit_bytes = 0.0
        self.timestamp = stat['timestamp']

被调用函数

# search element by executor_id
def findExecutorMetric(rsp, executor_id):
    for e in rsp:
        if e['executor_id'] == executor_id:
            return e
    return None


def poll(api_url):
    return json.loads(urllib2.urlopen(api_url).read())

def dumpStat(stat):
    list = (str(stat.timestamp), str(stat.cpus_total_usage), str(stat.mem_rss_bytes))
    s = ','
    print s.join(list)

用户使用指南：

步骤1，压测开始前，执行
python metric-monitor.py -u http://10.146.20.205:5051/monitor/statistics -e performance_jenkins_feature_perf-testing-downgrade_learn.be8907ab-e3d5-11e7-a9bf-469c20cc1bbb >> learn_perf_testing_downgrade_20171219-1.txt &

-e :一个container任务的executor-id
-u ：mesos-cluster agent-node api访问

步骤2，压测结束，停止脚本执行，此时原始数据收集完成

步骤3，数据计算分析
使用excel 从txt文件导入数据绘制图标功能 并计算average。

绘制趋势图：
Data->Get external data txt文本数据转化为excel列数据
insert ->chart ->line 选择上一步导入的列数据，可绘制成趋势图

计算average ：
选中列数据 及下一个空的单元格 =average(H2:H798)

---

[1].http://mesos.apache.org/documentation/latest/endpoints/slave/monitor/statistics/
[2].http://www.cnblogs.com/captain_jack/archive/2011/01/11/1933366.html