OpenShift Jmeter
毫无疑问OpenShift是一个优秀的容器平台,但是我们有没有想过这些问题呢?OpenShift集群最多能运行多少个容器?每个请求的延时是多少呢?当有大量Pod并发启动时,容器平台是否还能轻松应对呢?等等这些问题在容器平台上生产时,我们都得心里有数。否则随着容器平台的压力不断扩大,到了无法承受之痛时,而我们却毫不知情。那么对OpenShift容器平台做压力测试就成了一项必不可少的工作。
但是怎样去做呢?业界使用最多的方法就是用Jmeter来模拟API请求进行压测。
新建测试计划与进程组
创建一个名为"测试OpenShift Api"的Test Plan
右击"测试OpenShift Api",Add->Threads(Users)->ThreadGroup,创建名为"模拟客户端"的Thread Group
右击"测试OpenShift Api",Add->Listener->Aggregate Report,创建名为“测试OpenShift API Report”的Aggregate Report
通过模拟请求获取访问OpenShift平台的ACCESS_TOKEN
右击"模拟客户端",Add->Sampler->HTTP Request,创建名为"获取TOKEN"的HTTP Request
设置"获取TOKEN"
Protocol: https
Server Name or IP:https://master.example.com
Port Number:8443
Method:GET
Path:/oauth/authorize?response_type=token&client_id=openshift-challenging-client
右击"获取TOKEN",Add->Config Element->HTTP Header Manager,创建名为"获取TOKEN Header"的HTTP Header Manager
计算登录OpenShift平台的用户名与密码的base64值
$ echo -n 'admin:password' | base64
YWRtaW46cGFzc3dvcmQ=
为"获取TOKEN Header"添加Header
Authorization:Basic YWRtaW46cGFzc3dvcmQ=
右击"获取TOKEN",Add->Post Processors->Regular Expression Extractor,创建名为"获取TOKEN值"的Regular Expression Extractor
设置"获取TOKEN值"
Apply to:Main sample only
Field to check:Response Headers
Name of created variable:ACCESS_TOKEN
Regular Expression:#access_token=([^&]*)&expires_in=([^&]*)&
Template:$1$
Match NO: 1
使用ACCESS_TOKEN调用OpenShift API获取Project列表
右击"模拟客户端",Add->Sampler->HTTP Request,创建名为"获取projects列表"的HTTP Request
设置"获取projects列表"
Protocol: https
Server Name or IP:master.example.com
Port Number:8443
Method:GET
Path:/apis/project.openshift.io/v1/projects
Parameers:pretty=true
右击"获取projects列表",Add->Config Element->HTTP Header Manager,创建名为"获取projects列表 Header"的HTTP Header Manager
Authorization:Basic ${ACCESS_TOKEN}
右击"获取projects列表",Add->Listener->view Results Tree,创建名为"Projects列表Result"的view Results Tree
使用ACCESS_TOKEN调用OpenShift API创建测试Pod
右击"模拟客户端",Add->Sampler->HTTP Request,创建名为"创建Pod"的HTTP Request
设置"创建Pod"
Protocol: https
Server Name or IP:master.example.com
Port Number:8443
Method:POST
Path:/api/v1/namespaces/test/pods
Body Data:Pod的创建Json文件,注意"kind"必须顶在行首
创建Pod.PNG
右击"创建Pod",Add->Config Element->HTTP Header Manager,创建名为"创建Pod Header"的HTTP Header Manager
Authorization:Basic ${ACCESS_TOKEN}
Accept:application/json
Content-Type:application/json
右击"创建Pod",Add->Listener->view Results Tree,创建名为"Pod创建Result"的view Results Tree
最终的配置组件的部局如下图:
全局图.PNG
执行测试计划
不断调整"模拟客户端"的并发数配置(以下配置模拟100个并发不断请求)
Number of Threads:100
Ramp-Up Period:1
Loop Count:Forever
在"Projects列表Result"中查看每个获取project列表请求的返回
Project请求数据结果.PNG
在"Pod创建Result"中查看每个创建Pod请求的返回
创建Pod请求数据结果.PNG
在"测试OpenShift API Report"中查看所有请求的结果报告
测试报告.PNG
生成报表
确认jmeter/bin/jmeter.properties中的output_format配置为csv
...
jmeter.save.saveservice.output_format=csv
..
执行保存的测试OpenShiftAPI.jmx生成报表文件
$ jmeter -n -t OpenShiftAPI.jmx -l result.jtl -e -o resultReport
通过浏览器访问resultReport/index.html
报表
以上通过调用获取projects列表的API的全过程,详细介绍了Jemter压测OpenShift的方法。在实际压测OpenShift过程中,我们需要调用更多的API,如创建Pod,删除Pod等。所有API的说明可查看OpenShift官方文档:OpenShift API说明
压测OpenShift集群需要做详细的测试设计
名词解释
集群容量:集群中有N个Node,每个Node上30个Pod,集群容量为30 * N个Pod。
集群负载:集群中Pod总数量占集群容量百分比。通过调整Pod总数控制集群负载。
百分位指标:指标的分布性。以API调用延时指标为例,90% API调用延时为180ms,99% API调用延时为400ms。
测试目标
集群容量上限:创建Pod总数
性能瓶颈
服务请求延迟
集群支持的并发请求数
服务质量目标(SLO)
99%的Pod启动时间:5s
99%的API调用延时:1s
服务质量指标(SLI)
Pod启动时间
API调用延时
数据统计
统计不同集群负载下,Pod启动时间和API调用延时这两个指标的分布性:
集群负载:10%, 25%,50%,90%,100%
指标分布性:90%, 95%,99%
欢迎关注本人用python实现的一个简单的openshift sdk,轻松调用openshift api
Openshift SDK Python:https://github.com/xhuaustc/openshift-sdk-python.git
参考文章
Kubernetes集群性能测试