压测工具——ab

使用：

ab -c 10 -n 1000 -p post.txt -T application/json http://0.0.0.0:5000/bert/embedding

其中，-c表示并发数为10，-n表示总请求个数为1000，-p表示请求的数据放在了post.txt中，-T表示请求的格式，http....表示待测试的服务器。 

---

1.为什么压测

性能压力测试是服务器网站性能调优过程中必不可缺少的一环。只有让服务器处在高压情况下，才能真正体现出软件、硬件等各种设置不当所暴露出的问题。

性能测试工具目前最常见的有以下几种：ab、http_load、webbench、siege。

2.压测工具ab

ab是apache自带的压力测试工具。ab非常实用，它不仅可以对apache服务器进行网站访问压力测试，也可以对或其它类型的服务器进行压力测试。

2.1 ab的原理

方法1：源码安装apache，apache安装完毕后ab命令存放在apache安装目录的bin目录下。

# 查看ab是否可用，ab命令默认存放在/usr/bin目录下
which ab

方法2：直接安装apache的工具包httpd-tools。

# 安装工具包
yum -y install httpd-tools
# 查看ab是否安装成功，可以切换到上述目录下，使用ab –V命令进行检测。如下：
ab -V

2.2 ab参数说明

有关ab命令的使用，我们可以通过帮助命令进行查看。如下：

ab --help
#  给几个常用的参数以及其解释
-n 在测试会话中所执行的请求个数。默认时，仅执行一个请求。
-c 一次产生的请求个数。默认是一次一个。
-t 测试所进行的最大秒数。其内部隐含值是-n 50000，它可以使对服务器的测试限制在一个固定的总时间以内。默认时，没有时间限制。
-p 包含了需要POST的数据的文件。
-T POST数据所使用的Content-type头信息。

2.3 ab性能指标

1、吞吐率（Requests per second）

服务器并发处理能力的量化描述，单位是reqs/s，指的是在某个并发用户数下单位时间内处理的请求数。某个并发用户数下单位时间内能处理的最大请求数，称之为最大吞吐率。

记住：吞吐率是基于并发用户数的。这句话代表了两个含义：

a、吞吐率和并发用户数相关

b、不同的并发用户数下，吞吐率一般是不同的

计算公式：总请求数/处理完成这些请求数所花费的时间，即

Request per second=Complete requests/Time taken for tests

必须要说明的是，这个数值表示当前机器的整体性能，值越大越好。

2、并发连接数（The number of concurrent connections）

并发连接数指的是某个时刻服务器所接受的请求数目，简单的讲，就是一个会话。

3、并发用户数（Concurrency Level）

要注意区分这个概念和并发连接数之间的区别，一个用户可能同时会产生多个会话，也即连接数。在HTTP/1.1下，IE7支持两个并发连接，IE8支持6个并发连接，FireFox3支持4个并发连接，所以相应的，我们的并发用户数就得除以这个基数。

4、用户平均请求等待时间（Time per request）

计算公式：处理完成所有请求数所花费的时间/（总请求数/并发用户数），即：

Time per request=Time taken for tests/（Complete requests/Concurrency Level）

5、服务器平均请求等待时间（Time per request:across all concurrent requests）

计算公式：处理完成所有请求数所花费的时间/总请求数，即：

Time taken for/testsComplete requests

可以看到，它是吞吐率的倒数。

同时，它也等于用户平均请求等待时间/并发用户数，即

Time per request/Concurrency Level

2.4 ab实际使用

使用最开始的命令，测试结果如下：

(bert) [op_dev@kvm embedding]$ ab -c 10 -n 1000 -p post.txt -T application/json http://0.0.0.0:5000/bert/embedding
This is ApacheBench, Version 2.3 <$Revision: 1430300 $>
Copyright 1996 Adam Twiss, Zeus Technology Ltd, http://www.zeustech.net/
Licensed to The Apache Software Foundation, http://www.apache.org/

Benchmarking 0.0.0.0 (be patient)
Completed 100 requests
Completed 200 requests
Completed 300 requests
Completed 400 requests
Completed 500 requests
Completed 600 requests
Completed 700 requests
Completed 800 requests
Completed 900 requests
Completed 1000 requests
Finished 1000 requests


Server Software:        gunicorn/20.0.4   # 表示被测试的Web服务器软件名称。
Server Hostname:        0.0.0.0    # 表示请求的URL主机名。
Server Port:            5000    # 表示被测试的Web服务器软件的监听端口。

Document Path:          /bert/embedding # 表示请求的URL中的根绝对路径，通过该文件的后缀名，我们一般可以了解该请求的类型。
Document Length:        1097 bytes #  表示HTTP响应数据的正文长度。

Concurrency Level:      10    # 表示并发用户数，这是我们设置的参数之一。
Time taken for tests:   7.245 seconds # 表示所有这些请求被处理完成所花费的总时间。
Complete requests:      1000 # 表示总请求数量，这是我们设置的参数之一。
Failed requests:        0    # 表示失败的请求数量，这里的失败是指请求在连接服务器、发送数据等环节发生异常，以及无响应后超时的情况。如果接收到的HTTP响应数据的头信息中含有2XX以外的状态码，则会在测试结果中显示另一个名为“Non-2xx responses”的统计项，用于统计这部分请求数，这些请求并不算在失败的请求中。
Write errors:           0  #  
Total transferred:      1259000 bytes # 表示所有请求的响应数据长度总和，包括每个HTTP响应数据的头信息和正文数据的长度。注意这里不包括HTTP请求数据的长度，仅仅为web服务器流向用户PC的应用层数据总长度。
Total body sent:        527000
HTML transferred:       1097000 bytes # 表示所有请求的响应数据中正文数据的总和，也就是减去了Total transferred中HTTP响应数据中的头信息的长度。
Requests per second:    138.02 [#/sec] (mean) # 吞吐率
Time per request:       72.452 [ms] (mean) # 用户平均请求等待时间
Time per request:       7.245 [ms] (mean, across all concurrent requests)  # 服务器平均请求等待时间， 
Transfer rate:          169.70 [Kbytes/sec] received
                        71.03 kb/s sent
                        240.73 kb/s total  # 表示这些请求在单位时间内从服务器获取的数据长度，计算公式：Total trnasferred/ Time taken for tests，这个统计很好的说明服务器的处理能力达到极限时，其出口宽带的需求量。



Connection Times (ms)
              min  mean[+/-sd] median   max
Connect:        0    0   0.0      0       0
Processing:    12   70  37.3     64     278
Waiting:       12   70  37.1     63     278
Total:         12   70  37.3     64     278

Percentage of the requests served within a certain time (ms)
  50%     64  # 50分位的请求个数占用的时间
  66%     80
  75%     91
  80%     98
  90%    118
  95%    136
  98%    174
  99%    198
 100%    278 (longest request)

参考：
1.言简意赅：https://blog.csdn.net/qq_27517377/article/details/78794409
2.原理多一些：https://www.jianshu.com/p/4c599c4c338d
3.原理条条框框：https://www.jianshu.com/p/43d04d8baaf7