Linux性能优化-网络请求延迟变大

最新推荐文章于 2024-04-03 08:39:04 发布

hixiaoxiaoniao

最新推荐文章于 2024-04-03 08:39:04 发布

阅读量7.9k

点赞数 3

分类专栏：系统

本文链接：https://blog.csdn.net/hixiaoxiaoniao/article/details/87872461

版权

系统专栏收录该内容

47 篇文章 9 订阅

订阅专栏

网络延迟

案例分析

总结

网络延迟

常用的是双向的往返通信延迟，比如 ping 测试的结果，就是往返延时 RTT（Round-Trip Time）
除了网络延迟外，另一个常用的指标是应用程序延迟，它是指，从应用程序接收到请求，再到发回响应，全程所用的时间。
通常，应用程序延迟也指的是往返延迟，是网络数据传输时间加上数据处理时间的和。
可以用 ping 来测试网络延迟。ping 基于 ICMP 协议，它通过计算 ICMP 回显响应报文与 ICMP 回显请求报文的时间差，来获得往返延时。
这个过程并不需要特殊认证，常被很多网络攻击利用，比如端口扫描工具 nmap、组包工具 hping3 等等。
为了避免这些问题，很多网络服务会把 ICMP 禁止掉，导致我们无法用 ping ，来测试网络服务的可用性和往返延时。
这时，可以用 traceroute 或 hping3 的 TCP 和 UDP 模式，来获取网络延迟。

用hping3测试TCP连通性，往返百度的时间，为31毫

hping3 -c 3 -S -p 80 www.baidu.com
HPING www.baidu.com (eth0 180.97.33.107): S set, 40 headers + 0 data bytes
len=40 ip=180.97.33.107 ttl=52 id=43290 sport=80 flags=SA seq=0 win=8192 rtt=30.8 ms
len=40 ip=180.97.33.107 ttl=52 id=2031 sport=80 flags=SA seq=1 win=8192 rtt=30.4 ms
len=40 ip=180.97.33.107 ttl=52 id=38026 sport=80 flags=SA seq=2 win=8192 rtt=33.7 ms

--- www.baidu.com hping statistic ---
3 packets transmitted, 3 packets received, 0% packet loss
round-trip min/avg/max = 30.4/31.7/33.7 ms

使用traceroute测试百度

traceroute --tcp -p 80 -n www.baidu.com
traceroute to www.baidu.com (180.97.33.107), 30 hops max, 60 byte packets
 1  * * *
 2  11.220.30.13  7.570 ms  8.186 ms 11.220.31.13  6.699 ms
 3  * * 11.220.31.138  1.996 ms
 4  11.204.180.98  4.482 ms 11.218.196.250  4.087 ms 11.204.180.122  3.793 ms
 5  116.251.117.2  2.668 ms  2.618 ms 116.251.117.10  2.829 ms
 6  116.251.112.157  2.898 ms 103.41.141.85  3.419 ms 116.251.112.165  3.155 ms
 7  * * *
 8  36.110.244.61  5.907 ms 180.149.141.117  5.921 ms 180.149.141.145  4.990 ms
 9  220.181.177.77  3.651 ms 36.110.244.33  4.363 ms *
10  * * *
11  202.102.69.14  32.121 ms 202.102.69.58  37.728 ms  37.448 ms
12  * * *
13  180.97.32.102  30.030 ms 180.97.32.74  110.789 ms 180.97.32.94  30.907 ms
14  * * *
15  * * 180.97.33.107  35.010 ms

案例分析

案例中使用到的环境如下

安装wrk

wget https://codeload.github.com/wg/wrk/zip/master .
unzip wrk-master.zip 
cd wrk-master
yum install build-essential -y
make
cp wrk /usr/local/bin

启动一个正常的nginx

docker run --network=host --name=good -i -t -d

启动案例nginx

docker run --name nginx_test --network=host -i -t -d feisky/nginx:latency

测试两个环境的nginx返回情况

curl http://【服务端IP】:80/
。。。
Thank you for using nginx.
。。。



curl http://【服务端IP】:8080/
。。。
Thank you for using nginx.
。。。

用 wrk 测试两个服务器的并发连接性能

wrk --latency -c 100 -t 2 --timeout 2 http://【服务端ip】:80/
Running 10s test @ http://【服务端ip】:80/
  2 threads and 100 connections
  Thread Stats   Avg      Stdev     Max   +/- Stdev
    Latency   173.32ms  296.47ms   1.94s    88.71%
    Req/Sec    69.35     58.00   545.00     86.98%
  Latency Distribution
     50%   31.80ms
     75%  265.96ms
     90%  492.02ms
     99%    1.61s 
  1355 requests in 10.01s, 1.10MB read
  Socket errors: connect 0, read 0, write 0, timeout 13
Requests/sec:    135.33
Transfer/sec:    112.76KB

wrk --latency -c 100 -t 2 --timeout 2 http://【服务端ip】:8080/
Running 10s test @ http://【服务端ip】:8080/
  2 threads and 100 connections
  Thread Stats   Avg      Stdev     Max   +/- Stdev
    Latency   269.46ms  387.81ms   1.94s    89.15%
    Req/Sec    65.35     41.21   490.00     91.96%
  Latency Distribution
     50%   53.39ms
     75%  274.77ms
     90%  833.70ms
     99%    1.85s 
  1302 requests in 10.02s, 1.07MB read
  Socket errors: connect 0, read 0, write 0, timeout 28
Requests/sec:    129.94
Transfer/sec:    109.32KB

从分布上看正常的nginx 90%的请求是在492毫秒内完成的
而有问题的nginx 90%的请求是在833毫秒内完成的
抓包分析

tcpdump -nn tcp port 8080 -w nginx.pcap

再继续执行
wrk --latency -c 100 -t 2 --timeout 2 http://【服务端ip】:8080/
Running 10s test @ http://【服务端ip】:8080/

tcpdump 抓包后用Wireshark打开后分析交互过程

每次数据包回复都有延迟
这个跟Nagle算法有关，除非客户端开启了 TCP_QUICKACK模式，否则默认情况下采用的是延迟确认机制

       TCP_NODELAY
              If set, disable the Nagle algorithm.  This means that segments are always sent as soon as possible, even if there is only a small amount
              of  data.  When not set, data is buffered until there is a sufficient amount to send out, thereby avoiding the frequent sending of small
              packets, which results in poor utilization of the network.  This option is overridden by TCP_CORK; however, setting this  option  forces
              an explicit flush of pending output, even if TCP_CORK is currently set.


       TCP_QUICKACK (since Linux 2.4.4)
              Enable  quickack  mode  if set or disable quickack mode if cleared.  In quickack mode, acks are sent immediately, rather than delayed if
              needed in accordance to normal TCP operation.  This flag is not permanent, it only enables a switch to or from  quickack  mode.   Subse-
              quent operation of the TCP protocol will once again enter/leave quickack mode depending on internal protocol processing and factors such
              as delayed ack timeouts occurring and data transfer.  This option should not be used in code intended to be portable.

strace 分析 wrk的启动模式，是用了TCP_NODELAY，但没起开TCP_QUICKACK，所以采用的是延迟确

setsockopt(52, SOL_TCP, TCP_NODELAY, [1] 4) = 0

Nagle算法的机制如下图

当Server发送了第一个分组后，由于Client开启了延迟确认，就需要等待40毫秒后才会回复ACK
同时，由于Server端开启了Nagle，而这时还没收到第一个分组的ACK，Server也会在这里一直等待
直到40毫秒超时后，Client才会回复ACK，然后Server才会继续发送第二个分组

查看有问题的nginx的配置情况

docker exec nginx_test cat /etc/nginx/nginx.conf | grep tcp_nodelay
    tcp_nodelay    off;

关闭之前有问题的，启动一个修改后的

docker run --name nginx_good --network=host -i -t -d feisky/nginx:nodelay

再用wrk检查一下，这次比上次快了

wrk --latency -c 100 -t 2 --timeout 2 http://【服务端ip】:8080/  
Running 10s test @ http://【服务端ip】:8080/
  2 threads and 100 connections
  Thread Stats   Avg      Stdev     Max   +/- Stdev
    Latency   211.41ms  332.29ms   1.98s    88.30%
    Req/Sec    69.99     66.81   767.00     95.83%
  Latency Distribution
     50%   36.01ms
     75%  272.11ms
     90%  639.90ms
     99%    1.61s 
  1366 requests in 10.02s, 1.11MB read
  Socket errors: connect 0, read 0, write 0, timeout 28
Requests/sec:    136.36
Transfer/sec:    113.65KB