Nginx部分配置如下:
//upstream配置
upstream my.upstream.com {
server 10.1.1.2 max_fails=1 fail_timeout=10s;
server 10.1.1.3 max_fails=1 fail_timeout=10s; #max_fails默认值为1,fail_timeout默认值为10s,max_fails=0表示不做检查
}
//location配置
location ~ / {
proxy_redirect off;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_connect_timeout 60s; #默认值60s, nginx连接到后端服务器的连接超时时间
proxy_timeout 10m; #默认值为10分钟,nginx接收后端服务器的响应超时时间
proxy_pass http://my.upstream.com;
}
max_fails和fail_timeout参数是配合使用的,按默认值,当某台upstream server挂了,表示在10s(fail_timeout)之内,有1(max_fails)个请求打到这台挂了的服务器,nginx就会把这台upstream server设为down机的状态,时长是10s,在这10s内如果又有请求进来,就不会被转到这台server上,过了10s重新认为这台server又恢复了
背景介绍:由于API集群中的一台服务器(比如:10.1.1.2 服务器D)挂了,导致nginx转到服务器D的请求全部超时,感觉没有降级的策略,最后对Nginx的配置做了一个熟悉,最后发现是我们的配置没有优化的原因;
现象:当客户端的请求打到Nginx,Nginx把请求转到服务器D,由于nginx的proxy_connect_timeout 超时时间为60s,就会导致Nginx把客户端的请求转到服务器D的时候,就会尝试连接60s,而客户端的响应时间设的是3s,所以造成客户端造成大量超时情况,Nginx报大量的499;
讨论:给Nginx造成很大的资源负担,既然后端服务器D已经挂了,每次转到服务器D的请求重连60s确实太久,所以这次参数需要优化,如果是提供服务方,这个时间要小于服务适用方可接受的响应超时时间,我们服务后来设置的是2s(小于客户端响应超时时间3s),max_fails使用默认值1,fail_timeout也设置的是30s,表示30s内如果发现一次连接到某台upstream server超过2s,则这台server在30s不会有请求过来,这样能保证某台server down机后,在3s秒内下一台upstream能将请求结果返回给客户端(因为我们后端服务器的处理时间是小于几十ms的,所以可以保证3s内能将结果返回),也能保证后面的请求在30s不会打到这台server,还能保证如果服务恢复了,最多让服务器空转30s,后续会继续服务。
PS:个人觉得proxy_timeout 没有设置的必要,使用默认值,如果proxy_timeout 设置过小nginx会直接返回给客户端错误,不是一次成功的请求,设置过大,客户端直接报响应超时,所以建议使用默认值,如果真的响应慢了,只能去优化代码的逻辑了。
转载于:https://blog.51cto.com/dmwing/1894700