NGINX UPSTREAM和负载均衡策略

nginx upstream和轮询策略

注：提供基础讲解示例，生产环境请根据自身情况并参照nginx官方配置

一、nginx upstream

• nginx upstream语法配置

#upstream 后面跟服务名

# server 后面跟域名、端口、权重等配置，可以看到他既支持http协议也支持socket协议的类型，backup意味着该域名是备用的地址

    upstream service {
        server domain.com    max_fails=3 fail_timeout=20s;
        server localhost:8080 weight=5;
        server localhost:8081 backup;
        server localhost:8082 down;
        server localhost:8083 max_conns=2;
    }

　在upstream模块配置完成后，要让指定的访问反向代理到服务器列表：

location ~ .*$ {
            index index index.html;
            proxy_pass http://service;
}

• 后端服务器调度参数

backup：backup不参与服务，当其他节点无法服务了，他就参与服务。

max_fails：代理服务器向后端请求，一旦发现请求状态失败，会去再度请求。超过max_fails规定的次数，随即宣告失败。

fail_timeout：超过max_fails规定的次数，接下来就会“等待一会儿”，通常为10s ,可以通过fail_timeout设置更长的时间。

max_conns 由于nginx向upstram（服务器池）采用轮询的方式，分发请求，有的时候我们会遇到连接池中的服务器硬件性能高低不一，有的是4核，有的是24核，配置低的服务器可能根本接收不了分摊给他的请求数目，这个时候就用到了max_conns配置。

二、nginx的负载均衡策略

负载均衡策略

轮询	默认方式
weight	权重方式
ip_hash	依据ip分配方式
least_conn	最少连接方式
fair（第三方）	响应时间方式
url_hash（第三方）	依据URL分配方式

• 轮询

nginx的负载均衡常见有上表6种，默认采用的就是逐一轮询的方式。

    upstream service {
        server localhost:8080;
        server localhost:8081;
        server localhost:8082;
        server localhost:8083;
    }

• 加权-weight

加权轮询的调度算法：weight参数用于指定轮询几率，weight的默认值为1；weight的数值与访问比率成正比，如下配置8081服务被访问的几率为其他服务器的两倍。

    upstream service {
        server localhost:8080;
        server localhost:8081 weight=2;
        server localhost:8082;
        server localhost:8083;
    }

 

轮询带来的问题是：如果很多操作或访问是基于cookie或者session的，轮询会打到不同的服务器上去，session和cookie也就无从保持，导致了掉线。

• ip_hash

　指定负载均衡器按照基于客户端IP的分配方式，这个方法确保了相同的客户端的请求一直发送到相同的服务器，以保证session会话。这样每个访客都固定访问一个后端服务器，可以解决session不能跨服务器的问题。

    upstream service {
        ip_hash;    #保证每个访客固定访问一个后端服务器
        server localhost:8080;
        server localhost:8081;
        server localhost:8082;
        server localhost:8083;
    }

• least_conn

　　把请求转发给连接数较少的后端服务器。轮询算法是把请求平均的转发给各个后端，使它们的负载大致相同；但是，有些请求占用的时间很长，会导致其所在的后端负载较高。这种情况下，least_conn这种方式就可以达到更好的负载均衡效果。

    upstream service {
        least_conn;
        server localhost:8080;
        server localhost:8081;
        server localhost:8082;
        server localhost:8083;
    }

• fair

  按照服务器端的响应时间来分配请求，响应时间短的优先分配。

upstream service {
        fair;
        server localhost:8080;
        server localhost:8081;
        server localhost:8082;
        server localhost:8083;
        
    }

• url_hash（1.7.2以后版本推出）

　　按访问url的hash结果来分配请求，使每个url定向到同一个后端服务器，要配合缓存命中来使用。同一个资源多次请求，可能会到达不同的服务器上，导致不必要的多次下载，缓存命中率不高，以及一些资源时间的浪费。而使用url_hash，可以使得同一个url（也就是同一个资源请求）会到达同一台服务器，一旦缓存住了资源，再此收到请求，就可以从缓存中读取。　

upstream service {
        hash $request_uri;    #实现每个url定向到同一个后端服务器
        server localhost:8080;
        server localhost:8081;
        server localhost:8082;
        server localhost:8083;
    }