Nginx中负载均衡方式与upstream参数

Nginx中负载均衡方式与upstream参数

负载均衡方式：

1. 轮询(默认 weight=1)
2. 加权(weight > 1)
3. ip_hash
4. fair（第三方）
5. url_hash（第三方）

1.轮询(默认 weight=1)
每个请求按时间顺序逐一分配到不同的后端服务器，如果后端服务器down掉，能自动剔除 轮询类似于默认 weight=1

upstream bakend {
    server 127.0.0.1:8080;
    server 127.0.0.1:8082;
}

2.加权(weight > 1)
weight权重，权重越大，表示访问几率越大比例 如1:2，用于后端服务器性能不均的情况

upstream bakend {
    server 127.0.0.1:8080 weight=1;
    server 127.0.0.1:8082 weight=2;
}

3.ip_hash
类似于绑定ip每个请求按访问ip的hash结果分配，这样每个访客固定访问一个后端服务器，可以解决session的问题

upstream backend {
	ip_hash;
	server 127.0.0.1:8080;
	server 127.0.0.1:8082;
}

4.fair（第三方）
响应时间短优先级高，按后端服务器的响应时间来分配请求，响应时间短的优先分配

upstream backend {
	server 127.0.0.1:8080;
	server 127.0.0.1:8082;
	fair;
}

5.url_hash（第三方）
按访问url的hash结果来分配请求，使每个url定向到同一个后端服务器，后端服务器为缓存服务器时比较有效。

upstream backend {
   server 127.0.0.1:8080;
	server 127.0.0.1:8082;
    hash $request_uri;
    hash_method crc32;
}

upstream 配置参数

• down 表示单前的server暂时不参与负载
• weight 权重,默认为1。 weight越大，负载的权重就越大。
• max_fails 允许请求最大的失败的次数默认为1。当超过最大次数时，返回错误 （请求失败次数到阈值，返回错误）
• fail_timeout 配合max_fails次失败后，暂停的时间。 backup 备用服务器或正常的服务器进行
• backup 简称备用机，一般不会被访问到，如果是down和非backup 都挂掉了，配用机才会正常访问
• max_conns 同时最大连接数，超出则断开，它是连接处理完，马上释放，如果同时大于阀值，会直接返回错误
• slow_start 商业版中存在，搭配weight一起使用，它是权重不断提升.
• keepalived 为了让nginx和后端server（nginx称为upstream）之间保持长连接

down
用于标记服务节点不可用：

upstream tomcats {
	server 192.168.1.173:8080 down;
	server 192.168.1.174:8080 weight=1;
	server 192.168.1.175:8080 weight=1;
}

backup 表示当前服务器节点是备用机
只有在其他的服务器都宕机以后，自己才会加入到集群中，被用户访问到：

upstream tomcats {
	server 192.168.1.173:8080 backup;
	server 192.168.1.174:8080 weight=1;
	server 192.168.1.175:8080 weight=1;
}

注意: backup 参数不能使用在 hash 和 random load balancing 中

max_conns
限制每台server的连接数，用于保护避免过载，可起到限流作用。

# worker进程设置1个，便于测试观察成功的连接数
worker_processes 1;
upstream tomcats {
server 192.168.1.173:8080 max_conns=2;
server 192.168.1.174:8080 max_conns=2;
server 192.168.1.175:8080 max_conns=2;
}

slow_start
商业版，需要付费，才能使用

upstream tomcats {
	server 192.168.1.173:8080 weight=6 slow_start=60s;
	server 192.168.1.174:8080 weight=2;
	server 192.168.1.175:8080 weight=2;
}

注意 ：该参数不能使用在 hash 和 random load balancing 中。
如果在 upstream 中只有一台 server，则该参数失效。

max_fails、fail_timeout
max_fails ：表示失败几次，则标记server已宕机，剔出上游服务。
fail_timeout ：表示失败的重试时间

upstream tomcats {
	server 192.168.1.173:8080  max_fails=2 fail_timeout=15s;
}

则代表在15秒内请求某一server失败达到2次后，则认为该server已经挂了或者宕机了，随后再过15秒，这15秒内不会有新的请求到达刚刚挂掉的节点上，而是会运作的server，15秒后会再有新请求尝试连接挂掉的server，如果还是失败，重复上一过程，直到恢复

keepalived保持和server的长连接
为了让nginx和后端server之间保持长连接，典型设置如下：（默认nginx访问后端都是用的短连接(HTTP1.0)，一个请求来了，Nginx 新开一个端口和后端建立连接，后端执行完毕后主动关闭该链接,这样非常浪费资源）可以使性能翻倍

http {
    upstream  BACKEND {
        server   192.168.0.1：8080  weight=1 max_fails=2 fail_timeout=30s;
        server   192.168.0.2：8080  weight=1 max_fails=2 fail_timeout=30s;
        keepalive 1000;        // // 这个最好也设置这个很重要！服务器的空闲keepalive连接的最大数量
    }
server {
        listen 8080 default_server;
        server_name "www.tuan.press";
        location /  {
            proxy_pass http://BACKEND;
            proxy_set_header Host  $Host;
            proxy_set_header x-forwarded-for $remote_addr;
            proxy_set_header X-Real-IP $remote_addr;
            add_header Cache-Control no-store;
            add_header Pragma  no-cache;
            
            proxy_http_version 1.1;         // 这两个最好也设置 长连接1.1版本才支持
            proxy_set_header Connection ""; // 这两个最好也设置 清理短连接的头部
        }
    }
}