nginx 负载均衡和反向代理

负载均衡

将用户的请求均匀的或者按照一定的优先级分配到一组服务器中的一台上，而接收到请求的服务器独立的处理请求并返回。负载均衡技术主要用于扩展后端服务的性能。

反向代理

代理服务器将接收到的用户请求转发给内部服务器，再将内部服务器返回的结果返回给用户，此时代理服务器就充当一个服务器的角色。

实例

在配置文件里写上如下的代码：

upstream backend {
    server 192.168.43.158:8086 weight=4 max_fails=2 fail_timeout=30s;  
    server 192.168.41.167 weight=4 max_fails=2 fail_timeout=30s; 
    server unix:/tmp/backends weight=4 max_fails=2 fail_timeout=30s;
}
server {
    listen 80 ;
    server_name frontend.com;
    location = / {
        proxy_pass http://backend;
        proxy_set_header Host backend.com;
        proxy_set_header Forwarded $remote_addr;
    }
}

proxy_pass用于指定反向代理的upstream服务器集群，proxy_set_header用于添加指定的头信息，这里向header里添加了host信息，用于当后端服务器上有多个基于域名的虚拟主机时，host可以指定要访问哪一个虚拟主机，同时也添加了forwarded信息，用于告诉后端服务器终端用户的ip地址，否则后端服务器只能获取前端代理服务器的ip地址。

Upstream 模块

nginx 利用 upstream 模块来实现负载均衡，并且该模块还可以对后端服务器进行健康检查。

• ip_hash指令

ip_hash 指令可以将某个客户端的请求通过ip hash算法定位到同一台后端服务器上，这样就能保证客户端的请求能一直被定向到一台后端服务器上，否则就会随机被定向到不同的后端服务器上。

ip_hash 的缺点就是无法保证后端服务器的负载均衡，因为ip的不均匀导致有可能有的后端服务器接收的请求多，而且即使设置后端服务器的权重也不起作用。

如果某个后端服务器要从nginx负载均衡中摘除一段时间，必须将其标记为“down”，而不是直接从配置文件中删掉或者注释掉。代码如下：

upstream backend {
    ip_hash;
    server backend1.com;
    server backend2.com;
    server backend3.com;
    server backend4.com down;
}   

如果直接将backend4.com从配置文件中删除的话，nginx就会按照3台后端服务器重新hash，原来定向到backend1的用户就有可能重新定向到backend2，这样backend1上的用户数据就会失效，比如SESSION数据。

• server指令

该指令用于指定后端服务器的名称和参数，服务器的名称可以是一个域名，一个ip，端口号或者unix scoket。

参数主要有：

weight，设置后端服务器的权重，权重越高，被分配到的客户端请求数越多。如果没有设置权重，则权重值默认为1；

max_fails，指定在参数 fail_timeout 时间内后端服务器请求失败的次数，如果检测到后端服务器无法连接或者服务器内部错误，则标记失败，默认值为1，设置为0将会关闭这项检查；

fail_timeout，在指定的时间内如果失败次数到达max_fails时，后端服务器将会暂停服务的时间；

down，标记服务器为永久离线状态，仅用于ip_hash指令；

backup，仅仅在非backup服务器全部宕机或繁忙的时候才启用。

• upstream 相关变量

当要使用日志来记录upstream服务器状态的时候，可以在log_format中使用相关的变量，比如：

$upstream_addr：表示处理请求的upstream中的服务器地址；

$upstream_status：表示upstream服务器的应对状态；

$upstream_response_time：upstream服务的响应时间（毫秒）；

$upstream_http_$HEADER：任意的http协议头信息，例如：$upstream_http_host。

实例如下：

upstream backend {
    server 172.28.0.21:80 max_fails=3 fail_timeout=10s;
    server 172.28.0.14:80 max_fails=3 fail_timeout=10s;
}
server {
    listen 8360 ;
    server_name ${DOMAIN};
    location = / {
        proxy_pass http://backend;
        proxy_set_header Host ${DOMAIN};
        proxy_set_header Forwarded $remote_addr;
    }
    log_format up '$upstream_addr $upstream_status $upstream_response_time $upstream_http_host';
    access_log  access.log up;
}

access.log中的内容如下：
172.28.0.14:80, 172.28.0.21:80 502, 200 0.000, 0.050 -
172.28.0.14:80, 172.28.0.21:80 502, 200 0.001, 0.007 -
172.28.0.14:80, 172.28.0.21:80 502, 200 0.001, 0.007 -
172.28.0.21:80 200 0.007 -
172.28.0.21:80 200 0.006 -
172.28.0.21:80 200 0.007 -
172.28.0.14:80, 172.28.0.21:80 502, 200 0.001, 0.007 -

可以看见日志内容主要有三段，第一段有三次访问，其中14机器返回502，21机器返回200，三次访问过后14机器停止了服务，过了10秒再次访问，14机器开始提供服务，不过返回状态仍然是502.