nginx之负载均衡

nginx-负载均衡

nginx常用来配置成服务的网关并通过反向代理实现负载均衡。这里记录一下有关负载均衡的策略以及相关参数的配置。

假设这是一个基本的反向代理配置

upstrean tomcats{
	server 192.168.1.100:8080;
	server 192.168.1.101:8080;	
	server 192.168.1.102:8080;		
}
server{
	listen		80;
	server_name www.tomcats.com
	location /{
		proxy_pass http://tomcats;
	}
}

策略

---

轮训

轮训是nginx默认的一种策略，当不进行其他配置时就会执行这种策略。对于上面的基本配置，当访问www.tomcats.com时就会一次访问配置好的三台tomcat.

权重

权重则可以让每台服务器承担它该承担的压力，也就是能力越大，责任越大，可以通过下面的方式进行配置。

upstrean tomcats{
	server 192.168.1.100:8080 weight=1;
	server 192.168.1.101:8080 weight=3;	
	server 192.168.1.102:8080 weight=5;		
}
server{
	listen		80;
	server_name www.tomcats.com
	location /{
		proxy_pass http://tomcats;
	}
}

相当于把总请求分成1+3+5=9份，其中第一台处理1/9份，另外的服务器同理。

ip_hash策略

ip_hash策略则是不同的ip分配到不同的服务器，比如当前这个配置，ip哈希值%(服务器个数)=服务器的索引。这种策略有个弊端，当有一台服务器宕机后，就要重新计算索引服务器，如果该服务器存在和客户端的会话就可能因客户端被其他的服务器处理而使会话失效。一致性Hash能降低这一情况的影响。ip_hash配置如下：

upstrean tomcats{
	#添加该标识即可
	ip_hash;
	server 192.168.1.100:8080;
	server 192.168.1.101:8080;	
	server 192.168.1.102:8080;		
}
server{
	listen		80;
	server_name www.tomcats.com
	location /{
		proxy_pass http://tomcats;
	}
}

一致性hash策略

一致性hash主要是分为从0到$2^{32}-1$个槽点，然后不同的用户落到不同的区间，访问相应的服务器，如下图

这样相对于普通的ip_hash当有的server宕机后，不用全部重新计算hash，如图中server1宕机，原来访问server1的直接访问server2，而只有server1原来的用户受影响较大，其他区间的用户并不受影响。

upstream配置参数

---

nginx对于负载均衡有一些参数可以对服务器进行适当约束。

• max_conns
• slow_start(商业)
• down
• backup
• max_fails
• fail_timeout
• keepalive

max_conns

max_conns可以用来限流，当某台服务器达到max_conns设置的值时，服务器只有处理完当前的连接才能处理新的连接。

upstrean tomcats{
	server 192.168.1.100:8080 max_conns=2;
	server 192.168.1.101:8080 max_conns=2;	
	server 192.168.1.102:8080 max_conns=5;		
}
server{
	listen		80;
	server_name www.tomcats.com
	location /{
		proxy_pass http://tomcats;
	}
}

slow_start

slow_start可以设置一个时间参数，对于有权重的配置，服务器启动时可以根据设定的时间从0不断达到设置的权重。
注：该参数不能使用在 hash 和 random load balancing 中，当upstream 中只有一台 server，该参数无效。

upstrean tomcats{
	server 192.168.1.100:8080 weight=7 slow_start=60s;
	server 192.168.1.101:8080 weight=1;	
	server 192.168.1.102:8080 weight=2;		
}
server{
	listen		80;
	server_name www.tomcats.com
	location /{
		proxy_pass http://tomcats;
	}
}

down

down主要用来标记该服务器宕机出现问题了，比如一致性hash中可以用这种方式标记，而不可以暴力的直接把该机器的配置删除。

backup

backup 表示当前服务器节点是备用机，只有在其他的服务器都宕机以后，自己才会加入到集群中，被用户访问到。
注：该参数不能使用在 hash 和 random load balancing 中。

max_fails、fail_timeout

max_fails ：表示失败几次，则标记server已宕机
fail_timeout ：表示失败的重试时间。
假设

max_fails=2 fail_timeout=10s

代表10s秒内访问该server失败2次代表该server挂了，再过10s，这10s请求不会发到该server，10s后会再有新的请求分发到该server，如果还是失败则重复以上。

keepalive

keepalivce可以配置长链接，减少由于频繁开关链接带来的损耗，提高吞吐量，具体配置如下：

upstrean tomcats{
	server 192.168.1.100:8080;
	server 192.168.1.101:8080;	
	server 192.168.1.102:8080;
	# 长链接标识
	keepalive 32;		
}
server{
	listen		80;
	server_name www.tomcats.com
	location /{
		proxy_pass http://tomcats;
		# 声明http版本以及相应header
		proxy_http_version 1.1;
		proxy_set_header Connection "";
	}
}