Nginx+Tomcat负载平衡

Nginx负载均衡

最近项目要设计到并发，所以设计项目架构时考虑到用Nginx搭建Tomcat集群，再用Redis搭建分布式Session，下面将一步步分享我摸索的过程。

    Nginx虽然小，但是功能方面确实非常的强大，支持反向代理，负载平衡，数据缓存，URL重写，读写分离，动静分离等方面。下面最要说一下负载均衡的配置，下一篇将试验与Redis的结合。

Nginx负载均衡调度的方法

     Nginx的负载均衡模块upstream模块主要支持如下4中调度算法：

     1、服务器轮询（默认方式）：每个请求访问按照时间顺序逐一分配到不同的服务器端，如果后端某台服务器宕机时，故障系统会被自动的剔除，使用户访问不受影响。Weight（权重）指定轮询的权值，Weight值越大，分配到的访问几率越高，主要用于服务器端性能不均的情况下。

     2、ip_hash：每个请求按照访问的IP的Hash值进行分配，这行来自同一个IP的用户将会固定到后端的一个服务器，固定服务器后可以有效的解决网页存在的session共享的问题。

    

     3、fair：该算法可以根据页面大小和加载时间长短智能的进行决策负载均衡，即根据后端服务器的响应时间来分配请求，响应时间段的优先分配。Nginx本身未集成fair模块，如果需要该调度算法，必须下载Nginx的upstream_fair模块，然后在config中配置加载。

     4、url_hash：此调度算法是根据访问的url的hash结果来分配请求，使每个url定向到同一个后端服务器，可以进一步的提高后端服务器的效率。Nginx本身未集成该模块，如果使用需安装Nginx的hash包，并编译加载到nginx。

Nginx的upstream模块支持的状态参数

    在http的upstream模块中，可以通过server指令指定后端服务器的IP地址和端口，同时还可以设定每个后端服务器在负载均衡调度中的状态。通常设置的状态参数如下：

   1、down：表示当前的server暂时不参与负载均衡。

   2、backup：预留的备份服务器。当其他的所有非backup机器出现故障或者忙的时间，才会请求backup服务器，因此这台服务器的压力最轻。

   3、max_fails：允许请求失败的次数，默认为1。当超过最大次数时，返回proxy_next_upstream 模块定义的错误。

   4、fail_timeout：在经历了max_fails次失败后，暂停服务的时间。max_fails可以和fail_timeout一起使用。

   注：当负载均衡调度算法使用ip_hash时，后端服务器在负载均衡调度中的状态不能是weight和backup。

Nginx的参数配置以及说明

    

#user  nobody;
worker_processes  2;

error_log  logs/error.log;
error_log  logs/error.log  notice;
error_log  logs/error.log  info;

#pid        logs/nginx.pid;


events {
    worker_connections  1024;
}


http {
    include       mime.types;
    default_type  application/octet-stream;

    log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
                      '$status $body_bytes_sent "$http_referer" '
                      '"$http_user_agent" "$http_x_forwarded_for"';

    access_log  logs/access.log  main;

    sendfile        on;
    #tcp_nopush     on;

    #keepalive_timeout  0;
    keepalive_timeout  65;

    gzip  on;
    gzip_min_length 1k;
    gzip_buffers 4 16k;
    gzip_http_version 1.0;
    gzip_vary on;


    upstream andy {
		server 192.168.1.110:8080 weight=1 max_fails=2 fail_timeout=30s;
		server 192.168.1.111:8080 weight=1 max_fails=2 fail_timeout=30s;
        ip_hash;
    }

    server {
        listen       80;
        server_name  localhost;

        #charset koi8-r;

        #access_log  logs/host.access.log  main;

	location /andy_server {
	    proxy_next_upstream http_502 http_504 error timeout invalid_header;
	    proxy_set_header Host  $host;
	    proxy_set_header X-Real-IP $remote_addr;
	    proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
	    proxy_pass http://andy; #此处proxy_pass定义的name需要跟upstream 里面定义的name一致
	    expires      3d;
		
	   #以下配置可省略
	   client_max_body_size        10m;
	   client_body_buffer_size     128k;
	   proxy_connect_timeout       90;
	   proxy_send_timeout          90;
	   proxy_read_timeout          90;
	   proxy_buffer_size           4k;
	   proxy_buffers               4 32k;
	   proxy_busy_buffers_size     64k;
	   proxy_temp_file_write_size 64k;
	}

        error_page  404              /404.html;
		
        error_page   500 502 503 504  /50x.html;
        location = /50x.html {
            root   html;
        }
    }

}

注释：详细的配置解释查看上一篇。

Nginx负载均衡测试

     

      现在在192.168.1.110上部署的是Nginx，192.168.1.110和192.168.111上部署的tomcat服务器。

      1、当打开http://192.168.1.110/andy_server/ 时，Nginx负载集群采用默认方式时，每次都会轮询服务器。

            如下：

                  

          此种方法不能够解决集群的session问题。       

    

       2、当采用ip_hash时，刷新一直是固定的服务器

             

         这种方式解决了session问题，如果192.168.1.110服务器宕机掉的话，Nginx会将请求转到未宕机的服务器上面（经测试，将192.168.1.110服务器shutdown，再此请求会跳转      到192.168.1.111服务器）。但是也存在个问题，当hash到的服务器宕机，Nginx调到另一个服务器，自然session会丢失。

    3、剩余的两种安装Nginx所需对应的模块，和上面同理就不在测试。

    

总结

      无论是采用哪种负载均衡方式，都会出现session丢失问题。要解决该问题，要对session单另存放，无论是存库，文件，还是分布式内存服务器存放，是集群搭建必不可少的。下篇将测试并解决session问题