Nginx+tomcat负载均衡缓存服务器集群

根据公司的需求,以及以后的访问量,决定用nginx做负载均衡服务器和cache缓存服务器,后端用2台tomcat提供web服务,用户信 息数据用oracle来存储,音频文件用一台单独的应用服务器来存储。下面是nginx和tomcat的配置信息,关于oracle的安装和配置请参考本博客的centos+oracle10g的安装文件说明来配置。

 

1、环境描述

       nginx和tomcat1服务器地址:192.168.81.131

       tomcat2服务器地址:192.168.81.128

       tomcat3服务器地址:192.168.81.132

 

2、Nginx从0.7.48版本开始,支持了类似Squid的缓存功能。这个缓存是把URL及相关组合当作Key,用md5编码哈希后保存在硬盘 上,所以它可以支持任意URL链接,同时也支持404/301/302这样的非200状态码。虽然目前官方的Nginx Web缓存服务只能为指定URL或状态码设置过期时间,不支持类似Squid的PURGE指令,手动清除指定缓存页面,但是,通过一个第三方的Nginx 模块,可以清除指定URL的缓存。
 

Nginx的Web缓存服务主要由proxy_cache相关指令集和fastcgi_cache相关指令集构成,前者用于反向代理时,对后端内容源服务器进行缓存,后者主要用于对FastCGI的动态程序进行缓存。两者的功能基本上一样。
 

最新的Nginx ,proxy_cache和fastcgi_cache已经比较完善,加上第三方的ngx_cache_purge模块(用于清除指定 URL的缓存),已经可以完全取代Squid。我们已经在生产环境使用了 Nginx 的 proxy_cache 缓存功能超过两个月,十分稳定,速度不逊于 Squid。
 

在功能上,Nginx已经具备Squid所拥有的Web缓存加速功能、清除指定URL缓存的功能。而在性能上,Nginx对多核CPU的利用, 胜过Squid不少。另外,在反向代理、负载均衡、健康检查、后端服务器故障转移、 Rewrite重写、易用性上,Nginx也比Squid强大得多。这使得一台Nginx可以同时作为“负载均衡服务器”与“Web缓存服务器”来使用。

 

(1)、Nginx 负载均衡与缓存服务器在 Linux 下的编译安装:

ulimit -SHn 65535

echo "ulimit -SHn 65535" >>/etc/rc.local##使下次重启配置生效
wget ftp://ftp.csx.cam.ac.uk/pub/software/programming/pcre/pcre-8.00.tar.gz
tar zxvf pcre-8.00.tar.gz
cd pcre-8.00/
./configure
make && make install
cd ../

wget http://labs.frickle.com/files/ngx_cache_purge-1.0.tar.gz
tar zxvf ngx_cache_purge-1.0.tar.gz

wget http://nginx.org/download/nginx-0.8.32.tar.gz
tar zxvf nginx-0.8.32.tar.gz
cd nginx-0.8.32/
./configure --user=www --group=www --add-module=../ngx_cache_purge-1.0--prefix=/usr/local/webserver/nginx --with-http_stub_status_module --with-http_ssl_module
make && make install
cd ../

 

(2)、nginx完整的配置文件如下:

 

user  www www;

worker_processes 10;

error_log /usr/local/webserver/nginx/logs/nginx_error.log  crit;

pid       /usr/local/webserver/nginx/nginx.pid;

#最大文件描述符
worker_rlimit_nofile 51200;

events
{
      use epoll;

      worker_connections 51200;
}

http
{
      include      mime.types;
      default_type  application/octet-stream;

      keepalive_timeout 60;

      tcp_nodelay on;
      sendfile on;

     server_names_hash_bucket_size 128;
      client_header_buffer_size 32k;
      large_client_header_buffers 4 32k;
      client_max_body_size 300m;


      gzip on;
      gzip_min_length  1k;
      gzip_buffers     4 16k;
      gzip_http_version 1.1;
      gzip_comp_level 2;
      gzip_types      text/plain application/x-javascript text/css application/xml;
      gzip_vary on;

     proxy_connect_timeout    5;
     proxy_read_timeout       60;
     proxy_send_timeout       5;
     proxy_buffer_size        16k;
     proxy_buffers           4 64k;
      proxy_busy_buffers_size 128k;
      proxy_temp_file_write_size 128k;

      upstream tomcat
      {
      server  192.168.81.131:8080;
      server  192.168.81.128:8080;

      server 192.168.81.132:8080;
      }

      #注:proxy_temp_path和proxy_cache_path指定的路径必须在同一分区
      proxy_temp_path /data0/proxy_temp_dir;
      #设置Web缓存区名称为cache_one,内存缓存空间大小为50MB,1天没有被访问的内容自动清除,硬盘缓存空间大小为10GB。
      proxy_cache_path /data0/proxy_cache_dirlevels=1:2 keys_zone=cache_one:50minactive=1d max_size=10g;

server
     {
        listen       80;
         server_name tomcat.hxqm.com;  
         #自动补全"/"
         if (-d $request_filename)
        {
         rewrite ^/(.*)([^/])$ http://$host/$1$2/ last;
         }

        #实现网页动静态分离
         location /
        {

         root /data0/htdocs/tomcat;
          index index.htmlindex.htm;

                        if (!-f $request_filename)
                       {
                        rewrite ^/([a-zA-Z]+).html  /$1.jsp last;
                        proxy_pass http://tomcat;
                         break;
                        }
           }

        #对网站的图片、Flash、JavaScript、CSS、静态HTML、进行web缓存
        location ~ .*\.(gif|jpg|jpeg|png|bmp|swf|js|css|html|shtml)$
       {
       #如果后端的服务器返回502、504、执行超时等错误,自动将请求转发到 upstream负载均衡池中的另一台服务器,实现故障转移。
       proxy_next_upstream http_502 http_504error timeout invalid_header;
       proxy_cache cache_one;
       #对不同的HTTP状态码设置不同的缓存时间
       proxy_cache_valid 200 10m;
       proxy_cache_valid 304 1m;
       proxy_cache_valid 301 302 1h;
       proxy_cache_valid any 1m;
      #以域名、URI、参数组合成Web缓存的Key值,Nginx根据Key值哈希,存储缓存  内容到二级缓存目录内
      proxy_cache_key $host$uri$is_args$args;
      proxy_set_header Host  $host;
      proxy_set_header X-Forwarded-For  $remote_addr;
      proxy_pass http://tomcat;  
     } 
 #用于清除缓存,假设一个URL为http://tomcat.hxqm.com/docs/appdev/index.html,通过访问http://tomcat.hxqm.com/purge/docs/appdev/index.html就可以清除该URL的缓存。
 location ~ /purge(/.*)
 {
 allow 127.0.0.1;
 allow 192.168.81.0/24;
 deny  all;
 proxy_cache_purge cache_one $host$1$is_args$args;
 }
 

#扩展名以.php、.jsp、.cgi结尾的动态应用程序不缓存。
 location ~ .*\.(php|jsp|cgi)?$
 {
 proxy_set_header Host $host;
 proxy_set_header X-Forwarded-For $remote_addr;
 proxy_pass http://tomcat;
 }

 location ~ .*\.(gif|jpg|jpeg|png|bmp|swf)$
 {
 expires      30d;
 }

 location ~ .*\.(js|css)?$
 {
 expires      1h;
 }  

 log_format  tomcatlogs  '$remote_addr -$remote_user [$time_local] "$request" '
  '$status $body_bytes_sent "$http_referer" '
  '"$http_user_agent" $http_x_forwarded_for';
 access_log  /data1/logs/tomcatlogs.log  tomcatlogs;
 
       }

}

 

(3)、启动nginx服务,先测试nginx配置文件是否正确,用

       /usr/local/webserver/nginx/sbin/nginx -t 测试

       如果提示如下就说明配置文件没有问题可以启动nginx服务器了:

     [root@hxqm-tomcat local]#/usr/local/webserver/nginx/sbin/nginx -t
the configuration file /usr/local/webserver/nginx/conf/nginx.conf syntax is ok
configuration file /usr/local/webserver/nginx/conf/nginx.conf test issuccessful

       如果启动报错,你可以根据报错其实的行数来查看你的配置文件

 

3、tomcat的配置

       把jdk文件和tomcat文件放在/usr/local/src目录下(各位习惯,可以自己定义)

 

(1)、安装jdk(本人装的jdk用的是jdk-6u17-linux-i586.bin)

         cd/usr/local/src;chmod+x jdk-6u17-linux-i586.bin;./jdk-6u17-linux-i586.bin

         在安装过程中敲几下空格,然后输入"yes",然后中途中再按回车jdk就装好了。

        做软连接:

         ln -s/usr/local/jdk1.6.0_17/ /usr/local/jdk

     

(2)、java环境变量的配置

         vi/etc/profile,把以下内容写到文件的尾部

       

         JAVA_HOME="/usr/local/jdk"
        CLASS_PATH="$JAVA_HOME/lib:$JAVA_HOME/jre/lib"
        PATH=".:$PATH:$JAVA_HOME/bin"
         CATALINA_HOME="/usr/local/tomcat"
         export JAVA_HOMECATALINA_HOME

 

         然后保存退出,执行 source /etc/profile 使刚才配置的环境变量生效或者也可以重启机器,自己选择适合自己的方式。

 

(3)、tomcat的配置

 

         编辑tomcat的配置文件server.xml

         在Hosts文件里面加上如下字段:

         <Contextpath="" docBase="/data0/htdocs/tomcat/ROOT"debug="0" reloadable="true" />

          解释:tomcat默认回去"appBase"目录去查找要访问的文件,如果没有找到就去"docBase"目录去寻找。这个这段也可以不加,自己随意。

 

      这是一台tomcat服务器的配置信息,其他两台一样,此处就不多说了。

 

(4)、启动tomcat服务

 

        /usr/local/tomcat/bin/startup.sh

 

4、在本地的hosts文件里添加一条记录:

 

        192.168.81.131tomcat.hxqm.com

 

5、测试访问http://tomcat.hxqm.com,如果页面可以正常访问,说明nginx的代理和tomcat的服务都没有问题。

 

6、清除指定的URL缓存测试示例:

 

 

如果你访问的地址出现这样的提示说明你的nginx可以清除指定的url,如果你访问说出现404页面错误和其他提示,原因可能是你们捕捉到缓存,请查看你的nginx配置文件。

 

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值