Nginx+Tomcat+Memcached负载均衡集群服务搭建
操作系统:CentOS6.5
本文档主要讲解,如何在CentOS6.5下搭建Nginx+Tomcat+Memcached负载均衡集群服务器,Nginx负责负载均衡,Tomcat负责实际服务,Memcached负责同步Tomcat的Session,达到Session共享的目的。
本文文档下载地址:http://download.csdn.net/detail/zht666/7744157
Tomcat与Memcached配置官方文档:https://code.google.com/p/memcached-session-manager/wiki/SetupAndConfiguration
注意文档中修正Tomcat配置部分:
打开server.xml文件,在<Engine>节点的中添加jvmRoute="tomcatRoute1",这个是用于指定Tomcat集群的路由。Tomcat2设置成jvmRoute="tomcatRoute2",Tomcat3设置成jvmRoute="tomcatRoute3",依次类推。
Nginx官网:http://nginx.org/
下载最新稳定版本。在安装Nginx之前,需要先安装gcc、 openssl、 pcre和zlib软件库。
1.1安装gcc、gcc-c++
安装命令:
#sudo yum install gcc
# sudo yum install gcc-c++
1.2安装openssl
openssl官网:http://www.openssl.org/
安装版本:openssl-1.0.1i.tar.gz
安装命令:
#tar -zxvf openssl-1.0.1i.tar.gz
#cd openssl-1.0.1i
#sudo ./config --prefix=/usr/local/openssl-1.0.1i #prefix指定安装目录
#sudo make
#sudo make install
【注意】:此处使用的是config命令,而不是平常的configure命令
安装完成后,到/usr/local/下查看是否安装成功。如果安装出错,需要重新加压缩,重新安装。
1.3安装pcre
pcre官网:http://www.pcre.org/
安装版本:pcre-8.35.tar.gz
安装命令:
#tar -zxvf pcre-8.35.tar.gz
#cd pcre-8.35
#sudo ./configure --prefix=/usr/local/pcre-8.35 #prefix指定安装目录
#sudo make
#sudo make install
安装完成后,到/usr/local/下查看是否安装成功。如果安装出错,需要重新加压缩,重新安装。
【注意】:如果没有安装c++编译器,这个软件的安装会报错!
1.4安装zlib
zlib官网:http://www.zlib.net/
安装版本:zlib-1.2.8.tar.gz
安装命令:
#tar -zxvf zlib-1.2.8.tar.gz
#cd zlib-1.2.8
#sudo ./configure --prefix=/usr/local/zlib-1.2.8 #prefix指定安装目录
#sudo make
#sudo make install
安装完成后,到/usr/local/下查看是否安装成功。如果安装出错,需要重新加压缩,重新安装。
1.5安装Nginx
安装版本:nginx-1.6.1.tar.gz
安装命令:
#tar -zxvf nginx-1.6.1.tar.gz
#cd nginx-1.6.1
#sudo ./configure
--prefix=/usr/local/nginx-1.6.1 #prefix指定安装目录
--with-openssl=/home/zht/src/openssl-1.0.1i #指的是openssl源码路径
--with-pcre=/home/zht/src/pcre-8.3.5 #指的是pcre的源码路径
--with-zlib=/home/zht/src/zlib-1.2.8 #指的是zlib 的源码路径
--with-http_ssl_module
#sudo make
#make install
安装完成后,到/usr/local/下查看是否安装成功。如果安装出错,需要重新加压缩,重新安装。
1.5.1 配置Nginx
配置文件目录:/usr/local/nginx-1.6.1/conf/nginx.conf
# cd /usr/local/nginx-1.6.1/conf
# sudo vi nginx.conf
【修改后的配置文件如下】:
#创建进程的用户和用户组
user zht zht;
#服务进程数量,一般等于CPU数量
worker_processes 1;
#全局错误日志定义,建议开启error级别日志.[ debug | info | notice | warn | error | crit ]
error_log logs/error.log error;
#error_log logs/error.log notice;
#error_log logs/error.log info;
#记录进程ID的文件
#pid logs/nginx.pid;
events {
#epoll是多路复用IO(I/O Multiplexing)中的一种方式,但是仅用于linux2.6以上内核,可以大大提高nginx的性能.Linux建议使用epoll,FreeBSD建议使用kqueue.
use epoll;
#一个worker_processe允许的最近并发连接数量
worker_connections 1024;
}
http {
include mime.types;
default_type application/octet-stream;
#log_format main '$remote_addr - $remote_user [$time_local]"$request" '
# '$status $body_bytes_sent"$http_referer" '
# '"$http_user_agent""$http_x_forwarded_for"';
#access_log logs/access.log main;
sendfile on;
#tcp_nopush on;
#http连接的持续时间
keepalive_timeout 65;
#gzip压缩设置
gzip on; #开启gzip
gzip_min_length 1k; #最小压缩文件大小
gzip_buffers 4 16k; #压缩缓冲区
#http的协议版本(1.0/1.1),默认1.1,前端如果是squid2.5请使用1.0
gzip_http_version 1.1;
#gzip压缩比,1压缩比最小处理速度最快,9压缩比最大但处理速度最慢(传输快但比较消耗cpu)
gzip_comp_level 2;
#和http头有关系,加个vary头,给代理服务器用的,有的浏览器支持压缩,有的不支持,所以避免浪费不支持的也压缩,所以根据客户端的HTTP头来判断,是否需要压缩
gzip_vary on;
#gzip压缩类型,不用添加text/html,否则会有警告信息
gzip_types text/plain text/javascript text/css application/xml application/x-javascript application/json;
#设定负载均衡的服务器列表,可以设置多个upstream,但mysvr名字要区分
upstream zrh {
#weigth参数表示权值,权值越高被分配到的几率越大
#本机上的Squid开启3128端口
server 127.0.0.1:8081 weight=5;
server 127.0.0.1:8082 weight=5;
server 127.0.0.1:8083 weight=5;
}
server {
#nginx监听的端口号
listen 80;
#域名可以有多个,用空格隔开
server_name 127.0.0.1;
#字符编码方式
charset utf-8;
#设定本虚拟主机的访问日志。关闭日志可以减少IO,提高性能。
#access_log logs/host.access.log main;
#配置下面这些后缀交由nginx处理
location ~ \.(htm|html|gif|jpg|jpeg|png|bmp|ico|css|js|txt)$ {
#静态文件的根目录
root /opt/apps/jqTest;expires 24h;
}
location ~ (\.jsp)|(\.do)$
{
#转发到某个地址,和上面upstream 一致
proxy_pass http://zrh;proxy_redirect off;
proxy_set_header Host $host:$server_port;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
client_max_body_size 10m;
client_body_buffer_size 128k;
proxy_connect_timeout 90;
proxy_send_timeout 90;
proxy_read_timeout 90;
proxy_buffer_size 4k;
proxy_buffers 4 32k;
proxy_busy_buffers_size 64k;
proxy_temp_file_write_size 64k;
}
#error_page 404 /404.html;
#redirect server error pages to the static page /50x.html
#
error_page 500 502 503 504 /50x.html;
location = /50x.html {
root html;
}
#proxy the PHP scripts to Apache listening on 127.0.0.1:80
#
#location ~ \.php$ {
# proxy_pass http://127.0.0.1;
#}
#pass the PHP scripts to FastCGI server listening on 127.0.0.1:9000
#
#location ~ \.php$ {
# root html;
# fastcgi_pass 127.0.0.1:9000;
# fastcgi_index index.php;
# fastcgi_param SCRIPT_FILENAME /scripts$fastcgi_script_name;
# include fastcgi_params;
#}
#deny access to .htaccess files, if Apache's document root
#concurs with nginx's one
#
#location ~ /\.ht {
# deny all;
#}
}
# anothervirtual host using mix of IP-, name-, and port-based configuration
#
#server {
# listen 8000;
# listen somename:8080;
# server_name somename alias another.alias;
# location / {
# root html;
# index index.html index.htm;
# }
#}
# HTTPSserver
#
#server {
# listen 443 ssl;
# server_name localhost;
# ssl_certificate cert.pem;
# ssl_certificate_key cert.key;
# ssl_session_cache shared:SSL:1m;
# ssl_session_timeout 5m;
# ssl_ciphers HIGH:!aNULL:!MD5;
# ssl_prefer_server_ciphers on;
# location / {
# root html;
# index index.html index.htm;
# }
#}
}
1.5.2启动与关闭Nginx
(1)启动
# sudo /usr/local/nginx-1.6.1/sbin/nginx
确保系统的 80 端口没被其他程序占用
重启:
# sudo /usr/local/nginx-1.6.1/sbin/nginx -s reload
(2)关闭:
ps -ef | grep nginx
找到主进程ID,然后kill即可,如:
# kill -9 [进程号]
(3)检查是否启动成功:
netstat -ano | grep80 有结果输入说明启动成功
打开浏览器访问此机器的 IP,如果浏览器出现Welcome to nginx! 则表示 Nginx 已经安装并运行成功。如果已经配置了负载均衡服务器,则会看Tomcat中的网站页面,如下图:
2. Memcache安装
Memcached官网:http://memcached.org/
安装memcached需要先安装libevent,libevent官网:http://libevent.org/
本次安装版本:
memcached-1.4.20.tar.gz
libevent-2.0.21-stable.tar.gz
2.1安装livevent
查看是否已安装:# rpm qa | grep libevent
如果已安装且版本低于1.3,则先通过:
# rpm -e libevent --nodeps 进行卸载。
# tar zxvf libevent-2.0.21-stable.tar.gz
# cd libevent-2.0.21-stable
# sudo ./configure --prefix=/usr/local/libevent-2.0.21-stable #prefix指定安装路径
# sudo make
# sudo make install
安装完成后,到prefix指定的目录下,看看是否存在libevent-2.0.21-stable目录,如下图所示。
2.2安装Memcached
# tar zxvf memcached-1.4.20.tar.gz
# cd memcached-1.4.20
# sudo ./configure
--prefix=/usr/local/memcached-1.4.20
--with-libevent=/usr/local/libevent-2.0.21-stable
# sudo make
执行上诉命令可能会报memcached.c:696: error: ‘IOV_MAX’ undeclared:异常,需要编辑memcached.c文件,注释57和59行
55 /* FreeBSD 4.x doesn't have IOV_MAX exposed. */
56 #ifndef IOV_MAX
57 //#if defined(__FreeBSD__) || defined(__APPLE__)
58 # define IOV_MAX 1024
59 //#endif
60 #endif
# sudo make install
2.2.1检查看装情况
安装完成后,到prefix指定的目录下查看是否有memcached-1.4.20目录,如下图所示。
2.2.2查看memcached和libevent版本信息
首先定位到Memcached的bin目录下:
# cd /usr/local/memcached-1.4.20/bin
执行命令:
# sudo ./memcached -i
启动有可能会报
./memcached: error while loading shared libraries: libevent-2.0.so.5: cannot open shared object file: No such file or directory
解决办法:
#查看libevent-2.0.so.5是否安装
#locate libevent-2.0.so.5
找到libevent安装目录下的 libevent-2.0.so.5
#ln -s /libevent安装目录下的libevent-2.0.so.5 /lib64/libevent-2.0.so.5
2.2.3启动memcached
# sudo ./memcached -d -v -p 12000 -m 512 -u root
解释:-d表示以守护进程方式运行memcached;-v表示输出浸膏和错误信息;-p指定监听的端口号;-m指定能使用的最大内存,单位MB;-u指定运行memcached的账户。
使用# ps -ef | grep memcached查看进程。
关注基本选项: | 说明 |
-p <num> | 监听的TCP端口 (缺省: 11211) |
-d | 以守护进程方式运行memcached |
-u <username> | 运行memcached的账户,非root用户 |
-m <num> | 最大的内存使用,单位是MB,缺省是 64 MB |
-c <num> | 软连接数量,缺省是1024(最大并发连接数) |
-v | 输出警告和错误信息 |
-vv | 打印客户端的请求和返回信息 |
-h | 打印帮助信息 |
-i | 打印memcached和libevent的版权信息 |
3.安装Tomcat+配置memcached
Tomcat官网:http://tomcat.apache.org/
3.1安装Tomcat
本次使用Tomcat版本:apache-tomcat-7.0.55.tar.gz
将Tomcat解压到任意目录下。在同一台机器上安装,多个Tomcat时,端口号需要设置成不一样的,编辑三个Tomcat的server.xml将端口号都改成不一样的,我的三个Tomcat端口号分别是8081,8082,8083。Tomcat8081的server.xml文件内容如下(去掉了注释部分,其它两个做类似的修改):
3.2为Tomcat配置memcached
3.2.1为Tomcat添加库文件
Tomcat要支持memcached管理Session,需要调用一些jar库文件:
msm1.6.5依赖了Couchbase,需要添加couchbase-client的jar包,否则启动会报:java.lang.NoClassDefFoundError:com/couchbase/client/CouchbaseClient。【注意】:
Tomcat6和Tomcat7使用不同msm支持包:memcached-session-manager-tc6-1.6.5.jar和memcached-session-manager-tc7-1.6.5.jar,只可选一,否则启动报错。
msm源码中的lib包版本太低:spymemcached需要使用2.10.2,否则启动tomcat报错:
java.lang.NoSuchMethodError:net.spy.memcached.MemcachedClient.set(Ljava/lang/String;ILjava/lang/Object;)Lnet/spy/memcached/internal/OperationFuture;
atde.javakaffee.web.msm.BackupSessionTask.storeSessionInMemcached(BackupSessionTask.java:227)
kryo-serializers需要使用0.10版本,否则报错:
Caused by:java.lang.ClassNotFoundException: de.javakaffee.kryoserializers.DateSerializer
部分文件下载地址:http://code.google.com/p/memcached-session-manager/downloads/list
其他的文件自己找。
下载后,将这些库文件放到tomcat\lib目录下。
3.2.2为Tomcat配置memcached
配置文件目录:
tomcat\conf\context.xml
tomcat\conf\server.xml
打开context.xml文件,在<Context>...</Context>节点中添加如下内容:
<ManagerclassName="de.javakaffee.web.msm.MemcachedBackupSessionManager"
memcachedNodes="n1:127.0.0.1:12000"
sticky="false"
requestUriIgnorePattern=".*\.(png|gif|jpg|css|js|ico|jpeg)$"
sessionBackupAsync="false"
sessionBackupTimeout="100"
transcoderFactoryClass="de.javakaffee.web.msm.serializer.kryo.KryoTranscoderFactory"/>
【参数说明】:
docBase:与<Host>中的appBase一致,网站部署目录。
memcachedNodes:memcached服务器信息,多个服务器时,使用空格分开,如:
n1:127.0.0.1:12001 n2:127.0.0.1:12002 n3:127.0.0.1:12003
打开server.xml文件,在<Engine>节点的中添加jvmRoute="tomcatRoute1",这个是用于指定Tomcat集群的路由。Tomcat2设置成jvmRoute="tomcatRoute2",Tomcat3设置成jvmRoute="tomcatRoute3",依次类推。
3.2.3 Manager标签属性说明
className:此属性是必须的。
memcachedNodes:此属性是必须的。这个属性必须包含你所有运行的memcached节点。每个节点的定义格式为<id>:<host>:<port>。多个之间用空格或半角逗号隔开(如:memcachedNodes="n1:localhost:11211,n2:localhost:11212")。如果你设置单个memcache节点<id>是可选的,所以它允许设置为<host>:<port>(memcachedNodes="localhost:11211")。
failoverNodes:可选项,属性只能用在非粘连Session机制中。此属性必须包含memcached节点的Id,此节点是Tomcat作为备份使用。多个之间用空格或逗号隔开。
memcachedProtocol:可选项,默认为text。出属性指明memcached使用的存储协议。只支持text或者binary。
sticky:可选项,默认为true。指定使用粘性的还是非粘性的Session机制。
lockingMode:可选项,此属性只对非粘性Session有用,默认为none。指定非粘性Session的锁定策略。它的值的只有:
(1) none:从来不加锁
(2) all:当请求时对Session锁定,直到请求结束
(3) auto:对只读的request不加锁,对非只读的request加锁
(4) uriPattern:<regexp>:使用正则表达式来比较requestRUI + "?" + queryString来决定是否加锁,
requestUriIgnorePattern:可选项,此属性是那些不能改备份Session的请求的正则表达式。如果像css、javascript、图片等静态文件被同一个Tomcat和同一个应用上下文来提供,这些请求也会通过memcached-session-manager。但是这些请求在一个http会话中几乎没什么改变,所以他们没必要触发Session备份。所以那些静态文件没必要触发Session备份,你就可以使用此属性定义。此属性必须符合java regex正则规范。
sessionBackupAsync:可选项,默认true。指定Session是否应该被异步保存到Memcached中。如果被设置为true,backupThreadCount设置起作用,如果设置false,通过sessionBackupTimeout设置的过期时间起作用。
backupThreadCount:可选项,默认为CPU内核数。用来异步保存Session的线程数(如果sessionBackupAsync="true")。
sessionBackupTimeout:可选项,默认100,单位毫秒。设置备份一个Session所用的时间,如果操作超过时间那么保存失败。此属性只在sessionBackupAsync="false"是起作用。默认100毫秒。
sessionAttributeFilter:可选项从1.5.0版本有。此属性是用来控制Session中的那个属性值保存到Memcached中的正则表达式。正则表达式被用来匹配Session中属性名称。如sessionAttributeFilter="^(userName|sessionHistory)$" 指定了只有"userName"和"sessionHistory"属性保存到Memcached中。依赖于选择的序列化策略。
transcoderFactoryClass:可选,默认为de.javakaffee.web.msm.JavaSerializationTranscoderFactory,此属性值是创建序列化和反序列化保存到Memcached中的Session的编码转换器的工厂类名。这个指定的类必须实现了de.javakaffee.web.msm.TranscoderFactory和提供一个无参的构造方法。例如其他的有效的实现在其他packages/jars中提供如:msm-kryo-serializer,msm- xstrea-serializer和msm-javolution-serializer.
copyCollectionsForSerialization:可选项,默认false。
customConverter:可选项
enableStatistics:可选项,默认true用来指定是否进行统计。
enabled:可选项,默认true。指定Session保存到Memcached中是否可用和是否可以通过JMX进行改变。只用于粘性Session。
转载地址:http://blog.csdn.net/zht666/article/details/38515147