Nginx+Tomcat负载均衡、动静分离群集

一.反向代理两种模式

1.七层反向代理

基于七层的http/https/mail等应用协议的代理
他是在http模块里面添加以upstream模块，在upstream里面定义服务器组名称，添加ip，端口号，权重（如果不添加的话，默认是1），可以在添加一个调度算法。并在http模块里面添加server模块，在里面用location来匹配URL路径，定义proxy_pass http://服务器组名称，用来将以。。。为结尾的请求转发给tomcat服务器集群。并且后端服务器需要获取真实的客户端的ip地址。
http{
 
           upstream 服务器组名称{
 
           server IP1:PORT [weight=1 ...];
 
           server IP2:PORT;
 
           ..........
 
         调度算法（rr轮询/加权轮询，least_conn最小连接，ip_hash,url_hash,faire）;
 
}
 
   server {
 
       location ~ ...{
 
           #将以***为结尾的请求转发给tomcat服务器集群
 
            proxy_pass http://服务器组名称；  
 
          #用于后端服务器获取真实的客户端ip地址
 
           proxy_set_header HOST $host;
           proxy_set_header X-Real-IP $remote_addr;
           proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
 
         }
 
   }
 
}

2.四层反向代理

基于四层的ip+tcp/upd端口的代理
他是http块同一级，一般配置在http块上面。
他是需要用到stream模块的，一般四层里面没有自带，需要编译安装一下。并在stream模块里面添加upstream +服务器名称，添加ip地址及端口号。定义server模块，里面添加listen 监听端口号，server_name 网站主机名，proxy_pass 服务器组名称。
 
stream{
 
     upstream fuwu服务器名称{
 
          server IP1:PORT;
 
          server IP2:PORT;
 
         server IP3:PORT;
 
          ........
 
      }
 
      server{
 
          listen 监听端口；
 
          server_name  网站主机名； 
 
          proxy_pass   服务器组名称；
 
    }
 
}

二.正向代理和反向代理的区别

1.正向代理

是一个位于客户端和目标服务器之间的服务器，为了从目标服务器取得内容，客户端向代理发送一个请求并指定目标服务器，然后代理向目标服务器转交请求并将获得的内容返回给客户端。`代理服务器和客户端处于同一个局域网内。

比如说我要访问谷歌，于是我就告诉它让它帮我转发。

2.反向代理

实际运行方式是代理服务器接受网络上的连接请求。它将请求转发给内部网络上的服务器，并将从服务器上得到的结果返回给网络上请求连接的客户端 。代理服务器和目标服务器处于同一个局域网内。

比如说我要访问taobao，对我来说不知道图片、json、css 是不是同一个服务器返回回来的，但是我不关心，是反向代理 处理的，我不知道目标服务器。

三.Tomcat重要目录

1.bin

bin:存放启动和关闭Tomcat脚本

2.conf

conf:存放Tomcat不同的配置文件

3.doc

doc:存放Tomcat文档

4.lib

lib:存放Tomcat运行需要的库文件

5.logs

logs:存放Tomcat执行时的LOG文件

6.src

src:存放Tomcat的源代码

7.webapps

webapps: Tomcat的主要Web发布目录

8.work

work:存放jsp编译后产生的class文件

四.Nginx应用及负载均衡实现原理

1.Nginx应用

1.1Nginx是一款非常优秀的HTTP服务器软件

支持高达50000个并发连接数的响应

拥有强大的静态资源处理能力
运行稳定
内存、CPU等系统资源消耗非常低

1.2目前很多大型网站都应用Nginx服务器作为后端网站程序的反向代理及负载均衡器，提升整个站点的负载并发

2.Nginx负载均衡实现原理

2.1 Nginx实现负载均衡是通过反向代理实现

反向代理是在location配置

upstream是在server里配置

2.2 Nginx配置反向代理的主要参数

（1）upstream 服务池名{}

配置后端服务器池，以提供响应数据

（2）proxy_pass http://服务池名

配置将访问请求转发给后端服务器池的服务器处理

五.Nginx动静分离实现原理

1.动静分离原理

服务端接收来自客户端的请求中，既有静态资源也有动态资源，静态资源由Nginx提供服务，动态资源Nginx转发至后端

2.Nginx静态处理优势

Nginx处理静态页面的效率远高于Tomcat的处理能力

若Tomcat的请求量为1000次，则Nginx的请求量为6000次

Tomcat每秒的吞吐量为0.6M，Nginx的每秒吞吐量为3.6MNginx处理静态资源的能力是Tomcat处理的6倍

六.案例：Nginx+Tomcat负载均衡、动静分离

1.案例详情

以Nginx作为负载均衡器，Tomcat作为应用服务器

2.案例规划

环境配置

主机	操作系统	IP地址	主要软件
Nginx服务器	CentOS 7.3 x86_64	192.168.198.11	nginx-1.12.2.tar.gz
Tomcat服务器1	CentOS 7.3 x86_64	192.168.198.12	apache-tomcat-8.5.16.tar.gz
Tomcat服务器2	CentOS 7.3 x86_64	192.168.198.13	apache-tomcat-8.5.16.tar.gz

3.Tomcat部署与测试网站搭建

要求部署两台后端Tomcat服务器

为了进行测试，搭建两个内容不同的网站

Tomcat部署与网站搭建步骤

(1)关闭firewall防火墙

(2)安装JDK，配置JAVA环境

(3)安装配置Tomcat

(4)web/webapp1目录，修改server.xml,将网站文件目录更改到/web/webapp1/路径下

(5)/web/webapp1/下建立测试页面indexjsp，并进行测试

4.Nginx+Tomcat负载均衡、动静分离的示例配置

Nginx服务器：192.168.198.11：80

Tomcat服务器1：192.168.198.12：8080 192.168.198.12：8081

Tomcat服务器2：192.168.198.13：80

4.1 部署虚拟机192.168.198.12（两个tomcat已部署完毕）

4.1.1 安装启动tomcat服务

安装tomcat服务详情请参考https://blog.csdn.net/Katie_ff/article/details/131442008?spm=1001.2014.3001.5501

4.1.2 配置 tomcat 环境变量

vim /etc/profile.d/tomcat.sh

#tomcat1
export CATALINA_HOME1=/usr/local/tomcat/tomcat1
export CATALINA_BASE1=/usr/local/tomcat/tomcat1
export TOMCAT_HOME1=/usr/local/tomcat/tomcat1
#tomcat2
export CATALINA_HOME2=/usr/local/tomcat/tomcat2
export CATALINA_BASE2=/usr/local/tomcat/tomcat2
export TOMCAT_HOME2=/usr/local/tomcat/tomcat2

source /etc/profile.d/tomcat.sh 

4.1.3 修改 tomcat1 中的 server.xml 文件，要求各 tomcat 实例配置不能有重复的端口号

首先检查local目录下是否已经有tomcat的文件，然后根据标准路径修改配置

vim /usr/local/tomcat1/conf/server.xml 
#22行中port="8005"修改为8006
<Server port="8006" shutdown="SHUTDOWN">
#69行中 <Connector port="8080" protocol="HTTP/1.1"端口可修改为8081
 <Connector port="8081" protocol="HTTP/1.1"
第一个连接器默认监听8080端口，负责建立HTTP连接。在通过浏览器访问Tomcat服务器的web应用时使用的就是这个连接器。第二个连接器默认监听8009端口，负责和其他的HTTP服务器建立连接。在把Tomcat与其他HTTP服务器集成时，就需要用到这个连接器。

4.1.4 修改各 tomcat 实例中的 startup.sh 和 shutdown.sh 文件，添加 tomcat 环境变量

vim /usr/local/tomcat1/bin/startup.sh
# -----------------------------------------------------------------------------
# Start Script for the CATALINA Server
# -----------------------------------------------------------------------------

#添加以下的内容
export CATALINA_HOME1=/usr/local/tomcat/tomcat1
export CATALINA_BASE1=/usr/local/tomcat/tomcat1
export TOMCAT_HOME1=/usr/local/tomcat/tomcat1

vim /usr/local/tomcat1/bin/shutdown.sh 
# -----------------------------------------------------------------------------
# Stop script for the CATALINA Server
# -----------------------------------------------------------------------------
#添加以下的内容
export CATALINA_HOME1=/usr/local/tomcat/tomcat1
export CATALINA_BASE1=/usr/local/tomcat/tomcat1
export TOMCAT_HOME1=/usr/local/tomcat/tomcat1

vim /usr/local/tomcat2/bin/startup.sh
# -----------------------------------------------------------------------------
# Start Script for the CATALINA Server
# -----------------------------------------------------------------------------
#添加以下的内容
export CATALINA_HOME2=/usr/local/tomcat/tomcat2
export CATALINA_BASE2=/usr/local/tomcat/tomcat2
export TOMCAT_HOME2=/usr/local/tomcat/tomcat2

vim /usr/local/tomcat1/bin/shutdown.sh 
# -----------------------------------------------------------------------------
# Stop script for the CATALINA Server
# -----------------------------------------------------------------------------

#添加以下的内容
export CATALINA_HOME2=/usr/local/tomcat/tomcat2
export CATALINA_BASE2=/usr/local/tomcat/tomcat2
export TOMCAT_HOME2=/usr/local/tomcat/tomcat2

启动各 tomcat 中的 /bin/startup.sh

4.1.5 Tomcat1 server 配置

mkdir /usr/local/tomcat1/webapps/test
vim /usr/local/tomcat1/webapps/test/index.jsp

<%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
<html>
<head>
<title>JSP test1 page</title>   
#指定为 test1 页面
</head>
<body>
<% out.println("动态页面 1,http://www.test1.com");%>
</body>
</html>

vim /usr/local/tomcat1/conf/server.xml
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true" xmlValidation="false" xmlNamespaceAware="false">
	<Context docBase="/usr/local/tomcat/webapps/test" path="" reloadable="true">
	</Context>
</Host>

/usr/local/tomcat1/bin/shutdown.sh 
/usr/local/tomcat1/bin/startup.sh 

4.1.6 Tomcat2 server 配置

mkdir /usr/local/tomcat2/webapps/test

vim /usr/local/tomcat1/webapps/test/index.jsp
<%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
<html>
<head>
#指定为 test2 页面
<title>JSP test2 page</title>   
</head>
<body>
<% out.println("动态页面 2,http://www.test2.com");%>
</body>
</html>

vim /usr/local/tomcat2/webapps/test/index.jsp
<%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
<html>
<head>
#指定为 test3 页面
<title>JSP test3 page</title>   
</head>
<body>
<% out.println("动态页面 3,http://www.test3.com");%>
</body>
</html>

vim /usr/local/tomcat2/conf/server.xml
#删除前面的 HOST 配置
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true" xmlValidation="false" xmlNamespaceAware="false">
	<Context docBase="/usr/local/tomcat2/webapps/test" path="" reloadable="true" />
</Host>

/usr/local/tomcat/tomcat2/bin/shutdown.sh 
/usr/local/tomcat/tomcat2/bin/startup.sh 

4.2 部署Tomcat 应用服务器 192.168.198.13：80（第三个tomcat已开启）

systemctl stop firewalld
setenforce 0
#安装jdk拖入安装包jdk-8u371-linux-x64.rpm
cd /opt
rpm -ivh jdk-8u371-linux-x64.rpm
java -version

#设置JDK环境变量
vim /ect/profile.d/java.sh
export JAVA_HOME=/usr/java/jdk1.8.0-x64
export JRE_HOME=$JAVA_HOME/jre
export CLASSPATH=.:$JAVA_HOME/lib:$JRE_HOME/lib
export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATH

source /etc/profile.d/java.sh
java -version

#安装启动tomcat
cd /opt
#拖入apache-tomcat-8.5.16.tar.gz安装包
tar zxvf apache-tomcat-8.5.16.tar.gz -C /usr/local/
mv apache-tomcat-8.5.16/ /usr/local/tomcat
/usr/local/tomcat/bin/startup.sh
netstat -antp | grep 8080

浏览器访问Tomcat的默认主页 http://192.168.198.13:8080

4.2.1部署192.168.198.13的tomcat server

mkdir /usr/local/tomcat/webapps/test
vim /usr/local/tomcat/webapps/test/index.jsp
<%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
<html>
<head>
<title>JSP test1 page</title>   #指定为 test1 页面
</head>
<body>
<% out.println("动态页面 1,http://www.test1.com");%>
</body>
</html>
      
vim /usr/local/tomcat/conf/server.xml
#由于主机名 name 配置都为 localhost，需要删除前面的 HOST 配置
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true" xmlValidation="false" xmlNamespaceAware="false">
	<Context docBase="/usr/local/tomcat/webapps/test" path="" reloadable="true">
	</Context>
</Host>

4.3 部署nginx负载均衡器192.168.198.11

#关闭防火墙和安全机制
systemctl stop firewalld
systemctl disable firewalld
setenforce 0

#安装依赖包
#nginx的配置及运行需要pcre、zlib等软件包的支持，因此需要安装这些软件的开发包，以便提供相应的库和头文件。
yum -y install pcre-devel zlib-devel openssl-devel gcc gcc-c++ make

#创建运行用户与组
useradd -M -s /sbin/nologin nginx

#编译安装Nginx,将nginx-1.12.2.tar.gz放在opt下
cd /opt
tar zxvf nginx-1.12.2.tar.gz -C /opt/

cd nginx-1.12.2/
./configure \
--prefix=/usr/local/nginx \							#指定nginx的安装路径
--user=nginx \										#指定用户名
--group=nginx \	                                    #指定组名
--with-file-aio \                                   #启用文件修改支持
--with-http_stub_status_module \					#启用模块以支持状态统计 
--with-http_gzip_static_module \                    #启用gzip静态压缩
--with-http_flv_module \                            #启用flv模块，提供对flv视频的伪流支持
--with-http_ssl_module \                              #启用ssl模块，提供ssl加密功能
--with-stream                                       #启用stream模块，提供四层调度

./configure --prefix=/usr/local/nginx --user=nginx --group=nginx --with-file-aio --with-http_stub_status_module --with-http_gzip_static_module --with-http_flv_module --with-stream

make -j 4 && make install

#建立软链接
ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/

启动nginx
/usr/local/nginx/sbin/nginx  #启动nginx，使用绝对路径或者绝对路径

#查看端口
netstat -antp | grep nginx

#加入到system中去管理
vim /lib/systemd/system/nginx.service

[Unit]
Description=nginx
After=network.target
[Service]
Type=forking
PIDFile=/usr/local/nginx/logs/nginx.pid
ExecStart=/usr/local/nginx/sbin/nginx
ExecrReload=/bin/kill -s HUP $MAINPID
ExecrStop=/bin/kill -s QUIT $MAINPID
PrivateTmp=true
[Install]
WantedBy=multi-user.target

chmod 754 /lib/systemd/system/nginx.service
systemctl start nginx.service
systemctl enable nginx.service

浏览器访问测试：http://192.168.198.11/

4.4 Nginx server 配置192.168.198.11

#准备静态页面和静态图片
mkdir /usr/local/nginx/html/img
cd /usr/local/nginx/html
vim 3.html
<html>
  <body> 
     <h1>this is nginx test web</h1>
     <img src="3.jpg" />
  </body>    
</html>

vim /usr/local/nginx/conf/nginx.conf
......
http {
......
	#gzip on;
	
	#配置负载均衡的服务器列表，weight参数表示权重，权重越高，被分配到的概率越大
	upstream tomcat_server {
		server 192.168.198.13:8080 weight=1;
        server 192.168.198.12:8080 weight=1;
        server 192.168.198.12:8081 weight=1;
	}
	
	server {
		listen 80;
		server_name www.blue.com;
	
		charset utf-8;
	
		#access_log logs/host.access.log main;
		
		#配置Nginx处理动态页面请求，将 .jsp文件请求转发到Tomcat 服务器处理
		location ~ .*\.jsp$ {
			proxy_pass http://tomcat_server;
#设置后端的Web服务器可以获取远程客户端的真实IP
##设定后端的Web服务器接收到的请求访问的主机名（域名或IP、端口），默认HOST的值为proxy_pass指令设置的主机名。如果反向代理服务器不重写该请求头的话，那么后端真实服务器在处理时会认为所有的请求都来在反向代理服务器，如果后端有防攻击策略的话，那么机器就被封掉了。
			proxy_set_header HOST $host;   
##把$remote_addr赋值给X-Real-IP，来获取源IP
			proxy_set_header X-Real-IP $remote_addr;
##在nginx 作为代理服务器时，设置的IP列表，会把经过的机器ip，代理机器ip都记录下来
			proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
		}
		
		#配置Nginx处理静态图片请求
		location ~ .*\.(gif|jpg|jpeg|png|bmp|swf|css)$ {
			root /usr/local/nginx/html/img;
			expires 10d;
		}
		
		location / {
			root html;
			index index.html index.htm;
		}
......
	}
......
}

4.5 测试效果

测试静态页面效果
http://192.168.198.11/3.jpg

http://192.168.198.11/6.jpg

测试负载均衡效果，不断刷新浏览器测试

浏览器访问 http://192.168.198.11/index.jsp

刷新

总

负载均衡

（1）负载均衡是一种网络服务技术，用于将网络流量平均分配给多个服务器进行处理，从而提高系统的可用性、性能和可扩展性，避免服务器的过载和单点故障等问题。

（2）负载均衡通常被用于 Web 应用、数据库等服务的构建和维护，以确保服务的高可用性和性能。

（3）负载均衡可以分为以下几种类型：

• 硬件负载均衡：通过专业的硬件设备（如 F5 等）来处理和分配网络流量，通常功能强大，稳定可靠，但价格昂贵。
• 软件负载均衡：通过在普通服务器上部署负载均衡软件（如 Nginx 等）来进行网络流量的分配和处理，通常功能灵活，性能也不错，且成本较低。
• DNS 负载均衡：通过将同一域名解析到多个 IP 地址上，并根据一定策略（如轮询、最少连接数等）来分配网络流量，可以实现简单的负载均衡效果，但并不如前两种方式功能强大。

总：不同类型的负载均衡实现方式各有优缺点，应根据实际需要和预算选择适合的方式。

动静分离

（1）动静分离是一种在 Web 应用程序中常用的优化方法，它的原理是将动态内容和静态内容分离，分别存储到不同的服务器上，从而提高服务器的性能和可扩展性。

（2）静态内容指的是图片、样式表、JavaScript 等等不会随着用户请求变化的内容，而动态内容指的是由服务器端动态生成的内容，如 HTML 页面、数据库查询结果等等。

（3）动静分离的优势在于，将动态内容和静态内容分开处理，可以使服务器更专注于处理动态请求，并且可以更有效地缓存和预加载静态内容，从而提高用户访问网站的速度和响应性。

（4）实现动静分离有多种方法，其中比较常用的方式包括：

• 使用反向代理服务器（如 Nginx 等）：通过在反向代理服务器上设置缓存等参数，可以有效地区分和处理动态和静态请求，并将它们分别转发到不同的服务器处理。
• 使用 CDN（内容分发网络）：通过将静态内容存储在 CDN，可以将这些内容缓存到全球各个地理位置，从而加速全球用户的访问速度。
• 使用云服务：通过使用云服务提供商（如阿里云、腾讯云等）的静态资源和动态请求分离解决方案，可以轻松地将静态内容存储到云存储中，并将动态请求转发到云服务器处理。

总：总的来说，动静分离是一种有效的 Web 优化策略，可以提高网站的性能和可靠性，适用于各种规模的 Web 应用程序。

分流策略

(1)Nginx 负载均衡模式：
●rr 负载均衡模式：
每个请求按时间顺序逐一分配到不同的后端服务器，如果超过了最大失败次数后（max_fails，默认1），在失效时间内(fail_timeout，默认10秒)，该节点失效权重变为0，超过失效时间后，则恢复正常，或者全部节点都为down后，那么将所有节点都恢复为有效继续探测，一般来说rr可以根据权重来进行均匀分配。
(2)权重

●least_conn 最少连接：
优先将客户端请求调度到当前连接最少的服务器。

●ip_hash 负载均衡模式：
每个请求按访问ip的hash结果分配，这样每个访客固定访问一个后端服务器，可以解决session的问题，但是ip_hash会造成负载不均，有的服务请求接受多，有的服务请求接受少，所以不建议采用ip_hash模式，session 共享问题可用后端服务的 session 共享代替 nginx 的 ip_hash。

●fair（第三方）负载均衡模式：
按后端服务器的响应时间来分配请求，响应时间短的优先分配。

●url_hash（第三方）负载均衡模式：
基于用户请求的uri做hash。和ip_hash算法类似，是对每个请求按url的hash结果分配，使每个URL定向到同一个后端服务器，但是也会造成分配不均的问题，这种模式后端服务器为缓存时比较好。