tomcat优化与部署（三）------nignx优化与nginx +tomcat 部署

目录

一、 JVM组成

1.1JVM 组成

虚拟机

1.2Garbage 垃圾确定方法

二、垃圾回收基本算法

2.1标记-清除 Mark-Sweep

2.2标记压缩 (压实)Mark-Compact

2.3复制 Copying

2.4 多种算法总结

2.5 STW

三、分代堆内存GC策略

3.1堆内存分代

3.2年轻代回收Minor GC

3.3 老年代回收 Major GC

四、 java 内存调整相关参数

4.1 JVM 内存常用相关参数​​​​​​​

4.2Tomcat的JVM参数设置

4.3tomcat调优参数

4.4JDK工具监控使用情况

①jvisualvm

②OOM的问题原因

五、nginx+tomcat 反向代理多机器

六、nginx+tomcat 反向代理多机器多级代理

---

在目前流行的互联网架构中，Tomcat在目前的网络编程中是举足轻重的，由于Tomcat的运行依赖于JVM，从虚拟机的角度把Tomcat的调整分为外部环境调优 JVM 和 Tomcat 自身调优两部分

Tomcat 是一个流行的开源 Java 服务器，用于托管 Java 服务器页面（JavaServer Pages，JSP）。JSP 是一种动态网页技术，它允许开发人员在 HTML 页面中嵌入 Java 代码。

JDK（Java Development Kit）是Java开发工具包的缩写，它是用于开发Java应用程序的软件开发工具包

一、 JVM组成

JVM（Java虚拟机）是Java编程语言的关键组件，它是Java平台的一部分。JVM是一个抽象的计算机，它在物理计算机上运行，负责执行Java字节码。JVM有自己的指令集，它的工作是将Java字节码翻译成物理计算机的指令，以便物理计算机能够理解和执行

1.1JVM 组成

方法区等于源数据区（Method Area）

heap 图纸 存放了线程所必须的方案

Program Counter Register 标记线程是否使用

heap是重点调优的

程序计数器：标记程序线程是否被在使用，没有被使用，就是垃圾了，需要清理了

JVM组成部分

• 类加载子系统: 使用Java语言编写.java Source Code文件，通过javac编译成.class Byte Code文件。class loader类加载器将所需所有类加载到内存，必要时将类实例化成实例

• 运行时数据区: 最消耗内存的空间,需要优化

• 执行引擎: 包括JIT (JustInTimeCompiler)即时编译器, GC垃圾回收器

• 本地方法接口: 将本地方法栈通过JNI(Java Native Interface)调用Native Method Libraries, 比如:C,C++库等,扩展Java功能,融合不同的编程语言为Java所用

JVM运行时数据区域由下面部分构成：

• Method Area (线程共享)：方法区是所有线程共享的内存空间，存放已加载的类信息(构造方法,接口定义),常量(final),静态变量(static), 运行时常量池等。但实例变量存放在堆内存中. 从JDK8开始此空间由永久代改名为元空间

• heap (线程共享)：堆在虚拟机启动时创建,存放创建的所有对象信息。如果对象无法申请到可用内存将抛出OOM异常.堆是靠GC垃圾回收器管理的,通过-Xmx -Xms 指定最大堆和最小堆空间大小

• Java stack (线程私有)：Java栈是每个线程会分配一个栈，存放java中8大基本数据类型,对象引用,实例的本地变量,方法参数和返回值等,基于FILO()（First In Last Out）,每个方法为一个栈帧 1 50 %

• Program Counter Register (线程私有)：PC寄存器就是一个指针,指向方法区中的方法字节码,每一个线程用于记录当前线程正在执行的字节码指令地址。由执行引擎读取下一条指令.因为线程需要切换，当一个线程被切换回来需要执行的时候，知道执行到哪里了

• Native Method stack (线程私有)：本地方法栈为本地方法执行构建的内存空间，存放本地方法执行时的局部变量、操作数等。

虚拟机

目前HotSpot是最主要的 JVM。

安卓程序需要运行在JVM上，而安卓平台使用了Google自研的Java虚拟机——Dalvid，适合于内存、处理器能力有限系统。

对于垃圾回收,需要解决三个问题

• 哪些是垃圾要回收 A计数法（计数为0 就是垃圾） B根搜索法（具体是谁在用 这个进程）

• 怎么回收垃圾

• 什么时候回收垃圾

1.2Garbage 垃圾确定方法

• 引用计数: 每一个堆内对象上都与一个私有引用计数器，记录着被引用的次数，引用计数清零，该对象所占用堆内存就可以被回收。循环引用的对象都无法将引用计数归零，就无法清除。Python中即使用此种方式。 简单来说就是有个笔记本，记录有没有人在用，缺陷，AB 资源互相调用

• 根搜索(可达)算法 Root Searching

二、垃圾回收基本算法

2.1标记-清除 Mark-Sweep

标记-清除最大的问题会造成内存碎片,

                但不浪费空间,效率较高(如果对象较多,逐一删除效率也会影响)

2.2标记压缩 (压实)Mark-Compact

分垃圾标记阶段和内存整理阶段。标记阶段，找到所有可访问对象打个标记。内存清理阶段时，整理时将对象向内存一端移动，整理后存活对象连续的集中在内存一端。

标记-压缩算法优点是整理后内存空间连续分配，有大段的连续内存可分配，没有内存碎片。                         缺点是内存整理过程有消耗,效率相对低

2.3复制 Copying

先将可用内存分为大小相同两块区域A和B，每次只用其中一块，比如A。当A用完后，则将A中存活的对象复制到B。复制到B的时候连续的使用内存，最后将A一次性清除干净。

缺点是比较浪费内存，只能使用原来一半内存，因为内存对半划分了，复制过程毕竟也是有代价。优点是没有碎片，复制过程中保证对象使用连续空间,且一次性清除所有垃圾,所以效率很高。

2.4 多种算法总结

没有最好的算法,在不同场景选择最合适的算法

• 效率: 复制算法>标记清除算法> 标记压缩算法

• 内存整齐度: 复制算法=标记压缩算法> 标记清除算法

• 内存利用率: 标记压缩算法=标记清除算法>复制算法

2.5 STW

对于大多数垃圾回收算法而言，GC线程工作时，停止所有工作的线程，称为Stop The World。GC 完成时，恢复其他工作线程运行。这也是JVM运行中最头疼的问题。

GC 垃圾回收

三、分代堆内存GC策略

3.1堆内存分代

将heap内存空间分为三个不同类别: 年轻代、老年代、持久代

Heap堆内存分为

• 年轻代Young：Young Generation

伊甸园区eden: 只有一个,刚刚创建的对象
幸存(存活)区Servivor Space：有2个幸存区，一个是from区，一个是to区。大小相等、地位相同、可互换。
​
from 指的是本次复制数据的源区
to 指的是本次复制数据的目标区

• 老年代Tenured：Old Generation, 长时间存活的对象

• 默认空间大小比例:

• 

3.2年轻代回收Minor GC

1. 起始时，所有新建对象(特大对象直接进入老年代)都出生在eden，当eden满了，启动**GC。这个称为Young GC 或者 Minor GC。

2. 先标记eden存活对象，然后将存活对象复制到s0（假设本次是s0，也可以是s1，它们可以调换），eden剩余所有空间都清空。GC完成。

3. 继续新建对象，当eden再次满了，启动GC。

4. 先同时标记eden和s0中存活对象，然后将存活对象复制到s1。将eden和s0清空,此次GC完成

5. 继续新建对象，当eden满了，启动GC。

6. 先标记eden和s1中存活对象，然后将存活对象复制到s0。将eden和s1清空,此次GC完成以后就重复上面的步骤。

通常场景下,大多数对象都不会存活很久，而且创建活动非常多，新生代就需要频繁垃圾回收。但是，如果一个对象一直存活，它最后就在from、to来回复制，如果from区中对象复制次数达到阈值(默认15次,CMS为6次,可通过java的选项 -XX:MaxTenuringThreshold=N 指定)，就直接复制到老年代。

3.3 老年代回收 Major GC

进入老年代的数据较少，所以老年代区被占满的速度较慢，所以垃圾回收也不频繁。如果老年代也满了,会触发老年代GC,称为Old GC或者 Major GC。

由于老年代对象一般来说存活次数较长，所以较常采用标记-压缩算法。

当老年代满时,会触发 Full GC,即对所有"代"的内存进行垃圾回收

Minor GC比较频繁，Major GC较少。但一般Major GC时，由于老年代对象也可以引用新生代对象，所以先进行一次Minor GC，然后在Major GC会提高效率。可以认为回收老年代的时候完成了一次Full GC。所以可以认为 MajorGC = FullGC

将heap内存空间分为三个不同类别:年轻代、老年代、持久代

伊甸园区 、新生区域、 进程线程新出生的区域 、新出生的进程和线程不会产生垃圾

heap是重点调优的

四、 java 内存调整相关参数

4.1 JVM 内存常用相关参数

Java 命令行参考文档: https://docs.oracle.com/javase/8/docs/technotes/tools/unix/java.html

初始和最大建议设置一样的大小

垃圾回收 根据进程产生不同时间 对垃圾进行标记 然后执行不同的垃圾回收方法

java是一个命令程序 

java 选项如下：

选项分类

• -选项名称 此为标准选项,所有HotSpot都支持

• -X选项名称 为稳定的非标准选项

• -XX:选项名称 非标准的不稳定选项，下一个版本可能会取消

初始（Xms）和最大（Xmx）建议设置一样的大小

有不稳定选项的当前生效值

[root@centos7 ~]#java -XX:+PrintFlagsFinal

查看所有不稳定选项的默认值

[root@centos7 ~]#java -XX:+PrintFlagsInitial

初始（Xms）和最大（Xmx）调整                           heap值大概是内存四分之一

[root@zzzcentos1 opt]#java -Xms1024m -Xmx1024m -XX:+PrintGCDetails -cp  . Heap

如果我们运行tomcat heap调优 ：

4.2Tomcat的JVM参数设置

默认不指定，-Xmx大约使用了1/4的内存，当前本机内存指定约为1G。

在bin/catalina.sh中增加一行

JAVA_OPTS="-server -Xms128m -Xmx512m -XX:NewSize=100m -XX:MaxNewSize=200m"


#解释如下
-server：服务器模式
-Xms：堆内存初始化大小
-Xmx：堆内存空间上限
-XX:NewSize=：新生代空间初始化大小 
-XX:MaxNewSize=：新生代空间最大值

[root@zzzcentos1 opt]#vim /usr//local/tomcat/bin/catalina.sh

118行下面添加
JAVA_OPTS="-server -Xms512m -Xmx512m -XX:NewSize=200m -XX:MaxNewSize=300m"
[root@zzzcentos1 opt]#systemctl restart tomcat.service

去浏览器打开状态页查看

4.3tomcat调优参数

Tomcat默认安装下的缺省配置并不适合生产环境，它可能会频繁出现假死现象需要重启，只有通过不断压测优化才能让它最高效率稳定的运行。优化主要包括三方面，分别为操作系统优化（内核参数优化），Tomcat配置文件参数优化，Java虚拟机（JVM）调优

#Tomcat 配置文件参数优化##
常用的优化相关参数如下：
【redirectPort】如果某连接器支持的协议是HTTP，当接收客户端发来的HTTPS   443 请求时，则转发至此属性定义的 8443 端口。

【maxThreads】Tomcat使用线程来处理接收的每个请求，这个值表示Tomcat可创建的最大的线程数，即支持的最大并发连接数，默认值是 200。

【minSpareThreads】最小空闲线程数，Tomcat 启动时的初始化的线程数，表示即使没有人使用也开这么多空线程等待，默认值是 10。

【maxSpareThreads】最大备用线程数，一旦创建的线程超过这个值，Tomcat就会关闭不再需要的socket线程。默认值是-1（无限制）。一般不需要指定。

【processorCache】进程缓冲器，可以提升并发请求。默认值是200，如果不做限制的话可以设置为-1，一般采用maxThreads的值或者-1。

【URIEncoding】指定 Tomcat 容器的 URL 编码格式，网站一般采用UTF-8作为默认编码。

【connnectionTimeout】网络连接超时，单位：毫秒，设置为 0 表示永不超时，这样设置有隐患的。通常默认 20000 毫秒就可以。

【enableLookups】是否反查域名，以返回远程主机的主机名，取值为：true 或 false，如果设置为 false，则直接返回 IP 地址，为了提高处理能力，应设置为 false。

【disableUploadTimeout】上传时是否使用超时机制。应设置为 true。

【connectionUploadTimeout】上传超时时间，毕竟文件上传可能需要消耗更多的时间，这个根据你自己的业务需要自己调，以使Servlet有较长的时间来完成它的执行，需要与上一个参数一起配合使用才会生效。

【acceptCount】指定当所有可以使用的处理请求的线程数都被使用时，可传入连接请求的最大队列长度，超过这个数的请求将不予处理，默认为 100 个。

【maxKeepAliveRequests】指定一个长连接的最大请求数。默认长连接是打开的，设置为1时，代表关闭长连接；为-1时，代表请求数无限制

【compression】是否对响应的数据进行GZIP压缩，off：表示禁止压缩；on：表示允许压缩（文本将被压缩）、force：表示所有情况下都进行压缩，默认值为 off，压缩数据后可以有效的减少页面的大小，一般可以减小 1/3 左右，节省带宽。

【compressionMinSize】表示压缩响应的最小值，只有当响应报文大小大于这个值的时候才会对报文进行压缩，如果开启了压缩功能，默认值就是 2048。

【compressableMimeType】压缩类型，指定对哪些类型的文件进行数据压缩。

【noCompressionUserAgents="gozilla, traviata"】对于以下的浏览器，不启用压缩
#如果已经进行了动静分离处理，静态页面和图片等数据就不需做 Tomcat 处理，也就不要在 Tomcat 中配置压缩了。

以上是一些常用的配置参数，还有好多其它的参数设置，还可以继续深入的优化，HTTP Connector 与 AJP Connector 的参数属性值，可以参考官方文档的详细说明进行学习。


vim /usr/local/tomcat/conf/server.xml
......
<Connector port="8080" protocol="HTTP/11.1" 
connectionTimeout="20000" 
redirectPort="8443" 
--71行--插入
minSpareThreads="50" 
enableLookups="false" 
disableUploadTimeout="true" 
acceptCount="300" 
maxThreads="500" 
processorCache="500"
URIEncoding="UTF-8" 
maxKeepAliveRequests="100"
compression="on" 
compressionMinSize="2048" 
compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain,image/gif,image /jpg,image/png"/>

记忆几个调优参数，对你有好处哦！

4.4JDK工具监控使用情况

①jvisualvm

②OOM的问题原因

JProfiler是一款功能强大的Java开发分析工具，它可以快速的帮助用户分析出存在的错误，软件还可对需要的显示类进行标记，包括了内存的分配情况和信息的视图等

JProfiler官网：Java Profiler - JProfiler

查看OOM   （out of memory 内存不足）

yum -y install xorg-x11-xauth xorg-x11-fonts-* xorg-x11-font-utils xorg-x11-fonts-Type1

这工具不太好用，Jprofiler好用，收费

堆空间：在内存空间 是内存空间的一块特有空间 所有程序都有堆空间 调优重点内存空间

堆空间分类：年轻态（伊甸区、幸存者区） 老年态（幸存者区）

五、nginx+tomcat 反向代理多机器

拓朴图：

[root@zzzcentos1 ~]#systemctl stop firewalld
[root@zzzcentos1 ~]#setenforce 0

[root@zzzcentos2 ~]#systemctl stop firewalld
[root@zzzcentos2 ~]#setenforce 0
[root@zzzcentos2 ~]#

[root@zzzcentos3 ~]#systemctl stop firewalld
[root@zzzcentos3 ~]#setenforce 0

3台机器同时关闭防火墙、防护

①7-1 nginx代理服务器配置

②7-2和7-3 一起配置 tomcat 服务   （7-3）时刻关注一下，有没打好命令

在部署Tomcat之前，要部署好环境（JDK），因为JDK是Tomcat运行的必要环境

7-2和7-3安装是一样的

③7-1代理服务器配置

7-2配置页面：

7-3配置页面：

④去检测：

六、nginx+tomcat 反向代理多机器多级代理

拓朴图：

7-4配置

7-5配置

7-1代理服务器配置：

7-4配置

7-5配置

检测下：nginx 没问题

7-4配置：

7-5配置

去检测：