目录
6.1 msm(memcached session manager)
一、WEB技术基础
1.1 HTTP协议和B/S结构
在现代网络架构中,HTTP协议和B/S(Browser/Server)结构扮演着核心角色。HTTP协议使得客户端和服务器之间能够通过文本形式传输数据,而B/S结构则允许浏览器作为客户端,通过HTTP请求与WEB服务器进行交互。
1.2 前端三大核心技术
前端三大核心技术通常指的是构建现代Web应用程序所必需的三个基本技能领域。这些技术共同协作,为用户提供丰富、互动和响应式的网页体验。
1.2.1 HTML(HyperText Markup Language) - 超文本标记语言
- 定义:HTML是网页内容的标准标记语言,用于定义网页的结构和内容。它由一系列的元素(或称为标签)组成,这些元素可以是文本、链接、图片、表格、列表等。
- 作用:HTML负责网页的基本骨架,让浏览器知道如何显示内容。它不负责网页的样式或行为。
1.2.2 CSS(Cascading Style Sheets) - 层叠样式表
- 定义:CSS用于设置HTML元素的样式,包括布局、颜色、字体和间距等视觉表现。CSS通过选择器来定位HTML中的元素,并应用相应的样式规则。
- 作用:CSS让网页设计师能够控制网页的外观和布局,实现跨浏览器的一致性,并提高页面的可用性和可访问性。
1.2.3 JavaScript(JS) - 一种脚本语言
- 定义:JavaScript是一种轻量级的编程语言,用于网页上实现交互式功能、游戏、动画等。它能够响应用户的行为,操作HTML元素,以及处理数据。
- 作用:JavaScript使得网页不再是静态的,它可以处理用户输入、与服务器进行异步数据交换(Ajax)、操作DOM(文档对象模型),从而创建动态和响应式的用户体验。
同步
交互式网页,用户提交了请求,就是想看到查询的结果。服务器响应到来后是一个全新的页面内容,哪 怕URL不变,整个网页都需要重新渲染。例如,用户填写注册信息,只是2次密码不一致,提交后,整个 注册页面重新刷新,所有填写项目重新填写(当然有办法让用户减少重填)。这种交互非常不友好。从代价 的角度看,就是为了注册的一点点信息,结果返回了整个网页内容,不但浪费了网络带宽,还需要浏览 器重新渲染网页,太浪费资源了,影响了用户体验和感受。上面这些请求的过程,就是同步过程,用户 发起请求,页面整个刷新,直到服务器端响应的数据到来并重新渲染。
异步
传统的网页如果需要更新内容,必需重载整个网页面。Ajax的出现,改变这一切,同时极大的促进了 Javascript的发展。Ajax即"Asynchronous Javascript And XML"(异步 JavaScript 和 XML),是指一种 创建交互式、快速动态网页应用的网页开发技术,最早起源于1998年微软的Outlook Web Access开发团 队。Ajax 通过在后台与服务器进行少量数据交换, 可以使网页实现异步更新。这意味着可以在不重新加 载整个网页的情况下,对网页的某部分进行更新。Javascript 通过调用浏览器内置的WEB API中的 XMLHttpRequest 对象实现Ajax 技术。早期Ajax结合数据格式XML,目前更多的使用JSON。利用AJAX可 实现前后端开发的彻底分离,改变了传统的开发模式。
二、WEB框架与资源访问
2.1 WEB资源和访问
WEB资源的访问通常涉及静态内容(如HTML、CSS、JS文件)和动态内容的请求。这些资源可以通过PC端或移动端浏览器访问,也可以通过手机App访问。
2.2 后台应用架构
2.2.1 单体架构
- 传统架构(单机系统),一个项目一个工程:比如商品、订单、支付、库存、登录、注册等等,统 一部署,一个进程
- all in one的架构方式,把所有的功能单元放在一个应用里。然后把整个应用部署到一台服务器上。 如果负载能力不行,将整个应用进行水平复制,进行扩展,然后通过负载均衡实现访问。
- Java实现:JSP、Servlet,打包成一个jar、war部署
- 易于开发和测试:也十分方便部署;当需要扩展时,只需要将war复制多份,然后放到多个服务器上, 再做个负载均衡就可以了。
- 如果某个功能模块出问题,有可能全站不可访问,修改Bug后、某模块功能修改或升级后,需要停 掉整个服务,重新整体重新打包、部署这个应用war包,功能模块相互之间耦合度高,相互影响,不适 合当今互联网业务功能的快速迭代。
- 特别是对于一个大型应用,我们不可能吧所有内容都放在一个应用里面,我们如何维护、如何分工 合作都是问题。如果项目庞大,管理难度大
- web应用服务器:开源的tomcat、jetty、glassfish。商用的有weblogic、websphere、Jboss
2.2.2 微服务架构
- 属于SOA(Service Oriented Architecture)的子集
- 微服务化的核心就是将传统的一站式应用,根据业务拆分成一个一个的服务,彻底去掉耦合,每一 个微服务提供单个业务功能,一个服务只做一件事。每个服务都围绕着具体业务进行构建,并且能 够被独立地部署到生产环境、类生产环境等
- 从技术角度讲就是一种小而独立的处理过程,类似与进程的概念,能够自行单独启动或销毁 微服务架构(分布式系统),各个模块/服务,各自独立出来,"让专业的人干专业的事",独立部 署。分布式系统中,不同的服务可以使用各自独立的数据库。
- 服务之间采用轻量级的通信机制(通常是基于HTTP的RESTful API)。
- 微服务设计的思想改变了原有的企业研发团队组织架构。传统的研发组织架构是水平架构,前端、 后端、DBA、测试分别有自己对应的团队,属于水平团队组织架构。而微服务的设计思想对团队的 划分有着一定的影响,使得团队组织架构的划分更倾向于垂直架构,比如用户业务是一个团队来负 责,支付业务是一个团队来负责。但实际上在企业中并不会把团队组织架构拆分得这么绝对,垂直 架构只是一种理想的架构
- 微服务的实现框架有多种,不同的应用架构,部署方式也有不同
2.2.3 单体架构和微服务比较
-
复杂性:
- 单体架构在小规模时复杂性较低,但随着规模增长,复杂性急剧上升
- 微服务架构从一开始就设计为复杂的,但随着时间的推移,它允许更灵活的扩展和管理
-
敏捷性:
- 单体架构在初期可能更敏捷,但随着项目增长,发布新功能的速度可能会减慢
- 微服务架构支持持续集成和持续部署(CI/CD),使得新功能的发布更加迅速和频繁
-
团队结构:
- 单体架构通常与跨功能团队结构相匹配,团队成员可能需要处理多个不同的技术领域
- 微服务架构倾向于支持按服务划分的团队结构,每个团队负责一个或多个服务
-
成本:
- 单体架构在初期可能成本较低,因为不需要复杂的部署和协调机制
- 微服务架构可能在初期需要更多的投资,特别是在基础设施和运维方面,但长期来看,它可能更经济,因为它允许更有效的资源利用
总的来说,选择单体架构还是微服务架构取决于项目的具体需求、团队的能力、预期的业务增长以及其他因素。每种架构都有其适用的场景和优势。
三、Tomcat的功能与安装
3.1 Tomcat简介
Tomcat 服务器是一个免费的开放源代码的Web 应用服务器,属于轻量级应用服务器,在中小型系统和 并发访问用户不是很多的场合下被普遍使用,Tomcat 具有处理HTML页面的功能,它还是一个Servlet和 JSP容器
起始于SUN 公司的一个Servlet的参考实现项目 Java Web Server,开发者是 James Duncan Davidson, 在1999年,将项目贡献给了apache软件基金会(ASF),和ASF现有的项目 JServ 合并,并开源成为顶级项目
Tomcat 仅仅实现了Java EE规范中与Servlet、JSP相关的类库,是JavaEE不完整实现
1999年发布初始版本是Tomcat 3.0,实现了Servlet 2.2 和 JSP 1.1规范
Tomcat 4.x发布时,内建了Catalina(Servlet容器)和 Jasper(JSP engine)等
当前 Tomcat 的正式版本已经更新到 10.0.x 版本,但当前企业中主流版本为 8.x 和 7.x
3.2 安装Tomcat
#安装Java环境。
[root@tomcat1 ~]# yum install java-1.8.0-openjdk.x86_64 -y
#下载并解压Tomcat。
[root@tomcat1 ~]# tar zxf apache-tomcat-9.0.91.tar.gz -C /usr/local/
[root@tomcat1 ~]# ln -s /usr/local/apache-tomcat-9.0.91/ /usr/local/tomcat
#启动Tomcat服务器。
[root@tomcat1 ~]# /usr/local/tomcat/bin/startup.sh
测试
检查端口并访问Tomcat。
3.3 生成tomcat的启动文件
3.3.1 生成tomcat的主配置文件
[root@tomcat1 ~]# vim /usr/local/tomcat/conf/tomcat.conf
JAVA_HOME=/etc/alternatives/jre_openjdk
3.3.2 生成启动文件
[root@tomcat1 ~]# useradd -s /sbin/nologin -M tomcat
[root@tomcat1 ~]# chown -R tomcat.tomcat /usr/local/tomcat
[root@tomcat1 ~]# vim /lib/systemd/system/tomcat.service
[Unit]
Description=Tomcat
#After=syslog.target network.target remote-fs.target nss-lookup.target
After=syslog.target network.target
[Service]
Type=forking
EnvironmentFile=/usr/local/tomcat/conf/tomcat.conf
ExecStart=/usr/local/tomcat/bin/startup.sh
ExecStop=/usr/local/tomcat/bin/shutdown.sh
PrivateTmp=true
User=tomcat
Group=tomcat
[Install]
WantedBy=multi-user.target
[root@tomcat1 ~]# systemctl daemon-reload
[root@tomcat1 ~]# systemctl enable --now tomcat
四、结合反向代理实现Tomcat部署
4.1 部署方式
standalone模式,Tomcat单独运行,直接接受用户的请求,不推荐。
反向代理,单机运行,提供了一个Nginx作为反向代理,可以做到静态由nginx提供响应,动态jsp代 理给Tomcat
- LNMT:Linux + Nginx + MySQL + Tomcat
- LAMT:Linux + Apache(Httpd)+ MySQL + Tomcat
前置一台Nginx,给多台Tomcat实例做反向代理和负载均衡调度,Tomcat上部署的纯动态页面更 适合
- LNMT:Linux + Nginx + MySQL + Tomcat
多级代理
- LNNMT:Linux + Nginx + Nginx + MySQL + Tomcat
4.2 Nginx反向代理配置
利用Nginx的反向代理功能,可以将用户请求转发至指定的Tomcat服务器,实现负载均衡和静态内容的快速响应。
[root@nginx ~]# vim /usr/local/nginx/conf.d/vhosts.conf
location ~ \.jsp$ {
proxy_pass http://172.25.254.10:8080;
}
[root@tomcat1 ~]# cp test.jsp /usr/local/tomcat/webapps/ROOT/
[root@tomcat2 ~]# cp test.jsp /usr/local/tomcat/webapps/ROOT/
测试
4.3 实现tomcat中的负载均衡
动态服务器的问题,往往就是并发能力太弱,往往需要多台动态服务器一起提供服务。如何把并发的压 力分摊,这就需要调度,采用一定的调度策略,将请求分发给不同的服务器,这就是Load Balance负载 均衡。
当单机Tomcat,演化出多机多级部署的时候,一个问题便凸显出来,这就是Session。而这个问题的由 来,都是由于HTTP协议在设计之初没有想到未来的发展。
4.3.1 HTTP的无状态,有连接和短连接
无状态:指的是服务器端无法知道2次请求之间的联系,即使是前后2次请求来自同一个浏览器,也 没有任何数据能够判断出是同一个浏览器的请求。后来可以通过cookie、session机制来判断。
- 浏览器端第一次HTTP请求服务器端时,在服务器端使用session这种技术,就可以在服务器端 产生一个随机值即SessionID发给浏览器端,浏览器端收到后会保持这个SessionID在Cookie当 中,这个Cookie值一般不能持久存储,浏览器关闭就消失。浏览器在每一次提交HTTP请求的 时候会把这个SessionID传给服务器端,服务器端就可以通过比对知道是谁了
- Session通常会保存在服务器端内存中,如果没有持久化,则易丢失
- Session会定时过期。过期后浏览器如果再访问,服务端发现没有此ID,将给浏览器端重新发 新的SessionID
- 更换浏览器也将重新获得新的SessionID
有连接:是因为它基于TCP协议,是面向连接的,需要3次握手、4次断开。
短连接:Http 1.1之前,都是一个请求一个连接,而Tcp的连接创建销毁成本高,对服务器有很大的 影响。所以,自Http 1.1开始,支持keep-alive,默认也开启,一个连接打开后,会保持一段时间 (可设置),浏览器再访问该服务器就使用这个Tcp连接,减轻了服务器压力,提高了效率。
服务器端如果故障,即使Session被持久化了,但是服务没有恢复前都不能使用这些SessionID。
如果使用HAProxy或者Nginx等做负载均衡器,调度到了不同的Tomcat上,那么也会出现找不到 SessionID的情况。
4.3.2 tomcat负载均衡实现
[root@nginx ~]# vim /usr/local/nginx/conf.d/vhosts.conf
upstream tomcat {
ip_hash;
server 172.25.254.10:8080;
server 172.25.254.20:8080;
}
server {
listen 80;
server_name www.timinglee.org;
root /data/web/html;
index index.html;
location ~ \.jsp$ {
proxy_pass http://tomcat;
}
}
测试
不同浏览器里测试 http://www.timinglee.org/test.jsp
例如 Microsoft
五、Memcached与Session共享
5.1 Memcached简介
Memcached 只支持能序列化的数据类型,不支持持久化,基于Key-Value的内存缓存系统memcached 虽然没有像redis所具备的数据持久化功能,比如RDB和AOF都没有,但是可以通过做集群同步的方式, 让各memcached服务器的数据进行同步,从而实现数据的一致性,即保证各memcached的数据是一样 的,即使有任何一台 memcached 发生故障,只要集群中有一台 memcached 可用就不会出现数据丢 失,当其他memcached 重新加入到集群的时候,可以自动从有数据的memcached 当中自动获取数据并 提供服务。
Memcached 借助了操作系统的 libevent 工具做高效的读写。libevent是个程序库,它将Linux的epoll、 BSD类操作系统的kqueue等事件处理功能封装成统一的接口。即使对服务器的连接数增加,也能发挥高 性能。memcached使用这个libevent库,因此能在Linux、BSD、Solaris等操作系统上发挥其高性能
Memcached 支持最大的内存存储对象为1M,超过1M的数据可以使用客户端压缩或拆分报包放到多个 key中,比较大的数据在进行读取的时候需要消耗的时间比较长,memcached 最适合保存用户的
session实现session共享
Memcached存储数据时, Memcached会去申请1MB的内存, 把该块内存称为一个slab, 也称为一个page
Memcached 支持多种开发语言,包括:JAVA,C,Python,PHP,C#,Ruby,Perl等
5.2 Memcached的安装与操作
[root@tomcat1 ~]# yum install memcached -y
[root@tomcat1 ~]# vim /etc/sysconfig/memcached
PORT="11211"
USER="memcached"
MAXCONN="1024"
CACHESIZE="64"
OPTIONS="-l 0.0.0.0,::1"
[root@tomcat1 ~]# systemctl enable --now memcached.service
测试
5.3 memcached 操作命令
五种基本 memcached 命令执行最简单的操作。这些命令和操作包括: set,add,replace,get,delete
#前三个命令是用于操作存储在 memcached 中的键值对的标准修改命令,都使用如下所示的语法:
command set/add/replace
key #key 用于查找缓存值
flags #可以包括键值对的整型参数,客户机使用它存储关于键值对的额外信息
expiration time 在缓存中保存键值对的时间长度(以秒为单位,0 表示永远)
bytes #在缓存中存储的字节数
value 存储的值(始终位于第二行)
#增加key,过期时间为秒,bytes为存储数据的字节数
add key flags exptime bytes
测试
[root@tomcat1 ~]# yum install telnet -y
[root@tomcat1 ~]# telnet localhost 11211
Trying ::1...
Connected to localhost.
Escape character is '^]'.
#增加
add leekey 0 60 4
test
STORED
#查看
get leekey
VALUE leekey 0 4
test
END
#改
set leekey 0 60 5
test1
STORED
#删除
delete leekey
DELETED
get leekey
END
#退出
quit
六、Session共享服务器
6.1 msm(memcached session manager)
msm(memcached session manager)提供将Tomcat的session保持到memcached可以实现高可用。 项目早期托管在google code,目前在Github
6.2 安装
将spymemcached.jar、memcached-session-manage、kyro相关的jar文件都放到Tomcat的lib目录 中,这个目录是 $CATALINA_HOME/lib/ ,对应本次安装就是/usr/local/tomcat/lib。
[root@tomcat1 ~]# cd jar/
[root@tomcat1 jar]# ls
asm-5.2.jar minlog-1.3.1.jar
kryo-3.0.3.jar msm-kryo-serializer-2.3.2.jar
kryo-serializers-0.45.jar objenesis-2.6.jar
memcached-session-manager-2.3.2.jar reflectasm-1.11.9.jar
memcached-session-manager-tc9-2.3.2.jar spymemcached-2.12.3.jar
[root@tomcat1 jar]# cp *.jar /usr/local/tomcat/lib/
6.3、配置过程
修改tomcat配置
[root@tomcat1 jar]# vim /usr/local/tomcat/conf/context.xml
<Manager pathname="" />
-->
<Manager className="de.javakaffee.web.msm.MemcachedBackupSessionManager"
memcachedNodes="n1:172.25.254.10:11211,n2:172.25.254.20:11211"
failoverNodes="n1"
requestUriIgnorePattern=".*\.(ico|png|gif|jpg|css|js)$"
transcoderFactoryClass="de.javakaffee.web.msm.serializer.kryo.KryoTranscoderFactory"
/>
</Context>
[root@tomcat2 jar]# vim /usr/local/tomcat/conf/context.xml
<Manager pathname="" />
-->
<Manager className="de.javakaffee.web.msm.MemcachedBackupSessionManager"
memcachedNodes="n1:172.25.254.10:11211,n2:172.25.254.20:11211"
failoverNodes="n2"
requestUriIgnorePattern=".*\.(ico|png|gif|jpg|css|js)$" transcoderFactoryClass="de.javakaffee.web.msm.serializer.kryo.KryoTranscoderFactory"
/>
</Context>
修改nginx配置
upstream tomcat {
hash $cookie_JSESSIONID;
server 172.25.254.10:8080;
server 172.25.254.20:8080;
}
server {
listen 80;
server_name www.timinglee.org;
root /data/web/html;
index index.html;
location ~ \.jsp$ {
proxy_pass http://tomcat;
}
}
测试
现在关闭172.25.254.10 的tomcat服务
在一个服务器断的时候,在转接另一服务器后,记录依然存在。