集群-负载均衡算法&转发实现&集群下的session管理

最新推荐文章于 2021-06-26 22:00:26 发布

Fly_Fly_Zhang

最新推荐文章于 2021-06-26 22:00:26 发布

阅读量761

点赞数 6

分类专栏：集群

本文链接：https://blog.csdn.net/fly_fly_zhang/article/details/92413731

版权

集群专栏收录该内容

1 篇文章 0 订阅

订阅专栏

负载均衡

集群中的应用服务器(节点)通常被设计成无状态，用户可以请求任何一个应用服务器。
负载均衡器会根据集群中每个节点的负载情况，将用户请求转发到合适的节点上。

负载均衡器可以用来实现高可用以及伸缩性：

高可用：当某个节点发生故障时，负载均衡器会将用户请求转发到另外的节点上，从而保证所有服务持续可用。
伸缩性：可以很容易的添加或者删除节点(应用服务器)。

负载均衡运行过程包括两部分：

根据负载均衡算法得到请求转发的节点。
将请求进行转发。

负载均衡算法：

轮询算法：

轮询算法把请求轮流发送到每个服务器上。
下图六个客户端产生6个请求，这六个请求按照123456的顺序发送。135的请求被发送到服务器1， 246的请求被发送到服务器2。
在这里插入图片描述

该算法比较适合每个服务器性能差不多的场景，如果性能存在差异，那么性能较差的服务器可能无法承担过大的负载。
在这里插入图片描述

加权轮询算法：

加权轮询是在轮询的基础上，根据服务器的性能差异，为服务器赋予一定的权值，性能高的服务器分配更高的权值。
如图，服务器1被赋予的权值为5，服务器2被赋予的权值为1。
在这里插入图片描述

最少连接算法：

由于每个请求的连接时间不一样，使用轮询或者加权轮询，可能会让一台服务器当前连接数过大，而另一台连接数过小，造成负载不均衡。
下图，135请求被发送到服务器1但是13很快断开连接，此时只有5请求连接服务器1； 246请求被发送到服务器2，只有2断开连接，此时46请求连接服务器2 。该系统运行时，服务器2会承担过大的负载。
在这里插入图片描述

最少连接算法就是将请求发送给当前连接数最少的服务器上。
下图，新来的6就会被连接到服务器1。
在这里插入图片描述

加权最少连接：

在最少连接的基础上，根据服务器的性能为每台服务器分配权重，在根据权重计算出每台服务器能处理的连接数。
在这里插入图片描述

随机算法：

把请求随机发送到服务器上，和轮询算法类似，该算法比较适合服务器性能差不多的场景。
在这里插入图片描述

源地址哈希法：

源地址哈希通过对客户端IP计算哈希值后，在对服务器数量取模得到目标服务器的序号。
可以保证同一IP的客户段请求会转发到同一台服务器上，用来实现会话粘滞(Sticky Session)。
在这里插入图片描述

转发实现

HTTP重定向：

HTTP重定向负载服务器使用某种负载均衡算法，计算得到服务器的IP地址后，将该地址写入HTTP重定向报文中，状态码302。客户端收到重定向报文后，需要重新向服务器发起请求。
缺点：

需要两次请求，因此访问延迟较高。
HTTP负载均衡服务器处理能力有限，会限制集群的规模。
该负载缺点比较明显，实际场景使用较少。

DNS域名解析：

在DNS解析域名的同时，使用负载均衡算法计算服务器IP地址。
优点:

DNS能够根据地理位置进行域名解析，返回离用户最近的服务器IP地址，改善性能。
将负载均衡工作交给DNS省去了网站管理维护负载均衡服务器的麻烦。
服务器可以部署在互联网的任意位置。
缺点:
由于DNS具有多级结构，每一级的域名记录都可能被缓存，当下线一台服务器需要需要修改DNS记录时，需要很长一段时间才能有效。
不能按照服务器的处理能来分配负载。DNS负载均衡采用的是最简单的轮询算法，不能区分服务器之间的差异。
可能会造成额外的网络问题。为了使本DNS服务器和其它DNS服务器及时交互，保证DNS数据即时更新，使地址能够随机分配，一般都需要将DNS得刷新时间设置的较小，但太小会增加额外的网络问题。
大型网站基本使用了DNS作为第一级负载均衡手段，即域名解析得到的一组服务器并不是实际提供服务的物理服务器，然后再内部使用其它方式做第二级负载均衡。也就是说，域名解析的结果为内部负载均衡服务器的IP地址。

DNS域名解析工作原理
由上图可以看出，在DNS服务器中应该配置了多个A记录，如：
www.aaaa.com IN A 114.100.20.201;

www.aaaa.com IN A 114.100.20.202;

www.aaaa.com IN A 114.100.20.203;
因此，每次域名解析请求都会根据对应的负载均衡算法计算出一个不同的IP地址并返回，这样主机记录(也称A记录)中配置多个服务器就可以构成一个集群，并且可以实现负载均衡。

反向代理服务器：

首先了解下正向代理和反向代理的区别:

正向代理：发生在客户端，由用户主动发起。比如翻墙，客户端通过主动访问代理服务器，让代理服务器获得需要的外网数据，然后转发会客户端。
反向代理：发生在服务器端，用户不知道代理的存在。
反向代理服务器位于源服务器前面，用户的请求需要先经过反向代理服务器才能到达源服务器。反向代理可以用来进行缓存，日志记录等。同时可以用来做负载均衡服务器。
在这种负载均衡转发模式下，客户端不能直接请求源服务器，因此原服务器不需要外部IP地址，而反向代理需要配置内部和外部两套IP地址。
优点:
与其它功能集成在一起，部署简单。
缺点:
所有请求和响应都需要经过反向代理服务器，他可能会成为性能瓶颈。

网络层：

注意: 网络层转发和链路层转发都是基于对负载均衡服务器的优化。
在操作系统内核进程获取网络数据包，根据负载均衡算法计算源服务器的IP地址，并修改请求数据包的目的IP地址，最后进行转发。
源服务器返回的响应也需要经过负载均衡服务器，通常是让负载均衡服务器同时作为集群的网关服务器来实现。
优点:

在内核进程中进行处理，性能较高。
缺点:
和反向代理一样，所有的请求和响应都经过负载服务器，会成为性能瓶颈。

链路层：

在链路层根据负载均衡算法计算源服务器的MAC地址，并修改请求数据包的目的MAC地址，并进行转发。
通过配置源服务器的虚拟IP地址和负载服务器的IP地址一致，从而不需要修改IP地址就可以进行转发。也正因为IP地址一样，所以源服务器的响应不需要发回负载均衡服务器，可以直接转发给客户端，避免了负载均衡服务器成为瓶颈。
这是一种三角传输模式，称为直接路由 ，对于提供下载和视频服务的网站来说，直接路由避免了大量的网络传输数据经过负载均衡服务器。
这是目前大型网站使用最广的负载均衡转发方式。在linux平台可以使用负载均衡服务器LVS(Linux Virtual Server) 。