180天云计算小白到大神-Nginx七层负载均衡

最新推荐文章于 2023-02-06 00:21:37 发布
最新推荐文章于 2023-02-06 00:21:37 发布
阅读量320 收藏 1
点赞数
分类专栏： Linux小白成长之路 文章标签： nginx linux 云计算 服务器 负载均衡
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_51622071/article/details/119739149
版权

06.Nginx七层负载均衡

06.Nginx七层负载均衡

1.Nginx负载均衡基本概述

1.1 什么是负载均衡

1.2 为什么需要负载均衡

1.3 负载均衡与代理区别

2.Nginx负载均衡应用场景

2.1 四层负载均衡

2.2 七层负载均衡

2.3 四层与七层区别

3.Nginx负载均衡配置场景

3.1 负载均衡场景环境规划

3.2 后端Web节点配置实例

3.3.前端接入Nginx负载均衡

3.4.浏览器访问测试负载效果

4.Nginx负载均衡调度算法

4.1 轮询调度算法

4.2 加权轮询调度算法

4.3 ip_hash调度算法

4.4 一致性hash调度算法

4.5 url_hash调度算法

4.6 least_conn调度算法

5.Nginx负载均衡后端状态

5.1 max_conns限制连接数

5.2 down标识关闭状态

5.3 backup标识备份状态

5.4 max_fails与fail_timeout

5.5 keepalive提升吞吐量

1.Nginx负载均衡基本概述

1.1 什么是负载均衡

负载均衡 Load Balance ，指的是将用户访问请求所产生的流量，进行平衡，分摊到多个应用节点处理。

负载均衡扩展了应用的服务能力，增强了应用的可用性。

SLB;

CLB;

ULB;

1.2 为什么需要负载均衡

当我们的 Web 服务器直接面向用户，往往要承载大量并发请求，单台服务器难以负荷，我使用多台 WEB 服务器组成集群，前端使用 Nginx 负载均衡，将请求分散的打到我们的后端服务器集群中，实现负载的流量分发。从而提升整体性能、以及系统的容灾能力。

1.3 负载均衡与代理区别

Nginx 负载均衡与 Nginx 反向代理不同地方在于：

Nginx 代理仅代理一台服务器基于URI来调度，调度到不同功能的应用节点处理。

Nginx 负载均衡则是将客户端请求通过 proxy_pass 代理至一组 upstream 资源池。

2.Nginx负载均衡应用场景

2.1 四层负载均衡

四层负载均衡指的是 OSI 七层模型中的传输层，四层仅需要对客户端的请求进行TCP/IP 协议的包代理就可以实现负载均衡。IP+Port

四层负载均衡的性能极好、因为只需要底层进行转发处理，而不需要进行一些复杂的逻辑。

2.2 七层负载均衡

七层负载均衡工作在应用层，它可以完成很多应用方面的协议请求，比如我们说的 http 应用负载均衡，它可以实现 http 头信息的改写、安全应用规则控制、URI匹配规则控制、及 rewrite 等功能，所以在应用层里面可以做的内容就更多了。

2.3 四层与七层区别

四层负载均衡：传输层

优点：性能高，数据包在底层就进行了转发

缺点：仅支持ip:prot 转发，无法完成复杂的业务逻辑应用。

MySQL TCP 3306， Redis、SSH、等；

七层负载均衡：应用层

优点：贴近业务，支持 URI 路径匹配、Header 改

写、Rewrite 等

缺点：性能低，数据包需要拆解到顶层才进行调度，消耗随机端口；

3.Nginx负载均衡配置场景

Nginx 实现负载均衡需要两个模块：

proxy_pass 代理模块 proxy_modules

upstream 虚拟资源池模块

proxy_upstream_module

Syntax: upstream name { … }

Default: -

Context: http

#upstream例

upstream backend {

server backend1.example.com weight=5;

server backend2.example.com:8080; server unix:/tmp/backend3; server backup1.example.com:8080

backup;

}

server {

location / {

proxy_pass http://backend;

}

}

3.1 负载均衡场景环境规划

负载均衡场景架构图规划

负载均衡场景地址规划

角色 外网IP(NAT) 内网IP(LAN) 主机名

LB01 eth0:10.0.0.5 eth1:172.16.1.5 lb01

web01 eth0:10.0.0.7 eth1:172.16.1.7 web01

web02 eth0:10.0.0.8 eth1:172.16.1.8 web02

3.2 后端Web节点配置实例

1.Web01 服务器上配置为应用服务节点, 创建对应 html 文件

[root@web01 ~]# cd

/etc/nginx/conf.d/web.oldxu.com.conf

server {

listen 80;

server_name web.oldxu.com; root /web;

location / {

index index.html;

}

}

[root@web01 conf.d]# mkdir /web [root@web01 conf.d]# echo “Web01…” > /node/index.html

[root@web01 conf.d]# systemctl restart nginx

2.Web02 服务器上配置为应用服务节点, 创建对应 html 文件

[root@web02 ~]# cat /etc/nginx/conf.d/web.oldxu.com.conf server {

listen 80;

server_name web.oldxu.com; root /web;

location / {

index index.html;

}

}

[root@web02 conf.d]# mkdir /web [root@web02 conf.d]# echo “Web02…” > /node/index.html

[root@web02 conf.d]# systemctl restart nginx

3.3.前端接入Nginx负载均衡

1.将 lb01 配置为负载均衡，将所有请求代理至虚拟资源池

[root@lb01 ~]# cat

/etc/nginx/conf.d/proxy_web.oldxu.com.conf

upstream web {

server 172.16.1.7:80;

server 172.16.1.8:80;

}

server {

listen 80;

server_name web.oldxu.com;

location / {

proxy_pass http://web;

include proxy_params;

}

}

[root@lb01 conf.d]# systemctl restart nginx

2.准备 Nginx 负载均衡需要使用的 proxy_params 文件

[root@Nginx ~]# vim /etc/nginx/proxy_params

proxy_set_header Host $http_host;

proxy_set_header X-Real-IP $remote_addr;

proxy_set_header X-Forwarded-For

$proxy_add_x_forwarded_for;

proxy_connect_timeout 30; proxy_send_timeout 60; proxy_read_timeout 60;

proxy_buffering on;

proxy_buffer_size 64k;

proxy_buffers 4 64k;

3.4.浏览器访问测试负载效果

使用浏览器访问 web.oldxu.com ，然后进行刷新测试。

4.Nginx负载均衡调度算法

调度算法 概述

轮询 按时间顺序逐一分配到不同的后端服务
器(默认)

weight 加权轮询,weight值越大,分配到的访问
几率越高

ip_hash 每个请求按访问IP的hash结果分配,这样
来自同一IP的固定访问一个后端服务器

url_hash 根据请求uri进行调度到指定节点

least_conn 将请求传递到活动连接数最少的服务
器。

4.1 轮询调度算法

轮询调度算法的原理是将每一次用户的请求，轮流分配给内部中的服务器。

轮询算法的优点是其简洁性，它无需记录当前所有连接的状态，所以它是一种无状态调度。

upstream load_pass { server 172.16.1.7:80; server 172.16.1.8:80;

}

server {

listen 80;

server_name web.oldxu.com;

location / {

proxy_pass http://load_pass; include proxy_params;

}

4.2 加权轮询调度算法

轮询调度算法没有考虑每台服务器的处理能力，在实际情况中，由于每台服务器的配置、安装的业务应用等不同，其处理能力会不一样。所以，我们根据服务器的不同处理能力，给每个服务器分配不同的权值，使其能够接受相应权值数的服务请求。

upstream load_pass {

server 172.16.1.7:80 weight=5; server 172.16.1.8:80 weight=1;

}

server {

listen 80;

server_name web.oldxu.com;

location / {

proxy_pass http://load_pass; include proxy_params;

}

4.3 ip_hash调度算法

ip_hash 是基于用户请求的IP ，对该 IP 进行 hash 运算，根据 hash 运算的值，将请求分配到后端特定的一台节点进行处理。ip_hash 算法实现公式：hash(ip) %

node_counts = index

如何配置 ip_hash 调度算法

upstream load_pass {

ip_hash;

server 172.16.1.7:80;

server 172.16.1.8:80;

}

server {

listen 80;

server_name web.oldxu.com;

location / {

proxy_pass http://load_pass; include proxy_params;

}

ip_hash 调度算法会带来两个问题

1.如果有大量来自于同一IP的请求会造成某个后端节点流量过大，而其他节点无流量

2.如果临时下线一台节点，会出现重新计算 hash 值，官方建议将下线节点标记为 down 状态，以保留客户端IP 地址的当前哈希值。（如下图所示：）

如果有大量的用户调度到某一节点，而该节点刚好故障，则该算法会重新计算结果，从而造成大量的用户被转移其他节点处理，而需要重新建立会话。

4.4 一致性hash调度算法

为了规避上述hash 情况，一致性hash 算法就诞生，一致性Hash 算法也是使用取模的方法，但不是对服务器节点数量进行取模，而是对2的32方取模。即，一致性 Hash 算法将整个Hash 空间组织成一个虚拟的圆环， Hash 函数值的空间为0 ~ 2^32 - 1 ，整个哈希环如下：

一致性Hash文档

一致性Hash参考地址

Hash算法原理

Hash算法增加节点

Hash算法减少节点

Hash算法数据倾斜问题

4.5 url_hash调度算法

根据用户请求的 URL 进行 hash 取模，根据 hash 运算的值，将请求分配到后端特定的一台节点进行处理。 URL 算法使用场景如下：client–>nginx–>url_hash–

cache1–>app

1.用户请求nginx 负载均衡器，通过 url 调度算法，

将请求调度至Cache1

2.由于 Cache1 节点没有对应的缓存数据，则会请求

后端获取，然后返回数据，并将数据缓存起来；

3.当其他用户再次请求此前相同的 URL 时，此时调度

器依然会调度至 Cache1 节点处理；

5.由于 Cache1 节点已存在该URL 资源缓存，所以直接将缓存数据进行返回；能大幅提升网站的响应；

1.配置后端节点

web1节点

[root@web01 ~]# echo “web1 Url1” >

/code/node/url1.html

[root@web01 ~]# echo “web1 Url2” >

/code/node/url2.html

web2节点

[root@web02 ~]# echo “web2 Url1” >

/code/node/url1.html

[root@web02 ~]# echo “web2 Url2” >

/code/node/url2.html

2.负载均衡配置 url_hash 调度算法

upstream load_pass {

#请求同一个url，会始终定向到同一个服务器节点，consistent表示使用一致性hash算法

hash $request_uri consistent; server 172.16.1.7:80; server 172.16.1.8:80;

}

server { listen 80;

server_name web.oldxu.com;

location / {

proxy_pass http://load_pass; include proxy_params;

}

3.Client 测试，会发现请求相同的URL ，始终会被定向至某特定后端节点。

[root@client ~]# curl -HHost:web.oldxu.com http://10.0.0.5/url1.html

web2 Url1

[root@client ~]# curl -HHost:web.oldxu.com http://10.0.0.5/url1.html

web2 Url1

[root@client ~]# curl -HHost:web.oldxu.com http://10.0.0.5/url1.html

web2 Url1

4.6 least_conn调度算法

least_conn调度算法实现原理，哪台节点连接数少，则将请求调度至哪台节点。

假设：A节点有1000个连接 、b节点有500连接，如果此时新的连接进入会分发给b节点

upstream load_pass {

least_conn;

server 172.16.1.7:80;

server 172.16.1.8:80;

}

server {

listen 80;

server_name web.oldxu.com;

location / {

proxy_pass http://load_pass; include proxy_params;

}

5.Nginx负载均衡后端状态

后端 Web 节点在前端 Nginx 负载均衡调度中的状态

状态 概述

down 当前的server暂时不参与负载均衡

backup 预留的备份服务器

max_fails 允许请求失败的次数

fail_timeout 经过max_fails失败后, 服务暂停时间

max_conns 限制最大的接收连接数

5.1 max_conns限制连接数

max_conns 用来限制每个后端节点能够接收的最大TCP连接数，如果超过此连接则会抛出错误。

[root@lb01 ~]# cat proxy_web.oldxu.com.conf upstream load_pass {

server 172.16.1.7:80 max_conns=2; server 172.16.1.8:80 max_conns=2;

}

server {

listen 80;

server_name web.oldxu.com;

location / {

proxy_pass http://load_pass; include proxy_params;

}

通过 jmter 压力测试发现，当后端节点处理的连接数非常多的时候，当大于4个连接，其余的连接则会抛出异常，也就是每次仅能满足4个连接。jmter-max_conns测试用例

5.2 down标识关闭状态

down 将服务器标记为不可用状态。

[root@lb01 ~]# cat proxy_web.oldxu.com.conf upstream load_pass {
server 172.16.1.7:80 down; #一般用于停机

维护

server 172.16.1.8:80;

}

server {

listen 80;

server_name web.oldxu.com;

location / {

proxy_pass http://load_pass; include proxy_params;

}

5.3 backup标识备份状态

backup 将服务器标记为备份服务器。当主服务器不可用时，将请求传递至备份服务器处理。

[root@lb01 ~]# cat proxy_web.oldxu.com.conf upstream load_pass {

server 172.16.1.7:80 backup; server 172.16.1.8:80; server 172.16.1.9:80;

}

server {

listen 80;

server_name web.oldxu.com;

location / {

proxy_pass http://load_pass; include proxy_params;

}

5.4 max_fails与fail_timeout

max_fails=2 服务器通信失败尝试2次，任然失败，认为服务器不可用；

fail_timeout=5s 服务器通信失败后，每5s探测一次节

点是否恢复可用；

在 fail_timeout 设定的时间内，与服务器连接失败达到 max_fails 则认为服务器不可用；

[root@lb01 ~]# cat proxy_web.oldxu.com.conf upstream load_pass {

server 172.16.1.7:80 max_fails=2 fail_timeout=5s;

server 172.16.1.8:80 max_fails=2

fail_timeout=5s;

}

server {

listen 80;

server_name web.oldxu.com;

location / {

proxy_pass http://load_pass; include proxy_params;

}

5.5 keepalive提升吞吐量

keepalive 主要是与后端服务器激活缓存，也就是长连接，主要用来提升网站吞吐量。

默认情况下：没有与后端服务启用长连接功能，当有请求时，需要建立连接、维护连接、关闭连接，所以会存在网络消耗，但如果将所有的连接都缓存了，当连接空闲了又会占用其系统资源，所以可以使用 keepalive 参数来激活缓存，同时还可以使用 keepalive 参数来限制最大的空闲连接数；

upstream http_backend { server 127.0.0.1:8080; keepalive 16;

}

server {

…

location /http/ {

proxy_pass http://http_backend;

proxy_http_version 1.1;

proxy_set_header Connection “”;

…

}

}

没有启用 keepalive 参数前，对集群进行压力测试

配置 Nginx 负载均衡启用 keepalive 参数：

[root@lb01 ~]# cat proxy_web.oldxu.com.conf upstream web {

server 172.16.1.7:80;

server 172.16.1.8:80;

keepalive 16; #最大的空闲

连接数

keepalive_timeout 100s; #空闲连接的

超时时间

}

server {

listen 80;

server_name web.oldxu.com;

location / {

proxy_pass http://web;

proxy_http_version 1.1;

proxy_set_header Connection “”;

}

}

对启用 keepalive 参数后的集群进行压力测试，发现整体性能提升了一倍。jmter-keepalive测试用例

给小李三分薄面
关注
专栏目录
简单了解Nginx七层负载均衡的几种调度算法
09-29
Nginx的七层负载均衡主要是基于HTTP应用层的负载分发，它可以根据不同的调度算法将客户端请求转发到不同的后端服务器，以确保服务的稳定性和效率。以下将详细介绍Nginx七层负载均衡的几种常见调度算法及其应用场景。...
【运维知识进阶篇】集群架构-Nginx七层负载均衡详解
最新发布
吾日三省吾身，想出类拔萃，要把知识学牢，学全，学深，学广。
05-19 2841
我们将负载均衡称为SLB（Server Load Balance），Nginx就是SLB的一种，负载均衡的叫法有很多，还可以叫负载、Load Balance、LB，公有云中叫SLB（阿里云负载均衡）、QLB（青云负载均衡）、CLB（腾讯云负载均衡）、ULB（ucloud负载均衡），常见的负载均衡软件有Nginx、Haproxy、LVS，Nginx是七层负载，可以造伪四层，Haproxy是七层负载、LVS是四层负载。
Nginx反向代理负载均衡
wumuzibabi的博客
07-21 1089
Nginx反向代理+负载均衡
upstream指令参数 max_fails、fail_timeout、backup、max_conns、down
weixin_46556352的博客
05-12 5089
upstream指令参数 max_fails、fail_timeout、backup、max_conns、down
网络学习系列之（一）四、七层负载均衡
sheep8521的博客
03-27 2080
一、网络二到七层负载均衡 1、网络七层协议（二到七层含义） 所谓四层即运输层，就是基于 IP + 端口的负载均衡； 七层即应用层，就是基于 URL 等应用层信息的负载均衡； 同理，还有基于 MAC 地址的二层负载均衡和基于 IP 地址的三层负载均衡。 换句换说， 二层负载均衡会通过一个虚拟 MAC 地址接收请求，然后再分配到真实的 MAC 地址； 三层负载均衡会通过一个虚拟 IP 地址接收请求，然...
Nginx七层负载均衡详解
Yosigo_的博客
05-11 4293
Nginx负载均衡基本概述 Nginx负载均衡在生产环境中的其他名称: 负载 负载均衡 调度 load balance LB 公有云的其他名称: SLB 阿里云负载均衡 QLB 青云负载均衡 CLB 腾讯负载均衡 ULB ucloud负载均衡 为什么需要使用负载均衡 当我们的Web服务器直接面向用户，往往要承载大量并发请求，单台服务器难以负荷，我使用多台Web服务器组成集群，前端使用Nginx负载均衡，将请求分散的打到我们后端服务器集群中，实现负载的分发。那么会大大提升系统
四层和七层负载均衡的区别详细介绍
10-01
四层和七层负载均衡是两种不同的网络流量分配策略，它们在技术原理、应用场景和考虑因素上有显著区别。 首先，从技术原理上讲，四层负载均衡主要基于网络层（TCP/IP模型的第四层）的协议信息，如IP地址和端口号来...
Location之正则匹配-Nginx入门到实践应用层负载均衡
10-23
本篇文章将深入探讨`Location`指令的正则匹配功能，以及如何利用Nginx进行应用层负载均衡，从而实现高效、灵活的Web服务管理。 首先，我们要理解`Location`指令的基本用法。`Location`可以配合精确匹配、前缀匹配和...
Nginx 代理配置
Able
05-02 353
其他配置语法---缓冲区 配置语法： Syntax: proxy_bufferingon|off; Default:proxy_bufferiongon; Context : http,server,location 作用：尽有可能的将把一个请求的信息收集完，返回给客户端。这是存在内存中的，如果内存使用完则是存在硬盘的临时目录里。 扩展：pro...
proxy_params（nginx反代优化配置）.txt
12-11
如果配置反代不成功，或者SSL反代报错出现跨域问题，请尝试是有本文档的优化配置。 centos7+nginx1.16测试http、https反代均无报错
使用Supervisor和NGINX部署
不吃茄子啦的博客
05-15 858
sudo apt-get -y update && sudo apt-get install -y python-setuptools sudo apt-get install supervisor sudo mkdir /etc/supervisor echo_supervisord_conf > /etc/supervisor/supervisord.conf # 上面文件中添加下面内容 [include] files=conf.d/*.conf # 若上面语句错误，则需切换到r
【2022】Nginx使用ngx_http_upstream_module实现负载均衡功能
皮皮的博客
08-01 957
使用ngx_http_upstream_module实现负载均衡，本文介绍了什么是负载均衡，Nginx负载均衡实现、算法、状态等内容。
nginx配置示例
08-24 1125
# mvtp_web config # upstream mysite {     server 192.168.1.9:8080; } server {     listen 8080;     proxy_redirect off;     include /etc/nginx/proxy_params;     listen   443; ## listen for i
9.nginx代理
JCWang的博客
08-11 586
正向代理作用在客户端，当我们科学上网的时候会用到vpn，VPN是在我们客户端上配置的，不是在服务端配置的，客户端访问外网地址时，先访问VPN地址，VPN再将请求发到服务端，服务端的响应再按照原路返回给客户端。反向代理是作用在服务端的，反向代理会将用户的请求转发到后端的服务器集群当中的某一台服务器，该服务器处理完请求后，响应会按原路返回给客户端。访问域名www.test.com的时候，走的是代理192.168.51.164，返回的内容是服务器192.168.51.163上的内容。响应Header 存储到。..
Nginx proxy代理网站常用优化配置
更多内容查看博客描述。
12-04 521
#proxy代理网站常用优化配置如下，将配置写入新文件，调用时使用include引用即可 #[root@Nginx ~]# vim /etc/nginx/proxy_params proxy_set_header Host $http_host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For...
nginx代理（十一）
董坤的博客
02-06 1721
Nginx负载均衡负载负载均衡调度LB公有云SLB 阿里云负载均衡QLB 青云负载均衡CLB 腾讯负载均衡ULB ucloud的负载均衡Nginx的反向代理中给一个location只能代理一台网站通常调度节点和服务节点都在一个地域里面用户公网访问负载均衡，负载均衡通过内网请求web，这样速度会非常快常用的架构模型：四层模型与七层模型的区别：四层负载均衡：只到四层时把数据包转发出去了。封装好了分给负载均衡，直接拆到第四层，然后就把后面三层抛出去了，交给后面的服务器。
linux基础—nginx
解启超
06-18 2298
想必我们大多数人都是通过访问网站而开始接触互联网的吧。我们平时访问的网站服务 就是 Web 网络服务，一般是指允许用户通过浏览器访问到互联网中各种资源的服务。 Web 网络服务是一种被动访问的服务程序，即只有接收到互联网中其他主机发出的 请求后才会响应，最终用于提供服务程序的 Web 服务器会通过 HTTP(超文本传输协议)或 HTTPS(安全超文本传输协议)把请求的内容传送给用户。 目前能够提供...
Nginx七层负载均衡详解：对比NetScaler
“本文介绍了硬件负载均衡器如NetScaler与开源软件Nginx在七层负载均衡方面的对比，并重点阐述了Nginx作为软件负载均衡器的优势和应用场景。” 负载均衡是现代网络服务中的关键技术，它通过分散网络流量，确保系统...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值