负载均衡设备硬件设备常见:F5
upstream 负载均衡模块
一、负载均衡算法
算法
upstream 支持4种负载均衡调度算法
轮询(默认)
每个请求按时间顺序逐一分配到不同的后端服务器;
ip_hash
每个请求按访问IP的hash结果分配,同一个IP客户端固定访问一个后端服务器。可以保证来自同一ip的请求被打到固定的机器上,可以解决session(会话)问题。
url_hash
按访问url的hash结果来分配请求,使每个url定向到同一个后端服务器。
fair
这是比上面两个更加智能的负载均衡算法。此种算法可以依据页面大小和加载时间长短智能地进行负载均衡,也就是根据后端服务器的响应时间来分配请求,响应时间短的优先分配。Nginx本身是不支持 fair的,如果需要使用这种调度算法,必须下载Nginx的 upstream_fair模块。
二、upstream配置
这个配置是写一组被代理的服务器地址,然后配置负载均衡的算法.
1. 轮询
nginx默认就是轮询其权重都默认为1,服务器处理请求的顺序:ABABABABAB
upstream myweb { #myweb只是一个定义的名字,但是必须和location中指定的 名字一致
server 10.3.134.2:80; #/服务端口
server 10.3.134.3:80;
}
server {
....
location / {
proxy_pass http://myweb; #upstream myweb 定义的服务器列表
}
2. 热备
热备:如果你有2台服务器,当一台服务器发生事故时,才启用第二台服务器给提供服务。服务器处理请求的顺序:AAAAAA突然A挂啦,BBBBBBBBBBBBBB
upstream myweb {
server 10.3.134.2:80;
server 10.3.134.3:80 backup; #热备
}
server {
....
location / {
proxy_pass http://myweb;
}
3. 加权轮询
加权轮询:跟据配置的权重的大小而分发给不同服务器不同数量的请求。如果不设置,则默认为1。下面服务器的请求顺序为:ABBABBABBABBABB....
upstream myweb {
server 10.3.134.2:8080 weight=1;
server 10.3.134.3:8080 weight=2; 权重高的先被访问}
server {
....
location / {
proxy_pass http://myweb;
}
4. ip_hash
ip_hash:nginx会让相同的客户端ip请求相同的服务器。
upstream myweb {
server 10.3.134.2:8080;
server 10.3.134.3:8080;
ip_hash;
}
server {
....
location / {
proxy_pass http://myweb;
}
5. 参数
nginx负载均衡配置状态参数
down
表示当前的server暂时不参与负载均衡。
backup
预留的备份机器。当其他所有的非backup机器出现故障或者忙的时候,才会请求backup机器,因此这台机器的压力最轻。
max_fails
允许请求失败的次数,默认为1。当超过最大次数时,返回proxy_next_upstream 模块定义的错误。
fail_timeout
在经历了max_fails次失败后,暂停服务的时间单位秒。max_fails可以和fail_timeout一起使用。
upstream myweb {
server 10.3.134.2:8080 weight=2 max_fails=2 fail_timeout=2;
server 10.3.134.3:8080 weight=1 max_fails=2 fail_timeout=1;
}
三、nginx配置7层协议
举例讲解下什么是7层协议,什么是4层协议。
(1)7层协议
OSI(Open System Interconnection)是一个开放性的通行系统互连参考模型,他是一个定义的非常好的协议规范,共包含七层协议。直接上图,这样更直观些:
1561624521541.png
准备三台机器:
代理服务器IP:10.3.134.2
后端服务器IP:
nginx-a:10.3.134.98
nginx-b:10.3.134.3
配置代理服务器的nginx配置文件:
worker_processes 4;
worker_rlimit_nofile 102400;
events {
worker_connections 1024;
}
http {
include mime.types;
default_type application/octet-stream;
log_format main '$remote_addr - $remote_user [$time_local] "$request" '
'$status $body_bytes_sent "$http_referer" '
'"$http_user_agent" "$http_x_forwarded_for"';
#access_log logs/access.log main;
sendfile on;
keepalive_timeout 65;
gzip on;
upstream testweb {
server 10.3.134.98:80;
server 10.3.134.3:80;
}
server {
listen 80;
server_name www.test.com;
charset utf-8;
#access_log logs/host.access.log main;
location / {
proxy_pass http://testweb;
proxy_set_header Host $host:$server_port;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
}
error_page 500 502 503 504 /50x.html;
location = /50x.html {
root html;
}
}
}
nginx-a
server {
listen 80;
server_name localhost;
location / {
root /duan/html; #路径自定义
index index.html index.htm;
}
nginx-b
server {
listen 80;
server_name localhost;
location / {
root /duan/html; #路径自定义
index index.html index.htm;
}
测试访问10.3.134.2
4层协议方法(扩展)
(2)4层协议
TCP/IP协议
之所以说TCP/IP是一个协议族,是因为TCP/IP协议包括TCP、IP、UDP、ICMP、RIP、TELNETFTP、SMTP、ARP、TFTP等许多协议,这些协议一起称为TCP/IP协议。
从协议分层模型方面来讲,TCP/IP由四个层次组成:网络接口层、网络层、传输层、应用层。
1561624556568.png
nginx在1.9.0的时候,增加了一个 stream 模块,用来实现四层协议(网络层和传输层)的转发、代理、负载均衡等。stream模块的用法跟http的用法类似,允许我们配置一组TCP或者UDP等协议的监听.
负载均衡机器配置
user nginx;
worker_processes 1;
events {
worker_connections 1024;
stream {
upstream myweb {
hash $remote_addr consistent; #ip hash
server 10.3.134.98:80; #服务端口,服务端口改变,配置文件也要改变
server 10.3.134.3:80;
}
server {
listen 82; #监听82端口,访问时要加端口号
proxy_connect_timeout 10s;
proxy_timeout 30s;
proxy_pass myweb;
}
}
所有七层协议有关的配置文件都会报错
nginx 会话保持
nginx会话保持主要有以下几种实现方式。
1、ip_hash
ip_hash使用源地址哈希算法,将同一客户端的请求总是发往同一个后端服务器,除非该服务器不可用。
ip_hash语法:
upstream backend {
ip_hash;
server backend1.example.com;
server backend2.example.com;
server backend3.example.com down;
}
ip_hash简单易用,但有如下问题:
当后端服务器宕机后,session会丢失;
来自同一局域网的客户端会被转发到同一个后端服务器,可能导致负载失衡;
2、sticky_cookie_insert
使用sticky_cookie_insert,这会让来自同一客户端的请求被传递到一组服务器的同一台服务器。与ip_hash不同之处在于,它不是基于IP来判断客户端的,而是基于cookie来判断。(需要引入第三方模块才能实现)
sticky模块
语法:
upstream backend {
server backend1.example.com;
server backend2.example.com;
sticky_cookie_insert srv_id expires=1h domain=3evip.cn path=/;
}
说明:
expires:设置浏览器中保持cookie的时间
domain:定义cookie的域
path:为cookie定义路径
使用后端服务器自身通过相关机制保持session同步,如:使用数据库、redis、memcached 等做session复制