haproxy的调度算法

haproxy的调度算法

简介

HAProxy通过固定参数balance指明对后端服务器的调度算法，该参数可以配置在listen或backend选项中。

HAProxy的调度算法分为静态和动态调度算法，但是有些算法可以根据参数在静态和动态算法中相互转换。

https://cbonte.github.io/haproxy-dconv/2.0/configuration.html#4 #官方文档

1）静态调度算法：

• 静态算法：按照事先定义好的规则轮询公平调度，不关心后端服务器的当前负载、链接数和响应速度等，且无法实时修改权重，只能靠重启HAProxy生效。

2）动态调度算法：

• 基于后端服务器 状态进行调度适当调整，比如优先调度至当前负载较低的服务器，且权重可以在haproxy运行时动态调整无需重启。

静态算法☞static-rr

• static-rr：基于权重的轮询调度，不支持权重的运行时调整及后端服务器慢启动，其后端主机数量没有限制。
• 配置：balance static-rr

静态算法☞first

• first：根据服务器在列表中的位置，自上而下进行调度，但是其只会当第一台服务器的连接数达到上限，新请求才会分配给下一台服务，因此会忽略服务器的权重设置。
• 配置：balance first

动态算法☞roundrobin

• roundrobin：基于权重的轮询动态调度算法，支持权重的运行时调整，不完全等于lvs中的rr轮训模式，HAProxy中的roundrobin支持慢启动(新加的服务器会逐渐增加转发数)，其每个后端backend中最多支持4095个realserver，roundrobin为默认调度算法，且支持对real server权重动态调整。
• 配置：balance roundrobin

动态算法☞leastconn

• leastconn加权的最少连接的动态，支持权重的运行时调整和慢启动，即当前后端服务器连接最少的优先调度(新客户端连接)，leastconn比较适合长连接的场景使用，比如MySQL等场景。
• balance leastconn

其他算法☞source

• 源地址hash，基于用户源地址hash并将请求转发到后端服务器，默认为静态即取模方式，但是可以通过hash-type支持的选项更改，后续同一个源地址请求将被转发至同一个后端web服务器，比较适用于session保持/缓存业务等场景。
• 源地址有两种转发客户端请求到后端服务器的服务器选取计算方式，分别是取模法和一致性hash
• 配置：
  balance source (默认是取模法)
  hash-type consistent hash类型：一致性hash

取模法：

   map-based：取模法，基于服务器总权重的hash数组取模，该hash是静态的即不支持在线调整权重，不支持慢启动，其对后端服务器调度均衡，缺点是当服务器的总权重发生变化时，即有服务器上线或下线，都会因权重发生变化而导致调度结果整体改变。

   所谓取模运算，就是计算两个数相除之后的余数，10%7=3, 7%4=3，(2^32-1)%(1+1+2)。

2）取模法示意图：

一致性hash：

   一致性哈希，该hash是动态的，支持在线调整权重，支持慢启动，优点在于当服务器的总权重发生变化时，对调度结果影响是局部的，不会引起大的变动，hash（o）mod n。

   hash对象：

   一致性hash示意图：

• 后端服务器在线与离线的调度方式
  

其他算法☞uri

• 基于对用户请求的uri做hash并将请求转发到后端指定服务器，也可以通过map-based和consistent定义使用取模法还是一致性hash。
• 配置：
  balance uri
  hash-type consistent （uri 一致性hash）

其他算法☞url_param

• url_param对用户请求的url中的 params 部分中的参数name作hash计算，并由服务器总权重相除以后派发至某挑出的服务器；通常用于追踪用户，以确保来自同一个用户的请求始终发往同一个real server
• 配置：balance url_param name,age #支持对单个及多个url_param值hash（注：一般取一个url_param 值hash，或者一般不使用）

其他算法☞hdr

• 针对用户每个http头部(header)请求中的指定信息做hash，此处由 name 指定的http首部将会被取出并做hash计算，然后由服务器总权重相除以后派发至某挑出的服务器，假如无有效的值，则会使用默认的轮询调度。
• 配置：
  balance hdr(User-Agent)
  hash-type consistent

其他算法☞rdp-cookie

• rdp-cookie对远程桌面的负载，使用cookie保持会话
• 配置：balance rdp-cookie

基于iptables实现：

• 注意：有去有回，iptables命令有两条

net.ipv4.ip_forward = 1


# iptables -t nat -A PREROUTING -d 192.168.7.101 -p tcp --dport 3389 -j DNAT --todestination 172.18.139.20:3389
# iptables -t nat -A POSTROUTING -s 192.168.0.0/21 -j SNAT --to-source 192.168.7.101   

其他算法☞random

• 在1.9版本开始增加一个叫做random的负载平衡算法，其基于一个随机数作为一致性hash的key，随机负载平衡对于大型服务器场或经常添加或删除服务器非常有用，因为它可以避免在这种情况下由roundrobin或leastconn导致的锤击效应。
• 配置：balance random

算法总结

first                       #使用较少


static-rr                   #做了session共享的web集群
roundrobin
random


leastconn                   #数据库
source                      #基于客户端公网IP的会话保持


Uri--------------->http     #缓存服务器，CDN服务商
url_param--------->http 


hdr                         #基于客户端请求报文头部做下一步处理


rdp-cookie                  #很少使用

• rdp-cookie 用于当未做session共享时，实现会话保持时使用rdp-cookie比源地址hash更好。但是一般情况下都会做session共享~~