反向代理软件之HAproxy之调度算法

HAProxy调度算法

HAProxy通过固定参数 balance 指明对后端服务器的调度算法，该参数可以配置在listen或backend选
项中。
HAProxy的调度算法分为静态和动态调度算法，但是有些算法可以根据参数在静态和动态算法中相互转换。

官方文档：http://cbonte.github.io/haproxy-dconv/2.4/configuration.html#4-balance

静态算法

静态算法：按照事先定义好的规则轮询进行调度，不关心后端服务器的当前负载、连接数和响应速度
等，且无法实时动态修改权重(只能为0和1,不支持其它值)或者修改后不生效，如果需要修改只能靠重启HAProxy生效。

socat 工具

对服务器动态权重和其它状态可以利用 socat工具进行调整，Socat 是 Linux 下的一个多功能的网络工具，名字来由是Socket CAT，相当于netCAT的增强版.Socat的主要特点就是在两个数据流之间建立双向通道，且支持众多协议和链接方式。如 IP、TCP、UDP、IPv6、Socket文件等

范例：利用工具socat 对服务器动态权重调整

[root@centos7 ~]# yum -y install socat
#查看帮助
[root@centos7 ~]# socat -h
[root@centos7 ~]# echo "help" | socat stdio /var/lib/haproxy/haproxy.sock

# 查看所有的组
[root@centos7 ~]# echo "show backend" | socat stdio /var/lib/haproxy/haproxy.sock

范例：

[root@centos7 ~]# echo "get weight web_port/172.31.0.17" | socat stdio /var/lib/haproxy/haproxy.sock

1 (initial 1)
#修改weight，注意只针对单进程有效 (weight后面的一定要有)
[root@centos7 ~]#echo "set weight web_server/172.31.0.37 2" | socat stdio /var/lib/haproxy/haproxy.sock

[root@centos7 ~]#echo "get weight web_server/172.31.0.37" | socat stdio /var/lib/haproxy/haproxy.sock
2 (initial 3)

#将后端服务器禁用，注意只针对单进程有效
[root@centos7 ~]# echo "disable server web_server/172.31.0.37" | socat stdio /var/lib/haproxy/haproxy.sock

#启用后端服务器
[root@centos7 ~]# echo "enable server web_server/172.31.0.37" | socat stdio /var/lib/haproxy/haproxy.sock

#将后端服务器软下线，即weight设为0
[root@centos7 ~]# echo "set weight web_server/172.31.0.17 0" | socat stdio /var/lib/haproxy/haproxy.sock

#针对haproxy的多进程,将后端服务器禁用
[root@centos7 ~]# vim /etc/haproxy/haproxy.cfg
......
stats socket /var/lib/haproxy/haproxy1.sock mode 600 level admin process 1 #绑定第
1个进程和socket文件
stats socket /var/lib/haproxy/haproxy2.sock mode 600 level admin process 2 #绑定第
2个进程和socket文件
nbproc 2

[root@centos7 ~]# echo "disable server web_server/172.31.0.37" | socat stdio /var/lib/haproxy/haproxy1.sock
[root@centos7 ~]#echo "disable server web_server/172.31.0.37" | socat stdio /var/lib/haproxy/haproxy2.sock
[root@haproxy ~]# for i in {1..2};do echo "set weight web_server/web$i 10" | socat stdio /var/lib/haproxy/haproxy$i.sock;done

#如果静态算法，如:static-rr，可以更改weight为0或1，但不支持动态更改weight为其它值，否则会提示下面信息
[root@centos7 ~]# echo "set weight web_server/172.31.0.17 0" | socat stdio /var/lib/haproxy/haproxy.sock

[root@centos7 ~]# echo "set weight web_server/172.31.0.17 1" | socat stdio /var/lib/haproxy/haproxy.sock
[root@centos7 ~]# echo "set weight web_server/172.31.0.17 2" | socat stdio /var/lib/haproxy/haproxy.sock
Backend is using a static LB algorithm and only accepts weights '0%' and '100%'.

范例: 上线和下线后端服务器脚本

[root@centos7 ~]# cat haproxy_host_up_down.sh
. /etc/init.d/functions
case $1 in
up)
    echo "set weight web_server/$2 1" | socat stdio /var/lib/haproxy/haproxy.sock
    [ $? -eq 0 ] && action "$2 is up"
    ;;
down)
    echo "set weight web_server/$2 0" | socat stdio /var/lib/haproxy/haproxy.sock
    [ $? -eq 0 ] && action "$2 is down"
    ;;
*)
    echo "Usage: `basename $0` up|down IP"
    ;;
esac

# 执行
[root@centos7 ~]# bash haproxy_host_up_down.sh up 172.31.0.17

static-rr

static-rr：基于权重的轮询调度，不支持运行时利用socat进行权重的动态调整(只支持0和1,不支持其它值)及后端服务器慢启动，其后端主机数量没有限制，相当于LVS中的 wrr

listen web_host
    bind 172.31.0.7:80,:8801-8810,172.31.0.7:9001-9010
    mode http
    log global
    balance static-rr
    server 172.31.0.17 172.31.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server 172.31.0.27 172.31.0.27:80 weight 2 check inter 3000 fall 2 rise 5

first

first：根据服务器在列表中的位置，自上而下进行调度，但是其只会当第一台服务器的连接数达到上
限，新请求才会分配给下一台服务，因此会忽略服务器的权重设置，此方式使用较少不支持用socat进行动态修改权重,可以设置0和1,可以设置其它值但无效

listen web_host
    bind 172.31.0.7:80,:8801-8810,172.31.0.7:9001-9010
    mode http
    log global
    balance first
    server 172.31.0.17 172.31.0.17:80 maxconn 2 weight 1 check inter 3000 fall 2 rise 5
    server 172.31.0.27 172.31.0.27:80 weight 1 check inter 3000 fall 2 rise 5

测试

#同时运行下面命令，观察结果
[root@centos7 ~]# while true;do curl http://172.31.0.7/index.html ; sleep 0.1;done

动态算法

动态算法：基于后端服务器状态进行调度适当调整，新请求将优先调度至当前负载较低的服务器，且权重可以在haproxy运行时动态调整无需重启。

roundrobin

roundrobin：基于权重的轮询动态调度算法，支持权重的运行时调整，不同于lvs中的rr轮训模式，HAProxy中的roundrobin支持慢启动(新加的服务器会逐渐增加转发数)，其每个后端backend中最多支持4095个real server，支持对real server权重动态调整，roundrobin为默认调度算法,此算法使用广泛

listen web_host
    bind 172.31.0.7:80,:8801-8810,172.31.0.7:9001-9010
    mode http
    log global
    balance roundrobin
    server 172.31.0.17 172.31.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server 172.31.0.27 172.31.0.27:80 weight 2 check inter 3000 fall 2 rise 5

支持动态调整权重：

[root@centos7 ~]# echo "get weight web_host/web1" | socat stdio /var/lib/haproxy/haproxy.sock
1 (initial 1)
[root@centos7 ~]# echo "set weight web_host/web1 3" | socat stdio /var/lib/haproxy/haproxy.sock
[root@centos7 ~]# echo "get weight web_host/web1" | socat stdio /var/lib/haproxy/haproxy.sock
3 (initial 1)

leastconn

leastconn 加权的最少连接的动态，支持权重的运行时调整和慢启动，即:根据当前连接最少的后端服务器而非权重进行优先调度(新客户端连接)，比较适合长连接的场景使用，比如：MySQL等场景。

listen web_host
    bind 172.31.0.7:80,:8801-8810,172.31.0.7:9001-9010
    mode http
    log global
    balance leastconn
    server 172.31.0.17 172.31.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server 172.31.0.27 172.31.0.27:80 weight 1 check inter 3000 fall 2 rise 5

random

在1.9版本开始增加 random的负载平衡算法，其基于随机数作为一致性hash的key，随机负载平衡对于大型服务器场或经常添加或删除服务器非常有用，支持weight的动态调整，weight较大的主机有更大概率获取新请求

random配置实例

listen web_host
    bind 172.31.0.7:80,:8801-8810,172.31.0.7:9001-9010
    mode http
    log global
    balance random
    server 172.31.0.17 172.31.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server 172.31.0.27 172.31.0.27:80 weight 1 check inter 3000 fall 2 rise 5

其他算法

其它算法即可作为静态算法，又可以通过选项成为动态算法

source

源地址hash，基于用户源地址hash并将请求转发到后端服务器，后续同一个源地址请求将被转发至同一
个后端web服务器。此方式当后端服务器数据量发生变化时，会导致很多用户的请求转发至新的后端服
务器，默认为静态方式，但是可以通过hash-type选项进行更改
这个算法一般是在不插入Cookie的TCP模式下使用，也可给不支持会话cookie的客户提供最好的会话粘
性，适用于session会话保持但不支持cookie和缓存的场景
源地址有两种转发客户端请求到后端服务器的服务器选取计算方式，分别是取模法和一致性hash

map-base 取模法

map-based：取模法，对source地址进行hash计算，再基于服务器总权重的取模，最终结果决定将此
请求转发至对应的后端服务器。此方法是静态的，即不支持在线调整权重，不支持慢启动，可实现对后
端服务器均衡调度。缺点是当服务器的总权重发生变化时，即有服务器上线或下线，都会因总权重发生
变化而导致调度结果整体改变，hash-type 指定的默认值为此算法

所谓取模运算，就是计算两个数相除之后的余数，10%7=3, 7%4=3
map-based算法：基于权重取模，hash(source_ip)%所有后端服务器相加的总权重

取模法配置示例：

listen web_host
    bind 172.31.0.7:80,:8801-8810,172.31.0.7:9001-9010
    mode tcp
    log global
    balance source
    hash-type map-based
    server web1 172.31.0.17:80 weight 1 check inter 3000 fall 2 rise 3
    server web2 172.31.0.27:80 weight 1 check inter 3000 fall 2 rise 3
    
#不支持动态调整权重值
[root@haproxy ~]# echo "set weight web_host/172.31.0.27 10" | socat stdio /var/lib/haproxy/haproxy.sock
Backend is using a static LB algorithm and only accepts weights '0%' and '100%'.
#只能动态上线和下线
[root@haproxy ~]# echo "set weight web_host/172.31.0.27 0" | socat stdio /var/lib/haproxy/haproxy.sock
[root@haproxy conf.d]# echo "get weight web_host/172.31.0.27" | socat stdio /var/lib/haproxy/haproxy.sock
0 (initial 1)

一致性 hash

一致性哈希，当服务器的总权重发生变化时，对调度结果影响是局部的，不会引起大的变动，
hash（o）mod n ，该hash算法是动态的，支持使用 socat等工具进行在线权重调整，支持慢启动
算法：

1、key1=hash(source_ip)%(2^32) [0---4294967295]
2、keyA=hash(后端服务器虚拟ip)%(2^32)
3、将key1和keyA都放在hash环上，将用户请求调度到离key1最近的keyA对应的后端服务器

hash环偏斜问题

增加虚拟服务器IP数量，比如：一个后端服务器根据权重为1生成1000个虚拟IP，再hash。而后端服务器权
重为2则生成2000的虚拟IP，再进行hash运算,最终在hash环上生成3000个节点，从而解决hash环偏斜问题

一致性hash配置示例

listen web_host
    bind 172.31.0.7:80,:8801-8810,172.31.0.7:9001-9010
    mode tcp
    log global
    balance source
    hash-type consistent
    server web1 172.31.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server web2 172.31.0.27:80 weight 1 check inter 3000 fall 2 rise 5

uri

基于对用户请求的URI的左半部分或整个uri做hash，再将hash结果对总权重进行取模后，根据最终结果
将请求转发到后端指定服务器，适用于后端是缓存服务器场景，默认是静态算法，也可以通过hash-type
指定map-based和consistent，来定义使用取模法还是一致性hash。
注意：此算法基于应用层，所以只支持 mode http ，不支持 mode tcp

<scheme>://<user>:<password>@<host>:<port>/<path>;<params>?<query>#<frag>
左半部分：/<path>;<params>
整个uri：/<path>;<params>?<query>#<frag>

uri 取模法配置示例

listen web_host
    bind 172.31.0.7:80,:8801-8810,172.31.0.7:9001-9010
    mode http
    log global
    balance uri
    server web1 172.31.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server web2 17231.0.27:80 weight 1 check inter 3000 fall 2 rise 5

uri 一致性hash配置示例

listen web_host
    bind 172.31.0.7:80,:8801-8810,172.31.0.7:9001-9010
    mode http
    log global
    balance uri
    hash-type consistent
    server web1 172.31.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server web2 172.31.0.27:80 weight 1 check inter 3000 fall 2 rise 5

url_param

url_param对用户请求的url中的 params 部分中的一个参数key对应的value值作hash计算，并由服务器
总权重相除以后派发至某挑出的服务器；通常用于追踪用户，以确保来自同一个用户的请求始终发往同
一个real server，如果无没key，将按roundrobin算法

#假设：
url = http://www.longxuan.vip/foo/bar/index.php?key=value
#则：
host = "www.longxuan.vip"
url_param = "key=value"

url_param取模法配置示例

listen web_host
    bind 172.31.0.7:80,:8801-8810,172.31.0.7:9001-9010
    mode http
    log global
    balance url_param userid #url_param hash
    server web1 172.31.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server web2 172.31.0.27:80 weight 1 check inter 3000 fall 2 rise 5

url_param一致性hash配置示例

listen web_host
    bind 172.31.0.7:80,:8801-8810,172.31.0.7:9001-9010
    mode http
    log global
    balance url_param userid #对url_param的值取hash
    hash-type consistent
    server web1 172.31.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server web2 172.31.0.27:80 weight 1 check inter 3000 fall 2 rise 5

测试访问

[root@centos6 ~]# curl http://172.31.0.7/index.html?userid=<NAME_ID>
[root@centos6 ~]# curl "http://172.31.0.7/index.html?userid=<NAME_ID>&typeid=<TYPE_ID>"

hdr

针对用户每个http头部(header)请求中的指定信息做hash，此处由 name 指定的http首部将会被取出并
做hash计算，然后由服务器总权重取模以后派发至某挑出的服务器，如果无有效值，则会使用默认的轮询调度。
hdr取模法配置示例

listen web_host
    bind 172.31.0.7:80,:8801-8810,172.31.0.7:9001-9010
    mode http
    log global
    balance hdr(User-Agent)
    #balance hdr(host)
    server web1 172.31.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server web2 172.31.0.27:80 weight 1 check inter 3000 fall 2 rise 5

一致性hash配置示例

listen web_host
    bind 172.31.0.7:80,:8801-8810,172.31.0.7:9001-9010
    mode http
    log global
    balance hdr(User-Agent)
    hash-type consistent
    server web1 172.31.0.17:80 weight 1 check inter 3000 fall 2 rise 5
    server web2 172.31.0.27:80 weight 1 check inter 3000 fall 2 rise 5

测试访问

[root@centos6 ~]# curl -v http://172.31.0.7/index.html
[root@centos6 ~]# curl -vA 'firefox' http://172.31.0.7/index.html
[root@centos6 ~]# curl -vA 'chrome' http://172.31.0.7/index.html

rdp-cookie

rdp-cookie对远windows远程桌面的负载，使用cookie保持会话，默认是静态，也可以通过hash-type
指定map-based和consistent，来定义使用取模法还是一致性hash。
rdp-cookie 取模法配置示例

listen RDP
    bind 172.31.0.7:3389
    balance rdp-cookie
    mode tcp
    server rdp0 172.31.0.17:3389 check fall 3 rise 5 inter 2000 weight 1

rdp-cookie 一致性hash配置示例

[root@haproxy ~]# cat /etc/haproxy/conf.d/windows_rdp.cfg
listen longxuan_RDP_3389
    mode tcp
    bind 10.18.0.100:3389
    balance rdp-cookie
    hash-type consistent
    server rdp0 172.31.0.200:3389 check fall 3 rise 5 inter 2000 weight 1
    
[root@haproxy ~]# hostname -I
172.31.0.7 10.18.0.100

基于iptables实现RDP协议转发

必须开启ip转发功能： net.ipv4.ip_forward = 1

[root@centos8 ~]# sysctl -w net.ipv4.ip_forward=1
#客户端和Windows在不同网段需要下面命令,注意后端服务器需要将iptables主机配置为网关
[root@centos8 ~]# iptables -t nat -A PREROUTING -d 10.18.0.100 -p tcp --dport 3389 -j DNAT --to-destination 172.31.0.200:3389

#客户端和Windows在同一网段需要再执行下面命令
[root@centos8 ~]# iptables -t nat -A PREROUTING -d 172.31.0.8 -p tcp --dport 3389 -j DNAT --to-destination 172.31.0.200:3389

[root@centos8 ~]# iptables -t nat -A POSTROUTING -s 172.31.0.0/16 -j SNAT --tosource 172.31.0.8

算法总结

#静态
static-rr--------->tcp/http
first------------->tcp/http

#动态
roundrobin-------->tcp/http
leastconn--------->tcp/http
random------------>tcp/http

#以下静态和动态取决于hash_type是否consistent
source------------>tcp/http
Uri--------------->http
url_param--------->http
hdr--------------->http
rdp-cookie-------->tcp

各种算法使用场景

first #使用较少
static-rr #做了session共享的 web 集群
roundrobin
random
leastconn #数据库
source #基于客户端公网 IP 的会话保持
Uri--------------->http #缓存服务器，CDN服务商，蓝汛、百度、阿里云、腾讯
url_param--------->http #可以实现session保持
hdr #基于客户端请求报文头部做下一步处理
rdp-cookie #基于Windows主机,很少使用