round robin,常见的负载均衡策略;
keep alive,常见的请求链接属性;
水平扩容,常见的应对流量大问题;
但是当这三种组合在一起的时候,就会发现流量突然增高的时候,比如节假日之后,产品爆卖,流量增大,高峰期的时候。告警之后,水平扩容没法解决问题了。
原因:keep alive + round robin 会导致负载高的服务,依旧会参与调度,尤其在keep alive 的时间较长的时候,请求得不到释放,新加的机器没法得到充分利用。
解决方案:1. round robin 负载均衡策略,改为根据server 最小连接数,去做; 2. keep alive 时间设置较短。