TCP并发请求溺出
调优:系统开启某个监听端口后,当多个TCP请求连接监听端后,会把多个请求交给backlog的默认监听队列由socket server一并处理,backlog有自己的队列长度默认128,当机器处理能力较慢且并发请求值较高时就要考虑对backlog队列进行调优。
注:backlog就是socket的监听队列,当一个请求尚未被处理或建立时,他会进入backlog。
注:socket server可以一次性处理backlog中的所有请求,处理后的请求不再位于监听队列中。当server处理请求较慢,以至于监听队列被填满后,新来的请求会被拒绝。
TCP内核参数修改 调优
修改文件:/etc/sysctl.conf
生效命令:sysctl -p /etc/sysctl.conf
# 用于设置内核无法及时处理网络接口收到的数据包时允许发送到队列的最大数据包数目,默认为128。 net.core.netdev_max_backlog = 32768 # 用来限制监听(LISTEN)队列最大数据包的数量,超过这个数量就会导致链接超时或者触发重传机制 net.core.somaxconn= 32768
# 表示SYN队列的长度,默认值为1024,此处加大队列长度为65535,可以容纳更多等待连接的网络连接数。
net.ipv4.tcp_max_syn_backlog=65535
注:根据机器性能调试并发数调优。
somaxconn与tcp_max_syn_backlog区别
socket接收的所有连接都是存放在队列类型的数据结构中,关键问题是这种队列有两个,而且其长度都是可以设置的。
/proc/sys/net/ipv4/tcp_max_syn_backlog /proc/sys/net/core/somaxconn
注:tcp_max_syn_backlog是指定所能接受SYN同步包的最大客户端数量,即半连接上限。
注:somaxconn是指服务端所能accept即处理数据的最大客户端数量,即完成连接上限。
- 1、到大厅;tcp_max_syn_backlog用于指定酒席现场面积允许容纳多少人进来;
- 2、找到座位(吃东西,比如糖果、饭菜、酒等)。somaxconn用于指定有多少个座位。
tcp_max_syn_backlog>=somaxconn
答:somaxconn是内核里的参数,listen函数有个参数backlog,如果在listen方法里面指定该参数大于somaxconn的值,重新编译并启动程序,服务端所能接收的完整的连接数上限是backlog呢还是somaxconn?
答案:listen方法指定的backlog是在用户态指定的,内核态的参数优先级高于用户态的参数,所以即使在listen方法里面指定backlog是一个大于somaxconn的值,socket在内核态运行时还会检查一次somaxconn,如果连接数超过somaxconn就会等待。就相当于主人指定了能有多少座位没用,客人到了现场,准备入座时,还要看酒店的客户经理判断能有多少个座位。