当网站服务器并发连接达到一定程度时,你可能需要考虑服务器系统中tcp协议设置对http服务器的影响。
tcp相关延时主要包括:
1、tcp连接时建立握手;
2、tcp慢启动拥塞控制;
3、数据聚集的Nagle算法;
4、用于捎带确认的tcp延迟确认算法;
5、TIME_WAIT时延和端口耗尽。
对上面的延时影响,相应的优化方法有:
1、http使用“持久化连接”,http 1.0中使用connection:keep-alive, http 1.1默认使用持久化连接;
2、调整或禁止延迟确认算法(HTTP协议具有双峰特征的请求-应答行为降低了捎带确认的可能);
3、设置TCP_NODELAY禁止Nagle算法,提高性能;
4、TIME_WAIT设置为一个较小的值。
根据上述分析,我们可以修改linux的tcp参数,通过vi 打开/etc/sysctl.conf,添加如下参数
net.ipv4.ip_local_port_range=1024 65000 net.ipv4.tcp_tw_reuse=1 net.ipv4.tcp_fin_timeout=15
其中,
net.ipv4.ip_local_port_range
在服务器收到很多连接时,系统的可用端口将很快被耗尽。通过修改net.ipv4.ip_local_port_range参数,可以将可用端口的范围改大.
net.ipv4.tcp_tw_reuse
当服务器需要在大量TCP连接之间切换时,会产生大量处于TIME_WAIT状态的连接。TIME_WAIT意味着连接本身是关闭的,但资源还没有释放。将net_ipv4_tcp_tw_reuse设置为1是让内核在安全时尽量回收连接,这比重新建立新连接要便宜得多。
net.ipv4.tcp_fin_timeout
这是处于TIME_WAIT状态的连接在回收前必须等待的最小时间。改小它可以加快回收。
若使用的是nginx服务器,还可以在nginx.conf中如下设置
http { sendfile on; tcp_nodelay on; keepalive_timeout 60; ... ... }
第一行的 sendfile
配置可以提高 Nginx 静态资源托管效率。sendfile 是一个系统调用,直接在内核空间完成文件发送,不需要先 read 再 write,没有上下文切换开销。
TCP_NODELAY 也是一个 socket 选项,启用后会禁用 Nagle 算法,尽快发送数据,可以节约 200ms。Nginx 只会针对处于 keep-alive 状态的 TCP 连接才会启用 tcp_nodelay。
最后一行用来指定服务端为每个 TCP 连接最多可以保持多长时间。Nginx 的默认值是 75 秒,有些浏览器最多只保持 60 秒,所以我统一设置为 60。
我们可以通过命令 ss -s查看tcp连接信息
[root@localhost ~]# ss -s Total: 31985 (kernel 0) TCP: 7032 (estab 33, closed 6991, orphaned 4, synrecv 0, timewait 2336/0), ports 0 Transport Total IP IPv6 * 0 - - RAW 0 0 0 UDP 2 2 0 TCP 41 39 2 INET 43 41 2 FRAG 0 0 0
所有的TCP/IP参数都位于/proc/sys/net目录下(请注意,对/proc/sys/net目录下内容的修改都是临时的,任何修改在系统重启后都会丢失),例如下面这些重要的参数:
参数(路径+文件) |
描述 |
默认值 |
优化值 |
/proc/sys/net/core/rmem_default |
默认的TCP数据接收窗口大小(字节)。 |
229376 |
256960 |
/proc/sys/net/core/rmem_max |
最大的TCP数据接收窗口(字节)。 |
131071 |
513920 |
/proc/sys/net/core/wmem_default |
默认的TCP数据发送窗口大小(字节)。 |
229376 |
256960 |
/proc/sys/net/core/wmem_max |
最大的TCP数据发送窗口(字节)。 |
131071 |
513920 |
/proc/sys/net/core/netdev_max_backlog |
在每个网络接口接收数据包的速率比内核处理这些包的速率快时,允许送到队列的数据包的最大数目。 |
1000 |
2000 |
/proc/sys/net/core/somaxconn |
定义了系统中每一个端口最大的监听队列的长度,这是个全局的参数。 |
128 |
2048 |
/proc/sys/net/core/optmem_max |
表示每个套接字所允许的最大缓冲区的大小。 |
20480 |
81920 |
/proc/sys/net/ipv4/tcp_mem |
确定TCP栈应该如何反映内存使用,每个值的单位都是内存页(通常是4KB)。第一个值是内存使用的下限;第二个值是内存压力模式开始对缓冲区使用应用压力的上限;第三个值是内存使用的上限。在这个层次上可以将报文丢弃,从而减少对内存的使用。对于较大的BDP可以增大这些值(注意,其单位是内存页而不是字节)。 |
94011 125351 188022 |
131072 262144 524288 |
/proc/sys/net/ipv4/tcp_rmem |
为自动调优定义socket使用的内存。第一个值是为socket接收缓冲区分配的最少字节数;第二个值是默认值(该值会被rmem_default覆盖),缓冲区在系统负载不重的情况下可以增长到这个值;第三个值是接收缓冲区空间的最大字节数(该值会被rmem_max覆盖)。 |
4096 87380 4011232 |
8760 256960 4088000 |
/proc/sys/net/ipv4/tcp_wmem |
为自动调优定义socket使用的内存。第一个值是为socket发送缓冲区分配的最少字节数;第二个值是默认值(该值会被wmem_default覆盖),缓冲区在系统负载不重的情况下可以增长到这个值;第三个值是发送缓冲区空间的最大字节数(该值会被wmem_max覆盖)。 |
4096 16384 4011232 |
8760 256960 4088000 |
/proc/sys/net/ipv4/tcp_keepalive_time |
TCP发送keepalive探测消息的间隔时间(秒),用于确认TCP连接是否有效。 |
7200 |
1800 |
/proc/sys/net/ipv4/tcp_keepalive_intvl |
探测消息未获得响应时,重发该消息的间隔时间(秒)。 |
75 |
30 |
/proc/sys/net/ipv4/tcp_keepalive_probes |
在认定TCP连接失效之前,最多发送多少个keepalive探测消息。 |
9 |
3 |
/proc/sys/net/ipv4/tcp_sack |
启用有选择的应答(1表示启用),通过有选择地应答乱序接收到的报文来提高性能,让发送者只发送丢失的报文段,(对于广域网通信来说)这个选项应该启用,但是会增加对CPU的占用。 |
1 |
1 |
/proc/sys/net/ipv4/tcp_fack |
启用转发应答,可以进行有选择应答(SACK)从而减少拥塞情况的发生,这个选项也应该启用。 |
1 |
1 |
/proc/sys/net/ipv4/tcp_timestamps |
TCP时间戳(会在TCP包头增加12个字节),以一种比重发超时更精确的方法(参考RFC 1323)来启用对RTT 的计算,为实现更好的性能应该启用这个选项。 |
1 |
1 |
/proc/sys/net/ipv4/tcp_window_scaling |
启用RFC 1323定义的window scaling,要支持超过64KB的TCP窗口,必须启用该值(1表示启用),TCP窗口最大至1GB,TCP连接双方都启用时才生效。 |
1 |
1 |
/proc/sys/net/ipv4/tcp_syncookies |
表示是否打开TCP同步标签(syncookie),内核必须打开了CONFIG_SYN_COOKIES项进行编译,同步标签可以防止一个套接字在有过多试图连接到达时引起过载。 |
1 |
1 |
/proc/sys/net/ipv4/tcp_tw_reuse |
表示是否允许将处于TIME-WAIT状态的socket(TIME-WAIT的端口)用于新的TCP连接 。 |
0 |
1 |
/proc/sys/net/ipv4/tcp_tw_recycle |
能够更快地回收TIME-WAIT套接字。 |
0 |
1 |
/proc/sys/net/ipv4/tcp_fin_timeout |
对于本端断开的socket连接,TCP保持在FIN-WAIT-2状态的时间(秒)。对方可能会断开连接或一直不结束连接或不可预料的进程死亡。 |
60 |
30 |
/proc/sys/net/ipv4/ip_local_port_range |
表示TCP/UDP协议允许使用的本地端口号 |
32768 61000 |
1024 65000 |
/proc/sys/net/ipv4/tcp_max_syn_backlog |
对于还未获得对方确认的连接请求,可保存在队列中的最大数目。如果服务器经常出现过载,可以尝试增加这个数字。 |
2048 |
2048 |
/proc/sys/net/ipv4/tcp_low_latency |
允许TCP/IP栈适应在高吞吐量情况下低延时的情况,这个选项应该禁用。 |
0 |
|
/proc/sys/net/ipv4/tcp_westwood |
启用发送者端的拥塞控制算法,它可以维护对吞吐量的评估,并试图对带宽的整体利用情况进行优化,对于WAN 通信来说应该启用这个选项。 |
0 |
|
/proc/sys/net/ipv4/tcp_bic |
为快速长距离网络启用Binary Increase Congestion,这样可以更好地利用以GB速度进行操作的链接,对于WAN通信应该启用这个选项。 |
1 |
|
--------------------------------------------------------------------------------
最后,前段时间利用手头的VPS搭建了一个google代理,访问速度还行,分享给大家:
谷歌guge不行了,就打119
谷歌:guge119.com 谷歌学术:scholar.guge119.com
微信公共号
NFVschool,关注最前沿的网络技术。