今天code review时,同事B对我代码中的poll()
的处理做法提出了异议。于是做了些研究,还发现了一些好玩的故事。
异议的代码
我的代码是参考manpage写的,类似下面的做法。同事B说没有处理POLLERR
、而且应当使用else if
。
OK。我赞同补充POLLERR
的处理,但不赞同使用else if
。原因:
- fd的读事件、写事件可能会同时到达,因此我想同时处理这两个事件;
- Linux Manpage里面的示例,就是三个if语句独立的。
ret = poll(fds, 2, timeout_msecs);
if (ret > 0) {
/* An event on one of the fds has occurred. */
for (i=0; i<2; i++) {
if (fds[i].revents & POLLIN ) {
/* Priority data may be written on device number i. */
...
}
if (fds[i].revents & POLLOUT ) {
/* Data may be written on device number i. */
...
}
}
}
诡异的经历
但是同事B举出了他偶然体验到的诡异经历:
POLLIN, POLLOUT, POLLERR
同时出现。
在这种异常下,我的代码处理逻辑就会坑爹了。
于是问题变成了,什么情况下会出现这种诡异场景、三个事件同时出现究竟是什么含义?
翻阅《UNIX环境高级编程》、《UNIX网络编程》里面对poll()的讲解,均没有提到信号是否会同时出现的问题(所以也没提到该不该用else if
的事情了)。
在Github上查找POLLERR
相关的代码,发现大多数人都是用3个if语句处理这三个事件。那真相究竟是啥?
牛人的解答
百般搜索,终于在StackOverflow.com上看到有人提到了一个相似的问题:
Sometimes epoll_wait returns with both POLLOUT & POLLERR events set for the same socket descriptor.
终于下面有大神做了解答:
Here is some good information on non-blocking tcp connect().
When a socket error is detected (i.e. connection closed/refused/timedout), epoll will return the registered interest events POLLIN/POLLOUT with POLLERR. So epoll_wait() will return POLLOUT|POLLERR if you registered POLLOUT, or POLLIN|POLLOUT|POLLERR if POLLIN|POLLOUT was registered.
Just because epoll returns POLLIN doesn't mean there will be data available to read, since recv() may just return the error from the non-blocking connect() call. I think epoll returns all the registered events with POLLERR to make sure the program calls send()/recv()/etc.. and gets the socket error. Some programs never check for POLLERR/POLLHUP and only catch socket errors on the next send()/recv() call.
翻译一下:
这儿有些很赞的关于非阻塞TCP connect()的信息。
当一个socket出现错误时(例如 连接断开/拒绝/超时),
epoll()
会返回POLLERR加上注册时的POLLIN/POLLOUT事件。所以,如果监听的是POLLOUT,那epoll_wait()
会返回POLLOUT|POLLERR;如果监听的是POLLIN,那epoll_wait()
会返回POLLIN|POLLERR。
注意
epoll()
返回POLLIN并不表示会有数据可读,因为recv()
会立刻返回前一个错误码(即非阻塞的connect()
调用)。我个人认为epoll()
返回所有的注册事件加POLLERR,是为了确保程序会调用send()/recv()
等等,进而发现socket出错了。毕竟有些代码从来不检测POLLERR/POLLHUP,只折腾send()/recv()
等函数的错误码。
呵呵,Github上翻看了这么多代码,的确是大神说的样子。
验证
所以同事B的经历是常见的场景。而且很容易就能够触发。只要在连接上闹些问题,就能达到目的了。例如下面这段代码演示了连接失败时,POLLERR/POLLIN/POLLOUT事件都同时触发了。
示例中使用了getsockopt()
来获取错误码;也可以直接使用read()/write()
也是能够获取相同的错误码。
深入探究
StackOverflow的大神只做了简要的解答。真正的原因只能自己去翻看代码了。
翻阅内核代码(我的系统版本是Linux-2.6.32.57-x86 ),可以看到在tcp_poll()
里(net/ipv4/tcp.c的389行,我的场景是TCP),对于所有sock错误都置了POLLERR
。而异常情况下,POLLIN/POLLOUT
则分别与RCV_SHUTDOWN/SEND_SHUTDOWN
有关。换个视角,和连接断开有关的代码在tcp_reset()
中(net/ipv4/tcp_input.c的3957行)的处理,里面的tcp_done()
(代码)则明确设置了sk->sk_shutdown = SHUTDOWN_MASK
——所以,对于关闭的连接,总是会有POLLIN/POLLOUT事件!
研究到此解决。真相大白。