最近在做RDP协议代理的时候被测试提了一个Bug,Bug说的是当通信中的服务器网线被拔了以后,代理程序不能检测到对端已经不可用,不能正常退出。我的第一反应是调用send的时候为什么没有返回-1呢?接下来的测试让我重新认识了send。
正常通信的情况下,send函数发送成功会返回发送数据的字节数。当有错误发生时,send返回-1,全局变量errno被设置。很多情况下,send返回-1是由于连接被对端关闭(对端发送了RST或者FIN包),这种情况errno会被设置为ECONNRESET(Connection reset by peer)。
可是在对端的网线被拔、网卡被卸载或者禁用的时候,对端没有机会向本地操作系统发送TCP RST或者FIN包来关闭连接。这时候操作系统不会认为对端已经挂了。所以在调用send函数的时候,返回的仍然是我们指定发送的数据字节数。当我们无法通过send的返回值来判断对端是否存活的情况下,就要使用TCP Keep-alive机制了。
在《Unix网络编程(卷一)》中提到,使用SO_KEEPALIVE套接字选项启用对套接字的保活(Keep-alive)机制。
给一个TCP套接口设置保持存活(keepalive)选项后,如果在2小时内在此套接口的任一方向都没有数据交换,TCP就自动给对方发一个保持存活探测分节(keepalive probe)。
TCP提供了这种机制帮我们判断对端是否存活,如果对端没有对KeepAlive包进行正常的响应,则会导致下一次对套接字的send或者recv出错。应用程序就可以检测到这个异常。
设置KeepAlive机制的选项如下代码所示:
01
02
03
04
05
06
07
08
09
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
|
int
keep_alive = 1;
int
keep_idle = 5, keep_interval = 1, keep_count = 3;
int
ret = 0;
if
(-1 == (ret = setsockopt(fd, SOL_SOCKET, SO_KEEPALIVE, &keep_alive,
sizeof
(keep_alive)))) {
fprintf
(stderr,
"[%s %d] set socket to keep alive error: %s"
, __FILE__,
__LINE__, ERRSTR);
}
if
(-1 == (ret = setsockopt(fd, IPPROTO_TCP, TCP_KEEPIDLE, &keep_idle,
sizeof
(keep_idle)))) {
fprintf
(stderr,
"[%s %d] set socket keep alive idle error: %s"
, __FILE__,
__LINE__, ERRSTR);
}
if
(-1 == (ret = setsockopt(fd, IPPROTO_TCP, TCP_KEEPINTVL, &keep_interval,
sizeof
(keep_interval)))) {
fprintf
(stderr,
"[%s %d] set socket keep alive interval error: %s"
, __FILE__,
__LINE__, ERRSTR);
}
if
(-1 == (ret = setsockopt(fd, IPPROTO_TCP, TCP_KEEPCNT, &keep_count,
sizeof
(keep_count)))) {
fprintf
(stderr,
"[%s %d] set socket keep alive count error: %s"
, __FILE__,
__LINE__, ERRSTR);
}
|
- 设置SO_KEEPALIVE选项,将这个选项设置为1,代表打开KeepAlive机制。
- 设置TCP_KEEPIDLE选项,值为5秒,代表如果TCP连接上有五秒钟没有任何数据包传输,则启动保活机制,发送TCP Keep-alive机制。默认为2小时。
- 设置TCP_KEEPINTVL选项,值为1秒,代表如果启动保活机制,则每隔1秒发送一个Keep-alive包。默认为75秒。
- 设置TCP_KEEPCNT选项,值为3,代表如果对端对3次Keep-alive数据包都没有正常响应,则判断对端已经崩溃。默认为9。
在设置了这些选项后,可以看到当对端断网5秒后,本地程序发送三个Keep-alive包后发送RST包断开连接,如下图:
这样断网的判断问题就解决了。:-)
——————-2013年11月8日——————-
在实验的过程中发现,如果发送方发送的数据包没有收到接收方回复的ACK数据包,则TCP Keep-alive机制就不会被启动,而TCP会启动超时重传机制,这样就使得TCP Keep-alive机制在未收到ACK包时失效。在查阅这个问题时找到了stackoverflow上面的资料:http://stackoverflow.com/questions/5907527/application-control-of-tcp-retransmission-on-linux
根据排名第一的回答表示,Linux Kernel 2.6.37中增加了一个叫做TCP_USER_TIMEOUT的socket选项。答案大意是,TCP_USER_TIMEOUT选项是TCP层的socket选项,选项接受unsigned int类型的值。值为数据包被发送后未接收到ACK确认的最大时长,以毫秒为单位,例如设置为10000时,代表如果发送出去的数据包在十秒内未收到ACK确认,则下一次调用send或者recv,则函数会返回-1,errno设置为ETIMEOUT,代表connection timeout。
实现的代码应该如下:
1
2
3
4
|
unsigned
int
timeout = 10000;
if
(-1 == setsockopt(fd, IPPROTO_TCP, TCP_USER_TIMEOUT, &timeout,
sizeof
(timeout))) {
fprintf
(stderror,
"set TCP_USER_TIMEOUT option error: %s"
,
strerror
(
errno
));
}
|
如上所述,使用TCP Keep-alive加上TCP_USER_TIMEOUT机制,就可以完美解决通信对端异常断网、掉电的情况下,连接被长期挂起的问题了。