You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.

16 KiB

12 | 连接无效使用Keep-Alive还是应用心跳来检测

你好我是盛延敏这里是网络编程实战第12讲欢迎回来。

上一篇文章中我们讲到了如何使用close和shutdown来完成连接的关闭在大多数情况下我们会优选shutdown来完成对连接一个方向的关闭待对端处理完之后再完成另外一个方向的关闭。

在很多情况下,连接的一端需要一直感知连接的状态,如果连接无效了,应用程序可能需要报错,或者重新发起连接等。

在这一篇文章中,我将带你体验一下对连接状态的检测,并提供检测连接状态的最佳实践。

从一个例子开始

让我们用一个例子开始今天的话题。

我之前做过一个基于NATS消息系统的项目多个消息的提供者 pub和订阅者sub都连到NATS消息系统通过这个系统来完成消息的投递和订阅处理。

突然有一天线上报了一个故障一个流程不能正常处理。经排查发现消息正确地投递到了NATS服务端但是消息订阅者没有收到该消息也没能做出处理导致流程没能进行下去。

通过观察消息订阅者后发现消息订阅者到NATS服务端的连接虽然显示是“正常”的但实际上这个连接已经是无效的了。为什么呢这是因为NATS服务器崩溃过NATS服务器和消息订阅者之间的连接中断FIN包由于异常情况没能够正常到达消息订阅者这样造成的结果就是消息订阅者一直维护着一个“过时的”连接不会收到NATS服务器发送来的消息。

这个故障的根本原因在于作为NATS服务器的客户端消息订阅者没有及时对连接的有效性进行检测这样就造成了问题。

保持对连接有效性的检测,是我们在实战中必须要注意的一个点。

TCP Keep-Alive选项

很多刚接触TCP编程的人会惊讶地发现在没有数据读写的“静默”的连接上是没有办法发现TCP连接是有效还是无效的。比如客户端突然崩溃服务器端可能在几天内都维护着一个无用的 TCP连接。前面提到的例子就是这样的一个场景。

那么有没有办法开启类似的“轮询”机制让TCP告诉我们连接是不是“活着”的呢

这就是TCP保持活跃机制所要解决的问题。实际上TCP有一个保持活跃的机制叫做Keep-Alive。

这个机制的原理是这样的:

定义一个时间段在这个时间段内如果没有任何连接相关的活动TCP保活机制会开始作用每隔一个时间间隔发送一个探测报文该探测报文包含的数据非常少如果连续几个探测报文都没有得到响应则认为当前的TCP连接已经死亡系统内核将错误信息通知给上层应用程序。

上述的可定义变量分别被称为保活时间、保活时间间隔和保活探测次数。在Linux系统中这些变量分别对应sysctl变量net.ipv4.tcp_keepalive_timenet.ipv4.tcp_keepalive_intvlnet.ipv4.tcp_keepalve_probes默认设置是7200秒2小时、75秒和9次探测。

如果开启了TCP保活需要考虑以下几种情况

第一种对端程序是正常工作的。当TCP保活的探测报文发送给对端, 对端会正常响应这样TCP保活时间会被重置等待下一个TCP保活时间的到来。

第二种对端程序崩溃并重启。当TCP保活的探测报文发送给对端后对端是可以响应的但由于没有该连接的有效信息会产生一个RST报文这样很快就会发现TCP连接已经被重置。

第三种是对端程序崩溃或对端由于其他原因导致报文不可达。当TCP保活的探测报文发送给对端后石沉大海没有响应连续几次达到保活探测次数后TCP会报告该TCP连接已经死亡。

TCP保活机制默认是关闭的当我们选择打开时可以分别在连接的两个方向上开启也可以单独在一个方向上开启。如果开启服务器端到客户端的检测就可以在客户端非正常断连的情况下清除在服务器端保留的“脏数据”而开启客户端到服务器端的检测就可以在服务器无响应的情况下重新发起连接。

为什么TCP不提供一个频率很好的保活机制呢我的理解是早期的网络带宽非常有限如果提供一个频率很高的保活机制对有限的带宽是一个比较严重的浪费。

应用层探活

如果使用TCP自身的keep-Alive机制在Linux系统中最少需要经过2小时11分15秒才可以发现一个“死亡”连接。这个时间是怎么计算出来的呢其实是通过2小时加上75秒乘以9的总和。实际上对很多对时延要求敏感的系统中这个时间间隔是不可接受的。

所以,必须在应用程序这一层来寻找更好的解决方案。

我们可以通过在应用程序中模拟TCP Keep-Alive机制来完成在应用层的连接探活。

我们可以设计一个PING-PONG的机制需要保活的一方比如客户端在保活时间达到后发起对连接的PING操作如果服务器端对PING操作有回应则重新设置保活时间否则对探测次数进行计数如果最终探测次数达到了保活探测次数预先设置的值之后则认为连接已经无效。

这里有两个比较关键的点:

第一个是需要使用定时器这可以通过使用I/O复用自身的机制来实现第二个是需要设计一个PING-PONG的协议。

下面我们尝试来完成这样的一个设计。

消息格式设计

我们的程序是客户端来发起保活为此定义了一个消息对象。你可以看到这个消息对象这个消息对象是一个结构体前4个字节标识了消息类型为了简单这里设计了MSG_PINGMSG_PONGMSG_TYPE 1MSG_TYPE 2四种消息类型。

typedef struct {
    u_int32_t type;
    char data[1024];
} messageObject;

#define MSG_PING          1
#define MSG_PONG          2
#define MSG_TYPE1        11
#define MSG_TYPE2        21

客户端程序设计

客户端完全模拟TCP Keep-Alive的机制在保活时间达到后探活次数增加1同时向服务器端发送PING格式的消息此后以预设的保活时间间隔不断地向服务器端发送PING格式的消息。如果能收到服务器端的应答则结束保活将保活时间置为0。

这里我们使用select I/O复用函数自带的定时器select函数将在后面详细介绍。

#include "lib/common.h"
#include "message_objecte.h"

#define    MAXLINE     4096
#define    KEEP_ALIVE_TIME  10
#define    KEEP_ALIVE_INTERVAL  3
#define    KEEP_ALIVE_PROBETIMES  3


int main(int argc, char **argv) {
    if (argc != 2) {
        error(1, 0, "usage: tcpclient <IPaddress>");
    }

    int socket_fd;
    socket_fd = socket(AF_INET, SOCK_STREAM, 0);

    struct sockaddr_in server_addr;
    bzero(&server_addr, sizeof(server_addr));
    server_addr.sin_family = AF_INET;
    server_addr.sin_port = htons(SERV_PORT);
    inet_pton(AF_INET, argv[1], &server_addr.sin_addr);

    socklen_t server_len = sizeof(server_addr);
    int connect_rt = connect(socket_fd, (struct sockaddr *) &server_addr, server_len);
    if (connect_rt < 0) {
        error(1, errno, "connect failed ");
    }

    char recv_line[MAXLINE + 1];
    int n;

    fd_set readmask;
    fd_set allreads;

    struct timeval tv;
    int heartbeats = 0;

    tv.tv_sec = KEEP_ALIVE_TIME;
    tv.tv_usec = 0;

    messageObject messageObject;

    FD_ZERO(&allreads);
    FD_SET(socket_fd, &allreads);
    for (;;) {
        readmask = allreads;
        int rc = select(socket_fd + 1, &readmask, NULL, NULL, &tv);
        if (rc < 0) {
            error(1, errno, "select failed");
        }
        if (rc == 0) {
            if (++heartbeats > KEEP_ALIVE_PROBETIMES) {
                error(1, 0, "connection dead\n");
            }
            printf("sending heartbeat #%d\n", heartbeats);
            messageObject.type = htonl(MSG_PING);
            rc = send(socket_fd, (char *) &messageObject, sizeof(messageObject), 0);
            if (rc < 0) {
                error(1, errno, "send failure");
            }
            tv.tv_sec = KEEP_ALIVE_INTERVAL;
            continue;
        }
        if (FD_ISSET(socket_fd, &readmask)) {
            n = read(socket_fd, recv_line, MAXLINE);
            if (n < 0) {
                error(1, errno, "read error");
            } else if (n == 0) {
                error(1, 0, "server terminated \n");
            }
            printf("received heartbeat, make heartbeats to 0 \n");
            heartbeats = 0;
            tv.tv_sec = KEEP_ALIVE_TIME;
        }
    }
}

这个程序主要分成三大部分:

第一部分为套接字的创建和连接建立:

  • 15-16行创建了TCP套接字
  • 18-22行创建了IPv4目标地址其实就是服务器端地址注意这里使用的是传入参数作为服务器地址
  • 24-28行向服务器端发起连接。

第二部分为select定时器准备

  • 39-40行设置了超时时间为KEEP_ALIVE_TIME这相当于保活时间
  • 44-45行初始化select函数的套接字。

最重要的为第三部分,这一部分需要处理心跳报文:

  • 48行调用select函数感知I/O事件。这里的I/O事件除了套接字上的读操作之外还有在39-40行设置的超时事件。当KEEP_ALIVE_TIME这段时间到达之后select函数会返回0于是进入53-63行的处理
  • 在53-63行客户端已经在KEEP_ALIVE_TIME这段时间内没有收到任何对当前连接的反馈于是发起PING消息尝试问服务器端“喂你还活着吗”这里我们通过传送一个类型为MSG_PING的消息对象来完成PING操作之后我们会看到服务器端程序如何响应这个PING操作
  • 第65-74行是客户端在接收到服务器端程序之后的处理。为了简单这里就没有再进行报文格式的转换和分析。在实际的工作中这里其实是需要对报文进行解析后处理的只有是PONG类型的回应我们才认为是PING探活的结果。这里认为既然收到服务器端的报文那么连接就是正常的所以会对探活计数器和探活时间都置零等待下一次探活时间的来临。

服务器端程序设计

服务器端的程序接受一个参数这个参数设置的比较大可以模拟连接没有响应的情况。服务器端程序在接收到客户端发送来的各种消息后进行处理其中如果发现是PING类型的消息在休眠一段时间后回复一个PONG消息告诉客户端“嗯我还活着。”当然如果这个休眠时间很长的话那么客户端就无法快速知道服务器端是否存活这是我们模拟连接无响应的一个手段而已实际情况下应该是系统崩溃或者网络异常。

#include "lib/common.h"
#include "message_objecte.h"

static int count;

int main(int argc, char **argv) {
    if (argc != 2) {
        error(1, 0, "usage: tcpsever <sleepingtime>");
    }

    int sleepingTime = atoi(argv[1]);

    int listenfd;
    listenfd = socket(AF_INET, SOCK_STREAM, 0);

    struct sockaddr_in server_addr;
    bzero(&server_addr, sizeof(server_addr));
    server_addr.sin_family = AF_INET;
    server_addr.sin_addr.s_addr = htonl(INADDR_ANY);
    server_addr.sin_port = htons(SERV_PORT);

    int rt1 = bind(listenfd, (struct sockaddr *) &server_addr, sizeof(server_addr));
    if (rt1 < 0) {
        error(1, errno, "bind failed ");
    }

    int rt2 = listen(listenfd, LISTENQ);
    if (rt2 < 0) {
        error(1, errno, "listen failed ");
    }

    int connfd;
    struct sockaddr_in client_addr;
    socklen_t client_len = sizeof(client_addr);

    if ((connfd = accept(listenfd, (struct sockaddr *) &client_addr, &client_len)) < 0) {
        error(1, errno, "bind failed ");
    }

    messageObject message;
    count = 0;

    for (;;) {
        int n = read(connfd, (char *) &message, sizeof(messageObject));
        if (n < 0) {
            error(1, errno, "error read");
        } else if (n == 0) {
            error(1, 0, "client closed \n");
        }

        printf("received %d bytes\n", n);
        count++;

        switch (ntohl(message.type)) {
            case MSG_TYPE1 :
                printf("process  MSG_TYPE1 \n");
                break;

            case MSG_TYPE2 :
                printf("process  MSG_TYPE2 \n");
                break;

            case MSG_PING: {
                messageObject pong_message;
                pong_message.type = MSG_PONG;
                sleep(sleepingTime);
                ssize_t rc = send(connfd, (char *) &pong_message, sizeof(pong_message), 0);
                if (rc < 0)
                    error(1, errno, "send failure");
                break;
            }

            default :
                error(1, 0, "unknown message type (%d)\n", ntohl(message.type));
        }

    }

}

服务器端程序主要分为两个部分。

第一部分为监听过程的建立包括7-38行 第13-14行先创建一个本地TCP监听套接字16-20行绑定该套接字到本地端口和ANY地址上第27-38行分别调用listen和accept完成被动套接字转换和监听。

第二部分为43行到77行从建立的连接套接字上读取数据解析报文根据消息类型进行不同的处理。

  • 55-57行为处理MSG_TYPE1的消息
  • 59-61行为处理MSG_TYPE2的消息
  • 重点是64-72行处理MSG_PING类型的消息。通过休眠来模拟响应是否及时然后调用send函数发送一个PONG报文向客户端表示“还活着”的意思
  • 74行为异常处理因为消息格式不认识所以程序出错退出。

实验

基于上面的程序设计,让我们分别做两个不同的实验:

第一次实验服务器端休眠时间为60秒。

我们看到客户端在发送了三次心跳检测报文PING报文后判断出连接无效直接退出了。之所以造成这样的结果是因为在这段时间内没有接收到来自服务器端的任何PONG报文。当然实际工作的程序可能需要不一样的处理比如重新发起连接。

$./pingclient 127.0.0.1
sending heartbeat #1
sending heartbeat #2
sending heartbeat #3
connection dead

$./pingserver 60
received 1028 bytes
received 1028 bytes

第二次实验我们让服务器端休眠时间为5秒。

我们看到,由于这一次服务器端在心跳检测过程中,及时地进行了响应,客户端一直都会认为连接是正常的。

$./pingclient 127.0.0.1
sending heartbeat #1
sending heartbeat #2
received heartbeat, make heartbeats to 0
received heartbeat, make heartbeats to 0
sending heartbeat #1
sending heartbeat #2
received heartbeat, make heartbeats to 0
received heartbeat, make heartbeats to 0

$./pingserver 5
received 1028 bytes
received 1028 bytes
received 1028 bytes
received 1028 bytes

总结

通过今天的文章我们能看到虽然TCP没有提供系统的保活能力让应用程序可以方便地感知连接的存活但是我们可以在应用程序里灵活地建立这种机制。一般来说这种机制的建立依赖于系统定时器以及恰当的应用层报文协议。比如使用心跳包就是这样一种保持Keep Alive的机制。

思考题

和往常一样,我留两道思考题:

你可以看到今天的内容主要是针对TCP的探活那么你觉得这样的方法是否同样适用于UDP呢

第二道题是有人说额外的探活报文占用了有限的带宽对此你是怎么想的呢而且为什么需要多次探活才能决定一个TCP连接是否已经死亡呢

欢迎你在评论区写下你的思考,我会和你一起交流。也欢迎把这篇文章分享给你的朋友或者同事,与他们一起讨论一下这两个问题吧。