You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.

13 KiB

21 | poll另一种I/O多路复用

你好我是盛延敏这是网络编程实战第21讲欢迎回来。

上一讲我们讲到了I/O多路复用技术并以select为核心展示了I/O多路复用技术的能力。select方法是多个UNIX平台支持的非常常见的I/O多路复用技术它通过描述符集合来表示检测的I/O对象通过三个不同的描述符集合来描述I/O事件 可读、可写和异常。但是select有一个缺点那就是所支持的文件描述符的个数是有限的。在Linux系统中select的默认最大值为1024。

那么有没有别的I/O多路复用技术可以突破文件描述符个数限制呢当然有这就是poll函数。这一讲我们就来学习一下另一种I/O多路复用的技术poll。

poll函数介绍

poll是除了select之外另一种普遍使用的I/O多路复用技术和select相比它和内核交互的数据结构有所变化另外也突破了文件描述符的个数限制。

下面是poll函数的原型

int poll(struct pollfd *fds, unsigned long nfds, int timeout); 
   
返回值若有就绪描述符则为其数目若超时则为0若出错则为-1

这个函数里面输入了三个参数第一个参数是一个pollfd的数组。其中pollfd的结构如下

struct pollfd {
    int    fd;       /* file descriptor */
    short  events;   /* events to look for */
    short  revents;  /* events returned */
 };

这个结构体由三个部分组成首先是描述符fd然后是描述符上待检测的事件类型events注意这里的events可以表示多个不同的事件具体的实现可以通过使用二进制掩码位操作来完成例如POLLIN和POLLOUT可以表示读和写事件。

#define    POLLIN    0x0001    /* any readable data available */
#define    POLLPRI   0x0002    /* OOB/Urgent readable data */
#define    POLLOUT   0x0004    /* file descriptor is writeable */

和select非常不同的地方在于poll每次检测之后的结果不会修改原来的传入值而是将结果保留在revents字段中这样就不需要每次检测完都得重置待检测的描述字和感兴趣的事件。我们可以把revents理解成“returned events”。

events类型的事件可以分为两大类。

第一类是可读事件,有以下几种:

#define POLLIN     0x0001    /* any readable data available */
#define POLLPRI    0x0002    /* OOB/Urgent readable data */
#define POLLRDNORM 0x0040    /* non-OOB/URG data available */
#define POLLRDBAND 0x0080    /* OOB/Urgent readable data */

一般我们在程序里面有POLLIN即可。套接字可读事件和select的readset基本一致是系统内核通知应用程序有数据可以读通过read函数执行操作不会被阻塞。

第二类是可写事件,有以下几种:

#define POLLOUT    0x0004    /* file descriptor is writeable */
#define POLLWRNORM POLLOUT   /* no write type differentiation */
#define POLLWRBAND 0x0100    /* OOB/Urgent data can be written */

一般我们在程序里面统一使用POLLOUT。套接字可写事件和select的writeset基本一致是系统内核通知套接字缓冲区已准备好通过write函数执行写操作不会被阻塞。

以上两大类的事件都可以在“returned events”得到复用。还有另一大类事件没有办法通过poll向系统内核递交检测请求只能通过“returned events”来加以检测这类事件是各种错误事件。

#define POLLERR    0x0008    /* 一些错误发送 */
#define POLLHUP    0x0010    /* 描述符挂起*/
#define POLLNVAL   0x0020    /* 请求的事件无效*/

我们再回过头看一下poll函数的原型。参数nfds描述的是数组fds的大小简单说就是向poll申请的事件检测的个数。

最后一个参数timeout描述了poll的行为。

如果是一个<0的数表示在有事件发生之前永远等待如果是0表示不阻塞进程立即返回如果是一个>0的数表示poll调用方等待指定的毫秒数后返回。

关于返回值当有错误发生时poll函数的返回值为-1如果在指定的时间到达之前没有任何事件发生则返回0否则就返回检测到的事件个数也就是“returned events”中非0的描述符个数。

poll函数有一点非常好如果我们**不想对某个pollfd结构进行事件检测**可以把它对应的pollfd结构的fd成员设置成一个负值。这样poll函数将忽略这样的events事件检测完成以后所对应的“returned events”的成员值也将设置为0。

和select函数对比一下我们发现poll函数和select不一样的地方就是在select里面文件描述符的个数已经随着fd_set的实现而固定没有办法对此进行配置而在poll函数里我们可以控制pollfd结构的数组大小这意味着我们可以突破原来select函数最大描述符的限制在这种情况下应用程序调用者需要分配pollfd数组并通知poll函数该数组的大小。

基于poll的服务器程序

下面我们将开发一个基于poll的服务器程序。这个程序可以同时处理多个客户端连接并且一旦有客户端数据接收后同步地回显回去。这已经是一个颇具高并发处理的服务器原型了再加上后面讲到的非阻塞I/O和多线程等技术基本上就是可使用的准生产级别了。

所以,让我们打起精神,一起来看这个程序。

#define INIT_SIZE 128

int main(int argc, char **argv) {
    int listen_fd, connected_fd;
    int ready_number;
    ssize_t n;
    char buf[MAXLINE];
    struct sockaddr_in client_addr;

    listen_fd = tcp_server_listen(SERV_PORT);

    //初始化pollfd数组这个数组的第一个元素是listen_fd其余的用来记录将要连接的connect_fd
    struct pollfd event_set[INIT_SIZE];
    event_set[0].fd = listen_fd;
    event_set[0].events = POLLRDNORM;

    // 用-1表示这个数组位置还没有被占用
    int i;
    for (i = 1; i < INIT_SIZE; i++) {
        event_set[i].fd = -1;
    }

    for (;;) {
        if ((ready_number = poll(event_set, INIT_SIZE, -1)) < 0) {
            error(1, errno, "poll failed ");
        }

        if (event_set[0].revents & POLLRDNORM) {
            socklen_t client_len = sizeof(client_addr);
            connected_fd = accept(listen_fd, (struct sockaddr *) &client_addr, &client_len);

            //找到一个可以记录该连接套接字的位置
            for (i = 1; i < INIT_SIZE; i++) {
                if (event_set[i].fd < 0) {
                    event_set[i].fd = connected_fd;
                    event_set[i].events = POLLRDNORM;
                    break;
                }
            }

            if (i == INIT_SIZE) {
                error(1, errno, "can not hold so many clients");
            }

            if (--ready_number <= 0)
                continue;
        }

        for (i = 1; i < INIT_SIZE; i++) {
            int socket_fd;
            if ((socket_fd = event_set[i].fd) < 0)
                continue;
            if (event_set[i].revents & (POLLRDNORM | POLLERR)) {
                if ((n = read(socket_fd, buf, MAXLINE)) > 0) {
                    if (write(socket_fd, buf, n) < 0) {
                        error(1, errno, "write error");
                    }
                } else if (n == 0 || errno == ECONNRESET) {
                    close(socket_fd);
                    event_set[i].fd = -1;
                } else {
                    error(1, errno, "read error");
                }

                if (--ready_number <= 0)
                    break;
            }
        }
    }
}

当然一开始需要创建一个监听套接字并绑定在本地的地址和端口上这在第10行调用tcp_server_listen函数来完成。

在第13行我初始化了一个pollfd数组并命名为event_set之所以叫这个名字是引用pollfd数组确实代表了检测的事件集合。这里数组的大小固定为INIT_SIZE这在实际的生产环境肯定是需要改进的。

我在前面讲过,监听套接字上如果有连接建立完成,也是可以通过 I/O事件复用来检测到的。在第14-15行将监听套接字listen_fd和对应的POLLRDNORM事件加入到event_set里表示我们期望系统内核检测监听套接字上的连接建立完成事件。

在前面介绍poll函数时我们提到过如果对应pollfd里的文件描述字fd为负数poll函数将会忽略这个pollfd所以我们在第18-21行将event_set数组里其他没有用到的fd统统设置为-1。这里-1也表示了当前pollfd没有被使用的意思。

下面我们的程序进入一个无限循环在这个循环体内第24行调用poll函数来进行事件检测。poll函数传入的参数为event_set数组数组大小INIT_SIZE和-1。这里之所以传入INIT_SIZE是因为poll函数已经能保证可以自动忽略fd为-1的pollfd否则我们每次都需要计算一下event_size里真正需要被检测的元素大小timeout设置为-1表示在I/O事件发生之前poll调用一直阻塞。

如果系统内核检测到监听套接字上的连接建立事件就进入到第28行的判断分支。我们看到使用了如event_set[0].revent来和对应的事件类型进行位与操作这个技巧大家一定要记住这是因为event都是通过二进制位来进行记录的位与操作是和对应的二进制位进行操作一个文件描述字是可以对应到多个事件类型的。

在这个分支里调用accept函数获取了连接描述字。接下来33-38行做了一件事就是把连接描述字connect_fd也加入到event_set里而且说明了我们感兴趣的事件类型为POLLRDNORM也就是套接字上有数据可以读。在这里我们从数组里查找一个没有没占用的位置也就是fd为-1的位置然后把fd设置为新的连接套接字connect_fd。

如果在数组里找不到这样一个位置说明我们的event_set已经被很多连接充满了没有办法接收更多的连接了这就是第41-42行所做的事情。

第45-46行是一个加速优化能力因为poll返回的一个整数说明了这次I/O事件描述符的个数如果处理完监听套接字之后就已经完成了这次I/O复用所要处理的事情那么我们就可以跳过后面的处理再次进入poll调用。

接下来的循环处理是查看event_set里面其他的事件也就是已连接套接字的可读事件。这是通过遍历event_set数组来完成的。

如果数组里的pollfd的fd为-1说明这个pollfd没有递交有效的检测直接跳过来到第53行通过检测revents的事件类型是POLLRDNORM或者POLLERR我们可以进行读操作。在第54行读取数据正常之后再通过write操作回显给客户端在第58行如果读到EOF或者是连接重置则关闭这个连接并且把event_set对应的pollfd重置第61行读取数据失败。

和前面的优化加速处理一样第65-66行是判断如果事件已经被完全处理完之后直接跳过对event_set的循环处理再次来到poll调用。

实验

我们启动这个服务器程序然后通过telnet连接到这个服务器程序。为了检验这个服务器程序的I/O复用能力我们可以多开几个telnet客户端并且在屏幕上输入各种字符串。

客户端1

$telnet 127.0.0.1 43211
Trying 127.0.0.1...
Connected to 127.0.0.1.
Escape character is '^]'.
a
a
aaaaaaaaaaa
aaaaaaaaaaa
afafasfa
afafasfa
fbaa
fbaa
^]


telnet> quit
Connection closed.

客户端2

telnet 127.0.0.1 43211
Trying 127.0.0.1...
Connected to 127.0.0.1.
Escape character is '^]'.
b
b
bbbbbbb
bbbbbbb
bbbbbbb
bbbbbbb
^]


telnet> quit
Connection closed.

可以看到,这两个客户端互不影响,每个客户端输入的字符很快会被回显到客户端屏幕上。一个客户端断开连接,也不会影响到其他客户端。

总结

poll是另一种在各种UNIX系统上被广泛支持的I/O多路复用技术虽然名声没有select那么响能力一点不比select差而且因为可以突破select文件描述符的个数限制在高并发的场景下尤其占优势。这一讲我们编写了一个基于poll的服务器程序希望你从中学会poll的用法。

思考题

和往常一样,给你留两道思考题:

第一道在我们的程序里event_set数组的大小固定为INIT_SIZE这在实际的生产环境肯定是需要改进的。你知道如何改进吗

第二道如果我们进行了改进那么接下来把连接描述字connect_fd也加入到event_set里如何配合进行改造呢

欢迎你在评论区写下你的思考,也欢迎把这篇文章分享给你的朋友或者同事,一起交流一下。