Linux下并发网络设计之I/O复用

I/O 流：

　　首先我们来定义流的概念，一个流可以是文件，socket，pipe等等可以进行I/O操作的内核对象。

　　不管是文件，还是套接字，还是管道，我们都可以把他们看作流。

　　之后我们来讨论I/O的操作，通过read，我们可以从流中读入数据；通过write，我们可以往流写入数据。

　　现在假定一个情形，我们需要从流中读数据， 但是流中还没有数据，（典型的例子为，客户端要从socket读如数据，但是服务器还没有把数据传回来），这时候该怎么办？

 

　　阻塞：

　　　　阻塞是个什么概念呢？比如某个时候你在等快递，但是你不知道快递什么时候过来，而且你没有别的事可以干（或者说接下来的事要等快递来了才能做）；那么你可以去睡觉了，因为你知道快递把货送来时一定会给你打个电话（假定一定能叫醒你）。

　　非阻塞忙轮询：

　　　　接着上面等快递的例子，如果用忙轮询的方法，那么你需要知道快递员的手机号，然后每分钟给他挂个电话：“你到了没？”

     　　很明显一般人不会用第二种做法，不仅显很无脑，浪费话费不说，还占用了快递员大量的时间。

    　　 大部分程序也不会用第二种做法，因为第一种方法经济而简单，经济是指消耗很少的CPU时间，如果线程睡眠了，就掉出了系统的调度队列，暂时不会去瓜分CPU宝贵的时间片了。

    为了了解阻塞是如何进行的，我们来讨论缓冲区，以及内核缓冲区，最终把I/O事件解释清楚。缓冲区的引入是为了减少频繁I/O操作而引起频繁的系统调用 （你知道它很慢的），当你操作一个流时，更多的是以缓冲区为单位进行操作，这是相对于用户空间而言。对于内核来说，也需要缓冲区。

 

假设有一个管道，进程A为管道的写入方，Ｂ为管道的读出方。

 

假设一开始内核缓冲区是空的，B作为读出方，被阻塞着。然后首先A往管道写入，这时候内核缓冲区由空的状态变到非空状态，内核就会产生一个事件告诉Ｂ该醒来了，这个事件姑且称之为“缓冲区非空”。

    但是“缓冲区非空”事件通知B后，B却还没有读出数据；且内核许诺了不能把写入管道中的数据丢掉这个时候，Ａ写入的数据会滞留在内核缓冲区中，如果内核也 缓冲区满了，B仍未开始读数据，最终内核缓冲区会被填满，这个时候会产生一个I/O事件，告诉进程A，你该等等（阻塞）了，我们把这个事件定义为“缓冲区 满”。

 

假设后来Ｂ终于开始读数据了，于是内核的缓冲区空了出来，这时候内核会告诉A，内核缓冲区有空位了，你可以从长眠中醒来了，继续写数据了，我们把这个事件叫做“缓冲区非满”

    也许事件Y1已经通知了A，但是A也没有数据写入了，而Ｂ继续读出数据，知道内核缓冲区空了。这个时候内核就告诉B，你需要阻塞了！，我们把这个时间定为“缓冲区空”。

 

这 四个情形涵盖了四个I/O事件，缓冲区满，缓冲区空，缓冲区非空，缓冲区非满（注都是说的内核缓冲区，且这四个术语都是我生造的，仅为解释其原理而造）。 这四个I/O事件是进行阻塞同步的根本。（如果不能理解“同步”是什么概念，请学习操作系统的锁，信号量，条件变量等任务同步方面的相关知识）。

 

    然后我们来说说阻塞I/O的缺点。但是阻塞I/O模式下，一个线程只能处理一个流的I/O事件。如果想要同时处理多个流，要么多进程(fork)，要么多线程(pthread_create)，很不幸这两种方法效率都不高。

    于是再来考虑非阻塞忙轮询的I/O方式，我们发现我们可以同时处理多个流了（把一个流从阻塞模式切换到非阻塞模式再此不予讨论）：

while true {

for i in stream[]; {

if i has data

read until unavailable

}

}

    我们只要不停的把所有流从头到尾问一遍，又从头开始。这样就可以处理多个流了，但这样的做法显然不好，因为如果所有的流都没有数据，那么只会白白浪费 CPU。这里要补充一点，阻塞模式下，内核对于I/O事件的处理是阻塞或者唤醒，而非阻塞模式下则把I/O事件交给其他对象（后文介绍的select以及 epoll）处理甚至直接忽略。

 

    为了避免CPU空转，可以引进了一个代理（一开始有一位叫做select的代理，后来又有一位叫做poll的代理，不过两者的本质是一样的）。这个代理比 较厉害，可以同时观察许多流的I/O事件，在空闲的时候，会把当前线程阻塞掉，当有一个或多个流有I/O事件时，就从阻塞态中醒来，于是我们的程序就会轮 询一遍所有的流（于是我们可以把“忙”字去掉了）。代码长这样:

while true {

select(streams[])

for i in streams[] {

if i has data

read until unavailable

}

}

    于是，如果没有I/O事件产生，我们的程序就会阻塞在select处。但是依然有个问题，我们从select那里仅仅知道了，有I/O事件发生了，但却并 不知道是那几个流（可能有一个，多个，甚至全部），我们只能无差别轮询所有流，找出能读出数据，或者写入数据的流，对他们进行操作。

    但是使用select，我们有O(n)的无差别轮询复杂度，同时处理的流越多，没一次无差别轮询时间就越长。

再次说了这么多，终于能好好解释epoll了

    epoll可以理解为event poll，不同于忙轮询和无差别轮询，epoll之会把哪个流发生了怎样的I/O事件通知我们。此时我们对这些流的操作都是有意义的。（复杂度降低到了O(1)）

    在讨论epoll的实现细节之前，先把epoll的相关操作列出：

 

epoll_create 创建一个epoll对象，一般epollfd = epoll_create()

 

epoll_ctl （epoll_add/epoll_del的合体），往epoll对象中增加/删除某一个流的某一个事件

比如

epoll_ctl(epollfd, EPOLL_CTL_ADD, socket, EPOLLIN);//注册缓冲区非空事件，即有数据流入

epoll_ctl(epollfd, EPOLL_CTL_DEL, socket, EPOLLOUT);//注册缓冲区非满事件，即流可以被写入

epoll_wait(epollfd,...)等待直到注册的事件发生

（注：当对一个非阻塞流的读写发生缓冲区满或缓冲区空，write/read会返回-1，并设置errno=EAGAIN。而epoll只关心缓冲区非满和缓冲区非空事件）。

 

一个epoll模式的代码大概的样子是：

while true {

active_stream[] = epoll_wait(epollfd)

for i in active_stream[] {

read or write till

}

}

 

　　/*epoll+线程池 服务器端例程*/
  1 #include  <unistd.h>
#include  <sys/types.h>       /* basic system data types */
#include  <sys/socket.h>      /* basic socket definitions */
#include  <netinet/in.h>      /* sockaddr_in{} and other Internet defns */
#include  <arpa/inet.h>       /* inet(3) functions */
#include  <sys/epoll.h>       /* epoll function */
#include  <fcntl.h>           /* nonblocking */
#include  <sys/resource.h>    /*setrlimit */

#include  <pthread.h>
#include  <assert.h>

#include  <stdlib.h>
#include  <errno.h>
#include  <stdio.h>
#include  <string.h>

#define MAXEPOLLSIZE 10000
#define MAXLINE 10240

typedef struct msgdata{
        char name[10];
        int connfd;
        char buffer[BUFSIZ];
        char target[10];  
        struct msgdata *next;
}Msg;

typedef struct worker{
//回调函数，任务运行时会调用此函数，也可以声明为其他形式
//该函数参数是任意类型的， 参数也是任意类型的;
void * (*process)(void *arg);
void *arg;    
struct worker *next;
}CThread_worker;

//线程池结构
typedef struct{
pthread_mutex_t queue_lock;  //互斥量
pthread_cond_t  queue_ready; //条件变量
    
//链表结构，  线程池中所有等待任务
CThread_worker *queue_head; 

//是否销毁线程池
int  shutdown; 
pthread_t *threadid;
        
//线程池中允许的活动线程数目
int max_thread_num;
//当前等待队列的任务数目
int  cur_queue_size;
}CThread_pool;

int pool_add_worker(void * (*process)(void *arg), void *arg);
void * thread_routine(void *arg);
void * myprocess(void *arg);

//全局静态的结构体指针
static CThread_pool *pool = NULL;

void pool_init(int max_thread_num)
{    
    int i;
    pool = (CThread_pool*)malloc(sizeof(CThread_pool));
    //初始化互斥量
    pthread_mutex_init(&(pool->queue_lock), NULL);
    //初始化条件变量
    pthread_cond_init(&(pool->queue_ready), NULL);
            
    pool->queue_head = NULL;

    //最大线程数目
    pool->max_thread_num = max_thread_num;
    //当前线程数目
    pool->cur_queue_size = 0;
            
    pool->shutdown = 0;
    pool->threadid = (pthread_t*)malloc(max_thread_num * sizeof(pthread_t));
        
    for(i=0; i<max_thread_num; i++)
    {
        pthread_create(&(pool->threadid[i]), NULL, thread_routine, NULL);
    }    
}

int pool_add_worker(void * (*process)(void *arg), void *arg)
{
    //构建一个新任务
    CThread_worker *newworker = (CThread_worker *)malloc(sizeof(CThread_worker));
    newworker->process = process;
    newworker->arg = arg;
    newworker->next = NULL;
            
    //加锁互斥量
    pthread_mutex_lock(&(pool->queue_lock));
    //将任务加入到等待队列中
    CThread_worker *member = pool->queue_head;
    if(member != NULL)
    {
        while(member->next != NULL)
            member = member->next;
            member->next = newworker;
    }
    else  //此时 线程池中是空。
    {
        pool->queue_head = newworker;
    }

    //此时，线程池中有任务
    assert(pool->queue_head != NULL);
    pool->cur_queue_size++;
    pthread_mutex_unlock(&(pool->queue_lock));

    //等待队列中有任务了，唤醒一个等待线程；
    //如果此时所有线程都在忙碌，这句话没有任何作用，
    //因为没有线程等待，怎么唤醒呢；
    //pthread_cond_signal用于通知阻塞的线程某个特定的条件为真了
    pthread_cond_signal(&(pool->queue_ready));
        return 0;
    }

    int pool_destroy()
    {
        if(pool->shutdown)
            return -1;   //防止调用两次
        pool->shutdown = 1;
            
        //唤醒所有等待线程，线程池要销毁了
        pthread_cond_broadcast(&(pool->queue_ready));
            
        //阻塞等待线程退出， 否则就称僵尸了；
        int i;
        for(i=0; i<pool->max_thread_num; i++)
        {
            pthread_join(pool->threadid[i], NULL);
        }
            
        free(pool->threadid);
        //销毁等待队列
        CThread_worker *head = NULL;
        while(pool->queue_head != NULL)
        {
            head = pool->queue_head;
            pool->queue_head = pool->queue_head->next;
            free(head);
        }
        //条件变量 和 互斥量也要销毁
        pthread_mutex_destroy(&(pool->queue_lock));
        pthread_cond_destroy(&(pool->queue_ready));
        
        free(pool);
        //销毁后指针 置空是有必要的，但不是必须的
        pool = NULL;
        return 0;
    }

    //start thread 0x b7771b70 is waiting 
    //thread 0x b7771b70 is waiting 
void * thread_routine(void *arg)
{
    printf("start thread 0x %x is waiting 
", pthread_self());
    while(1)
    {
        pthread_mutex_lock(&(pool->queue_lock));
        //如果线程池中运行线程数目为0，并且不销毁线程池，则处于阻塞阻塞;
        //注意：pthread_cond_wait是一个原子操作，等待前会解锁，唤醒后会加锁
        while(pool->cur_queue_size == 0 && !pool->shutdown)
        {
            printf("thread 0x %x is waiting 
", pthread_self());
            //pthread_cond_wait用于等待某个特定的条件为真
            pthread_cond_wait(&(pool->queue_ready), &(pool->queue_lock));
        }
        //线程池 要销毁了；
        if(pool->shutdown)
        {
            //遇到break，continue，return等跳转语句，一定要先解锁
            pthread_mutex_unlock(&(pool->queue_lock));
            printf("thread 0x %x will exit
", pthread_self());
            pthread_exit(NULL);
        }
            printf("thread 0x %x is starting to work 
",pthread_self());
                
            //使用断言
            assert(pool->cur_queue_size != 0);
            assert(pool->queue_head != NULL);
            
            //等待队列长度减去1， 并取出链表中的头元素
            pool->cur_queue_size--;
            CThread_worker *worker = pool->queue_head;
            pool->queue_head = worker->next;
            pthread_mutex_unlock(&(pool->queue_lock));
        
            //调用回调函数，执行任务
            (*(worker->process))(worker->arg);
            //销毁线程函数；
            free(worker);
            worker = NULL;
            printf("hello world
");
        }
        //正常情况下，这里不能到达；
        pthread_exit(NULL);
}
    /////////////////////////////////////////////////////
int handle(int connfd);

int setnonblocking(int sockfd)
{
    if (fcntl(sockfd, F_SETFL, fcntl(sockfd, F_GETFD, 0)|O_NONBLOCK) == -1) {
        return -1;
    }
        return 0;
    }

int main(int argc, char **argv)
{
    int  servPort = 6888;
    int listenq = 1024;

    int listenfd, connfd, kdpfd, nfds, n, nread, curfds,acceptCount = 0;
    struct sockaddr_in servaddr, cliaddr;
    socklen_t socklen = sizeof(struct sockaddr_in);
    struct epoll_event ev;
    struct epoll_event events[MAXEPOLLSIZE];
    struct rlimit rt;
    char buf[MAXLINE];
    
    //初始化线程池的相关操作
    pool_init(3);  //线程池中最多3个活动的线程

    /* 设置每个进程允许打开的最大文件数 */
    rt.rlim_max = rt.rlim_cur = MAXEPOLLSIZE;
    if (setrlimit(RLIMIT_NOFILE, &rt) == -1) 
    {
        perror("setrlimit error");
        return -1;
    }

    bzero(&servaddr, sizeof(servaddr));
    servaddr.sin_family = AF_INET; 
    servaddr.sin_addr.s_addr = htonl(INADDR_ANY);
    servaddr.sin_port = htons(servPort);

    listenfd = socket(AF_INET, SOCK_STREAM, 0); 
    if (listenfd == -1) {
        perror("can't create socket file");
        return -1;
    }

    int opt = 1;
    setsockopt(listenfd, SOL_SOCKET, SO_REUSEADDR, &opt, sizeof(opt));

    if (setnonblocking(listenfd) < 0) {
        perror("setnonblock error");
    }

    if (bind(listenfd, (struct sockaddr *) &servaddr, sizeof(struct sockaddr)) == -1) 
    {
        perror("bind error");
        return -1;
    } 
    if (listen(listenfd, listenq) == -1) 
    {
        perror("listen error");
        return -1;
    }
    /* 创建 epoll 句柄，把监听 socket 加入到 epoll 集合里 */
    kdpfd = epoll_create(MAXEPOLLSIZE);
    ev.events = EPOLLIN | EPOLLET;
    ev.data.fd = listenfd;
            if (epoll_ctl(kdpfd, EPOLL_CTL_ADD, listenfd, &ev) < 0) 
            {
                fprintf(stderr, "epoll set insertion error: fd=%d
", listenfd);
                return -1;
            }
            curfds = 1;

            printf("epollserver startup,port %d, max connection is %d, backlog is %d
", servPort, MAXEPOLLSIZE, listenq);

            for (;;) {
                /* 等待有事件发生 */
                nfds = epoll_wait(kdpfd, events, curfds, -1);
                if (nfds == -1)
                {
                    perror("epoll_wait");
                    continue;
                }
                /* 处理所有事件 */
                for (n = 0; n < nfds; ++n)
                {
                    if (events[n].data.fd == listenfd) 
                    {
                        connfd = accept(listenfd, (struct sockaddr *)&cliaddr,&socklen);
                        if (connfd < 0) 
                        {
                            perror("accept error");
                            continue;
                        }

                        sprintf(buf, "accept form %s:%d
", inet_ntoa(cliaddr.sin_addr), cliaddr.sin_port);
                printf("%d:%s", ++acceptCount, buf);

                if (curfds >= MAXEPOLLSIZE) {
                    fprintf(stderr, "too many connection, more than %d
", MAXEPOLLSIZE);
                    close(connfd);
                    continue;
                } 
                if (setnonblocking(connfd) < 0) {
                    perror("setnonblocking error");
                }
                ev.events = EPOLLIN | EPOLLET;
                ev.data.fd = connfd;
                if (epoll_ctl(kdpfd, EPOLL_CTL_ADD, connfd, &ev) < 0)
                {
                    fprintf(stderr, "add socket '%d' to epoll failed: %s
", connfd, strerror(errno));
                    return -1;
                }
                curfds++;
                continue;
            } 
            // 处理客户端请求    这里进入线程池内,处理用户的操作
            else 
            {
                pool_add_worker(myprocess, &(events[n].data.fd));            
            }
        }
    }
    pool_destroy();
    close(listenfd);
    return 0;
}
/*
int handle(int connfd) {
    int nread;
    char buf[MAXLINE];
    nread = read(connfd, buf, MAXLINE);//读取客户端socket流
    if (nread == 0) {
        printf("client close the connection
");
        close(connfd);
        return -1;
    } 
    if (nread < 0) {
        perror("read error");
        close(connfd);
        return -1;
    }    
    write(connfd, buf, nread);//响应客户端  
    return 0;
}
*/
//int handle(int connfd)
void * myprocess(void *arg)
{
    //解包， 加锁把struct（用户名，connfd）放入链表，并在根据用户名在链表中
    //对应的connfd， 
    int connfd = *((int *)arg);
    int nread;
    char buf[BUFSIZ];
    nread = read(connfd, buf, MAXLINE);//读取客户端socket流
    if (nread == 0)
    {
        printf("client close the connection
");
        close(connfd);
        return NULL;
    }
    else if (nread < 0) 
    {
        perror("read error");
        close(connfd);
        return NULL;
    }
    else
    {
        
    }    

    
    write(connfd, buf, nread);//响应客户端  
    return NULL;
}

客户端例程：

#include  <unistd.h>
#include  <sys/types.h>       /* basic system data types */
#include  <sys/socket.h>      /* basic socket definitions */
#include  <netinet/in.h>      /* sockaddr_in{} and other Internet defns */
#include  <arpa/inet.h>       /* inet(3) functions */
#include <netdb.h> /*gethostbyname function */

#include <stdlib.h>
#include <errno.h>
#include <stdio.h>
#include <string.h>

#define MAXLINE 1024

void handle(int connfd);

int main(int argc, char **argv)
{
    char * servInetAddr = "127.0.0.1";
    int servPort = 6888;
    char buf[MAXLINE];
    int connfd;
    struct sockaddr_in servaddr;

    if (argc == 2) {
        servInetAddr = argv[1];
    }
    if (argc == 3) {
        servInetAddr = argv[1];
        servPort = atoi(argv[2]);
    }
    if (argc > 3) {
        printf("usage: echoclient <IPaddress> <Port>
");
        return -1;
    }

    connfd = socket(AF_INET, SOCK_STREAM, 0);

      //bzero(&servaddr, sizeof(servaddr));
    servaddr.sin_family = AF_INET;
    servaddr.sin_port = htons(servPort);
    //inet_pton(AF_INET, servInetAddr, &servaddr.sin_addr);
    servaddr.sin_addr.s_addr = inet_addr(servInetAddr);
    bzero(&(servaddr.sin_zero), 0);

    if (connect(connfd, (struct sockaddr *) &servaddr, sizeof(servaddr)) < 0) {
        perror("connect error");
        return -1;
    }
    printf("welcome to echoclient
");
    handle(connfd);     /* do it all */
    close(connfd);
    printf("exit
");
    exit(0);
}

void handle(int sockfd)
{
    char sendline[MAXLINE], recvline[MAXLINE];
    int n;
    for (;;) {
        if (fgets(sendline, MAXLINE, stdin) == NULL)
        {
            break;//read eof
        }
        /*
        //也可以不用标准库的缓冲流,直接使用系统函数无缓存操作
        if (read(STDIN_FILENO, sendline, MAXLINE) == 0) {
            break;//read eof
        }
        */

        n = write(sockfd, sendline, strlen(sendline));
        n = read(sockfd, recvline, MAXLINE);
        if (n == 0) {
            printf("echoclient: server terminated prematurely
");
            break;
        }
        write(STDOUT_FILENO, recvline, n);
        //如果用标准库的缓存流输出有时会出现问题
        //fputs(recvline, stdout);
    }
}