Linux下简易线程池

线程池简介

 　　线程池是可以用来在后台执行多个任务的线程集合。 这使主线程可以自由地异步执行其他任务。线程池通常用于服务器应用程序。 每个传入请求都将分配给线程池中的一个线程，因此可以异步处理请求，而不会占用主线程，也不会延迟后续请求的处理。一旦池中的某个线程完成任务，它将返回到等待线程队列中，等待被再次使用。 这种重用使应用程序可以避免为每个任务创建新线程的开销。线程池通常具有最大线程数限制。 如果所有线程都繁忙，则额外的任务将放入队列中，直到有线程可用时才能够得到处理。

线程池技术如何提高服务器程序的性能

　　这里所提到服务器程序是指能够接受客户请求并能处理请求的程序，而不只是指那些接受网络客户请求的网络服务器程序。

　　多线程技术主要解决处理器单元内多个线程执行的问题，它可以显著减少处理器单元的闲置时间，增加处理器单元的吞吐能力。但如果对多线程应用不当，会增加对单个任务的处理时间。可以举一个简单的例子：

　　假设在一台服务器完成一项任务的时间为T

T1 创建线程的时间
T2 在线程中执行任务的时间，包括线程间同步所需时间
T3 线程销毁的时间

　　显然T ＝ T1＋T2＋T3。注意这是一个极度简化的假设。

　　可以看出T1、T3是多线程本身的带来的开销。我们渴望减少T1、T3所用的时间，从而减少T的时间。但一些线程的使用者并没有注意到这一点，所以在程序中频繁的创建或销毁线程，这导致T1和T3在T中占有相当比例。显然这是突出了线程的弱点（T1，T3），而不是优点（并发性）。

　　线程池技术正是关注如何缩短或调整T1、T3时间的技术，从而提高服务器程序性能的。它把T1，T3分别安排在服务器程序的启动和结束的时间段或者一些空闲的时间段，这样在服务器程序处理客户请求时，不会有T1、T3的开销了。

　　线程池不仅调整T1、T3产生的时间段，而且它还显著减少了创建线程的数目。在看一个例子：

　　假设一个服务器一天要处理50000个请求，并且每个请求需要一个单独的线程完成。我们比较利用线程池技术和不利于线程池技术的服务器处理这些请求时所产生的线程总数。在线程池中，线程数一般是固定的，所以产生线程总数不会超过线程池中线程的数目或者上限（以下简称线程池尺寸），而如果服务器不利用线程池来处理这些请求则线程总数为50000。一般线程池尺寸是远小于50000。所以利用线程池的服务器程序不会为了创建50000而在处理请求时浪费时间，从而提高效率。

线程池技术要点

　　从内部实现上看，线程池技术可主要划分为如下6个要点实现，如下图：

• 工作者线程worker：即线程池中可以重复利用起来执行任务的线程，一个worker的生命周期内会不停的处理多个业务job。线程池“复用”的本质就是复用一个worker去处理多个job，“流控“的本质就是通过对worker数量的控制实现并发数的控制。通过设置不同的参数来控制worker的数量可以实现线程池的容量伸缩从而实现复杂的业务需求
• 待处理工作job的存储队列：工作者线程workers的数量是有限的，同一时间最多只能处理最多workers数量个job。对于来不及处理的job需要保存到等待队列里，空闲的工作者work会不停的读取空闲队列里的job进行处理。基于不同的队列实现，可以扩展出多种功能的线程池，如定制队列出队顺序实现带处理优先级的线程池、定制队列为阻塞有界队列实现可阻塞能力的线程池等。流控一方面通过控制worker数控制并发数和处理能力，一方面可基于队列控制线程池处理能力的上限。
• 线程池初始化：即线程池参数的设定和多个工作者workers的初始化。通常有一开始就初始化指定数量的workers或者有请求时逐步初始化工作者两种方式。前者线程池启动初期响应会比较快但造成了空载时的少量性能浪费，后者是基于请求量灵活扩容但牺牲了线程池启动初期性能达不到最优。
• 处理业务job算法：业务给线程池添加任务job时线程池的处理算法。有的线程池基于算法识别直接处理job还是增加工作者数处理job或者放入待处理队列，也有的线程池会直接将job放入待处理队列，等待工作者worker去取出执行。
• workers的增减算法：业务线程数不是持久不变的，有高低峰期。线程池要有自己的算法根据业务请求频率高低调节自身工作者workers的数量来调节线程池大小，从而实现业务高峰期增加工作者数量提高响应速度，而业务低峰期减少工作者数来节省服务器资源。增加算法通常基于几个维度进行：待处理工作job数、线程池定义的最大最小工作者数、工作者闲置时间。
• 线程池终止:应用停止时线程池要有自身的停止逻辑，保证所有job都得到执行或者抛弃。

简易线程池实现

　　线程池头文件threadpool.h如下：

#ifndef THREADPOOL_H
#define THREADPOOL_H

#include <stdio.h>
#include <stdlib.h>
#include <unistd.h>
#include <pthread.h>

/**
* 线程体数据结构
*/
typedef struct runner
{
    void(*callback)(void* arg);    // 回调函数指针
    void* arg;                     // 回调函数的参数
    struct runner* next;
} thread_runner;

/**
* 线程池数据结构
*/
typedef struct
{
    pthread_mutex_t mutex;             // 互斥量
    pthread_cond_t cond;               // 条件变量
    thread_runner* runner_head;        // 线程池中所有等待任务的头指针
    thread_runner* runner_tail;        // 线程池所有等待任务的尾指针
    int shutdown;                      // 线程池是否销毁
    pthread_t* threads;                // 所有线程
    int max_thread_size;               // 线程池中允许的活动线程数目
} thread_pool;

/**
* 线程体
*/
void run(void *arg);

/**
*   初始化线程池
*   参数：
*   pool：指向线程池结构有效地址的动态指针
*   max_thread_size：最大的线程数
*/
void threadpool_init(thread_pool* pool, int max_thread_size);

/**
*   向线程池加入任务
*   参数：
*   pool：指向线程池结构有效地址的动态指针
*   callback：线程回调函数
*   arg：回调函数参数
*/
void threadpool_add_runner(thread_pool* pool, void(*callback)(void *arg), void *arg);

/**
*   销毁线程池
*   参数：
*   ppool：指向线程池结构有效地址的动态指针地址(二级指针)，销毁后释放内存，该指针为NULL
*/
void threadpool_destroy(thread_pool** ppool);

#endif

　　线程池实现文件threadpool.c如下：

#include "threadpool.h"

#define DEBUG 1

/**
*   初始化线程池
*   参数：
*   pool：指向线程池结构有效地址的动态指针
*   max_thread_size：最大的线程数
*/
void threadpool_init(thread_pool* pool, int max_thread_size)
{
    // 初始化互斥量
    pthread_mutex_init(&(pool->mutex), NULL);
    // 初始化条件变量
    pthread_cond_init(&(pool->cond), NULL);
    pool->runner_head = NULL;
    pool->runner_tail = NULL;
    pool->max_thread_size = max_thread_size;
    pool->shutdown = 0;
    
    // 创建所有分离态线程（即创建线程池）
    pool->threads = (pthread_t *)malloc(max_thread_size * sizeof(pthread_t));
    int i = 0;
    for (i = 0; i < max_thread_size; i++)
    {
        pthread_attr_t attr;
        pthread_attr_init(&attr);
        pthread_attr_setdetachstate(&attr, PTHREAD_CREATE_DETACHED);
        pthread_create(&(pool->threads[i]), &attr, (void*)run, (void*)pool);
    }
#ifdef DEBUG
    printf("threadpool_init-> create %d detached thread
", max_thread_size);
#endif
}

/**
* 线程体
*/
void run(void *arg)
{
    thread_pool* pool = (thread_pool*)arg;
    while (1)
    {
        // 加锁
        pthread_mutex_lock(&(pool->mutex));
#ifdef DEBUG
        printf("run-> locked
");
#endif
        // 如果等待队列为0并且线程池未销毁，则处于阻塞状态（即等待任务的唤醒）
        while (pool->runner_head == NULL && !pool->shutdown)
        {
            pthread_cond_wait(&(pool->cond), &(pool->mutex));
        }
        //如果线程池已经销毁
        if (pool->shutdown)
        {
            // 解锁
            pthread_mutex_unlock(&(pool->mutex));
#ifdef DEBUG
            printf("run-> unlocked and thread exit
");
#endif
            pthread_exit(NULL);
        }
        // 取出链表中的头元素
        thread_runner *runner = pool->runner_head;
        pool->runner_head = runner->next;
        // 解锁
        pthread_mutex_unlock(&(pool->mutex));
#ifdef DEBUG
        printf("run-> unlocked
");
#endif
        // 调用回调函数，执行任务
        (runner->callback)(runner->arg);
        free(runner);
        runner = NULL;
#ifdef DEBUG
        printf("run-> runned and free runner
");
#endif
    }
    pthread_exit(NULL);
}

/**
*   向线程池加入任务
*   参数：
*   pool：指向线程池结构有效地址的动态指针
*   callback：线程回调函数
*   arg：回调函数参数
*/
void threadpool_add_runner(thread_pool* pool, void(*callback)(void *arg), void *arg)
{
    // 构造一个新任务
    thread_runner *newrunner = (thread_runner *)malloc(sizeof(thread_runner));
    newrunner->callback = callback;
    newrunner->arg = arg;
    newrunner->next = NULL;
    // 加锁
    pthread_mutex_lock(&(pool->mutex));
#ifdef DEBUG
    printf("threadpool_add_runner-> locked
");
#endif
    // 将任务加入到等待队列中
    if (pool->runner_head != NULL)
    {
        pool->runner_tail->next = newrunner;
        // 尾指针指到最后一个任务
        pool->runner_tail = newrunner;
    }
    else
    {
        pool->runner_head = newrunner;
        pool->runner_tail = newrunner;
    }
    // 解锁
    pthread_mutex_unlock(&(pool->mutex));
#ifdef DEBUG
    printf("threadpool_add_runner-> unlocked
");
#endif
    // 唤醒一个等待线程
    pthread_cond_signal(&(pool->cond));
#ifdef DEBUG
    printf("threadpool_add_runner-> add a runner and wakeup a waiting thread
");
#endif
}

/**
*   销毁线程池
*   参数：
*   ppool：指向线程池结构有效地址的动态指针地址(二级指针)
*/
void threadpool_destroy(thread_pool** ppool)
{
    thread_pool *pool = *ppool;
    // 防止2次销毁
    if (!pool->shutdown)
    {
        pool->shutdown = 1;
        // 唤醒所有等待线程，线程池要销毁了
        pthread_cond_broadcast(&(pool->cond));
        // 等待所有线程中止
        sleep(1);
#ifdef DEBUG
        printf("threadpool_destroy-> wakeup all waiting threads
");
#endif
        // 回收空间
        free(pool->threads);
        // 销毁等待队列
        thread_runner *head = NULL;
        while (pool->runner_head != NULL)
        {
            head = pool->runner_head;
            pool->runner_head = pool->runner_head->next;
            free(head);
        }

#ifdef DEBUG
        printf("threadpool_destroy-> all runners freed
");
#endif
        // 条件变量和互斥量也别忘了销毁
        pthread_mutex_destroy(&(pool->mutex));
        pthread_cond_destroy(&(pool->cond));

#ifdef DEBUG
        printf("threadpool_destroy-> mutex and cond destoryed
");
#endif
        free(pool);
        (*ppool) = NULL;

#ifdef DEBUG
        printf("threadpool_destroy-> pool freed
");
#endif
    }
}

　　测试文件如下：

#include "threadpool.h"

void threadrun(void* arg)
{
    int *i = (int *)arg;
    printf("%d
", *i);
}

int main(void)
{
    thread_pool *pool = malloc(sizeof(thread_pool));
    threadpool_init(pool, 2);
    
    int i;
    int tmp[3];
    for (i = 0; i < 3; i++)
    {
        tmp[i] = i;
        threadpool_add_runner(pool, threadrun, &tmp[i]);
    }
    
    sleep(1);
    threadpool_destroy(&pool);
    printf("main-> %p
", pool);
    printf("main-> test over
");
    
    return 0;
}

　　程序运行结果如下：

　　

参考资料

　　线程池（C# 和 Visual Basic）

　　几种线程池的实现算法分析

　　线程池的介绍及简单实现

　　Linux线程池(C语言描述) - 互斥量+条件变量同步