Java并发：搞定线程池(上)

原文地址:https://www.nowcoder.com/discuss/152050?type=0&order=0&pos=6&page=0

本文是在原文的基础+理解，想要系统学习，请看原文地址。

线程池介绍

  1.1 线程池的概念

    线程池(thread pool): 一种线程使用模式。线程的创建销毁是十分消耗资源的(线程创建消耗内存、线程上下文切换从消耗CPU资源)。使用线程池可以更加充分的协调应用CPU、内存、网络、I/O等系统资源。在程序启动首先创建线程，在程序启动后可以将任务直接扔到线程池中，由线程池来执行这个任务。

  1.2 线程池的解决的问题

    ①线程创建销毁会开辟祸首虚拟机栈、本地方法栈和程序技术器等线程私有内存。

    ②如不加控制，线程数量在达到一定值时，由于线程上下文切换需要互斥、通信，会造成CPU资源浪费，极端情况下，系统分配的时间片都用来完成上下文切换，而没有时间去执行真正的任务。

    ③频繁的创建销毁线程增加并发编程的风险。

    ④线程池可以解决线程过多时的等待或友好的决绝服务。

  1.3 线程池作用

    ①利用线程池管理复用线程，控制最大并发数。(避免由于先吃过多，造成完成上下文切换而真正任务不执行)

    ②实现任务线程队列缓存策略和拒绝机制。(优雅的处理线程过多情况)

    ③实现某些与实践相关的功能。(可以利用线程池完成定时任务)

    ④隔离线程环境。(可以将不同类型的线程池放到一台服务器，隔离不同服务，避免线程相互影响)

  1.4 线程池的有点

    ①降低资源消耗，避免频繁的内存申请和销毁

    ②提高响应速度，不需要完成线程的创建，直接执行任务(前提是线程池中有空闲的线程)

    ③提高线程的可管理性，使用线程池可以同理管理、分配、调优和监控。

线程池创建

    首先从ThreadPoolExecutor构造方法来讲自定义ThreadFactory和RejectedExecutionHandler，编写一个最简单的线程池。通过ThreadPoolExecutor的execute和addWorker两个核心方法。

    public ThreadPoolExecutor(int corePoolSize,
                              int maximumPoolSize,
                              long keepAliveTime,
                              TimeUnit unit,
                              BlockingQueue<Runnable> workQueue,
                              ThreadFactory threadFactory,
                              RejectedExecutionHandler handler) {
......
}

  参数说明：

    ①corePoolSize：表示核心线程数：

        corePoolSize=0，则任务执行完之后没有其他任务进入会销毁鲜线程池中的线程

        corePoolSize>0，本地任务执行完毕后，线程池会保留corePoolSize个线程

    ②maximumPoolSize：表示线程池能够容纳同时执行的最大线程数

        maximumPoolSize>=1，如果线程池中的线程执行，则数量大于等于1.

        如果需要执行的线程数大于maximumPoolSize个线程，需要第五个参数handler来处理，缓存还是 丢弃。

    ③keepAliveTime：表示线程池中的线程空闲时间

        当空闲时间达到keepAliveTime时，同时线程池中线程数大于信合线程数，则这个线程会被销毁。

        利用这个参数，可以避免资源的浪费。

        当allowCoreThreadTimeOut = true，核心线程超时也会被回收。

        由源码可知，allowCoreThreadTimeOut是由volatile修饰，说明这个值变化对说有线程池中的线程可见，由于没有赋初值，默认值是false，表示核心线程超时不会被回收。

        可以由方法设定，如果设置为true时，要保证线程空闲时间<=0,即表示空闲立马回收。

    private volatile boolean allowCoreThreadTimeOut;
                          
    public void allowCoreThreadTimeOut(boolean value) {
        if (value && keepAliveTime <= 0)
            throw new IllegalArgumentException("Core threads must have nonzero keep alive times");

        allowCoreThreadTimeOut = value;
    }

    ④unit：表示时间单位

        keepAliveTime的单位通常是TimeUnit.SECONDS. 

    ⑤workQueue：表示缓存队列

        当请求的线程数大于最大的线程并发数，线程会进入这个blockingQueue，阻塞保证出队入队的原子性

    ⑥threadFactory：线程工厂

        用来生产一组相同任务的线程。

        线程池的命名是通过给这个factory增加组名前缀来实现的。

        虚拟机栈在分析时知道线程任务是那个线程工厂生产的。

    ⑦handler：表示拒绝策略的对象

        当待执行的线程大于阻塞队列的最大值时，可以通过该策略处理请求，一种简单的限流保护，策略模式。

      优雅的拒绝策略包括：        

        保存数据库进行消费填谷；在空闲的事再提取出来执行

        转向某个提示页面

        打印日志

2.1.1 corePoolSize 核心线程数量

    线程池中应该报纸的线程数量，即使线程处于空闲期间，线程也会存在于线程池，除非设置allowCoreThreadTimeOut这个参数是false。当线程池中的线程数量少于核心线程数量，线程池会创建一个新的线程来执行这个任务，即使线程池存在空闲线程也会创建新线程。等线程池中的线程数量等于信心线程数量，这时不会再产生线程，任务会被放在队列中。

    如果嗲用线程池的prestartAllCoreThreads()，线程池会提前创建并启动所有核心线程。

    public int prestartAllCoreThreads() {
        int n = 0;
        while (addIfUnderCorePoolSize(null))
            ++n;
        return n;
    }

2.1.2 maximumPoolsize 线程池最大线程数，同时执行的线程

    线程池允许创建的最大线程数：最大线程数>=1

        在固定队列长度时，最大线程数作用：用来在任务数>核心线程数+队列长度&&任务数<=最大线程数+队列长度；

        如果不是固定队列这个值没有意义，任务会进入阻塞队列。

2.1.3 workQueue阻塞队列，保存任务核心线程处理不力的任务

    存储待执行任务的阻塞队列，这些任务必须是Runnable对象(如果是Callable对象会在submit内部转weiRunnable对象)。

    Runnable TaskQueue(任务队列)：用于保存等待执行的任务的阻塞队列，可选择下阻塞队列。

        LinkedBlockingQueue：一个基于链表结构的阻塞队列，队列按照FIFO排序元素，吞吐量通常高于ArrayBlockingQueue。静态工厂方法Executors.newFixedThreadPool()使用这个队列。

        SynchronusQueue：一个不存储元素的阻塞队列，每个插入操作必须等待另外一个线程调用移除操作，否则插入操作一直处于阻塞状态，吞吐量通常高于LinkedBlockingQueue。静态工厂方法Executors.newCachedThredPool使用这个队列。

 2.1.4 threadFactory线程工厂

    ThreadFactory：用于设置创建线程的工厂，可以通过线程工厂给每一个创建出来的线程设置更有意义的名字。例如guava提供的ThreadFactoryBuilder快速给线程池里的线程设置有意义的名字，代码如下、

new ThreadFactoryBuilder().setNameFormat("XX-task-%d").build();

 2.1.5 RejectedExecutionHandler 拒绝策略

    采用了策略模式，当队列固定时，任务数>最大线程+队列长度时，这是再进来的任务需要一种策略来处理新提交的任务。默认策略AbortPolicy，表示处理新任务时抛出异常。

    private static final RejectedExecutionHandler defaultHandler =
        new AbortPolicy();

    在JDK5中线程池提供了4中策略

    AbortPolicy：丢弃任务，抛出RejectedExecuptionException，默认的策略

    CallerRunsPolicy：只用调用者所在线程来运行任务，有反馈机制，使任务提交的速度变慢，多任务下上下文切换耗时。

    DiscardOldestPolicy：若没有发生shutdown，尝试丢弃队列里最近的一个任务，并执行当前任务，丢弃任务缓存队列中最老的任务，并尝试重新提交新的任务。

    DiscardPolicy：不处理，丢弃，拒绝执行，不抛异常。

    也可以自定义类实现RejectedExecutionHandler接口，定制符合业务场景的拒绝策略，比如存库，日志记录等。

 2.1.6 keepAliveTime 线程活动保持的时间

    非核心线程线程任务执行结束后，保持多久的存活时间后被回收。

    如果回收核心线程，需要设置allowCoreThreadTimeOut=true，同时keepAliveTime设置为0。

    如果任务喝多，并且任务执行的时间较短，可以调大时间，提高线程的利用率。

 2.1.7 TImeUnit 线程活动保持单位

    指示第三个参数keepAliveTime时间的单位，常用TimeUnit.SECONDS(秒),这个类是JUC下的类，可以使用这个类来完成线程Thread.sleep(n)功能，对应TimeUnit.seconds.sleep(n).

在实际编程中使用Exceutors这个线程池里的静态工厂来创建线程池。

Executors工具类

    ExecutorService的抽象类AbstractExecutorService提供submit、invokeAll等方法的实现；核心方法executr没有在这里实现，因为所有的任务都执行改方法，类似模板方式的形式，不同实现会带来不同的执行策略。

    通过Executors的静态工厂可以创建三个线程洗的包装对象

    ①ForkJoinPool

    ②ThreadPoolExecutor

    ③ScheduledThreadPoolExecutor

 3.1.1 Executors.newWorkStealingPool

    JDK8引入，创建持有足够线程的线程池支持给定的并行度；

     通过多个队列减少竞争；

     构造方法中的CPU数量默认设置为默认的并行度。

     返回ForkJoinPool对象。

    public static ExecutorService newWorkStealingPool(int parallelism) {
        return new ForkJoinPool
            (parallelism,
             ForkJoinPool.defaultForkJoinWorkerThreadFactory,
             null, true);
    }

 3.1.2 Executors.newCachedThreadPool

    maxinumPoolSize最大可以取Integer的最大值，是高度可伸缩的线程池。

    核心线程数0，最大线程数Integer最大值，默认空闲时间60s，如果任务数增加，再次创建新的线程处理任务。线程数达到上限出现OOM。

    public static ExecutorService newCachedThreadPool() {
        return new ThreadPoolExecutor(0, Integer.MAX_VALUE,
                                      60L, TimeUnit.SECONDS,
                                      new SynchronousQueue<Runnable>());
    }

 3.1.3 Executors.newScheduledThreadPool

    指定核心线程数，最大线程数是Integer最大值，没有空闲时间，阻塞队列时延迟的。

    public static ScheduledExecutorService newScheduledThreadPool(int corePoolSize) {
        return new ScheduledThreadPoolExecutor(corePoolSize);
    }

    public ScheduledThreadPoolExecutor(int corePoolSize) {
        super(corePoolSize, Integer.MAX_VALUE, 0, NANOSECONDS,
              new DelayedWorkQueue());
    }

3.1.4 Executors.newWorkStealingPool

    输入的参数即使固定线程数，核心线程和最大线程数相等，不存在空闲线程，等待时间是0.

    因为使用LinkedBlockingQueue，不会因为线程数量发生OOM。

    public static ExecutorService newFixedThreadPool(int nThreads) {
        return new ThreadPoolExecutor(nThreads, nThreads,
                                      0L, TimeUnit.MILLISECONDS,
                                      new LinkedBlockingQueue<Runnable>());
    }

 3.1.5 Executors.newSingleThreadExecutor

    核心线程数=最大线程数=1，没有空闲时间，采用无界的LInkedBlockingQueue,不会因线程数出现OOM，但瞬间请求郭大师，会有OOM风险，相当于单线程串行执行所有任务，保证任务的提交按照提交顺序依次执行。

    public static ExecutorService newSingleThreadExecutor() {
        return new FinalizableDelegatedExecutorService
            (new ThreadPoolExecutor(1, 1,
                                    0L, TimeUnit.MILLISECONDS,
                                    new LinkedBlockingQueue<Runnable>()));
    }

 3.2.1 线程工厂

    Executors中的默认的线程工厂和拒绝策略过于简单，对用户不够友好。可以自定义，下面是默认的线程工厂，可以定制化自己的线程工厂。

   static class DefaultThreadFactory implements ThreadFactory {
        private static final AtomicInteger poolNumber = new AtomicInteger(1);
        private final ThreadGroup group;
        private final AtomicInteger threadNumber = new AtomicInteger(1);
        private final String namePrefix;

        DefaultThreadFactory() {
            SecurityManager s = System.getSecurityManager();
            group = (s != null) ? s.getThreadGroup() :
                                  Thread.currentThread().getThreadGroup();
            namePrefix = "pool-" +
                          poolNumber.getAndIncrement() +
                         "-thread-";
        }

        public Thread newThread(Runnable r) {
            Thread t = new Thread(group, r,
                                  namePrefix + threadNumber.getAndIncrement(),
                                  0);
            if (t.isDaemon())
                t.setDaemon(false);
            if (t.getPriority() != Thread.NORM_PRIORITY)
                t.setPriority(Thread.NORM_PRIORITY);
            return t;
        }
    }

 3.2.2 拒绝策略

    public static class AbortPolicy implements RejectedExecutionHandler {
        /**
         * Creates an {@code AbortPolicy}.
         */
        public AbortPolicy() { }

        /**
         * Always throws RejectedExecutionException.
         *
         * @param r the runnable task requested to be executed
         * @param e the executor attempting to execute this task
         * @throws RejectedExecutionException always
         */
        public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
            throw new RejectedExecutionException("Task " + r.toString() +
                                                 " rejected from " +
                                                 e.toString());
        }
    }