线程池是经经常使用的,所以今天特地将其原理、优点、jdk的实现方式整理出来,以供以后复习之用。
问题:server应用程序中经常出现的情况是:单个任务处理的时间非常短而请求的数目却是巨大的。
假设每一个请求相应一个线程(thread-per-request)方法的不足之中的一个是:为每一个请求创建一个新线程的开销非常大。为每一个请求创建新线程的server在创建和销毁线程上花费的时间和消耗的系统资源要比花在处理实际的用户请求的时间和资源很多其他。
其二是:除了创建和销毁线程的开销之外,活动的线程也消耗系统资源。
在一个 JVM 里创建太多的线程可能会导致系统由于过度消耗内存而用完内存或“切换过度”。
处理方案:使用线程池
理由:线程池为线程生命周期开销问题和资源不足问题提供了解决方式。通过对多个任务重用线程。线程创建的开销被分摊到了多个任务上。
其优点是,由于在请求到达时线程已经存在,所以无意中也消除了线程创建所带来的延迟。这样,就能够马上为请求服务,使应用程序响应更快。并且,通过适当地调整线程池中的线程数目,也就是当请求的数目超过某个阈值时。就强制其他不论什么新到的请求一直等待,直到获得一个线程来处理为止。从而能够防止资源不足。(简单概括就是:复用,降低开销。防止资源不足)。
这是李刚的疯狂讲义对线程池的叙述:
可是又引出了新的问题:比如1、在池为空时,会发生什么呢?试图向池线程传递任务的调用者都会发现池为空。在调用者等待一个可用的池线程时。它的线程将堵塞 2、若无工作进行处理时,线程池里的线程会如何?
设计:一组固定的工作线程相结合的工作队列,它使用 wait()
和 notify()
来通知等待线程新的工作已经到达了。该工作队列通常被实现成具有相关监视器对象的某种链表。
详细线程池的实现代码,例如以下:
public class WorkQueue { private final int nThreads; private final PoolWorker[] threads; private final LinkedList queue; public WorkQueue(int nThreads) { this.nThreads = nThreads; queue = new LinkedList(); threads = new PoolWorker[nThreads]; for (int i=0; i<nThreads; i++) { threads[i] = new PoolWorker(); threads[i].start(); } } public void execute(Runnable r) { synchronized(queue) { queue.addLast(r); queue.notify(); } } private class PoolWorker extends Thread { public void run() { Runnable r; while (true) { synchronized(queue) { while (queue.isEmpty()) { try { queue.wait(); } catch (InterruptedException ignored) { } } r = (Runnable) queue.removeFirst(); } // If we don't catch RuntimeException, // the pool could leak threads try { r.run(); } catch (RuntimeException e) { // You might want to log something here } } } } }
使用线程池的风险:
wait()
和 notify()
方法,这两个方法都难于使用。假设编码不对。那么可能丢失通知,导致线程保持空暇状态,虽然队列中有工作要处理。RuntimeException
或一个 Error
时。假设池类没有捕捉到它们,那么线程仅仅会退出而线程池的大小将会永久降低一个。当这样的情况发生的次数足够多时。线程池终于就为空。并且系统将停止。由于没有可用的线程来处理任务。