1、线程池简介:
多线程技术主要解决处理器单元内多个线程执行的问题,它可以显著减少处理器单元的闲置时间,增加处理器单元的吞吐能力。
假设一个服务器完成一项任务所需时间为:T1 创建线程时间,T2 在线程中执行任务的时间,T3 销毁线程时间。
如果:T1 + T3 远大于 T2,则可以采用线程池,以提高服务器性能。
一个线程池包括以下四个基本组成部分:
1、线程池管理器(ThreadPool):用于创建并管理线程池,包括 创建线程池,销毁线程池,添加新任务;
2、工作线程(PoolWorker):线程池中线程,在没有任务时处于等待状态,可以循环的执行任务;
3、任务接口(Task):每个任务必须实现的接口,以供工作线程调度任务的执行,它主要规定了任务的入口,任务执行完后的收尾工作,任务的执行状态等;
4、任务队列(taskQueue):用于存放没有处理的任务。提供一种缓冲机制。
线程池技术正是关注如何缩短或调整T1,T3时间的技术,从而提高服务器程序性能的。它把T1,T3分别安排在服务器程序的启动和结束的时间段或者一些空闲的时间段,这样在服务器程序处理客户请求时,不会有T1,T3的开销了。
线程池不仅调整T1,T3产生的时间段,而且它还显著减少了创建线程的数目,看一个例子:
假设一个服务器一天要处理50000个请求,并且每个请求需要一个单独的线程完成。在线程池中,线程数一般是固定的,所以产生线程总数不会超过线程池中线程的数目,而如果服务器不利用线程池来处理这些请求则线程总数为50000。一般线程池大小是远小于50000。所以利用线程池的服务器程序不会为了创建50000而在处理请求时浪费时间,从而提高效率。
代码实现中并没有实现任务接口,而是把Runnable对象加入到线程池管理器(ThreadPool),然后剩下的事情就由线程池管理器(ThreadPool)来完成了
- package mine.util.thread;
- import java.util.LinkedList;
- import java.util.List;
- /**
- * 线程池类,线程管理器:创建线程,执行任务,销毁线程,获取线程基本信息
- */
- public final class ThreadPool {
- // 线程池中默认线程的个数为5
- private static int worker_num = 5;
- // 工作线程
- private WorkThread[] workThrads;
- // 未处理的任务
- private static volatile int finished_task = 0;
- // 任务队列,作为一个缓冲,List线程不安全
- private List<Runnable> taskQueue = new LinkedList<Runnable>();
- private static ThreadPool threadPool;
- // 创建具有默认线程个数的线程池
- private ThreadPool() {
- this(5);
- }
- // 创建线程池,worker_num为线程池中工作线程的个数
- private ThreadPool(int worker_num) {
- ThreadPool.worker_num = worker_num;
- workThrads = new WorkThread[worker_num];
- for (int i = 0; i < worker_num; i++) {
- workThrads[i] = new WorkThread();
- workThrads[i].start();// 开启线程池中的线程
- }
- }
- // 单态模式,获得一个默认线程个数的线程池
- public static ThreadPool getThreadPool() {
- return getThreadPool(ThreadPool.worker_num);
- }
- // 单态模式,获得一个指定线程个数的线程池,worker_num(>0)为线程池中工作线程的个数
- // worker_num<=0创建默认的工作线程个数
- public static ThreadPool getThreadPool(int worker_num1) {
- if (worker_num1 <= 0)
- worker_num1 = ThreadPool.worker_num;
- if (threadPool == null)
- threadPool = new ThreadPool(worker_num1);
- return threadPool;
- }
- // 执行任务,其实只是把任务加入任务队列,什么时候执行有线程池管理器觉定
- public void execute(Runnable task) {
- synchronized (taskQueue) {
- taskQueue.add(task);
- taskQueue.notify();
- }
- }
- // 批量执行任务,其实只是把任务加入任务队列,什么时候执行有线程池管理器觉定
- public void execute(Runnable[] task) {
- synchronized (taskQueue) {
- for (Runnable t : task)
- taskQueue.add(t);
- taskQueue.notify();
- }
- }
- // 批量执行任务,其实只是把任务加入任务队列,什么时候执行有线程池管理器觉定
- public void execute(List<Runnable> task) {
- synchronized (taskQueue) {
- for (Runnable t : task)
- taskQueue.add(t);
- taskQueue.notify();
- }
- }
- // 销毁线程池,该方法保证在所有任务都完成的情况下才销毁所有线程,否则等待任务完成才销毁
- public void destroy() {
- while (!taskQueue.isEmpty()) {// 如果还有任务没执行完成,就先睡会吧
- try {
- Thread.sleep(10);
- } catch (InterruptedException e) {
- e.printStackTrace();
- }
- }
- // 工作线程停止工作,且置为null
- for (int i = 0; i < worker_num; i++) {
- workThrads[i].stopWorker();
- workThrads[i] = null;
- }
- threadPool=null;
- taskQueue.clear();// 清空任务队列
- }
- // 返回工作线程的个数
- public int getWorkThreadNumber() {
- return worker_num;
- }
- // 返回已完成任务的个数,这里的已完成是只出了任务队列的任务个数,可能该任务并没有实际执行完成
- public int getFinishedTasknumber() {
- return finished_task;
- }
- // 返回任务队列的长度,即还没处理的任务个数
- public int getWaitTasknumber() {
- return taskQueue.size();
- }
- // 覆盖toString方法,返回线程池信息:工作线程个数和已完成任务个数
- @Override
- public String toString() {
- return "WorkThread number:" + worker_num + " finished task number:"
- + finished_task + " wait task number:" + getWaitTasknumber();
- }
- /**
- * 内部类,工作线程
- */
- private class WorkThread extends Thread {
- // 该工作线程是否有效,用于结束该工作线程
- private boolean isRunning = true;
- /*
- * 关键所在啊,如果任务队列不空,则取出任务执行,若任务队列空,则等待
- */
- @Override
- public void run() {
- Runnable r = null;
- while (isRunning) {// 注意,若线程无效则自然结束run方法,该线程就没用了
- synchronized (taskQueue) {
- while (isRunning && taskQueue.isEmpty()) {// 队列为空
- try {
- taskQueue.wait(20);
- } catch (InterruptedException e) {
- e.printStackTrace();
- }
- }
- if (!taskQueue.isEmpty())
- r = taskQueue.remove(0);// 取出任务
- }
- if (r != null) {
- r.run();// 执行任务
- }
- finished_task++;
- r = null;
- }
- }
- // 停止工作,让该线程自然执行完run方法,自然结束
- public void stopWorker() {
- isRunning = false;
- }
- }
- }
测试代码:
- package mine.util.thread;
- //测试线程池
- public class TestThreadPool {
- public static void main(String[] args) {
- // 创建3个线程的线程池
- ThreadPool t = ThreadPool.getThreadPool(3);
- t.execute(new Runnable[] { new Task(), new Task(), new Task() });
- t.execute(new Runnable[] { new Task(), new Task(), new Task() });
- System.out.println(t);
- t.destroy();// 所有线程都执行完成才destory
- System.out.println(t);
- }
- // 任务类
- static class Task implements Runnable {
- private static volatile int i = 1;
- @Override
- public void run() {// 执行任务
- System.out.println("任务 " + (i++) + " 完成");
- }
- }
- }
运行结果:
WorkThread number:3 finished task number:0 wait task number:6
任务 1 完成
任务 2 完成
任务 3 完成
任务 4 完成
任务 5 完成
任务 6 完成
WorkThread number:3 finished task number:6 wait task number:0
分析:由于并没有任务接口,传入的可以是自定义的任何任务,所以线程池并不能准确的判断该任务是否真正的已经完成(真正完成该任务是这个任务的run方法执行完毕),只能知道该任务已经出了任务队列,正在执行或者已经完成。
2、Java类库中提供的线程池简介:
Java提供的线程池更加强大,相信理解线程池的工作原理,看类库中的线程池就不会感到陌生了。
在Java5之后,并 发线程这块发生了根本的变化,最重要的莫过于新的启动、调度、管理线程的一大堆API了。在Java5以后,通过Executor来启动线程比用 Thread的start()更好。在新特征中,可以很容易控制线程的启动、执行和关闭过程,还可以很容易使用线程池的特性。
一、创建任务
任务就是一个实现了Runnable接口的类。
创建的时候实run方法即可。
二、执行任务
通过java.util.concurrent.ExecutorService接口对象来执行任务,该接口对象通过工具类java.util.concurrent.Executors的静态方法来创建。
Executors此包中所定义的 Executor、ExecutorService、ScheduledExecutorService、ThreadFactory 和 Callable 类的工厂和实用方法。
ExecutorService提供了管理终止的方法,以及可为跟踪一个或多个异步任务执行状况而生成 Future 的方法。 可以关闭 ExecutorService,这将导致其停止接受新任务。关闭后,执行程序将最后终止,这时没有任务在执行,也没有任务在等待执行,并且无法提交新任 务。
executorService.execute(new TestRunnable());
1、创建ExecutorService
通过工具类java.util.concurrent.Executors的静态方法来创建。
Executors此包中所定义的 Executor、ExecutorService、ScheduledExecutorService、ThreadFactory 和 Callable 类的工厂和实用方法。
比如,创建一个ExecutorService的实例,ExecutorService实际上是一个线程池的管理工具:
ExecutorService executorService = Executors.newCachedThreadPool();
ExecutorService executorService = Executors.newFixedThreadPool(3);
ExecutorService executorService = Executors.newSingleThreadExecutor();
2、将任务添加到线程去执行
当将一个任务添加到线程池中的时候,线程池会为每个任务创建一个线程,该线程会在之后的某个时刻自动执行。
三、关闭执行服务对象
executorService.shutdown();
四、综合实例
package concurrent;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
public class TestCachedThreadPool {
public static void main(String[] args) {
// ExecutorService executorService = Executors.newCachedThreadPool();
ExecutorService executorService = Executors.newFixedThreadPool(5); // ExecutorService executorService = Executors.newSingleThreadExecutor();
for (int i = 0; i < 5; i++) {
executorService.execute(new TestRunnable());
System.out.println("************* a" + i + " *************");
}
executorService.shutdown();
}
}
class TestRunnable implements Runnable {
public void run() {
System.out.println(Thread.currentThread().getName() + "线程被调用了。");
while (true) {
try {
Thread.sleep(5000);
System.out.println(Thread.currentThread().getName());
} catch (InterruptedException e) {
e.printStackTrace();
}
}
}
}
运行结果:
************* a0 *************
************* a1 *************
pool-1-thread-2线程被调用了。
************* a2 *************
pool-1-thread-3线程被调用了。
pool-1-thread-1线程被调用了。
************* a3 *************
************* a4 *************
pool-1-thread-4线程被调用了。
pool-1-thread-5线程被调用了。
pool-1-thread-2
pool-1-thread-1
pool-1-thread-3
pool-1-thread-5
pool-1-thread-4
pool-1-thread-2
pool-1-thread-1
pool-1-thread-3
pool-1-thread-5
pool-1-thread-4
五、获取任务的执行的返回值
在Java5之 后,任务分两类:一类是实现了Runnable接口的类,一类是实现了Callable接口的类。两者都可以被ExecutorService执行,但是 Runnable任务没有返回值,而Callable任务有返回值。并且Callable的call()方法只能通过ExecutorService的 submit(Callable<T> task) 方法来执行,并且返回一个 <T> Future<T>,是表示任务等待完成的 Future.
public interface Callable<V>返回结果并且可能抛出异常的任务。实现者定义了一个不带任何参数的叫做 call 的方法。
Callable 接口类似于 Runnable,两者都是为那些其实例可能被另一个线程执行的类设计的。但是 Runnable 不会返回结果,并且无法抛出经过检查的异常。
Executors 类包含一些从其他普通形式转换成 Callable 类的实用方法。
Callable中的call()方法类似Runnable的run()方法,就是前者有返回值,后者没有。
当将一个Callable的对象传递给ExecutorService的submit方法,则该call方法自动在一个线程上执行,并且会返回执行结果Future对象。
同样,将Runnable的对象传递给ExecutorService的submit方法,则该run方法自动在一个线程上执行,并且会返回执行结果Future对象,但是在该Future对象上调用get方法,将返回null.
遗憾的是,在Java API文档中,这块介绍的很糊涂,估计是翻译人员还没搞清楚的缘故吧。或者说是注释不到位。下面看个例子:
import java.util.ArrayList;
import java.util.List;
import java.util.concurrent.*;
public class CallableDemo {
public static void main(String[] args) {
ExecutorService executorService = Executors.newCachedThreadPool();
List<Future<String>> resultList = new ArrayList<Future<String>>();
//创建10个任务并执行
for (int i = 0; i < 10; i++) {
//使用ExecutorService执行Callable类型的任务,并将结果保存在future变量中
Future<String> future = executorService.submit(new TaskWithResult(i));
//将任务执行结果存储到List中
resultList.add(future);
}
//遍历任务的结果
for (Future<String> fs : resultList) {
try {
System.out.println(fs.get()); //打印各个线程(任务)执行的结果
} catch (InterruptedException e) {
e.printStackTrace();
} catch (ExecutionException e) {
e.printStackTrace();
} finally {
//启动一次顺序关闭,执行以前提交的任务,但不接受新任务。如果已经关闭,则调用没有其他作用。
executorService.shutdown();
}
}
}
}
class TaskWithResult implements Callable<String> {
private int id;
public TaskWithResult(int id) {
this.id = id;
}
public String call() throws Exception {
System.out.println("call()方法被自动调用,干活!!! " + Thread.currentThread().getName());
//一个模拟耗时的操作
for (int i = 999999; i > 0; i--) ;
return "call()方法被自动调用,任务的结果是:" + id + " " + Thread.currentThread().getName();
}
}
运行结果:
call()方法被自动调用,干活!!! pool-1-thread-1
call()方法被自动调用,干活!!! pool-1-thread-3
call()方法被自动调用,干活!!! pool-1-thread-4
call()方法被自动调用,干活!!! pool-1-thread-6
call()方法被自动调用,干活!!! pool-1-thread-2
call()方法被自动调用,干活!!! pool-1-thread-5
call()方法被自动调用,任务的结果是:0 pool-1-thread-1
call()方法被自动调用,任务的结果是:1 pool-1-thread-2
call()方法被自动调用,干活!!! pool-1-thread-2
call()方法被自动调用,干活!!! pool-1-thread-6
call()方法被自动调用,干活!!! pool-1-thread-4
call()方法被自动调用,任务的结果是:2 pool-1-thread-3
call()方法被自动调用,干活!!! pool-1-thread-3
call()方法被自动调用,任务的结果是:3 pool-1-thread-4
call()方法被自动调用,任务的结果是:4 pool-1-thread-5
call()方法被自动调用,任务的结果是:5 pool-1-thread-6
call()方法被自动调用,任务的结果是:6 pool-1-thread-2
call()方法被自动调用,任务的结果是:7 pool-1-thread-6
call()方法被自动调用,任务的结果是:8 pool-1-thread-4
call()方法被自动调用,任务的结果是:9 pool-1-thread-3
Process finished with exit code 0
一个 ExecutorService,它使用可能的几个池线程之一执行每个提交的任务,通常使用 Executors 工厂方法配置。
线程池可以解决两个不 同问题:由于减少了每个任务调用的开销,它们通常可以在执行大量异步任务时提供增强的性能,并且还可以提供绑定和管理资源(包括执行集合任务时使用的线 程)的方法。每个 ThreadPoolExecutor 还维护着一些基本的统计数据,如完成的任务数。
为了便于跨大量上下文 使用,此类提供了很多可调整的参数和扩展挂钩。但是,强烈建议程序员使用较为方便的 Executors 工厂方法Executors.newCachedThreadPool()(无界线程池,可以进行自动线程回收)、 Executors.newFixedThreadPool(int)(固定大小线程池)和 Executors.newSingleThreadExecutor()(单个后台线程),它们均为大多数使用场景预定义了设置。
- 用法示例
- 下面给出了一个网络服务的简单结构,这里线程池中的线程作为传入的请求。它使用了预先配置的 Executors.newFixedThreadPool(int) 工厂方法:
- class NetworkService implements Runnable {
- private final ServerSocket serverSocket;
- private final ExecutorService pool;
- public NetworkService(int port, int poolSize)
- throws IOException {
- serverSocket = new ServerSocket(port);
- pool = Executors.newFixedThreadPool(poolSize);
- }
- public void run() { // run the service
- try {
- for (;;) {
- pool.execute(new Handler(serverSocket.accept()));
- }
- } catch (IOException ex) {
- pool.shutdown();
- }
- }
- }
- class Handler implements Runnable {
- private final Socket socket;
- Handler(Socket socket) { this.socket = socket; }
- public void run() {
- // read and service request on socket
- }
- }
- 下列方法分两个阶段关闭 ExecutorService。第一阶段调用 shutdown 拒绝传入任务,然后调用 shutdownNow(如有必要)取消所有遗留的任务:
- void shutdownAndAwaitTermination(ExecutorService pool) {
- pool.shutdown(); // Disable new tasks from being submitted
- try {
- // Wait a while for existing tasks to terminate
- if (!pool.awaitTermination(60, TimeUnit.SECONDS)) {
- pool.shutdownNow(); // Cancel currently executing tasks
- // Wait a while for tasks to respond to being cancelled
- if (!pool.awaitTermination(60, TimeUnit.SECONDS))
- System.err.println("Pool did not terminate");
- }
- } catch (InterruptedException ie) {
- // (Re-)Cancel if current thread also interrupted
- pool.shutdownNow();
- // Preserve interrupt status
- Thread.currentThread().interrupt();
- }
- }
- 内存一致性效果:线程中向 ExecutorService 提交 Runnable 或 Callable 任务之前的操作 happen-before 由该任务所提取的所有操作,后者依次 happen-before 通过 Future.get() 获取的结果。