实质上,很多后台服务程序并发控制的基本原理都可以归纳为生产者/消费者模式,而这是恰恰是在本科操作系统课堂上老师反复讲解,而我们却视而不见不以为然的。在博文《一种面向作业流(工作流)的轻量级可复用的异步流水开发框架的设计与实现》中将介绍一种生产者/消费者模式的具体应用。
生产者消费者问题是研究多线程程序时绕不开的经典问题之一,它描述是有一块缓冲区作为仓库,生产者可以将产品放入仓库,消费者则可以从仓库中取走产品。解决生产者/消费者问题的方法可分为两类:(1)采用某种机制保护生产者和消费者之间的同步;(2)在生产者和消费者之间建立一个管道。第一种方式有较高的效率,并且易于实现,代码的可控制性较好,属于常用的模式。第二种管道缓冲区不易控制,被传输数据对象不易于封装等,实用性不强。因此本文只介绍同步机制实现的生产者/消费者问题。
同步问题核心在于:如何保证同一资源被多个线程并发访问时的完整性。常用的同步方法是采用信号或加锁机制,保证资源在任意时刻至多被一个线程访问。Java语言在多线程编程上实现了完全对象化,提供了对同步机制的良好支持。在Java中一共有四种方法支持同步,其中前三个是同步方法,一个是管道方法。
(1)wait() / notify()方法
(2)await() / signal()方法
(3)BlockingQueue阻塞队列方法
(4)PipedInputStream / PipedOutputStream
本文只介绍最常用的前三种,第四种暂不做讨论,有兴趣的读者可以自己去网上找答案。
一、wait() / notify()方法
wait() / nofity()方法是基类Object的两个方法,也就意味着所有Java类都会拥有这两个方法,这样,我们就可以为任何对象实现同步机制。
wait()方法:当缓冲区已满/空时,生产者/消费者线程停止自己的执行,放弃锁,使自己处于等等状态,让其他线程执行。
notify()方法:当生产者/消费者向缓冲区放入/取出一个产品时,向其他等待的线程发出可执行的通知,同时放弃锁,使自己处于等待状态。
光看文字可能不太好理解,咱来段代码就明白了:
import java.util.LinkedList; /** * 仓库类Storage实现缓冲区 * * Email:530025983@qq.com * * @author MONKEY.D.MENG 2011-03-15 * */ public class Storage { // 仓库最大存储量 private final int MAX_SIZE = 100; // 仓库存储的载体 private LinkedList<Object> list = new LinkedList<Object>(); // 生产num个产品 public void produce(int num) { // 同步代码段 synchronized (list) { // 如果仓库剩余容量不足 while (list.size() + num > MAX_SIZE) { System.out.println("【要生产的产品数量】:" + num + "/t【库存量】:" + list.size() + "/t暂时不能执行生产任务!"); try { // 由于条件不满足,生产阻塞 list.wait(); } catch (InterruptedException e) { e.printStackTrace(); } } // 生产条件满足情况下,生产num个产品 for (int i = 1; i <= num; ++i) { list.add(new Object()); } System.out.println("【已经生产产品数】:" + num + "/t【现仓储量为】:" + list.size()); list.notifyAll(); } } // 消费num个产品 public void consume(int num) { // 同步代码段 synchronized (list) { // 如果仓库存储量不足 while (list.size() < num) { System.out.println("【要消费的产品数量】:" + num + "/t【库存量】:" + list.size() + "/t暂时不能执行生产任务!"); try { // 由于条件不满足,消费阻塞 list.wait(); } catch (InterruptedException e) { e.printStackTrace(); } } // 消费条件满足情况下,消费num个产品 for (int i = 1; i <= num; ++i) { list.remove(); } System.out.println("【已经消费产品数】:" + num + "/t【现仓储量为】:" + list.size()); list.notifyAll(); } } // get/set方法 public LinkedList<Object> getList() { return list; } public void setList(LinkedList<Object> list) { this.list = list; } public int getMAX_SIZE() { return MAX_SIZE; } } /** * 生产者类Producer继承线程类Thread * * Email:530025983@qq.com * * @author MONKEY.D.MENG 2011-03-15 * */ public class Producer extends Thread { // 每次生产的产品数量 private int num; // 所在放置的仓库 private Storage storage; // 构造函数,设置仓库 public Producer(Storage storage) { this.storage = storage; } // 线程run函数 public void run() { produce(num); } // 调用仓库Storage的生产函数 public void produce(int num) { storage.produce(num); } // get/set方法 public int getNum() { return num; } public void setNum(int num) { this.num = num; } public Storage getStorage() { return storage; } public void setStorage(Storage storage) { this.storage = storage; } } /** * 消费者类Consumer继承线程类Thread * * Email:530025983@qq.com * * @author MONKEY.D.MENG 2011-03-15 * */ public class Consumer extends Thread { // 每次消费的产品数量 private int num; // 所在放置的仓库 private Storage storage; // 构造函数,设置仓库 public Consumer(Storage storage) { this.storage = storage; } // 线程run函数 public void run() { consume(num); } // 调用仓库Storage的生产函数 public void consume(int num) { storage.consume(num); } // get/set方法 public int getNum() { return num; } public void setNum(int num) { this.num = num; } public Storage getStorage() { return storage; } public void setStorage(Storage storage) { this.storage = storage; } } /** * 测试类Test * * Email:530025983@qq.com * * @author MONKEY.D.MENG 2011-03-15 * */ public class Test { public static void main(String[] args) { // 仓库对象 Storage storage = new Storage(); // 生产者对象 Producer p1 = new Producer(storage); Producer p2 = new Producer(storage); Producer p3 = new Producer(storage); Producer p4 = new Producer(storage); Producer p5 = new Producer(storage); Producer p6 = new Producer(storage); Producer p7 = new Producer(storage); // 消费者对象 Consumer c1 = new Consumer(storage); Consumer c2 = new Consumer(storage); Consumer c3 = new Consumer(storage); // 设置生产者产品生产数量 p1.setNum(10); p2.setNum(10); p3.setNum(10); p4.setNum(10); p5.setNum(10); p6.setNum(10); p7.setNum(80); // 设置消费者产品消费数量 c1.setNum(50); c2.setNum(20); c3.setNum(30); // 线程开始执行 c1.start(); c2.start(); c3.start(); p1.start(); p2.start(); p3.start(); p4.start(); p5.start(); p6.start(); p7.start(); } } 【要消费的产品数量】:50 【库存量】:0 暂时不能执行生产任务! 【要消费的产品数量】:30 【库存量】:0 暂时不能执行生产任务! 【要消费的产品数量】:20 【库存量】:0 暂时不能执行生产任务! 【已经生产产品数】:10 【现仓储量为】:10 【要消费的产品数量】:20 【库存量】:10 暂时不能执行生产任务! 【要消费的产品数量】:30 【库存量】:10 暂时不能执行生产任务! 【要消费的产品数量】:50 【库存量】:10 暂时不能执行生产任务! 【已经生产产品数】:10 【现仓储量为】:20 【要消费的产品数量】:50 【库存量】:20 暂时不能执行生产任务! 【要消费的产品数量】:30 【库存量】:20 暂时不能执行生产任务! 【已经消费产品数】:20 【现仓储量为】:0 【已经生产产品数】:10 【现仓储量为】:10 【已经生产产品数】:10 【现仓储量为】:20 【已经生产产品数】:80 【现仓储量为】:100 【要生产的产品数量】:10 【库存量】:100 暂时不能执行生产任务! 【已经消费产品数】:30 【现仓储量为】:70 【已经消费产品数】:50 【现仓储量为】:20 【已经生产产品数】:10 【现仓储量为】:30 【已经生产产品数】:10 【现仓储量为】:40
看完上述代码,对wait() / notify()方法实现的同步有了了解。你可能会对Storage类中为什么要定义public void produce(int num);和public void consume(int num);方法感到不解,为什么不直接在生产者类Producer和消费者类Consumer中实现这两个方法,却要调用Storage类中的实现呢?淡定,后文会有解释。我们先往下走。
二、await() / signal()方法
在JDK5.0之后,Java提供了更加健壮的线程处理机制,包括同步、锁定、线程池等,它们可以实现更细粒度的线程控制。await()和signal()就是其中用来做同步的两种方法,它们的功能基本上和wait() / nofity()相同,完全可以取代它们,但是它们和新引入的锁定机制Lock直接挂钩,具有更大的灵活性。通过在Lock对象上调用newCondition()方法,将条件变量和一个锁对象进行绑定,进而控制并发程序访问竞争资源的安全。下面来看代码:
import java.util.LinkedList; import java.util.concurrent.locks.Condition; import java.util.concurrent.locks.Lock; import java.util.concurrent.locks.ReentrantLock; /** * 仓库类Storage实现缓冲区 * * Email:530025983@qq.com * * @author MONKEY.D.MENG 2011-03-15 * */ public class Storage { // 仓库最大存储量 private final int MAX_SIZE = 100; // 仓库存储的载体 private LinkedList<Object> list = new LinkedList<Object>(); // 锁 private final Lock lock = new ReentrantLock(); // 仓库满的条件变量 private final Condition full = lock.newCondition(); // 仓库空的条件变量 private final Condition empty = lock.newCondition(); // 生产num个产品 public void produce(int num) { // 获得锁 lock.lock(); // 如果仓库剩余容量不足 while (list.size() + num > MAX_SIZE) { System.out.println("【要生产的产品数量】:" + num + "/t【库存量】:" + list.size() + "/t暂时不能执行生产任务!"); try { // 由于条件不满足,生产阻塞 full.await(); } catch (InterruptedException e) { e.printStackTrace(); } } // 生产条件满足情况下,生产num个产品 for (int i = 1; i <= num; ++i) { list.add(new Object()); } System.out.println("【已经生产产品数】:" + num + "/t【现仓储量为】:" + list.size()); // 唤醒其他所有线程 full.signalAll(); empty.signalAll(); // 释放锁 lock.unlock(); } // 消费num个产品 public void consume(int num) { // 获得锁 lock.lock(); // 如果仓库存储量不足 while (list.size() < num) { System.out.println("【要消费的产品数量】:" + num + "/t【库存量】:" + list.size() + "/t暂时不能执行生产任务!"); try { // 由于条件不满足,消费阻塞 empty.await(); } catch (InterruptedException e) { e.printStackTrace(); } } // 消费条件满足情况下,消费num个产品 for (int i = 1; i <= num; ++i) { list.remove(); } System.out.println("【已经消费产品数】:" + num + "/t【现仓储量为】:" + list.size()); // 唤醒其他所有线程 full.signalAll(); empty.signalAll(); // 释放锁 lock.unlock(); } // set/get方法 public int getMAX_SIZE() { return MAX_SIZE; } public LinkedList<Object> getList() { return list; } public void setList(LinkedList<Object> list) { this.list = list; } } 【要消费的产品数量】:50 【库存量】:0 暂时不能执行生产任务! 【要消费的产品数量】:30 【库存量】:0 暂时不能执行生产任务! 【已经生产产品数】:10 【现仓储量为】:10 【已经生产产品数】:10 【现仓储量为】:20 【要消费的产品数量】:50 【库存量】:20 暂时不能执行生产任务! 【要消费的产品数量】:30 【库存量】:20 暂时不能执行生产任务! 【已经生产产品数】:10 【现仓储量为】:30 【要消费的产品数量】:50 【库存量】:30 暂时不能执行生产任务! 【已经消费产品数】:20 【现仓储量为】:10 【已经生产产品数】:10 【现仓储量为】:20 【要消费的产品数量】:30 【库存量】:20 暂时不能执行生产任务! 【已经生产产品数】:80 【现仓储量为】:100 【要生产的产品数量】:10 【库存量】:100 暂时不能执行生产任务! 【已经消费产品数】:50 【现仓储量为】:50 【已经生产产品数】:10 【现仓储量为】:60 【已经消费产品数】:30 【现仓储量为】:30 【已经生产产品数】:10 【现仓储量为】:40
只需要更新仓库类Storage的代码即可,生产者Producer、消费者Consumer、测试类Test的代码均不需要进行任何更改。这样我们就知道为神马我要在Storage类中定义public void produce(int num);和public void consume(int num);方法,并在生产者类Producer和消费者类Consumer中调用Storage类中的实现了吧。将可能发生的变化集中到一个类中,不影响原有的构架设计,同时无需修改其他业务层代码。无意之中,我们好像使用了某种设计模式,具体是啥我忘记了,啊哈哈,等我想起来再告诉大家~
三、BlockingQueue阻塞队列方法
BlockingQueue是JDK5.0的新增内容,它是一个已经在内部实现了同步的队列,实现方式采用的是我们第2种await() / signal()方法。它可以在生成对象时指定容量大小。它用于阻塞操作的是put()和take()方法。
put()方法:类似于我们上面的生产者线程,容量达到最大时,自动阻塞。
take()方法:类似于我们上面的消费者线程,容量为0时,自动阻塞。
关于BlockingQueue的内容网上有很多,大家可以自己搜,我在这不多介绍。下面直接看代码,跟以往一样,我们只需要更改仓库类Storage的代码即可:
import java.util.concurrent.LinkedBlockingQueue; /** * 仓库类Storage实现缓冲区 * * Email:530025983@qq.com * * @author MONKEY.D.MENG 2011-03-15 * */ public class Storage { // 仓库最大存储量 private final int MAX_SIZE = 100; // 仓库存储的载体 private LinkedBlockingQueue<Object> list = new LinkedBlockingQueue<Object>( 100); // 生产num个产品 public void produce(int num) { // 如果仓库剩余容量为0 if (list.size() == MAX_SIZE) { System.out.println("【库存量】:" + MAX_SIZE + "/t暂时不能执行生产任务!"); } // 生产条件满足情况下,生产num个产品 for (int i = 1; i <= num; ++i) { try { // 放入产品,自动阻塞 list.put(new Object()); } catch (InterruptedException e) { e.printStackTrace(); } System.out.println("【现仓储量为】:" + list.size()); } } // 消费num个产品 public void consume(int num) { // 如果仓库存储量不足 if (list.size() == 0) { System.out.println("【库存量】:0/t暂时不能执行生产任务!"); } // 消费条件满足情况下,消费num个产品 for (int i = 1; i <= num; ++i) { try { // 消费产品,自动阻塞 list.take(); } catch (InterruptedException e) { e.printStackTrace(); } } System.out.println("【现仓储量为】:" + list.size()); } // set/get方法 public LinkedBlockingQueue<Object> getList() { return list; } public void setList(LinkedBlockingQueue<Object> list) { this.list = list; } public int getMAX_SIZE() { return MAX_SIZE; } } 【库存量】:0 暂时不能执行生产任务! 【库存量】:0 暂时不能执行生产任务! 【现仓储量为】:1 【现仓储量为】:1 【现仓储量为】:3 【现仓储量为】:4 【现仓储量为】:5 【现仓储量为】:6 【现仓储量为】:7 【现仓储量为】:8 【现仓储量为】:9 【现仓储量为】:10 【现仓储量为】:11 【现仓储量为】:1 【现仓储量为】:2 【现仓储量为】:13 【现仓储量为】:14 【现仓储量为】:17 【现仓储量为】:19 【现仓储量为】:20 【现仓储量为】:21 【现仓储量为】:22 【现仓储量为】:23 【现仓储量为】:24 【现仓储量为】:25 【现仓储量为】:26 【现仓储量为】:12 【现仓储量为】:1 【现仓储量为】:1 【现仓储量为】:2 【现仓储量为】:3 【现仓储量为】:4 【现仓储量为】:5 【现仓储量为】:6 【现仓储量为】:7 【现仓储量为】:27 【现仓储量为】:8 【现仓储量为】:6 【现仓储量为】:18 【现仓储量为】:2 【现仓储量为】:3 【现仓储量为】:4 【现仓储量为】:5 【现仓储量为】:6 【现仓储量为】:7 【现仓储量为】:8 【现仓储量为】:9 【现仓储量为】:10 【现仓储量为】:16 【现仓储量为】:11 【现仓储量为】:12 【现仓储量为】:13 【现仓储量为】:14 【现仓储量为】:15 【现仓储量为】:1 【现仓储量为】:2 【现仓储量为】:3 【现仓储量为】:3 【现仓储量为】:15 【现仓储量为】:1 【现仓储量为】:0 【现仓储量为】:1 【现仓储量为】:1 【现仓储量为】:1 【现仓储量为】:2 【现仓储量为】:3 【现仓储量为】:4 【现仓储量为】:0 【现仓储量为】:1 【现仓储量为】:5 【现仓储量为】:6 【现仓储量为】:7 【现仓储量为】:8 【现仓储量为】:9 【现仓储量为】:10 【现仓储量为】:11 【现仓储量为】:12 【现仓储量为】:13 【现仓储量为】:14 【现仓储量为】:15 【现仓储量为】:16 【现仓储量为】:17 【现仓储量为】:1 【现仓储量为】:1 【现仓储量为】:2 【现仓储量为】:3 【现仓储量为】:4 【现仓储量为】:5 【现仓储量为】:6 【现仓储量为】:3 【现仓储量为】:3 【现仓储量为】:1 【现仓储量为】:2 【现仓储量为】:3 【现仓储量为】:4 【现仓储量为】:5 【现仓储量为】:6 【现仓储量为】:7 【现仓储量为】:8 【现仓储量为】:9 【现仓储量为】:10 【现仓储量为】:11 【现仓储量为】:12 【现仓储量为】:13 【现仓储量为】:14 【现仓储量为】:15 【现仓储量为】:16 【现仓储量为】:17 【现仓储量为】:18 【现仓储量为】:19 【现仓储量为】:6 【现仓储量为】:7 【现仓储量为】:8 【现仓储量为】:9 【现仓储量为】:10 【现仓储量为】:11 【现仓储量为】:12 【现仓储量为】:13 【现仓储量为】:14 【现仓储量为】:15 【现仓储量为】:16 【现仓储量为】:17 【现仓储量为】:18 【现仓储量为】:19 【现仓储量为】:20 【现仓储量为】:21 【现仓储量为】:22 【现仓储量为】:23 【现仓储量为】:24 【现仓储量为】:25 【现仓储量为】:26 【现仓储量为】:27 【现仓储量为】:28 【现仓储量为】:29 【现仓储量为】:30 【现仓储量为】:31 【现仓储量为】:32 【现仓储量为】:33 【现仓储量为】:34 【现仓储量为】:35 【现仓储量为】:36 【现仓储量为】:37 【现仓储量为】:38 【现仓储量为】:39 【现仓储量为】:40
当然,你会发现这时对于public void produce(int num);和public void consume(int num);方法业务逻辑上的实现跟前面两个例子不太一样,没关系,这个例子只是为了说明BlockingQueue阻塞队列的使用。
有时使用BlockingQueue可能会出现put()和System.out.println()输出不匹配的情况,这是由于它们之间没有同步造成的。当缓冲区已满,生产者在put()操作时,put()内部调用了await()方法,放弃了线程的执行,然后消费者线程执行,调用take()方法,take()内部调用了signal()方法,通知生产者线程可以执行,致使在消费者的println()还没运行的情况下生产者的println()先被执行,所以有了输出不匹配的情况。
对于BlockingQueue大家可以放心使用,这可不是它的问题,只是在它和别的对象之间的同步有问题。
对于Java实现生产者/消费者问题的方法先总结到这里面吧,过几天实现一下C++版本的,接下来要马上着手于基于生产者/消费者模式的《异步工作流服务框架的设计与实现》,请持续关注本博客。