• Java并发专题 带返回结果的批量任务运行 CompletionService ExecutorService.invokeAll


    转载请标明出处:http://blog.csdn.net/lmj623565791/article/details/27250059

    普通情况下,我们使用Runnable作为主要的任务表示形式,可是Runnable是一种有非常大局限的抽象,run方法中仅仅能记录日志,打印,或者把数据汇总入某个容器(一方面内存消耗大,还有一方面须要控制同步,效率非常大的限制),总之不能返回运行的结果;比方同一时候1000个任务去网络上抓取数据,然后将抓取到的数据进行处理(处理方式不定),我认为最好的方式就是提供回调接口,把处理的方式最为回调传进去;可是如今我们有了更好的方式实现:CompletionService + Callable

    Callable的call方法能够返回运行的结果;

    CompletionService将Executor(线程池)和BlockingQueue(堵塞队列)结合在一起,同一时候使用Callable作为任务的基本单元,整个过程就是生产者不断把Callable任务放入堵塞对了,Executor作为消费者不断把任务取出来运行,并返回结果;

    优势:

    a、堵塞队列防止了内存中排队等待的任务过多,造成内存溢出(毕竟一般生产者速度比較快,比方爬虫准备好网址和规则,就去运行了,运行起来(消费者)还是比較慢的)

    b、CompletionService能够实现,哪个任务先运行完毕就返回,而不是按顺序返回,这样能够极大的提升效率;

    1、CompletionService : Executor + BlockingQueue 

    以下看个样例:

    package com.zhy.concurrency.completionService;
    
    import java.util.Random;
    import java.util.concurrent.BlockingQueue;
    import java.util.concurrent.Callable;
    import java.util.concurrent.CompletionService;
    import java.util.concurrent.ExecutionException;
    import java.util.concurrent.ExecutorCompletionService;
    import java.util.concurrent.ExecutorService;
    import java.util.concurrent.Executors;
    import java.util.concurrent.Future;
    import java.util.concurrent.LinkedBlockingDeque;
    
    /**
     * 将Executor和BlockingQueue功能融合在一起,能够将Callable的任务提交给它来运行, 然后使用take()方法获得已经完毕的结果
     * 
     * @author zhy
     * 
     */
    public class CompletionServiceDemo
    {
    
    	public static void main(String[] args) throws InterruptedException,
    			ExecutionException
    	{
    		/**
    		 * 内部维护11个线程的线程池
    		 */
    		ExecutorService exec = Executors.newFixedThreadPool(11);
    		/**
    		 * 容量为10的堵塞队列
    		 */
    		final BlockingQueue<Future<Integer>> queue = new LinkedBlockingDeque<Future<Integer>>(
    				10);
    		//实例化CompletionService
    		final CompletionService<Integer> completionService = new ExecutorCompletionService<Integer>(
    				exec, queue);
    
    		/**
    		 * 模拟瞬间产生10个任务,且每一个任务运行时间不一致
    		 */
    		for (int i = 0; i < 10; i++)
    		{
    			completionService.submit(new Callable<Integer>()
    			{
    				@Override
    				public Integer call() throws Exception
    				{
    					int ran = new Random().nextInt(1000);
    					Thread.sleep(ran);
    					System.out.println(Thread.currentThread().getName()
    							+ " 歇息了 " + ran);
    					return ran;
    				}
    			});
    		}
    		
    		/**
    		 * 马上输出结果
    		 */
    		for (int i = 0; i < 10; i++)
    		{
    			try
    			{	
    				//谁最先运行完毕,直接返回
    				Future<Integer> f = completionService.take();
    				System.out.println(f.get());
    			} catch (InterruptedException e)
    			{
    				e.printStackTrace();
    			} catch (ExecutionException e)
    			{
    				e.printStackTrace();
    			}
    		}
    
    		exec.shutdown();
    
    	}
    
    }
    
    输出结果:

    pool-1-thread-4 歇息了 52
    52
    pool-1-thread-1 歇息了 59
    59
    pool-1-thread-10 歇息了 215
    215
    pool-1-thread-9 歇息了 352
    352
    pool-1-thread-5 歇息了 389
    389
    pool-1-thread-3 歇息了 589
    589
    pool-1-thread-2 歇息了 794
    794
    pool-1-thread-7 歇息了 805
    805
    pool-1-thread-6 歇息了 909
    909
    pool-1-thread-8 歇息了 987
    987
    

    最先运行完毕的直接返回,并不须要按任务提交的顺序运行,假设须要写个高并发的程序,且每一个任务须要返回运行结果,这是个相当不错的选择!


    2、ExecutorService.invokeAll

    ExecutorService的invokeAll方法也能批量运行任务,并批量返回结果,可是呢,有个我认为非常致命的缺点,必须等待全部的任务运行完毕后统一返回,一方面内存持有的时间长;还有一方面响应性也有一定的影响,毕竟大家都喜欢看看刷刷的运行结果输出,而不是苦苦的等待;

    以下看个样例:

    package com.zhy.concurrency.executors;
    
    import java.util.ArrayList;
    import java.util.List;
    import java.util.Random;
    import java.util.concurrent.Callable;
    import java.util.concurrent.ExecutionException;
    import java.util.concurrent.ExecutorService;
    import java.util.concurrent.Executors;
    import java.util.concurrent.Future;
    
    public class TestInvokeAll
    {
    
    	public static void main(String[] args) throws InterruptedException,
    			ExecutionException
    	{
    		ExecutorService exec = Executors.newFixedThreadPool(10);
    
    		List<Callable<Integer>> tasks = new ArrayList<Callable<Integer>>();
    		Callable<Integer> task = null;
    		for (int i = 0; i < 10; i++)
    		{
    			task = new Callable<Integer>()
    			{
    				@Override
    				public Integer call() throws Exception
    				{
    					int ran = new Random().nextInt(1000);
    					Thread.sleep(ran);
    					System.out.println(Thread.currentThread().getName()+" 歇息了 " + ran );
    					return ran;
    				}
    			};
    
    			tasks.add(task);
    		}
    		
    		long s = System.currentTimeMillis();
    		
    		
    		List<Future<Integer>> results = exec.invokeAll(tasks);
    		
    		System.out.println("运行任务消耗了 :" + (System.currentTimeMillis() - s) +"毫秒");
    		
    		for (int i = 0; i < results.size(); i++)
    		{
    			try
    			{
    				System.out.println(results.get(i).get());
    			} catch (Exception e)
    			{
    				e.printStackTrace();
    			}
    		}
    
    		
    		exec.shutdown();
    
    	}
    
    }
    

    运行结果:

    pool-1-thread-10 歇息了 1
    pool-1-thread-5 歇息了 59
    pool-1-thread-6 歇息了 128
    pool-1-thread-1 歇息了 146
    pool-1-thread-3 歇息了 158
    pool-1-thread-7 歇息了 387
    pool-1-thread-9 歇息了 486
    pool-1-thread-8 歇息了 606
    pool-1-thread-4 歇息了 707
    pool-1-thread-2 歇息了 817
    运行任务消耗了 :819毫秒
    146
    817
    158
    707
    59
    128
    387
    606
    486
    1
    

    我特意在任务提交完毕打印了一个时间,然后invokeAll运行完毕后打印了下时间,能够看出invokeAll返回是等待全部线程运行完毕的。这点来说,我认为可用性不如CompletionService。


    嗯,对于批量运行任务,且携带返回结果的案例就到这里~假设有疑问或者代码中存在错误请指出~




  • 相关阅读:
    Ecshop支持用户名、邮箱或手机号码登录
    Ecshop模板在首页调用指定分类的热销、推荐、新品商品
    使用JQuery的全屏背景图片,自动适应各种屏幕和浏览器
    浏览器左下角提示网页上有错误解决方法
    设为首页、加入收藏
    Flash遮住Div的解决办法
    谷歌站内搜索的两种方式
    网页内插入百度、谷歌搜索引擎
    CSS透明滤镜
    Eclipse无Server或者Tomcat8.5解决办法
  • 原文地址:https://www.cnblogs.com/hrhguanli/p/3998865.html
Copyright © 2020-2023  润新知