• 并行Linq(一)


    本文是.Net 并行计算 的第三篇 欢迎大家拍砖,阅读本文需要有LINQ基础,因为并行LINQ (PLinq) 其实是LINQ To Object 的并行实现

    • 什么是并行LINQ

             PLinq 其实就是Linq to Object 的并行实现,PLINQ 会尝试充分利用系统的处理。将数据源分片之后,而后在多个处理上进行处理,这就意味着在大部分情况下运行速度会显著提高,PLINQ 通常只需向数据源添加 AsParallel()查询操作,这个还是很简单的吧 下面的例子为大家展示了这点

     

               List<int> TestDemo = Enumerable.Range(1, 10000).ToList();
    Stopwatch w1
    = Stopwatch.StartNew(); var linqParallel = from c in TestDemo.AsParallel() where c % 2 == 0 select c; int count = linqParallel.ToList().Count; Console.WriteLine("并行Linq耗时" + w1.ElapsedMilliseconds + "找到偶数:" + count);

           大家知道上面的例子是怎么执行的吗?其实在默认的情况下PLinq是保守的。他会先分析总体结构和的并行查询是否安全,如果并行查询性能因为并行而提高而且安全的话就会使用并行查询。否则就会顺序执行,当然你也可以直接指定使用并行查询。

     var linqParallel = from c in TestDemo.AsParallel().WithExecutionMode(ParallelExecutionMode.ForceParallelism) where c % 2 == 0 select c;
    • 影响PLINQ查询性能的因素

            1.总体工作的计算开销

                首先大家都明白并行化会有性能的开销所以PLINQ的查询的必须要有足够的运算来弥补这样的开开销,如果运算量很小则不适合使用PLINQ;大家看看下面的例子,才看看运行结果 是PLINQ 的时间多还是LINQ的时间多,在笔者的电脑中并行LINQ 所需时间要大于非并行LINQ

    1
    2
    3
    4
    5
    6
    7
    List<int> TestDemo = Enumerable.Range(1, 1000000).ToList();
     Stopwatch w1 = Stopwatch.StartNew();
     var linqParallel = from num in TestDemo.AsParallel() where  num / 3 == 0 select num;
     Console.WriteLine("并行Linq耗时" + w1.ElapsedMilliseconds );
     Stopwatch w2 = Stopwatch.StartNew();
     var linql = from num in TestDemo where num / 3 == 0 select num;
     Console.WriteLine("非并行Linq耗时" + w2.ElapsedMilliseconds );

              如果我们做如下修改,那么PLINQ的性能优势立即就显现出来了,因为在SELECT的语句有足够的工作来抵消并行带来的性能开销

    复制代码
     private static int MyTest(int a)
            {
    
                Thread.Sleep(1000);
                Random r= new Random(1000);
                return r.Next();
            }
    复制代码
    复制代码
                List<int> TestDemo = Enumerable.Range(1, 100).ToList();
                Stopwatch w1 = Stopwatch.StartNew();
                var linqParallel = from num in TestDemo.AsParallel() where num / 3 == 0 select MyTest(num);
                Console.WriteLine("并行Linq耗时" + w1.ElapsedMilliseconds );
                Stopwatch w2 = Stopwatch.StartNew();
                var linql = from num in TestDemo where num / 3 == 0 select MyTest(num);
                Console.WriteLine("非并行Linq耗时" + w2.ElapsedMilliseconds );
                Console.ReadLine();
    复制代码

         2.系统的逻辑内核
           这个地方我好想很好理解,一样代码,你在4核心机器上和8核心的机器上,肯定是8核跑的快些原因是可以在更多并行线程之间分担工作加速的总量取决于查询的总体工作中可并行化的百分比。  但是,请不要假定所有查询在八核计算机上的运行速度都比在四核计算机的运行速度快两倍在PLINQ中我们可以指定使用处理器的个数但是最多不能操过64个如下例中

    1
    var linqParallel = from num in TestDemo.AsParallel().WithDegreeOfParallelism(2) where num / 3 == 0 select MyTest(num);

       3.查询的执行方式

           这里在后面会讲到,现在就不说了。

       4.操作数量和种类

       对于必须要保持元素在源序列中的顺序的情况,PLINQ 提供了 AsOrdered 运算符。 排序会产生开销,但此开销通常是适度的。  GroupBy 和 Join 操作同样也会产生开销。  如果允许按任意顺序处理源集合中的元素,并在这些元素就绪时立即将它们传递到下一个运算符

                


     

     
     
    分类: .Net
  • 相关阅读:
    error PRJ0019的一个解决心得
    3月3日工作日志88250
    IBM、BEA和JBoss应用服务器采用OSGi
    四级再次挂了
    迁移应用进入基于Annotation MVC的spring 2.5
    如何在VC6.0中设置条件断点
    3月4日工作日志88250
    KMP字符串模式匹配详解
    KMP字符串模式匹配详解
    C/C++之SQLite常用函数
  • 原文地址:https://www.cnblogs.com/Leo_wl/p/3491462.html
Copyright © 2020-2023  润新知