• list1与list2求交集的方法总结!


    一、有序集合求交集的方法有

             a)二重for循环法,时间复杂度O(n*n)

             b)拉链法,时间复杂度O(n)

             c)水平分桶,多线程并行

             d)bitmap,大大提高运算并行度,时间复杂度O(n)

             e)跳表,时间复杂度为O(log(n))

    以下是方法的具体介绍:

    方案一:for * for,土办法,时间复杂度O(n*n)

        每个搜索词命中的网页是很多的,O(n*n)的复杂度是明显不能接受的。倒排索引是在创建之初可以进行排序预处理,问题转化成两个有序的list求交集,就方便多了。

    方案二:有序list求交集,拉链法

        

          有序集合1{1,3,5,7,8,9}

          有序集合2{2,3,4,5,6,7}

        两个指针指向首元素,比较元素的大小:

        (1)如果相同,放入结果集,随意移动一个指针

        (2)否则,移动值较小的一个指针,直到队尾

      这种方法的好处是:

      (1)集合中的元素最多被比较一次,时间复杂度为O(n)

      (2)多个有序集合可以同时进行,这适用于多个分词的item求url_id交集

      这个方法就像一条拉链的两边齿轮,一一比对就像拉链,故称为拉链法

    方案三:分桶并行优化

        数据量大时,url_id分桶水平切分+并行运算是一种常见的优化方法,如果能将list1<url_id>和list2<url_id>分成若干个桶区间,每个区间利用多线程并行求交集,各个线程结果集的并集,作为最终的结果集,能够大大的减少执行时间。

         举例:

          有序集合1{1,3,5,7,8,9, 10,30,50,70,80,90}

          有序集合2{2,3,4,5,6,7, 20,30,40,50,60,70}

         求交集,先进行分桶拆分:

          桶1的范围为[1, 9]

          桶2的范围为[10, 100]

          桶3的范围为[101, max_int]

        于是:

        集合1就拆分成

        集合a{1,3,5,7,8,9}

        集合b{10,30,50,70,80,90}

        集合c{} 

        集合2就拆分成

        集合d{2,3,4,5,6,7}

        集合e{20,30,40,50,60,70}

        集合e{}

        每个桶内的数据量大大降低了,并且每个桶内没有重复元素,可以利用多线程并行计算:

        桶1内的集合a和集合d的交集是x{3,5,7}

        桶2内的集合b和集合e的交集是y{30, 50, 70}

        桶3内的集合c和集合d的交集是z{}

        最终,集合1和集合2的交集,是x与y与z的并集,即集合{3,5,7,30,50,70}

    方案四:bitmap再次优化

        数据进行了水平分桶拆分之后,每个桶内的数据一定处于一个范围之内,如果集合符合这个特点,就可以使用bitmap来表示集合:

          

      如上图,假设set1{1,3,5,7,8,9}和set2{2,3,4,5,6,7}的所有元素都在桶值[1, 16]的范围之内,可以用16个bit来描述这两个集合,原集合中的元素x,在这个16bitmap中的第x个bit为1,此时两个bitmap求交集,只需要将两个bitmap进行“与”操作,结果集bitmap的3,5,7位是1,表明原集合的交集为{3,5,7}

         水平分桶,bitmap优化之后,能极大提高求交集的效率,但时间复杂度仍旧是O(n)

        但bitmap需要大量连续空间,占用内存较大

    方案五:跳表skiplist

        有序链表集合求交集,跳表是最常用的数据结构,它可以将有序集合求交集的复杂度由O(n)降至O(log(n))

         

        集合1{1,2,3,4,20,21,22,23,50,60,70}

        集合2{50,70}

        要求交集,如果用拉链法,会发现1,2,3,4,20,21,22,23都要被无效遍历一次,每个元素都要被比对,时间复杂度为O(n),能不能每次比对“跳过一些元素”呢?

    跳表就出现了:

          

        集合1{1,2,3,4,20,21,22,23,50,60,70}建立跳表时,一级只有{1,20,50}三个元素,二级与普通链表相同,集合2{50,70}由于元素较少,只建立了一级普通链表;如此这般,在实施“拉链”求交集的过程中,set1的指针能够由1跳到20再跳到50,中间能够跳过很多元素,无需进行一一比对,跳表求交集的时间复杂度近似O(log(n)),这是搜索引擎中常见的算法。

    本片博客转载自以下网站(本着分享以及保存以便日后复习的目的发布此博客):

      http://mp.weixin.qq.com/s/lwsN7RbptdL5XNEVWSevLg

  • 相关阅读:
    全世界最好听的钢琴曲
    清华“70后”院长刘云浩——生命在于运动,梦想从未止步 | 新“清”年特辑
    Android---60---Notification 通知栏的简单使用
    面向对象的三大特性
    一道淘汰85%面试者的百度开发人员面试题?
    Linux下基于Erlang的高并发TCP连接压力实验
    2014南瑞暑期实习面试笔试经历
    Oracle cloud control 12c 怎样改动sysmanpassword
    JEECG社区 一个微信教育站点案例源代码分享
    stm32智能小车之路之小车启动
  • 原文地址:https://www.cnblogs.com/Mr-nie/p/7234729.html
Copyright © 2020-2023  润新知