list1 与 list2 求交集的方法总结！

原文地址： https://www.cnblogs.com/aspirant/p/10012840.html

一、有序集合求交集的方法有

         a）二重 for 循环法，时间复杂度 O(n*n)

         b）拉链法，时间复杂度 O(n)

         c）水平分桶，多线程并行

         d）bitmap，大大提高运算并行度，时间复杂度 O(n)

         e）跳表，时间复杂度为 O(log(n))

以下是方法的具体介绍：

方案一：for * for，土办法，时间复杂度 O(n*n)

　　　　每个搜索词命中的网页是很多的，O(n*n)的复杂度是明显不能接受的。倒排索引是在创建之初可以进行排序预处理，问题转化成两个有序的 list 求交集，就方便多了。

方案二：有序 list 求交集，拉链法

　　　　　　有序集合 1{1,3,5,7,8,9}

　　　　　　有序集合 2{2,3,4,5,6,7}

　　　　两个指针指向首元素，比较元素的大小：

　　　　（1）如果相同，放入结果集，随意移动一个指针

　　　　（2）否则，移动值较小的一个指针，直到队尾

　　这种方法的好处是：

　　（1）集合中的元素最多被比较一次，时间复杂度为 O(n)

　　（2）多个有序集合可以同时进行，这适用于多个分词的 item 求 url_id 交集

　　这个方法就像一条拉链的两边齿轮，一一比对就像拉链，故称为拉链法

方案三：分桶并行优化

　　　　数据量大时，url_id 分桶水平切分 + 并行运算是一种常见的优化方法，如果能将 list1 和 list2 分成若干个桶区间，每个区间利用多线程并行求交集，各个线程结果集的并集，作为最终的结果集，能够大大的减少执行时间。

 　　　　举例：

　　　　　　有序集合 1{1,3,5,7,8,9, 10,30,50,70,80,90}

　　　　　　有序集合 2{2,3,4,5,6,7, 20,30,40,50,60,70}

 　　　　求交集，先进行分桶拆分：

　　　　　　桶 1 的范围为[1, 9]

　　　　　　桶 2 的范围为[10, 100]

• 本文地址：list1 与 list2 求交集的方法总结！
• 本文版权归作者和AIQ共有，欢迎转载，但未经作者同意必须保留此段声明，且在文章页面明显位置给出

　　　　　　桶 3 的范围为[101, max_int]

　　　　于是：

　　　　集合 1 就拆分成

　　　　集合 a{1,3,5,7,8,9}

　　　　集合 b{10,30,50,70,80,90}

　　　　集合 c{} 

　　　　集合 2 就拆分成

　　　　集合 d{2,3,4,5,6,7}

　　　　集合 e{20,30,40,50,60,70}

　　　　集合 e{}

　　　　每个桶内的数据量大大降低了，并且每个桶内没有重复元素，可以利用多线程并行计算：

　　　　桶 1 内的集合 a 和集合 d 的交集是 x{3,5,7}

　　　　桶 2 内的集合 b 和集合 e 的交集是 y{30, 50, 70}

　　　　桶 3 内的集合 c 和集合 d 的交集是 z{}

 　　　最终，集合 1 和集合 2 的交集，是 x 与 y 与 z 的并集，即集合{3,5,7,30,50,70}

方案四：bitmap 再次优化

　　　　数据进行了水平分桶拆分之后，每个桶内的数据一定处于一个范围之内，如果集合符合这个特点，就可以使用 bitmap 来表示集合：

　　如上图，假设 set1{1,3,5,7,8,9}和 set2{2,3,4,5,6,7}的所有元素都在桶值[1, 16]的范围之内，可以用 16 个 bit 来描述这两个集合，原集合中的元素 x，在这个 16bitmap 中的第 x 个 bit 为 1，此时两个 bitmap 求交集，只需要将两个 bitmap 进行“与”操作，结果集 bitmap 的 3，5，7 位是 1，表明原集合的交集为{3,5,7}

 　　　　水平分桶，bitmap 优化之后，能极大提高求交集的效率，但时间复杂度仍旧是 O(n)

　　　　但 bitmap 需要大量连续空间，占用内存较大

方案五：跳表 skiplist

　　　　有序链表集合求交集，跳表是最常用的数据结构，它可以将有序集合求交集的复杂度由 O(n)降至 O(log(n))

　　　　集合 1{1,2,3,4,20,21,22,23,50,60,70}

　　　　集合 2{50,70}

　　　　要求交集，如果用拉链法，会发现 1,2,3,4,20,21,22,23 都要被无效遍历一次，每个元素都要被比对，时间复杂度为 O(n)，能不能每次比对“跳过一些元素”呢？

跳表就出现了：

　　　　集合 1{1,2,3,4,20,21,22,23,50,60,70}建立跳表时，一级只有{1,20,50}三个元素，二级与普通链表相同，集合 2{50,70}由于元素较少，只建立了一级普通链表；如此这般，在实施“拉链”求交集的过程中，set1 的指针能够由 1 跳到 20 再跳到 50，中间能够跳过很多元素，无需进行一一比对，跳表求交集的时间复杂度近似 O(log(n))，这是搜索引擎中常见的算法。