• 大数据处理算法--Bloom Filter布隆过滤

    1. Bloom-Filter算法简介

            Bloom-Filter，即布隆过滤器，1970年由Bloom中提出。它可以用于检索一个元素是否在一个集合中。

           Bloom Filter（BF）是一种空间效率很高的随机数据结构，它利用位数组很简洁地表示一个集合，并能判断一个元素是否属于这个集合。它是一个判断元素是否存在集合的快速的概率算法。Bloom Filter有可能会出现错误判断，但不会漏掉判断。也就是Bloom Filter判断元素不再集合，那肯定不在。如果判断元素存在集合中，有一定的概率判断错误。因此，Bloom Filter不适合那些“零错误”的应用场合。而在能容忍低错误率的应用场合下，Bloom Filter比其他常见的算法（如hash，折半查找）极大节省了空间。 

          它的优点是空间效率和查询时间都远远超过一般的算法，缺点是有一定的误识别率和删除困难。

          Bloom Filter的详细介绍：Bloom Filter

     

    2、 Bloom-Filter的基本思想

           Bloom-Filter算法的核心思想就是利用多个不同的Hash函数来解决“冲突”。

           计算某元素x是否在一个集合中，首先能想到的方法就是将所有的已知元素保存起来构成一个集合R，然后用元素x跟这些R中的元素一一比较来判断是否存在于集合R中；我们可以采用链表等数据结构来实现。但是，随着集合R中元素的增加，其占用的内存将越来越大。试想，如果有几千万个不同网页需要下载，所需的内存将足以占用掉整个进程的内存地址空间。即使用MD5，UUID这些方法将URL转成固定的短小的字符串，内存占用也是相当巨大的。

          于是，我们会想到用Hash table的数据结构，运用一个足够好的Hash函数将一个URL映射到二进制位数组（位图数组）中的某一位。如果该位已经被置为1，那么表示该URL已经存在。

          Hash存在一个冲突（碰撞）的问题，用同一个Hash得到的两个URL的值有可能相同。为了减少冲突，我们可以多引入几个Hash，如果通过其中的一个Hash值我们得出某元素不在集合中，那么该元素肯定不在集合中。只有在所有的Hash函数告诉我们该元素在集合中时，才能确定该元素存在于集合中。这便是Bloom-Filter的基本思想。

    原理要点：一是位数组， 而是k个独立hash函数。

    1）位数组：

            假设Bloom Filter使用一个m比特的数组来保存信息，初始状态时，Bloom Filter是一个包含m位的位数组，每一位都置为0，即BF整个数组的元素都设置为0。

    2）添加元素，k个独立hash函数

           为了表达S={x1, x2,…,xn}这样一个n个元素的集合，Bloom Filter使用k个相互独立的哈希函数（Hash Function），它们分别将集合中的每个元素映射到{1,…,m}的范围中。

             当我们往Bloom Filter中增加任意一个元素x时候，我们使用k个哈希函数得到k个哈希值，然后将数组中对应的比特位设置为1。即第i个哈希函数映射的位置hashi(x)就会被置为1（1≤i≤k）。

     注意，如果一个位置多次被置为1，那么只有第一次会起作用，后面几次将没有任何效果。在下图中，k=3，且有两个哈希函数选中同一个位置（从左边数第五位，即第二个“1“处）。   

     3）判断元素是否存在集合

        在判断y是否属于这个集合时，我们只需要对y使用k个哈希函数得到k个哈希值，如果所有hashi(y)的位置都是1（1≤i≤k），即k个位置都被设置为1了，那么我们就认为y是集合中的元素，否则就认为y不是集合中的元素。下图中y1就不是集合中的元素（因为y1有一处指向了“0”位）。y2或者属于这个集合，或者刚好是一个false positive。

     

          显然这 个判断并不保证查找的结果是100%正确的。

    Bloom Filter的缺点：

           1）Bloom Filter无法从Bloom Filter集合中删除一个元素。因为该元素对应的位会牵动到其他的元素。所以一个简单的改进就是 counting Bloom filter，用一个counter数组代替位数组，就可以支持删除了。 此外，Bloom Filter的hash函数选择会影响算法的效果。

           2）还有一个比较重要的问题，如何根据输入元素个数n，确定位数组m的大小及hash函数个数，即hash函数选择会影响算法的效果。当hash函数个数k=(ln2)*(m/n)时错误率最小。在错误率不大于E的情况 下，m至少要等于n*lg(1/E) 才能表示任意n个元素的集合。但m还应该更大些，因为还要保证bit数组里至少一半为0，则m应 该>=nlg(1/E)*lge ，大概就是nlg(1/E)1.44倍(lg表示以2为底的对数)。 

    举个例子我们假设错误率为0.01，则此时m应大概是n的13倍。这样k大概是8个。 

     注意：

             这里m与n的单位不同，m是bit为单位，而n则是以元素个数为单位(准确的说是不同元素的个数)。通常单个元素的长度都是有很多bit的。所以使用bloom filter内存上通常都是节省的。 

           一般BF可以与一些key-value的数据库一起使用，来加快查询。由于BF所用的空间非常小，所有BF可以常驻内存。这样子的话，对于大部分不存在的元素，我们只需要访问内存中的BF就可以判断出来了，只有一小部分，我们需要访问在硬盘上的key-value数据库。从而大大地提高了效率。

     

    一个Bloom Filter有以下参数：

    m bit数组的宽度（bit数）
    n 加入其中的key的数量
    k 使用的hash函数的个数
    f False Positive的比率

    Bloom Filter的f满足下列公式：

     

    在给定m和n时，能够使f最小化的k值为：

    此时给出的f为：

    根据以上公式，对于任意给定的f，我们有：

     
    n = m ln(0.6185) / ln(f)    [1]
     
    同时，我们需要k个hash来达成这个目标：
     
    k = - ln(f) / ln(2)             [2]
     
    由于k必须取整数，我们在Bloom Filter的程序实现中，还应该使用上面的公式来求得实际的f：
     
    f = (1 – e-kn/m)k             [3]
     
    以上3个公式是程序实现Bloom Filter的关键公式。

    3、 扩展 CounterBloom Filter

    CounterBloom Filter

    BloomFilter有个缺点，就是不支持删除操作，因为它不知道某一个位从属于哪些向量。那我们可以给Bloom Filter加上计数器，添加时增加计数器，删除时减少计数器。

    但这样的Filter需要考虑附加的计数器大小，假如同个元素多次插入的话，计数器位数较少的情况下，就会出现溢出问题。如果对计数器设置上限值的话，会导致Cache Miss，但对某些应用来说，这并不是什么问题，如Web Sharing。

    Compressed Bloom Filter

    为了能在服务器之间更快地通过网络传输Bloom Filter，我们有方法能在已完成Bloom Filter之后，得到一些实际参数的情况下进行压缩。

    将元素全部添加入Bloom Filter后，我们能得到真实的空间使用率，用这个值代入公式计算出一个比m小的值，重新构造Bloom Filter，对原先的哈希值进行求余处理，在误判率不变的情况下，使得其内存大小更合适。

    4、 Bloom-Filter的应用

            Bloom-Filter一般用于在大数据量的集合中判定某元素是否存在。例如邮件服务器中的垃圾邮件过滤器。在搜索引擎领域，Bloom-Filter最常用于网络蜘蛛(Spider)的URL过滤，网络蜘蛛通常有一个URL列表，保存着将要下载和已经下载的网页的URL，网络蜘蛛下载了一个网页，从网页中提取到新的URL后，需要判断该URL是否已经存在于列表中。此时，Bloom-Filter算法是最好的选择。

    1.key-value 加快查询

           一般Bloom-Filter可以与一些key-value的数据库一起使用，来加快查询。

           一般key-value存储系统的values存在硬盘，查询就是件费时的事。将Storage的数据都插入Filter，在Filter中查询都不存在时，那就不需要去Storage查询了。当False Position出现时，只是会导致一次多余的Storage查询。

           由于Bloom-Filter所用的空间非常小，所有BF可以常驻内存。这样子的话，对于大部分不存在的元素，我们只需要访问内存中的Bloom-Filter就可以判断出来了，只有一小部分，我们需要访问在硬盘上的key-value数据库。从而大大地提高了效率。如图：

              

    2 .Google的BigTable

            Google的BigTable也使用了Bloom Filter，以减少不存在的行或列在磁盘上的查询，大大提高了数据库的查询操作的性能。

    3. Proxy-Cache

          在Internet Cache Protocol中的Proxy-Cache很多都是使用Bloom Filter存储URLs，除了高效的查询外，还能很方便得传输交换Cache信息。

    4.网络应用

          1）P2P网络中查找资源操作，可以对每条网络通路保存Bloom Filter，当命中时，则选择该通路访问。

          2）广播消息时，可以检测某个IP是否已发包。

          3）检测广播消息包的环路，将Bloom Filter保存在包里，每个节点将自己添加入Bloom Filter。

         4）信息队列管理，使用Counter Bloom Filter管理信息流量。

    5. 垃圾邮件地址过滤

            像网易，QQ这样的公众电子邮件（email）提供商，总是需要过滤来自发送垃圾邮件的人（spamer）的垃圾邮件。

    一个办法就是记录下那些发垃圾邮件的 email地址。由于那些发送者不停地在注册新的地址，全世界少说也有几十亿个发垃圾邮件的地址，将他们都存起来则需要大量的网络服务器。

    如果用哈希表，每存储一亿个 email地址，就需要 1.6GB的内存（用哈希表实现的具体办法是将每一个 email地址对应成一个八字节的信息指纹，然后将这些信息指纹存入哈希表，由于哈希表的存储效率一般只有 50%，因此一个 email地址需要占用十六个字节。一亿个地址大约要 1.6GB，即十六亿字节的内存）。因此存贮几十亿个邮件地址可能需要上百 GB的内存。

    而Bloom Filter只需要哈希表 1/8到 1/4 的大小就能解决同样的问题。

    BloomFilter决不会漏掉任何一个在黑名单中的可疑地址。而至于误判问题，常见的补救办法是在建立一个小的白名单，存储那些可能别误判的邮件地址。


    5、 Bloom-Filter的具体实现

    c语言实现：

    stdafx.h：

    [cpp] view plain copy
     
    1. #pragma once  
    2. #include <stdio.h>    
    3. #include "stdlib.h"  
    4. #include <iostream>  
    5. #include <time.h>  
    6. using namespace std;  
    [cpp] view plain copy
     
    1. #include "stdafx.h"  
    2.   
    3.   
    4. #define ARRAY_SIZE 256 /*we get the 256 chars of each line*/  
    5. #define SIZE 48000000 /* size should be 1/8 of max*/  
    6. #define MAX  384000000/*the max bit space*/  
    7.   
    8. #define SETBIT(ch,n) ch[n/8]|=1<<(7-n%8)  
    9. #define GETBIT(ch,n) (ch[n/8]&1<<(7-n%8))>>(7-n%8)  
    10.   
    11. unsigned int len(char *ch);/* functions to calculate the length of the url*/  
    12.   
    13. unsigned int RSHash(char* str, unsigned int len);/* functions to calculate the hash value of the url*/  
    14. unsigned int JSHash(char* str, unsigned int len);/* functions to calculate the hash value of the url*/  
    15. unsigned int PJWHash(char* str, unsigned int len);/* functions to calculate the hash value of the url*/  
    16. unsigned int ELFHash(char* str, unsigned int len);/* functions to calculate the hash value of the url*/  
    17. unsigned int BKDRHash(char* str, unsigned int len);/* functions to calculate the hash value of the url*/  
    18. unsigned int SDBMHash(char* str, unsigned int len);/* functions to calculate the hash value of the url*/  
    19. unsigned int DJBHash(char* str, unsigned int len);/* functions to calculate the hash value of the url*/  
    20. unsigned int DEKHash(char* str, unsigned int len);/* functions to calculate the hash value of the url*/  
    21. unsigned int BPHash(char* str, unsigned int len);/* functions to calculate the hash value of the url*/  
    22. unsigned int FNVHash(char* str, unsigned int len);/* functions to calculate the hash value of the url*/  
    23. unsigned int APHash(char* str, unsigned int len);/* functions to calculate the hash value of the url*/  
    24. unsigned int HFLPHash(char* str,unsigned int len);/* functions to calculate the hash value of the url*/  
    25. unsigned int HFHash(char* str,unsigned int len);/* functions to calculate the hash value of the url*/  
    26. unsigned int StrHash( char* str,unsigned int len);/* functions to calculate the hash value of the url*/  
    27. unsigned int TianlHash(char* str,unsigned int len);/* functions to calculate the hash value of the url*/  
    28.   
    29.   
    30. int main()  
    31. {  
    32.     int i,num,num2=0; /* the number to record the repeated urls and the total of it*/  
    33.     unsigned int tt=0;  
    34.     int flag;         /*it helps to check weather the url has already existed */  
    35.     char buf[257];    /*it helps to print the start time of the program */  
    36.     time_t tmp = time(NULL);  
    37.   
    38.     char file1[100],file2[100];  
    39.     FILE *fp1,*fp2;/*pointer to the file */  
    40.     char ch[ARRAY_SIZE];    
    41.     char *vector ;/* the bit space*/  
    42.     vector = (char *)calloc(SIZE,sizeof(char));  
    43.   
    44.     printf("Please enter the file with repeated urls: ");  
    45.     scanf("%s",&file1);     
    46.     if( (fp1 = fopen(file1,"rb")) == NULL) {  /* open the goal file*/  
    47.       printf("Connot open the file %s! ",file1);  
    48.     }  
    49.   
    50.     printf("Please enter the file you want to save to: ");  
    51.     scanf("%s",&file2);  
    52.     if( (fp2 = fopen(file2,"w")) == NULL) {  
    53.         printf("Connot open the file %s ",file2);  
    54.     }  
    55.     strftime(buf,32,"%Y-%m-%d %H:%M:%S",localtime(&tmp));  
    56.     printf("%s ",buf); /*print the system time*/  
    57.   
    58.     for(i=0;i<SIZE;i++) {  
    59.         vector[i]=0;  /*set 0*/  
    60.     }  
    61.   
    62.     while(!feof(fp1)) { /* the check process*/  
    63.       
    64.         fgets(ch,ARRAY_SIZE,fp1);  
    65.         flag=0;  
    66.         tt++;  
    67.         if( GETBIT(vector, HFLPHash(ch,len(ch))%MAX) ) {      
    68.             flag++;  
    69.         } else {  
    70.             SETBIT(vector,HFLPHash(ch,len(ch))%MAX );  
    71.         }     
    72.   
    73.         if( GETBIT(vector, StrHash(ch,len(ch))%MAX) ) {   
    74.             flag++;  
    75.         } else {  
    76.             SETBIT(vector,StrHash(ch,len(ch))%MAX );  
    77.         }  
    78.           
    79.         if( GETBIT(vector, HFHash(ch,len(ch))%MAX) )   {  
    80.             flag++;  
    81.         } else {  
    82.             SETBIT(vector,HFHash(ch,len(ch))%MAX );  
    83.         }  
    84.   
    85.         if( GETBIT(vector, DEKHash(ch,len(ch))%MAX) ) {  
    86.             flag++;  
    87.         } else {  
    88.             SETBIT(vector,DEKHash(ch,len(ch))%MAX );  
    89.         }   
    90.           
    91.         if( GETBIT(vector, TianlHash(ch,len(ch))%MAX) ) {  
    92.             flag++;  
    93.         } else {  
    94.             SETBIT(vector,TianlHash(ch,len(ch))%MAX );  
    95.         }  
    96.   
    97.         if( GETBIT(vector, SDBMHash(ch,len(ch))%MAX) )  {  
    98.             flag++;  
    99.         } else {  
    100.             SETBIT(vector,SDBMHash(ch,len(ch))%MAX );  
    101.         }  
    102.   
    103.         if(flag<6)  
    104.             num2++;       
    105.         else              
    106.            fputs(ch,fp2);  
    107.       
    108.         /*  printf(" %d",flag); */        
    109.     }  
    110.     /* the result*/  
    111.     printf(" There are %d urls! ",tt);  
    112.     printf(" There are %d not repeated urls! ",num2);  
    113.     printf("There are %d repeated urls! ",tt-num2);  
    114.     fclose(fp1);  
    115.     fclose(fp2);  
    116.     return 0;  
    117. }  
    118.   
    119.   
    120. /*functions may be used in the main */  
    121. unsigned int len(char *ch)  
    122. {  
    123.     int m=0;  
    124.     while(ch[m]!='') {  
    125.         m++;  
    126.     }  
    127.     return m;  
    128. }  
    129.   
    130. unsigned int RSHash(char* str, unsigned int len) {  
    131.    unsigned int b = 378551;  
    132.    unsigned int a = 63689;  
    133.    unsigned int hash = 0;  
    134.    unsigned int i = 0;  
    135.   
    136.    for(i=0; i<len; str++, i++) {  
    137.       hash = hash*a + (*str);  
    138.       a = a*b;  
    139.    }  
    140.    return hash;  
    141. }  
    142. /* End Of RS Hash Function */  
    143.   
    144.   
    145. unsigned int JSHash(char* str, unsigned int len)  
    146. {  
    147.    unsigned int hash = 1315423911;  
    148.    unsigned int i    = 0;  
    149.   
    150.    for(i=0; i<len; str++, i++) {  
    151.       hash ^= ((hash<<5) + (*str) + (hash>>2));  
    152.    }  
    153.    return hash;  
    154. }  
    155. /* End Of JS Hash Function */  
    156.   
    157.   
    158. unsigned int PJWHash(char* str, unsigned int len)  
    159. {  
    160.    const unsigned int BitsInUnsignedInt = (unsigned int)(sizeof(unsigned int) * 8);  
    161.    const unsigned int ThreeQuarters = (unsigned int)((BitsInUnsignedInt  * 3) / 4);  
    162.    const unsigned int OneEighth = (unsigned int)(BitsInUnsignedInt / 8);  
    163.    const unsigned int HighBits = (unsigned int)(0xFFFFFFFF) << (BitsInUnsignedInt - OneEighth);  
    164.    unsigned int hash = 0;  
    165.    unsigned int test = 0;  
    166.    unsigned int i = 0;  
    167.   
    168.    for(i=0;i<len; str++, i++) {  
    169.       hash = (hash<<OneEighth) + (*str);  
    170.       if((test = hash & HighBits)  != 0) {  
    171.          hash = ((hash ^(test >> ThreeQuarters)) & (~HighBits));  
    172.       }  
    173.    }  
    174.   
    175.    return hash;  
    176. }  
    177. /* End Of  P. J. Weinberger Hash Function */  
    178.   
    179.   
    180. unsigned int ELFHash(char* str, unsigned int len)  
    181. {  
    182.    unsigned int hash = 0;  
    183.    unsigned int x    = 0;  
    184.    unsigned int i    = 0;  
    185.   
    186.    for(i = 0; i < len; str++, i++) {  
    187.       hash = (hash << 4) + (*str);  
    188.       if((x = hash & 0xF0000000L) != 0) {  
    189.          hash ^= (x >> 24);  
    190.       }  
    191.       hash &= ~x;  
    192.    }  
    193.    return hash;  
    194. }  
    195. /* End Of ELF Hash Function */  
    196.   
    197.   
    198. unsigned int BKDRHash(char* str, unsigned int len)  
    199. {  
    200.    unsigned int seed = 131; /* 31 131 1313 13131 131313 etc.. */  
    201.    unsigned int hash = 0;  
    202.    unsigned int i    = 0;  
    203.   
    204.    for(i = 0; i < len; str++, i++)  
    205.    {  
    206.       hash = (hash * seed) + (*str);  
    207.    }  
    208.   
    209.    return hash;  
    210. }  
    211. /* End Of BKDR Hash Function */  
    212.   
    213.   
    214. unsigned int SDBMHash(char* str, unsigned int len)  
    215. {  
    216.    unsigned int hash = 0;  
    217.    unsigned int i    = 0;  
    218.   
    219.    for(i = 0; i < len; str++, i++) {  
    220.       hash = (*str) + (hash << 6) + (hash << 16) - hash;  
    221.    }  
    222.   
    223.    return hash;  
    224. }  
    225. /* End Of SDBM Hash Function */  
    226.   
    227.   
    228. unsigned int DJBHash(char* str, unsigned int len)  
    229. {  
    230.    unsigned int hash = 5381;  
    231.    unsigned int i    = 0;  
    232.   
    233.    for(i = 0; i < len; str++, i++) {  
    234.       hash = ((hash << 5) + hash) + (*str);  
    235.    }  
    236.   
    237.    return hash;  
    238. }  
    239. /* End Of DJB Hash Function */  
    240.   
    241.   
    242. unsigned int DEKHash(char* str, unsigned int len)  
    243. {  
    244.    unsigned int hash = len;  
    245.    unsigned int i    = 0;  
    246.   
    247.    for(i = 0; i < len; str++, i++) {  
    248.       hash = ((hash << 5) ^ (hash >> 27)) ^ (*str);  
    249.    }  
    250.    return hash;  
    251. }  
    252. /* End Of DEK Hash Function */  
    253.   
    254.   
    255. unsigned int BPHash(char* str, unsigned int len)  
    256. {  
    257.    unsigned int hash = 0;  
    258.    unsigned int i    = 0;  
    259.    for(i = 0; i < len; str++, i++) {  
    260.       hash = hash << 7 ^ (*str);  
    261.    }  
    262.   
    263.    return hash;  
    264. }  
    265. /* End Of BP Hash Function */  
    266.   
    267.   
    268. unsigned int FNVHash(char* str, unsigned int len)  
    269. {  
    270.    const unsigned int fnv_prime = 0x811C9DC5;  
    271.    unsigned int hash      = 0;  
    272.    unsigned int i         = 0;  
    273.   
    274.    for(i = 0; i < len; str++, i++) {  
    275.       hash *= fnv_prime;  
    276.       hash ^= (*str);  
    277.    }  
    278.   
    279.    return hash;  
    280. }  
    281. /* End Of FNV Hash Function */  
    282.   
    283.   
    284. unsigned int APHash(char* str, unsigned int len)  
    285. {  
    286.    unsigned int hash = 0xAAAAAAAA;  
    287.    unsigned int i    = 0;  
    288.   
    289.    for(i = 0; i < len; str++, i++) {  
    290.       hash ^= ((i & 1) == 0) ? (  (hash <<  7) ^ (*str) * (hash >> 3)) :  
    291.                                (~((hash << 11) + (*str) ^ (hash >> 5)));  
    292.    }  
    293.   
    294.    return hash;  
    295. }  
    296. /* End Of AP Hash Function */  
    297. unsigned int HFLPHash(char *str,unsigned int len)  
    298. {  
    299.    unsigned int n=0;  
    300.    int i;  
    301.    char* b=(char *)&n;  
    302.    for(i=0;i<strlen(str);++i) {  
    303.      b[i%4]^=str[i];  
    304.     }  
    305.     return n%len;  
    306. }  
    307. /* End Of HFLP Hash Function*/  
    308. unsigned int HFHash(char* str,unsigned int len)  
    309. {  
    310.    int result=0;  
    311.    char* ptr=str;  
    312.    int c;  
    313.    int i=0;  
    314.    for (i=1;c=*ptr++;i++)  
    315.    result += c*3*i;  
    316.    if (result<0)  
    317.       result = -result;  
    318.    return result%len;  
    319. }  
    320. /*End Of HKHash Function */  
    321.   
    322.  unsigned int StrHash( char *str,unsigned int len)  
    323.  {  
    324.     register unsigned int   h;  
    325.     register unsigned char *p;  
    326.      for(h=0,p=(unsigned char *)str;*p;p++) {  
    327.          h=31*h+*p;  
    328.      }  
    329.   
    330.       return h;  
    331.   
    332.   }  
    333.  /*End Of StrHash Function*/  
    334.   
    335. unsigned int TianlHash(char *str,unsigned int len)  
    336. {  
    337.    unsigned long urlHashValue=0;  
    338.    int ilength=strlen(str);  
    339.    int i;  
    340.    unsigned char ucChar;  
    341.    if(!ilength)  {  
    342.        return 0;  
    343.    }  
    344.    if(ilength<=256)  {  
    345.       urlHashValue=16777216*(ilength-1);  
    346.   } else {   
    347.       urlHashValue = 42781900080;  
    348.   }  
    349.   if(ilength<=96) {  
    350.       for(i=1;i<=ilength;i++) {  
    351.           ucChar=str[i-1];  
    352.           if(ucChar<='Z'&&ucChar>='A')  {  
    353.               ucChar=ucChar+32;  
    354.           }  
    355.           urlHashValue+=(3*i*ucChar*ucChar+5*i*ucChar+7*i+11*ucChar)%1677216;  
    356.       }  
    357.   } else  {  
    358.       for(i=1;i<=96;i++)  
    359.       {  
    360.           ucChar=str[i+ilength-96-1];  
    361.           if(ucChar<='Z'&&ucChar>='A')  
    362.           {  
    363.               ucChar=ucChar+32;  
    364.           }  
    365.           urlHashValue+=(3*i*ucChar*ucChar+5*i*ucChar+7*i+11*ucChar)%1677216;  
    366.       }  
    367.   }  
    368.   return urlHashValue;  
    369.   
    370.  }  
    371. /*End Of Tianl Hash Function*/  

    网上找到的php简单实现：

    [cpp] view plain copy
     
    1. <?php  
    2.   
    3. /** 
    4.  * Implements a Bloom Filter 
    5.  */  
    6. class BloomFilter {  
    7.     /** 
    8.      * Size of the bit array 
    9.      * 
    10.      * @var int 
    11.      */  
    12.     protected $m;  
    13.   
    14.     /** 
    15.      * Number of hash functions 
    16.      * 
    17.      * @var int 
    18.      */  
    19.     protected $k;  
    20.   
    21.     /** 
    22.      * Number of elements in the filter 
    23.      * 
    24.      * @var int 
    25.      */  
    26.     protected $n;  
    27.   
    28.     /** 
    29.      * The bitset holding the filter information 
    30.      * 
    31.      * @var array 
    32.      */  
    33.     protected $bitset;  
    34.   
    35.     /** 
    36.      * 计算最优的hash函数个数：当hash函数个数k=(ln2)*(m/n)时错误率最小 
    37.      * 
    38.      * @param int $m bit数组的宽度（bit数） 
    39.      * @param int $n 加入布隆过滤器的key的数量 
    40.      * @return int 
    41.      */  
    42.     public static function getHashCount($m, $n) {  
    43.         return ceil(($m / $n) * log(2));  
    44.     }  
    45.   
    46.     /** 
    47.      * Construct an instance of the Bloom filter 
    48.      * 
    49.      * @param int $m bit数组的宽度（bit数） Size of the bit array 
    50.      * @param int $k hash函数的个数 Number of different hash functions to use 
    51.      */  
    52.     public function __construct($m, $k) {  
    53.         $this->m = $m;  
    54.         $this->k = $k;  
    55.         $this->n = 0;  
    56.   
    57.         /* Initialize the bit set */  
    58.         $this->bitset = array_fill(0, $this->m - 1, false);  
    59.     }  
    60.   
    61.     /** 
    62.      * False Positive的比率：f = (1 – e-kn/m)k    
    63.      * Returns the probability for a false positive to occur, given the current number of items in the filter 
    64.      * 
    65.      * @return double 
    66.      */  
    67.     public function getFalsePositiveProbability() {  
    68.         $exp = (-1 * $this->k * $this->n) / $this->m;  
    69.   
    70.         return pow(1 - exp($exp),  $this->k);  
    71.     }  
    72.   
    73.     /** 
    74.      * Adds a new item to the filter 
    75.      * 
    76.      * @param mixed Either a string holding a single item or an array of  
    77.      *              string holding multiple items.  In the latter case, all 
    78.      *              items are added one by one internally. 
    79.      */  
    80.     public function add($key) {  
    81.         if (is_array($key)) {  
    82.             foreach ($key as $k) {  
    83.                 $this->add($k);  
    84.             }  
    85.             return;  
    86.         }  
    87.   
    88.         $this->n++;  
    89.   
    90.         foreach ($this->getSlots($key) as $slot) {  
    91.             $this->bitset[$slot] = true;  
    92.         }  
    93.     }  
    94.   
    95.     /** 
    96.      * Queries the Bloom filter for an element 
    97.      * 
    98.      * If this method return FALSE, it is 100% certain that the element has 
    99.      * not been added to the filter before.  In contrast, if TRUE is returned, 
    100.      * the element *may* have been added to the filter previously.  However with 
    101.      * a probability indicated by getFalsePositiveProbability() the element has 
    102.      * not been added to the filter with contains() still returning TRUE. 
    103.      * 
    104.      * @param mixed Either a string holding a single item or an array of  
    105.      *              strings holding multiple items.  In the latter case the 
    106.      *              method returns TRUE if the filter contains all items. 
    107.      * @return boolean 
    108.      */  
    109.     public function contains($key) {  
    110.         if (is_array($key)) {  
    111.             foreach ($key as $k) {  
    112.                 if ($this->contains($k) == false) {  
    113.                     return false;  
    114.                 }  
    115.             }  
    116.   
    117.             return true;  
    118.         }  
    119.   
    120.         foreach ($this->getSlots($key) as $slot) {  
    121.             if ($this->bitset[$slot] == false) {  
    122.                 return false;  
    123.             }  
    124.         }  
    125.   
    126.         return true;  
    127.     }  
    128.   
    129.     /** 
    130.      * Hashes the argument to a number of positions in the bit set and returns the positions 
    131.      * 
    132.      * @param string Item 
    133.      * @return array Positions 
    134.      */  
    135.     protected function getSlots($key) {  
    136.         $slots = array();  
    137.         $hash = self::getHashCode($key);  
    138.         mt_srand($hash);  
    139.   
    140.         for ($i = 0; $i < $this->k; $i++) {  
    141.             $slots[] = mt_rand(0, $this->m - 1);  
    142.         }  
    143.   
    144.         return $slots;  
    145.     }  
    146.   
    147.     /** 
    148.      * 使用CRC32产生一个32bit（位）的校验值。 
    149.      * 由于CRC32产生校验值时源数据块的每一bit（位）都会被计算，所以数据块中即使只有一位发生了变化，也会得到不同的CRC32值。 
    150.      * Generates a numeric hash for the given string 
    151.      * 
    152.      * Right now the CRC-32 algorithm is used.  Alternatively one could e.g. 
    153.      * use Adler digests or mimick the behaviour of Java's hashCode() method. 
    154.      * 
    155.      * @param string Input for which the hash should be created 
    156.      * @return int Numeric hash 
    157.      */  
    158.     protected static function getHashCode($string) {  
    159.         return crc32($string);  
    160.     }  
    161.       
    162. }  
    163.   
    164.   
    165.   
    166. $items = array("first item", "second item", "third item");  
    167.           
    168. /* Add all items with one call to add() and make sure contains() finds 
    169.  * them all. 
    170.  */  
    171. $filter = new BloomFilter(100, BloomFilter::getHashCount(100, 3));  
    172. $filter->add($items);  
    173.   
    174. //var_dump($filter); exit;  
    175. $items = array("firsttem", "seconditem", "thirditem");  
    176. foreach ($items as $item) {  
    177.  var_dump(($filter->contains($item)));  
    178. }  
    179.   
    180.   
    181. /* Add all items with multiple calls to add() and make sure contains() 
    182. * finds them all. 
    183. */  
    184. $filter = new BloomFilter(100, BloomFilter::getHashCount(100, 3));  
    185. foreach ($items as $item) {  
    186.     $filter->add($item);  
    187. }  
    188. $items = array("fir sttem", "secondit em", "thir ditem");  
    189. foreach ($items as $item) {  
    190.  var_dump(($filter->contains($item)));  
    191. }  
    192.   
    193.   
    194.       
    195.     


    问题实例】 给你A,B两个文件，各存放50亿条URL，每条URL占用64字节，内存限制是4G，让你找出A,B文件共同的URL。如果是三个乃至n个文件呢？ 
    根据这个问题我们来计算下内存的占用，4G=2^32大概是40亿*8大概是340亿bit，n=50亿，如果按出错率0.01算需要的大概是650亿个bit。 现在可用的是340亿，相差并不多，这样可能会使出错率上升些。另外如果这些urlip是一一对应的，就可以转换成ip，则大大简单了。
  • 相关阅读:
    子页面与父页面相互调用函数、元素、变量
    springboot项目多数据源及其事务
    mybatis逆向工程
    PageHelper 分页插件
    spring boot 在eclipse中打war包，及jar包
    Spring 定时任务之 @Scheduled cron表达式
    发送邮件
    spring+springmvc+hibernate 框架搭建
    MySQL驱动和数据库字符集设置不搭配
    Oracle与MySQL区别
  • 原文地址：https://www.cnblogs.com/sunsky303/p/9225243.html
Copyright © 2020-2023  润新知