【转】字符串哈希

原文地址http://acm.uestc.edu.cn/#/problem/show/1092

韩爷的梦

Time Limit: 200/100MS (Java/Others)     Memory Limit: 1300/1300KB (Java/Others)

Submit Status

一天，韩爷去百度面试，面试官给了他这么一个问题。

给你2万个字符串，每个字符串长度都是100，然后把2万个字符串丢入一个 set< string >g 中，问最终set里含有多少个元素？

g 是一个用来存储字符串、具有去重功能的容器，即相同字符串在 g 中只能保留一个。

两个字符串相等，当且仅当，长度一样且对应位置的字符都一样。

韩爷前晚没睡好，随手写了一个程序交给面试官，然后就gg了。

#include<iostream>
#include<string>
#include<set>
using namespace std;
string s;
set<string>g;
int main(){
    for(int k=1;k<=20000;k++){
        cin>>s;
        g.insert(s);
    }
    cout<<g.size()<<endl;
    return 0;
}

韩爷醒来之后，发现这只是一个梦（还好只是个梦）。他回忆起梦中的面试官给他的内存限制和时间限制非常低，这么做肯定过不了，那么，现在你不在梦中，你能解决这个问题么？

Input

单case

每个case有且只有2万行，每一行包含一个字符串，每行字符串的长度都为100 （样例除外）

字符集：大写英文字母（A－Z），小写英文字母（a－z），数字（0－9）

Output

输出一个整数，表示最终set里含有多少个元素。

Sample input and output

Sample Input	Sample Output
aaAa aaAa bbbb 1234 bbbb bbbb ee09	4

Hint

样例只是样例，不在test中

注意时间限制和内存限制非常低

思路：这道题目难点在于时间与内存限制很苛刻，一般的方法不能奏效，这里只能采用hash。即把每个字符串hash为一个数字，对数字进行比对，题目就ac了。还有个问题就是，hash函数的选取。我第一次选的hash函数就产生了冲突，这个可以多次选择进行测试，也可以直接采用更复杂的hash函数。我偷懒了下，选的是前者的方法，第二发就ac了。

这里说下关于hash的知识：

求一个字符串的hash值：

•现在我们希望找到一个hash函数，使得每一个字符串都能够映射到一个整数上

•比如hash[i]=(hash[i-1]*p+idx(s[i]))%mod

•字符串：abc，bbc，aba，aadaabac

•字符串下标从0开始

•先把a映射为1，b映射为2，c->3，d->4,即idx(a)=1, idx(b)=2, idx(c)=3,idx(d)=4；

•好！开始对字符串进行hash

假设我们取p=13 ，mod=101

先把abc映射为一个整数

hash[0]=1，表示 a 映射为1

hash[1]=(hash[0]*p+idx(b))%mod=15，表示 ab 映射为 15

hash[2]=(hash[1]*p+idx(c))%mod=97

这样，我们就把 abc 映射为 97 这个数字了。

•用同样的方法，我们可以把bbc，aba，aadaabac都映射到一个整数

•用同样的hash函数，得到如下结果

• abc  ->  97

• bbc  ->  64

• aba  ->  95

• aadaabac  ->  35

•那么，我们发现，这是一个字符串到整数的映射

•这样子，我们就可以记录下每个字符串对应的整数，当下一次出现了一个已经出现的字符串时，查询整数是否出现过，就可以知道 字符串是否重复出现。

•现在要判断两个字符串是否一致，怎么办呢？直接用它们的hash值判断即可，若hash值一致，则认为字符串一致；若hash值不一致，则认为是不同的字符串。

•我们要判断两个字符串是否一致，没有那么麻烦，直接先判断长度是否一致，然后再判断每个对应的字符是否一致即可。

•但，如果要判断多个字符串里有多少个不同的字符串，怎么办呢？

•两两字符串都进行比较？时间复杂度太高

•把每个字符串hash成一个整数，然后把所有整数进行一个去重操作，即可知道答案了。

当遇到冲突时，我们可以想办法调整p和mod，使得冲突概率减小之又小。我们一般认为p和mod一般取素数，p取一个较大的素数即可（6位到8位），mod取一个大素数，比如1e9+7，或者1e9+9。

 

如何求一个子串的hash值？

•在之前，我们求出了hash[i]，表示第i个前缀的hash值。现在怎么求出每个子串的

   hash值呢？

•我们看下hash的公式：

• hash[i]=(hash[i-1]*p+idx(s[i]))%mod

•这表示第 i 个前缀的hash值，是一个hash的前缀和。

•hash[i]=(hash[i-1]*p+idx(s[i]))%p;

•那么，我要求S[l…r]这个子串的hash值

• hash[l..r]=(hash[r]-hash[l-1]*(p^(r-1+1)))%mod（假设字符串下标从1开始）

•但注意下取模时候的问题！

•hash[l..r]=(hash[r]-hash[l-1]*(p^(r-1+1)))%mod

• hash[l..r]是不是可能有负数？

•怎么办呢？当得到的hash[l..r]<0的时候，hash[l..r]+=mod，就好啦。

•这样就可以保证每个子串的hash值在[0, mod-1]的范围内，准确地用hash值来处理字符串

 

常用的几个字符串hash法

•1. unsigned long long hash[N];

     hash[i]=hash[i-1]*p（自动取模）

解释：

unsigned long long hash[N];

定义一个unsigned long long类型的变量，它的范围是在[0, 2^64) 内，这就相当于，当数超不过2^64-1后，它会溢出！这就相当于一个数模2^64的过程。

那么hash函数可以理解为：

       hash[i]=(hash[i-1]*p)%(2^64)

P取一个大素数，一般习惯取1e9+7或1e9+9

安全指数：三星（所以并不是很安全）

•2. hash[i]=(hash[i-1]*p+idx(s[i]))%mod

解释：

这个之前已经提到过了。   

 hash[i]=(hash[i-1]*p+idx(s[i]))%mod

p取一个6到8位的素数，mod取一个大素数，一般取1e9+7或1e9+9

安全指数：四星 （还可以）

 

•3. 双hash

     hash1[i]=(hash1[i-1]*p+idx(s[i]))%mod1

     hash2[i]=(hash2[i-1]*p+idx(s[i]))%mod2

     pair<hash1,hash2>表示一个字符串！

解释：

double hash

即取两个mod值，mod1和mod2

 hash1[i]=(hash1[i-1]*p+idx(s[i]))%mod1

 hash2[i]=(hash2[i-1]*p+idx(s[i]))%mod2

 mod1一般取1e9+7，mod2一般取1e9+9为什么这么取？

1000000007和1000000009是一对孪生素数，取它们，冲突的概率极低！

安全指数：五星！（非常稳！）

 

小结：

•可以这么说，hash某种程度上就是乱搞，把hash函数弄的越没有规律越好，使得冲突的概率小到 大部分数据都卡不掉。

•如果你开心，你想triple hash，ultra hash，rampage hash… 都没有问题！

 但请注意，hash的维度越高，耗时越高，耗内存越大！一般情况下，single hash可以被hack掉，但double hash极难被hack掉， 用double hash足以解决问题