推荐系统

 

推荐系统是近几年比较火的一个话题，尤其是Netflix举办过一次电影推荐比赛之后，ACM有专门的Recommer System的会议。关于推荐系统的分类，从不同的角度有不同的分法，传统的有两种分法，一种叫基于内容（Content based）的推荐，顾名思义就是根据要推荐的项目（电影，书籍，音乐等等）本身的一些DNA进行推荐，比如电影的类型，是动作片还是爱情片还是动作爱情片？电影的导演是否有名，演员的阵容怎么样等等。还有一种叫协同过滤（Collaborative Filtering），协同过滤按照算法又可以分成很多小类，User-based，Item-based，Slope-one，Model-based，下面就以一个实际例子来介绍不同的推荐算法是怎么实现的。

例子：假设我们获取了一些用户在对一些项目的评分，我们的目的是预测某个用户对某个项目的评分。如下面的表格所示，我们拿预测User1对Item2的评分举例。

 

	Item1	Item2	Item3	Item4
User1	4	？	5	5
User2	4	2	1
User3	3		2	4
User4	4	4
User5	2	1	3	5

基于内容（Content based）的推荐

Content-based是说我们在已经知道了Item DNA的情况下，基于这些DNA去做推荐。比如我们的Item是电影，那Item的DNA可能是电影的类型，我们拿喜剧片，爱情片和科幻片举例。假如Item 2 是一部喜剧片，同时也可以是一部爱情片，我们用一个三维向量表示为：

$large mathbf{x}^2 = (1,0.99,0)^T$

如果同时我们也知道了用户喜欢什么样的电影，到底是喜欢喜剧片多一点还是喜欢科幻片片多一点？那么用户的喜好也可以用一个三维向量来表示，假如用户1只喜欢爱情片（喜好程度用0-5来表示），那么用户1的爱好用向量表示为：

$large mathbf{w}^1=(0,5,0)^T$

那么，我们基于这两个向量就可以预测用户1会给Item 2 评多少分：

$large r^{1,2} = {mathbf{w}^1}^T cdot mathbf{x}^2 = 0*1 + 5*0.99 + 0 * 0 = 4.95 $

但实际上我们并不知道表征喜好程度的向量，我们的目的是要学习出这个向量。

为此，我们想定义一些符号：

$large n_u$：表示一共有多少用户

$large n_m$：表示一共有多少Item

$large c(i,j)$：=1表示用户 i 评价过 Item j

$large r^{i,j}$： 表示用户 i 对 Item j 的评分

$large mathbf{x}^j$：表征 Item j 的特征向量

$large mathbf{w}^i $： 表征用户的特征向量（未知，需要学习）

$large m^i $：用户 i 评价过的 Item 数量

$large n+1$：$mathbf{x}$和 $mathbf{w}$的维度

为了学习到用户的特征向量，我们需要定义一个学习策略，我们仍然采用先定义损失函数，然后对损失函数求极小的策略来学习用户特征。很自然的一个选择就是采用平方损失函数。用户 i 对 Item j 的评分损失为：

$large (  {mathbf{w}^i}^T cdot mathbf{x}^j - r^{i,j}  )^2$

对某个用户 i 来说，损失为：

$large frac {1} {2m^i} sum_{j : c(i,j)=1} (  {mathbf{w}^i}^T cdot mathbf{x}^j - r^{i,j}  )^2  + frac {lambda}{2m^i} sum_{k=1}^{n} (w_k^i)^2 $

对所有的用户来说，损失为：

$large L(mathbf{w}) = frac {1}{2} sum_{i=1}^{n_u} sum_{j : c(i,j)=1} ({mathbf{w}^i}^T cdot mathbf{x}^j - r^{i,j})^2 + frac {lambda}{2}sum_{i=1}^{n_u}sum_{k=1}^{n}(w_k^i)^2 $

最小化上面的损失函数，采用梯度下降进行迭代：

$large w_k^i := w_k^i  - alpha sum_{j : c(i,j)=1}  (  {mathbf{w}^i}^T cdot mathbf{x}^j - r^{i,j}  ) x_k^j qquad (for qquad k=0) $

$large w_k^i := w_k^i  - alpha (sum_{j : c(i,j)=1}  (  {mathbf{w}^i}^T cdot mathbf{x}^j - r^{i,j}  ) x_k^j  + lambda w_k^i) qquad (for qquad k eq 0) $

 

协同过滤（Collaborative Filtering）

Item-based

如下图所示，我们有三个用户1，2，3和三个电影A，B，C。用户1喜欢电影A和电影C，用户2喜欢电影A，B，C，用户3喜欢电影A。假设电影A和电影C很相似（这里的相似性不是由A和C本身的DNA得到的，至于计算方面后面再说），那么我们有理由预测用户3会喜欢电影C，因为她喜欢A，而A和C很相似。

如果用户1给电影A打了5分，而A和C又有90%的相似，那么我们会预测说用户3给电影C的评分是5*90%=4.5分。这就是所谓的Item-based。

推广一下，回头看看我们开头的例子，我们的任务是要预测用户1会给Item2评多少分，如果我们已经知道了Item2和Item1，Item2和Item3，Item2和Item4之间的相似性，那么我们预测：

$large p^{u1,i2} = frac {r^{u1,i1}s^{i2,i1} + r^{u1,31}s^{i2,i3} + r^{u1,i4}s^{i2,i4}} {s^{i2,i1}+s^{i2,i3}+s^{i2,i4}} $

那么问题来了，在不知道Item本身的信息的情况下，如何计算两个Item之间的相似性呢？如果我们把每个Item都用一个列向量来表示，其中向量里的每一维都是不同的用户对这个Item的评分，那么计算两个Item之间的相似性就转化成我们熟悉的计算两个向量之间的相似性了，可以采用余弦距离（Cosine distance），皮尔逊相关性系数（Peason correlation coefficient），杰卡德相似系数（Jaccard similarity coefficient）等等。这里我们拿皮尔逊相关性系数举例：

$large s^{i,j}=frac {sum_{u in U} (r^{u,i} - overline{r^i}) (r^{u,j} - overline{r^j}) } {sqrt{ sum_{u in U} (r^{u,i} - overline{r^i})^2 }  sqrt{ sum_{u in U} (r^{u,j} - overline{r^j})^2 } } $

其中：

$s^{i,j} $ 表示Item i 和Item j之间的相似性

$U$表示同时评价过Item i和Item j的用户集合

$overline{r^i}$表示用户集合$U$在Item i上的平均评分

$overline{r^j}$表示用户集合$U$在Item j上的平均评分

 

用户 a 对 Item i 的评分预测公式为：

$large p^{a,i} = frac {sum_{j in I} r^{u,j}s^{i,j}}{sum_{i in I} |s^{i,j}|} $

其中：

$I$为用户 a 评价过的Item集合

 

那么预测User 1 对 Item 2 评分的具体计算步骤为：

1. 找出User 1 评价过的Item集合：Item 1， Item3， Item 4

2. 计算Item 2 和Item 1，Item 3， Item 4之间的相似度

拿计算Item 2 和 Item 1 相似性举例：

2.1 找出同时评价过 Item 2 和 Item 1的用户集合U：用户2，用户4和用户5

2.2 用户集合U在 Item 1 上的平均分3.33，在Item 2 上的平均分2.33，所以：

$large s^{2,1} = frac {0.67*-0.33 + 0.67*1.67+ -1.33*-1.33} {sqrt {0.67^2 + 0.67^2 + (-1.33)^2} sqrt {0.33^2 +1.67^2 + 1.33^2}} = 0.754 $

同理，计算出$s^{2,3}=-1, s^{2,4}=0.756$

3. 根据相似度和评分预测公式计算出预测分数

$large p^{1,2} = frac {4*0.754 + 5*(-1) + 5 *0.756} {0.754 + 1 + 0.756} = 0.716 $

 

在实际工程中，我们遇到的Item数量往往很大，如果在线去计算所有 Item 两两之间的相似度的话肯定不现实，那么实际工程中应该怎么处理呢？ 这里提供两个方法：

第一种： 对所有Item进行预处理，一般是用哈希的思想，将可能相似的Item集合Hash到一个桶里，那么在线计算的时候，只需要计算在某个桶里的Item两两之间的相似性了，具体做法请google LSH，这里不多说。

第二种： 用分布式计算离线把所有Item 之间的相似性都计算好，在线直接查询就行。

还是以上面的例子来介绍怎么用map-reduce的框架来计算item之间的相似性，整个计算过程采用两个map-reduce过程。

 

 

 

User-based

 如下图所示，我们有三个用户1，2，3和四个电影A，B，C，D。用户1喜欢电影A和电影C，用户2喜欢电影B，用户3喜欢电影A，电影C和电影D。如果用户1和用户3很相似（同样，相似性也不是基于用户本身的DNA来计算的，后来再介绍），那么我们有理由预测用户1会喜欢电影D，因为用户1喜欢电影A和C，用户3喜欢电影A，C和D，而用户1和用户3又比较相似。这就是所谓的User-based。

那么我们用这种算法怎么预测用户1对Item 2的评分呢？跟Item-based类似，我们先看看怎么计算两个用户之间的相似性：

$large s^{u,v}=frac {sum_{i in I} (r^{u,i} - overline{r^u}) (r^{v,i} - overline{r^v}) } {sqrt{ sum_{i in I} (r^{u,i} - overline{r^u})^2 }  sqrt{ sum_{i in I} (r^{v,i} - overline{r^v})^2 } } $

其中：

$I$为用户u，用户v同时评价过的Item集合

$overline{r^u}$为用户 u 对 I 里所有 Item 评分的平均值

$overline{r^v}$为用户 v 对 I 里所有 Item 评分的平均值

 

User-based的评分的预测公式与Item-based的评分预测公式稍微有点不一样：

$large p^{a,i} = overline{r^a} + frac {sum_{u in U} (r^{u,i} - overline{r^u}) s^{a,u}} {sum_{u in U} |s^{a,u}|} $

其中：

$U$为所有评价过Item i 的用户集合

$overline{r^a}$为用户 a 对所有他评价过的Item的评分的平均值

$overline{r^u}$为用户 u 对所有他评价过的Item的评分的平均值（Item i 除外）

 

为什么User-based和Item-based的评分预测公式会有区别呢？主要是为了消除用户评分的bias，有的用户就是喜欢评低分，而有的用户习惯给高分。

那么，预测用户1在Item 2 上的评分的步骤为：

1. 找出评价过Item 2 的用户集合：用户2，用户4和用户5

2. 计算用户1和用户2，用户4，用户5之间的相似性

拿计算用户1和用户5的相似性为例：

2.1 找出用户1和用户5同时评价过的Item 集合I：Item 1，Item 3 和 Item 4

2.2 用户1在 I 上的平均分为4.67，用户5在I上的平均分为3.33，所以：

$large s^{1,5} = frac {-0.67*-1.33 + 0.33 *0.33 + 0.33 * 1.67}{sqrt {(-0.67)^2 + 0.33^2 + 0.33^2} sqrt {(-1.33)^2 + 0.33^2 + 1.67^2}} = 0.756$

同理计算$s^{1,2}=-1,s^{1,4}=0$

3. 根据相似性和评分预测公式计算预测分

$large p^{1,2} = 4.67 + frac {(2-2.5)*(-1) + (4-4)*0 + (1-3.33)*0.756}{1+0+0.756} = 3.95 $

 

Slope-one

Slope-one基于一种简单的假设，假设任意两个Item i 和 j 之间的评分存在某种线性关系，即知道了Item j 的评分，我们可以用线性公式来预测 Item i 的评分， $p^{u,i}= a r^{u,j}+b^{u,i,j}$，更进一步的假设斜率 $a=1$，这就是算法为什么叫Slope-one的原因。为了求得b，我们先定义一个平方损失函数：

$large L(b^{i,j}) = sum_{u in U}(r^{u,i} - p^{u,i})^2 = sum_{u in U}(r^{u,i} - r^{u,j} - b)^2 $

其中：

$U$是同时评价过Item i 和 Item j 的用户集合。

最小化上面的损失函数得到：

$ large b^{i,j} = frac {sum_{u in U}(r^{u,i} - r^{u,j})} {sum_{u in U} 1} $

预测用户a对Item i 的评分预测公式为：

$large p^{a,i} = frac {sum_{j in I}(r^{a,j} + b^{i,j})} {sum_{j in I} 1} $

那么用Slope-one预测用户1在Item 2 上的评分步骤为：

1. 找到同时评价过Item 1 和Item 2的用户： 用户2，用户4和用户5

2. 计算Item 2 和 Item 1 的平均分差

$large b^{2,1} = frac {(2-4) + (4-4) +(1-2)} {3} = -1$

3. 仿照步骤1和步骤2计算

$large b^{2,3} =-0.5, b^{2,4}=-4 $

4. 按照预测公式计算预测分

$large p^{1,2} = frac {(4-1) + (5-0.5) + (5-4)} {3} = 2.83 $

 

Weighted Slope-one

后来又演变出一种叫Weighted Slope-one的算法，它的思想和Slope-one一样，只是最后的评分预测公式加入了权重。

$large p^{a,i} = frac {sum_{j in I}(r^{a,j} + b^{i,j})c^{i,j}} {sum_{j in I} c^{i,j}} $

我们在上面计算 $b^{2,1}$的时候，是根据三个用户的共同评分计算出来的，而在计算$b^{2,3}$的时候，是根据两个用户的共同评分计算出来的，计算$b^{2,4}$的时候只根据了一个用户的评分。所以他们的权重分别是$c^{2,1}=3, c^{2,3}=2, c^{2,4}=1$，所以：

$large p^{1,2} = frac {(4-1)*3 + (5-0.5)*2 + (5-4)*1} {3+2+1} = 3.17 $

 

 Item-based，User-based，Slope-one都各有优缺点。Item-based跟当前用户的行为相关，比如在浏览一部动作片的时候，推荐的结果可能就是另一部动作片，但在浏览一部爱情片的时候，推荐的结果可能就是一部爱情片。User-based考虑的相同爱好的用户群的兴趣，推荐这个用户群喜欢过的某个Item，与当前用户的行为关系不大，比如在浏览一部动作片或者爱情片的时候，推荐出来的结果可能都一样。Slope-one主要是计算起来比较方便，也可以增量计算，实现很简单。

思考一下：新闻推荐用User-based还是Item-based好？

另外，推荐的可解释性也是现在推荐系统非常强调的，比如你在浏览Amazon的时候，它的推荐都会给出“Why Recommended”的理由。Item-based和Content-based类似，能给出很好的解释，推荐的东西跟你现在浏览的东西相关，因为你在看Java编程思想，所以给你推荐Java相关的书籍。User-based的解释是说跟你趣味相投的某某也喜欢这个电影，但是你可能并不认识这个某某，所以很难让人信服。Slope-one就更没法给出合理的解释了。

 

Model-based

 推荐问题其实也可以归结为机器学习里面的一个领域，很自然的机器学习里常用的一些模型都可以应用到推荐系统里，比如贝叶斯模型，回归模型或者非常流行的矩阵分解，都可以用来解决推荐问题，这种自己建模或者用常用的模型去解决推荐问题的办法就叫Model-based。这里我主要说两种Model-based，一种是矩阵分解，其实可以算真正意义上的协同过滤，另一种就是著名的SVD++。

矩阵分解

前面在讲到 Content-based 推荐的时候说到，如果我们知道了 Item 的特征向量， 就可以计算出用户的特征向量。一模一样的道理，如果我们知道了用户的特征向量，就可以求出 Item 的特征向量，那么我们的损失函数为：

$large L(mathbf{x}) = frac {1}{2} sum_{j=1}^{n_m} sum_{j : c(i,j)=1} ({mathbf{w}^i}^T cdot mathbf{x}^j - r^{i,j})^2 + frac {lambda}{2}sum_{j=1}^{n_m}sum_{k=1}^{n}(x_k^j)^2 $

如果我们既不知道 Item 的特征向量，又不知道用户的特征向量呢？这时候我们就可以考虑先随便给一些 Random 的 Item 特征向量和用户的特征向量，不断迭代上面所说的“由Item特征向量计算用户特征向量，由用户特征向量计算Item特征向量”的过程。最后我们还是一样用 ${mathbf{w}^i}^T cdot mathbf{x}^j $ 来预测用户 i 对 Item j 的评分，最后我们的整个评分预测矩阵会变为：

 $large left[ egin{matrix}  {mathbf{w}^1}^T cdot mathbf{x}^1 & {mathbf{w}^1}^T cdot mathbf{x}^2 & ldots & {mathbf{w}^1}^T cdot mathbf{x}^{n_m}\ {mathbf{w}^2}^T cdot mathbf{x}^1 & {mathbf{w}^2}^T cdot mathbf{x}^2 & ldots & {mathbf{w}^2}^T cdot mathbf{x}^{n_m} \ vdots & vdots & & vdots \ {mathbf{w}^{n_u}}^T cdot mathbf{x}^1 & {mathbf{w}^{n_u}}^T cdot mathbf{x}^2 & ldots & {mathbf{w}^{n_u}}^T cdot mathbf{x}^{n_m} end{matrix} ight]$

最后我们的损失函数就会变成：

$large L(mathbf{x}, mathbf(w)) = frac {1}{2} sum_{(i,j) : c(i,j)=1} ({mathbf{w}^i}^T cdot mathbf{x}^j - r^{i,j})^2 + frac {lambda}{2}sum_{j=1}^{n_m}sum_{k=1}^{n}(x_k^j)^2 + frac {lambda}{2}sum_{i=1}^{n_u}sum_{k=1}^{n}(w_k^i)^2 $

同样我们采用梯度下降来解这个问题：

1. 将 $mathbf(x), mathbf(w)$ 初始化为一些Random的值

2. 梯度下降迭代

$large x_k^j := x_k^j - alpha (sum_{i:c(i,j)=1} ({mathbf{w}^i}^T cdot mathbf{x}^j - r^{i,j}) mathbf{w}^i + lambda x_k^j ) $

$large w_k^i := w_k^i - alpha (sum_{j:c(i,j)=1} ({mathbf{w}^i}^T cdot mathbf{x}^j - r^{i,j}) mathbf{x}^j+ lambda w_k^i) $

再回头看看那个评分预测矩阵，是不是把原始矩阵分解成了两个矩阵的乘积，是不是一个矩阵分解的问题？我们在矩阵分解之前一般会做一些的Normalization的工作，比如会把每个分数都减去该 Item 的平均分值。最后再预测分数的时候把该平均值加回来即可。我们有了所有 Item 的特征向量之后，也可以很轻松的计算出任意两个 Item 之间的相似度了。

SVD++

// TODO