• Hacker News与Reddit的算法比较


    Hacker News与Reddit的算法比较

    郑昀 20101213

    Hacker News是Y Combinator旗下的一个新闻频道,属于digg类产品,

    Hacker News

    SEOmoz曾经在2008年7月隆重推出Reddit、Stumbleupon、Del.icio.us和Hacker News算法全揭秘。由此,这些知名Web2.0网站的算法浮出水面。谷文栋曾在2009年时如下讲述了Hacker News的Ranking算法

    (p – 1) / (t + 2)^1.5

    其中,
    1)p 表示文章得到的投票数,之所以要使用 (p – 1),应该是想去掉文章提交者的那一票。
    2)(t + 2)^1.5, 这个是时间因子。t 表示当前时间与文章提交时间间隔的小时数。但为什么要加 2 之后再取 1.5 的幂,似乎就没什么道理可言了,也许是个 trial-and-error 的结果吧。

    他对“1.5”这个参数也没有做出解释。

    Amir Salihefendic(他是PlurkTodoist的Co-Founder)在今年10月份撰文《How Hacker News ranking algorithm works 》完整地解释了Hacker News的Ranking算法,从中我们才得以知道那个神秘的“1.5”是什么。稍后我们还会拿这个排序规则与Reddit的排序规则做对比。

    一、Hacker News的ranking算法

    Hacker News是用Arc编写的(Arc是Lisp的一个“方言”)开源项目,源代码可以从 http://ycombinator.com/arc/arc3.tar 获取。Ranking算法就写在这个包的news.arc文件里。鉴于这种语言是未来的语言,不容易看懂,所以代码就不贴了,光把注释贴出来:

    ; Ranking

    ; Votes divided by the age in hours to the gravityth power.
    ; Would be interesting to scale gravity in a slider.

    努力领会这段神谕的同时,Amir说其实本质上执行的ranking规则是:

    Score = (P-1) / (T+2)^G

    where,
    P = points of an item (and -1 is to negate submitters vote)
    T = time since submission (in hours)
    G = Gravity, defaults to 1.8 in news.arc

    也就是说,前文所谓的莫名其妙的“1.5”,其实就是“Gravity(万有引力)”参数,默认是1.8。p之所以减去1,就是要去掉文章提交者的那一票。

    1.1.Gravity(G)和Time(T)的作用

    Gravity和time对于一篇文章(即一个item)的得分有着重要影响。一般来说:

    • 随着T的增加(即时间的流逝),得分将下降,意味着更早被提交进来的文章将会得到越来越低的分数;
    • 对于更早的文章,如果gravity增加,得分将会下降得更快。

    (在这里要说明一下,著名的搜索引擎网站wolframalpha的plot语法能帮你根据公式(代入参数)画图,方便编纂文档随时举例或者调整算法,超赞。)

    ·得分是如何取决于time的

    Amir利用wolframalpha绘制了公式代入参数后的趋势变化图,如下所示(下图访问链接http://goo.gl/ddYe):

    wolframalpha plot

    How score is behaving over time

    上图中,定参Gravity为默认值1.8,随着时间的流逝,文章得分都会迅速下降。你还能看出来,24小时后(即t=24时)无论你的文章得到多少投票,它依然会得到一个非常低的得分。

    ·得分是如何取决于gravity的

    当固定投票数,改变gravity又会如何呢?(下图访问链接http://is.gd/iJSbT):

      固定投票数,改变gravity

    How gravity parameter behaves

    可以看到gravity越大,得分下降趋势就越快。

    ·Ranking规则的Python实现

    这个得分函数就是这么简单:

    def calculate_score(votes, item_hour_age, gravity=1.8):
    return (votes - 1) / pow((item_hour_age+2), gravity)

    Amir最后说道:“最关键的是你要理解这个算法如何起作用,以及你如何为自己的应用定制这个算法。”

    相对于下面要讲述的Reddit排序算法,Hacker News的Ranking算法主要区别在于引入了time since submission这个参数,这个参数是不断变化的,从而导致一篇文章的得分不断变化。而Reddit下的一篇文章得分(Rank)是不变的,越新的文章得分越高,所以排序自然可能排在最前面。

    二、Reddit的ranking算法

    Reddit 是Digg类型网站,曾经在Digg 4改版引发用户众怒时被用户刻意追捧,独立访问数暴涨50%,并刻意将reddit链接分享至digg,使得digg主页充斥着对手reddit的链接。

    谷文栋也曾于2008年12月发表过《Social Media Algorithm: Reddit》详细地解释了Reddit的公式及其参数构成。2010年11月,Amir也对此作了图文并茂的阐述:《How Reddit ranking algorithms work》。

    它的公式如SEOmoz所描述的:

    reddit formula

    reddit formula

    具体参数定义我就不再赘述了,可参考谷文栋或SEOmoz的文章。

    Reddit也是开源的,其Python代码可从 http://code.reddit.com/ 寻到。他们的排序算法则因为性能问题改由Pyrex实现(Pyrex 是一种专门设计用来编写 Python 扩展模块的语言。根据 Pyrex Web 站点的介绍,“它被设计用来在友好易用的高级 Python 世界和凌乱的低级 C 世界之间搭建一个桥梁。”据说,“使用 Python like 的语法来编写 Python 的 C Module ,自动翻译成C语言代码,进而编译获取C代码的高效率。而且配合 Python 的 Distutils ,使得构建过程简单到了只需要 setup.py 的程度”)。

    你可以点击链接 http://code.reddit.com/browser/r2/r2/lib/db/sorts.py?rev=4778b17e939e119417cc5ec25b82c4e9a65621b2 查看这个“hot ranking”算法被翻译为Python后的代码。

    reddit很强调submission time(文章提交时间)。

    2.1.提交时间的作用

    提交时间对于文章评级有如下作用:

    • 提交时间对ranking有很大影响,新文章肯定比老文章rank值高;
    • 这个得分将不会随着时间流逝而递减,但新文章会得到更高的得分。这与Hacker News的算法有着显著区别。

    下图显示了,固定Up和Down投票数的情况下,不同的提交时间,rank分值的变化:

    Reddit's score

    从上图可以看出,同样的,随着时间的推移,新文章的得分会逐渐超越高同样投票数的老文章。

    2.2.log函数的作用

    这个“hot ranking”算法用了logarithm函数来确保最前面的投票权重大于接下来的投票。它的弯弯绕说法是这样的:

    The first 10 upvotes have the same weight as the next 100 upvotes which have the same weight as the next 1000 etc...

    谷文栋是这么解释的:

    前 10 票获得的权重,与 11 到 101 票所获得的权重是一样的。

    图形化的阐释是:

    The logarithm function's effects

    如果不用logarithm函数,那么情况就会是这样:

    Without logarithm function

    还是图解看上去直观吧?

    2.3.反对票的作用

    Reddit是少数几个允许有反对票的Digg类型新闻聚合网站,Hacker News就没有投反对票一说。

    它的公式中有这么一个因子:

    up_votes - down_votes

    它的作用可以图形化为:

    Effects of down votes

    也就是说,那些有争议性话题的文章,得分将会比只得到赞同票的文章更低。

    2.4.总结

    Amir总结了一下Reddit的算法:

    • Submission time(提交时间)是一个非常重要的参数,玩聚SR和RT就都是参照Reddit重视文章或热门消息的发布时间的。
    • 前10票的得分,和接下来的100票,是一样的。这样,得了10票的文章,就可能和得了50票的文章得分相似。
    • 争议性话题(得了很多反对票的)得分会很低。

    (Amir还讲了Reddit的comment ranking,有兴趣可以自己去看看)

    三、小结

    就我在玩聚SR上使用Reddit排序算法的经验:

    Hacker News的算法能够让老文章消失得更快,比如24小时之前的文章,基本就不会在榜单上存留。

    Reddit的算法则能够让众望所归的那些优秀文章能够停留相当长时间,然后随着时间流逝,一点一点地被新的、好的文章挤下去。

    Reddit的算法还有一个好处就是,当投票数变化了,才需要去重新计算一次文章的Rank,不用管时间的流逝。

    参考资源:

    1、Amir 2010年 《How Hacker News ranking algorithm works》;

    2、谷文栋 2009年 《Social Media Algorithm: Hacker News》;

    3、谷文栋 2008年 《Social Media Algorithm: Reddit》;

    4、SEOmoz 2008年 《Reddit, Stumbleupon, Del.icio.us and Hacker News Algorithms Exposed!》。

  • 相关阅读:
    科普下病菌和病毒
    centos环境下安装docker
    change master to到一个不存在的主库或主库无法连接
    java.lang.outofmemoryerror android
    委托 C#
    将PC端的网站转化成手机端网站需要增加以下这段代码即可,再布局一下界面即可
    combobox联动
    删除dataGridview中选中的一行或多行
    vs2010下如何使【“System.Data.OracleClient.OracleConnection”已过时】 解决办法
    MyEclipse连接SQL Server 2008数据库的操作方法
  • 原文地址:https://www.cnblogs.com/zhengyun_ustc/p/amir.html
Copyright © 2020-2023  润新知