• 推荐系统5大问题


    转自:http://www.resyschina.com/2010/03/five_problems_of_resys.html

    本文翻译于互联网观察媒体“读写网”在2009年初发布的一篇文章。 读写网在2009年初的时候编辑了一系列针对推荐系统的文章,在荷兰阿姆斯特丹举办的一次专门针对推荐系统的兴趣小组会议上,一些公司提出了实施和建设推荐系统需要面对的几个问题,本文针对这些问题,进行了初步的分析。在此与大家分享:

    1. 缺少数据

    对于推荐系统来说,可能最大的问题就是需要大量的数据才能产生推荐结果。这也是为什么那些表现最突出的推荐系统都是来自于有数据的大公司,比如Google,Amazon,Netflix,Last.fm。正如Strands公司在他的演讲中提到的那样,一个好的推荐系统首先要获得内容数据,接着必须获得和分析用户数据(行为事件),最后才是算法的工作。内容和用户数据越多,获得好的推荐的比率就会越高。但是这也是一个“鸡和蛋”的问题——推荐系统的目的就是带来更多的用户点击和购买,而好的推荐系统需要大量的用户,你才能为推荐系统提供需要的数据。

    2. 变化的数据

    这个问题曾经被智能推荐系统公司 Clicktorch CEO Paul Edmunds在以前的文章评论中提到过,Paul 指出推荐系统常常充斥着老的内容,而很难推荐出新的东西。时尚发烧友社区StyleHop 的David Reinke 在他的一篇博客中举了一个例子——“流行趋势总是在变化,因此用户的过去行为并不是一个好的工具”。显然纯算法的方式是不太可能跟上流行的趋势的。大多数非时尚认识,我就属于这一类,只信赖那些可信的对时尚很谨慎的朋友和家人的推荐。

    David Reinke 要说明的是往往产品中有很多时尚因素,比如肥瘦、价格、颜色、款式、材料、品牌等,对于同一个消费者来说,每个时尚元素在不同的时间都会有不同的重要程度,因此产品的推荐往往会效果不好,他还指出也许“社会化推荐”会解决这个问题。

    3. 变化的用户喜好

    同样也是由 Paul Edmunds提出的一个问题是,今天我们在Amazon上怀着某一特殊目的浏览,而明天我们的目的就会变化。一个经典的例子,某天我在Amazon上为自己找一本书,另一天我有可能会在Amazon上为我的妹妹找一个生日礼物。

    另外一个有关用户喜好的话题就是推荐系统有可能会给用户打上错误的标签,比如经典的2002年华尔街日报上的笑话——If TiVo Thinks You Are Gay, Here’s How to Set It Straight.

    4. 无法预测的事物

    在我们关于Netflix竞赛(由影片在线租赁公司Netflix举办的100万美金的推荐系统竞赛活动)的文章中,曾经提到关于某些“怪异电影”的问题,这些影片用户常常会表现出偏激的喜欢或者讨厌,比如《炸弹头拿破仑》(又名《大人物拿破仑》Napoleon Dynamite)。这些类别的影片很难做出推荐,因为用户的反应是多样化和不可预测的。

    在音乐中有很多这样的内容。你能猜出我同时喜欢Metallica和Carpenters的音乐吗?我怀疑Last.fm不太能做出这样的推荐。

    5. 推荐系统是复杂的!

    我们上面只是说了一些表面的现象,Strands公司曾经介绍过,即使实施一个非常简单的推荐系统,也需要许多的变量(我们猜想以下的这些变量恐怕还仅仅是一小部分)。

    迄今为止,只有少数几家公司可以为用户提供高满意的推荐——Amazon,Netflix(他们仍然在寻求对算法的改进),Google也算是一个。尽管只有这么少的成功故事,成百上千的其它网站和应用程序仍在努力探寻着推荐系统的魔法公式——以给他们的用户产生满意的推荐。

    事实上,我们在读写网上也非常希望让读者围绕我们的网站产生更多点击,发现其他内容。我们尝试了一些插件和方法,以实现这一点——但我们仍未感到满意。

    我们错过了什么东西?

    在实施推荐系统过程中会遇到很多问题——比如有些仅仅简单了提供“大众化”的推荐;有些不能够形成作古的长尾效应,只能给出一些显而易见的结果;还有的会有异常推荐等问题。随着应用和技术的进步,我们还会发现其它的一些问题。

    译者点评:

    以上提出的五大问题,在实施个性化推荐服务的过程中,或多或少的都会遇到,但是在不同的类型的网站、不同的内容和用户、不同的实施阶段和不同的目的,所面临问题的严重程度也会不同。

    对于数据影响推荐质量的问题:为什么有大量数据的公司会做出效果更好的推荐服务,首先推荐系统本身需要数据,其次在海量数据引起的信息过载问题更加严重,需求更加迫切。因此推荐系统的作用更加明显。因此,用户数据的绝对数量并不是限制推荐系统实施的门槛,而用户数据的稀疏程度会直接影响推荐的效果。

    对于内容数据的变化问题:我们大部分人都不是时尚达人——在一般的服装电子商务网站上实施个性化推荐还是可以满足大部分人的需求的。虽然文中举出的例子有些极端,更像是在长尾的尾部。但是对于某些对时间性有要求的内容也还是会面临这样的问题。解决的方法除了对算法本身的选择和改进以外,还需要在产品设计的过程中加入时间因素的条件。

    对于用户的喜好变化问题:实际上文中提出的例子倒不是喜好的变化,而是目的的变化。因此在进行推荐系统设计时,需要建立更加完整的用户模型。而对于文中的例子,比较好的处理办法是单独设计一个礼物的购物通道,比如 Amazon 上的礼物页面:http://www.amazon.com/gp/gift-central/

    推荐系统确实是非常复杂的,不仅涉及文中提出的数据获取的问题,还有对数据的处理,对算法的选择,对参数的优化,产品和服务设计,反馈收集,效果测试和改进,是一个螺旋式上升的过程,它不仅仅是一个或几个推荐服务新的功能开发,而是需要长期维护和改进,需要专业的团队和持续的投入才能完成的工作。

    实际上效果不错的推荐服务不仅仅包括文中提到的网站,比如 digg, overstock, yahoo, AT&T等一大批网站也在他们的业务中加入了不错的推荐服务。还有国内著名的豆瓣,当当网都有较高用户满意度的推荐产品,所以,请暂时忘了上面的这些问题,Just do it,我们才能克服这些困难。

  • 相关阅读:
    spark shuffle 机制
    hive explain 源码分析
    前端jQurey
    js-dom操作
    前端JS
    前端CSS
    Redis和MongoDB区别
    MySQL数据库备份
    MySQL索引
    python连接mysql服务端
  • 原文地址:https://www.cnblogs.com/likai198981/p/3020481.html
Copyright © 2020-2023  润新知