最近接到任务研究word2vec,感觉网络上关于这个的资料层次不齐,总感觉解释的都没有那么完善。或许就连作者本人也不是非常清楚为什么他的模型好使。论文中提到的negtive sampling给了我很大的困惑,下面这篇康内尔的文章给了我很好的启发,非常清晰的给出了理解negtive sampling的方法:
word2vec Explained: deriving Mikolov et al.'s negative-sampling word-embedding method
文中作者非常幽默的回答了一个问题:为什么这个word2vec好使?回答是:我们也不知道,可他就是可以用。这个回答跟我对面上交的孩子的回答一样。