[转] Word2vec数学原理全家桶

看到这篇文章才终于被点醒为什么word2vec用W_in 而不用W_out作为最终的vector了：为了优化算法，word2vec的实现都用了负采样 / 层次化softmax方法，所以并不会直接更新理论上W_out输出矩阵，所以这里用W_out意义不大，当然如果不采用 负采样 / 层次化softmax等优化方法，直接用W_out也是可以的。看到这篇文章才终于被点醒为什么word2vec用W_in 而不用W_out作为最终的vecto