在讲述语言的分布式表示之前,先解释一下distributed和distributional。这2个词很相近,估计看了会很混淆。
distributed的表示方法集中在降维上。一般是通过单纯的算法减低维度。而distributional则是通过上下文关系达到降维的目的。目前研究的主要方向是distributional方法,也就是通过上下文的方法得到降维的稠密矩阵。鼎鼎大名的word2vec就是用了此种方法。
其实没有必要过于纠结这2个名词。弄清楚算法才是根本。
在讲述语言的分布式表示之前,先解释一下distributed和distributional。这2个词很相近,估计看了会很混淆。
distributed的表示方法集中在降维上。一般是通过单纯的算法减低维度。而distributional则是通过上下文关系达到降维的目的。目前研究的主要方向是distributional方法,也就是通过上下文的方法得到降维的稠密矩阵。鼎鼎大名的word2vec就是用了此种方法。
其实没有必要过于纠结这2个名词。弄清楚算法才是根本。