Word2Vec学习笔记(二)
最近在阅读word2vec的经典之作 Xin Rong 论文,学习过程遇到了一些困惑,记录如下。
问题一:在特殊模型(“bigram”)结构图上, 计算维度对不上
在输入层误把 上图中的x(x1, x2… xv)看成 (V, N)的one-hot向量矩阵,导致误解一:x1 为维度(1, N)的独热编码向量,误解二:把x看成矩阵. 故致使层层之间的维度变换怎么都对应不上, 其原因是高中向量与高等向量的细节问题:前者向量是行向量,后者好像默认是列向量(同济线代),所以考虑美观,平时人为书写向量一般指的是
原创
2020-06-27 20:55:52 ·
203 阅读 ·
0 评论