- 博客(2)
- 收藏
- 关注
原创 cs224n学习笔记3
1 Word2Vec模型的负采样方法上一节讲的word2vec的模型,是一个基于naive softmax的word2vec的基础模型,因为复杂度高等原因,在实际的word2vec中会基于其他的一些方法来实现,负采样(negative sampling)就是其中的一个1.1 negative sampling的目的上一节的笔记最后提到,如果使用naive softmax的,且使用随机梯...
2018-11-19 14:41:50 515 4
原创 cs224n学习笔记 2
1 Word Meaning需要掌握的主要是词的表示方法,大体来说,词的表示主要有下面两种:1.1 discrete representation用一个one-hot向量来表示一个词,比如现在有三个词apple,banana,orange分别对应向量的每个位置,那么[0,1,0]表示banana。这种表示被称作是一种本地表示(localist representation)当全...
2018-11-11 17:50:55 2855
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人