![](https://img-blog.csdnimg.cn/20201014180756724.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
斯坦福cs224n
盲人骑瞎马5555
努力搬砖~
间歇性发奋图强~
展开
-
CS224n----NLP和深度学习入门
Reasons for Exploring Deep Learning: 大部分人工设计的特征过于具体,不够完整,并且需要耗费大量的时间去设计和验证。 深度学习得到的特征适应性强,训练的快,可以不断学习,不断提高水平。 深度学习提供了丰富多样的框架去表示各种类型的信息。 可以应用于监督学习和无监督学习。 行之有效。 表现优于任何一种传统机器学习。 以惊人的速度在改进和提高。 第一个重...原创 2018-11-22 14:48:18 · 157 阅读 · 0 评论 -
cs224n----高级词向量
SGD和词向量。 但每个窗口最多只有2m + 1个单词,对于目标函数求梯度矩阵,会很稀疏。 实际上有正确答案需要去对比的只有窗口中的词语。所以每次更新只更新WW矩阵中的少数列,或者为每个词语建立到词向量的哈希映射。 word2vec通过把相似的词语放到同一个地方附近来增大目标函数。 共现矩阵存在的问题:当出现新词的时候;以前的旧向量连维度都得改变高纬度(词表大小);高稀疏性。 解决共现矩...原创 2018-11-24 21:28:57 · 104 阅读 · 0 评论