神经网络
20%橙小鱼
希望成为一个内外兼修的五好小可爱。
所以每天都要努力鸭~
展开
-
【西瓜书】 第5章 用实例理解神经网络前向传播和反向传播
感觉写博客编辑公式什么的好麻烦~ 因此就把学习记录用笔记图片的形式展现啦>_< 首先先了解一下梯度下降: 然后下面是一个三层的神经网络,每个神经元内部可以看作有两部分组成,比如对于h1来说,包含neth1和outh1: 接下来,抛开单纯的公式推导,我们用一个实例,来看看神经网络前向传播和反向传播的具体过程: 好啦,以上就是神经网络实例,把这个计算一遍以后,感觉会对神经网...原创 2019-01-04 13:18:57 · 746 阅读 · 0 评论 -
【CS224n】笔记2&3 word2vec&高级词向量
一、word2vec 回顾:skip-grams skip-grams和CBOW都属于word2vec的方法,word2vec主要讲了skip-grams,其主要步骤是遍历整个语料库,利用每个窗口的中心词来预测上下文的单词,然后对每个这样的窗口利用SGD来进行参数的更新。 第2课 word2vec小总结 输入层是一个代表单词的onehot编码。所以和每句话的长度无关,输入层的节点是和语料库大小...原创 2019-01-04 17:14:29 · 381 阅读 · 0 评论