神经网络
_ksy
这个作者很懒,什么都没留下…
展开
-
随机梯度下降笔记(手写数字识别)
Key points: 使用不同的激活函数会导致公式中的偏导值的改变,即导致当前梯度的改变,从而导致得到的w,b的不同。 递归神经网络思想上更接近于人脑的工作方式,但学习算法less powerful。 选择10个输出神经元,而不是4个的原因可以从人脑分层次决策的方面来理解。将激活值最高的输出神经元作为估计的数字。 损失函数的引入原则:能够衡量算法性能、能够利于w,b的校正。 公式20是否乘1/m影翻译 2017-11-21 17:19:23 · 705 阅读 · 0 评论 -
BP算法
key points: 在一些神经网络中能够比早期的一些算法学习的更快 W(jk)=W’(kj) Summing up, we’ve learnt that a weight will learn slowly if either the input neuron is low-activation, or if the output neuron has saturated, i.e., i翻译 2017-11-30 23:03:07 · 231 阅读 · 0 评论