- 博客(2)
- 资源 (1)
- 收藏
- 关注
原创 优化算法
在神经网络收敛的计算中,我们一直在使用梯度下降法,但除了梯度下降法,还有很多更加优秀的算法,可以适应更多种情况,从而避免过拟合,未收敛等问题。动量梯度下降法具体公式如下。与梯度下降法不一样的是学习率α不再是乘于dW(cost函数对权重W的偏导数),而是变成βv_dW+(1-β)dW。这样计算出来的v_dW不再只依赖于当前的dW,而是跟之前迭代结果的v_dW也有关系,通过变量β来调整过去与现...
2018-11-19 19:30:10 689
原创 预备知识
1、条件独立性如果P(X,Y|Z)=P(X|Z)P(Y|Z),或等价地P(X|Y,Z)=P(X|Z),则称事件X,Y对于给定事件Z是条件独立的,也就是说,当Z发生时,X发生与否与Y发生与否是无关的。记住公式: P(X1X2X3X4…X100|Y)=P(X1|Y)P(X2|Y)P(X3|Y)…P(X100|Y)示例:给定三个事件X,Y,Z:X:明天下雨;Y:今天的地面是湿的;Z:今天是...
2018-11-11 17:15:59 1180
白话深度学习与TensorFlow.2018新版
2018-11-21
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人