- 博客(2)
- 资源 (1)
- 收藏
- 关注
原创 dropout 在caffe中的一些问题
caffe中,drop的实现是:-设置置零比例,α\alpha -随机置零一些神经元。所占比例大改是 α\alpha. 但是由于是随机确定的,不能保证一定有这么多比例的被置零,会有一定的浮动,不过影响不大 -第二步,将没有被置零的神经元的输出乘以一个倍数进行扩大。倍数是 1/(1-α\alpha)这就有一个问题,就是当激活函数为线性函数的时候,比如ReLU,输出乘以倍数是没有关系的。当激活函数
2017-06-05 17:29:38 394
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人