weixin_41802290的博客

原创 神经网络误差和参数变化不大，预测值始终在0.5附近

然后我想起在用tensorflow时，处理图片的卷积操作每一层前面都加了一层BatchNorm2d，于是我在每一层sigmoid函数前加了一层BatchNorm1d。也试了试了网上的各种方案，都没有用，最后把梯度下降函数从SGD改用了Adam ，结果瞬间不一样了，或是说正常了。一开始我认为是没有归一化导致的，因为有两个特征，两个特征的量级不一样。结构是最简单的一层输入层、一层隐藏层和一层输出层，输入特征数为2，输出为1（二分类）。应该也不是这个的原因。当然，可能有些过拟合了，不过，那就是下一步的工作了。