8月10日学习笔记 dropout正则化归一化输入梯度消失和梯度爆炸 dropout正则化 随机删除一些节点 inverted dropout(反向随机失活) 通过除以keep-prob来保持期望值 归一化输入 归一化输入对于梯度下降有明显的好处 梯度消失和梯度爆炸 指数级递增和递减