CS231n学习笔记——批量归一化(Batch Normalization)、监视训练

CS231n学习笔记——批量归一化(Batch Normalization)

想要保持单位高斯激活,那么就需要做批量归一化,即在神经网络中额外加入一层,以使得中间的激活值均值为0方差为1。
在这里插入图片描述
如果我们想要正确的激活单位高斯函数,我们可以取目前处理的批数据的均值,利用均值和方差来进行归一化,如果我们要在训练的每一层都保持良好的高斯分布,就需要进行批量归一化。而且需要它能够微分,这样才能在梯度反向传播的时候计算局部梯度。

这一步通常在全连接层(或卷积层)与激活函数之间进行。批量归一化处理的是输入数据而不是权重。
在完成归一化操作后,需要进行额外的缩放操作,γ和β都是学习到的参数,用来恢复恒等函数。
在这里插入图片描述
批量归一化改进了整个网络的梯度流,具有更好的鲁棒性,能够在更广泛的学习率和不同初始值下工作。所以一旦使用批量归一化训练会变得更容易。
也可以把它看作正则化的一种。

监视训练

监视训练过程并在训练过程中调整超参数。
第一步,数据初始化,做零均值处理
第二步,选择网络结构,包括隐藏层数量,每层神经元数量等
第三步,完整性检查
在这里插入图片描述
首先关闭正则项,loss的值
在这里插入图片描述
然后加入正则项,观察到loss上升表示正确
第四步,开始训练,先用一小部分数据训练,确保训练过程中loss在降低,准确率在上升
第五步,拿出全部数据训练,加上一个小正则化项,然后从小值开始尝试学习率,会存在一个loss变化不大,但是准确率上升的过程,这是因为参数值依然分散,但是性能略有提升。
在这里插入图片描述

超参数最优化

对任何超参数,执行交叉验证:在训练集上训练,然后在验证集里验证效果。
在这里插入图片描述
如图是在一定范围内搜索最佳学习率。
通常来说学习率是最重要的参数,应该先确定它,之后像regularization正则化,学习判据和模型大小等并不是那么敏感,所以应该来回迭代,先找出最佳学习率然后返回寻找其他超参数。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值