- 博客(3)
- 收藏
- 关注
原创 深度学习笔记(三)Cv方向
一.批量归一化和残差网络 批量归一化 对输入的标准化(浅层模型) 处理后的任意一个特征在数据集中所有样本上的均值为0、标准差为1。 标准化处理输入数据使各个特征的分布相近。 批量归一化(深度模型) 利用小批量上的均值和标准差,不断调整神经网络中间输出,从而使整个神经网络在各层的中间输出的数值更稳定。 对全连接层进行批量归一化 3.对卷积层做批量归一化 位置:卷积计算之后、应⽤激活函数之前。 如...
2020-02-25 10:06:11
1555
原创 深度学习笔记二(task03-05)
一.过拟合及欠拟合及其解决方案 训练误差和泛化误差 训练误差是指在训练数据集上表现出的误差,泛化误差指的是模型在任意一个测试数据样本上表现出来的误差的期望,并常常通过测试数据集上的误差来近似。计算训练误差和泛化误差可以用损失函数,例如线性回归用到的平方损失函数和softmax回归用到的交叉熵损失函数。在机器学习模型应关注降低泛化误差。 验证数据集 从严格意义上讲,测试集只能在所有超参数和模...
2020-02-18 18:32:14
2687
原创 深度学习笔记(一)
(一)线性回归 关于线性回归,我们这里了解到的主要内容是它的基本要素: 线性回归的基本要素 1.模型 为了简单起见,这里我们假设价格只取决于房屋状况的两个因素,即面积(平方米)和房龄(年),接下来我们希望探讨房价和这两个因素的具体关系,所以线性回归假设输出与各个输入之间是线性关系: price=W areaarea+W ageage+b 2.数据集 我们通常收集一系列的真实的数据,例如多栋房屋的真...
2020-02-14 18:14:27
246
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人