- 博客(3)
- 收藏
- 关注
RSS订阅原创 深度学习PyTorch-03
批量归一化 1.对全连接层做批量归一化 位置：全连接层中的仿射变换和激活函数之间。 2.对卷积层做批量归⼀化 位置：卷积计算之后、应⽤激活函数之前。 3.预测时的批量归⼀化 训练：以batch为单位,对每个batch计算均值和方差。 预测：用移动平均估算整个训练数据集的样本均值和方差。 残差网络 残差块（Residual Block） 恒等映射： 左边：f(x)=x 右边：f(x)-x=0 （易于...
2020-02-24 16:40:57
135
原创 深度学习PyTorch-02
过拟合、欠拟合 训练误差和泛化误差 前者指模型在训练数据集上表现出的误差，后者指模型在任意一个测试数据样本上表现出的误差的期望，并常常通过测试数据集上的误差来近似。 过拟合和欠拟合 模型无法得到较低的训练误差，我们将这一现象称作欠拟合； 另一类是模型的训练误差远小于它在测试数据集上的误差，我们称该现象为过拟合（overfitting）。 权重衰减 权重衰减等价于 L2 范数正则化（regula...
2020-02-18 15:11:50
373
原创 深度学习PyTorch-01
线性回归 模型 线性回归假设输出与各个输入之间是线性关系。 数据集 我们通常收集一系列的真实数据，例如多栋房屋的真实售出价格和它们对应的面积和房龄。我们希望在这个数据上面寻找模型参数来使模型的预测价格与真实价格的误差最小。在机器学习术语里，该数据集被称为训练数据集（training data set）或训练集（training set），一栋房屋被称为一个样本（sample），其真实售出价格叫作标...
2020-02-14 18:14:46
179
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人