- 博客(3)
- 收藏
- 关注
RSS订阅原创 《动手学深度学习》第三次打卡--Laneveri
知识摘要一、批量归一化和残差网络（1）批量归一化（BatchNormalization）的使用1、对全连接层做批量归一化，位置在全连接层中的仿射变换和激活函数之间。2、对卷积层做批量归一化，位置在卷积计算之后、应⽤激活函数之前，如果卷积计算输出多个通道，我们需要对这些通道的输出分别做批量归一化，且每个通道都拥有独立的拉伸和偏移参数。3、预测时的批量归一化，训练时我们以batch为单位,对...
2020-02-25 19:26:12
373
原创 《动手学深度学习》第二次打卡--Laneveri
知识摘要一、深度学习中的一些常见问题及解决方案（1）欠拟合欠拟合即模型无法得到较低的训练误差，导致欠拟合的主要原因是模型复杂度不够，特征维度过少，导致拟合的函数无法满足训练集，误差较大。（2）过拟合过拟合即模型的训练误差远小于它在测试数据集上的误差，导致过拟合的主要原因是模型复杂度过高，特征维度过多，导致拟合的函数完美的经过训练集，但是对新数据的预测结果则较差。（3）解决方案1、应对...
2020-02-18 18:55:29
427
原创 《动手学深度学习》第一次打卡--Laneveri
知识摘要一、单神经层下的两种回归（1）线性回归线性回归输出是一个连续值，因此适用于回归问题。而线性回归需要具备以下几个要素：1、生成数据集2、读取数据3、初始化模型参数4、模型定义5、模型训练，其中包括训练数据、定义损失函数（平方差损失函数）、优化算法6、模型预测附pytorch的简洁实现（2）softmax回归softmax回归的输出为离散值，因此适用于分类问题。同样，s...
2020-02-14 18:44:14
235
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人