《动手学深度学习》课后习题2

《动手学深度学习》学习网址：

《动手学》：过拟合、欠拟合及其解决方案
1. 关于验证数据集的描述错误的是：

答案：测试数据集可以用来调整模型参数。
解析：测试数据集不可以用来调整模型参数，如果使用测试数据集调整模型参数，可能在测试数据集上发生一定程度的过拟合，此时将不能用测试误差来近似泛化误差。
B 验证数据集可以用来调整模型参数;
C 在数据不够多的时候，k折交叉验证是一种常用的验证方法;
D k折交叉验证将数据分为k份，每次选择一份用于验证模型，其余的用于训练模型。

2. 关于过拟合、欠拟合概念的描述错误的是：

答案：过拟合和欠拟合可以同时发生。 解析：过拟合是指训练误差达到一个较低的水平，而泛化误差依然较大。
欠拟合是指训练误差和泛化误差都不能达到一个较低的水平。
发生欠拟合的时候在训练集上训练误差不能达到一个比较低的水平，所以过拟合和欠拟合不可能同时发生。 A
过拟合是指训练误差很低，泛化误差相对于训练误差要高很多。 C 欠拟合是指训练误差和泛化误差都无法到达一个较低的水平。 D
过拟合和欠拟合都是在训练中容易遇到的经典问题。

3. 关于模型复杂度和数据集大小造成欠拟合和过拟合的描述错误的是：

答案：缓解过拟合只能增加训练数据集的大小。
解析：过拟合还可以使用权重衰减和丢弃法来缓解，即使在一个比较小的数据集上使用了权重衰减和丢弃法之后也能够达到一个比较好的效果。
A 模型复杂度低容易导致欠拟合
B 训练数据集小容易导致过拟合
C 解决欠拟合可以考虑增加模型的复杂度

4. 关于权重衰减和丢弃法的描述错误的是：

答案：L2范数惩罚项通过惩罚绝对值较大的参数的方法来应对欠拟合的 解析：L2范数正则化也就是权重衰减是用来应对过拟合的。
A L2范数正则化在损失函数的基础上添加了L2范数惩罚项
C 丢弃法通过随机丢弃层间元素，使模型不依赖于某一个元素来应对过拟合的
D L2范数正则化是权重衰减的一种方式

《动手学》：梯度消失、梯度爆炸

5. 关于导致梯度消失和梯度爆炸的描述错误的是：

答案:激活函数使用sigmoid或者tanh可以缓解梯度消失.
解析：在激活函数的选择的地方讲过，在深层网络中尽量避免选择sigmoid和tanh激活函数，原因是这两个激活函数会把元素转换到[0, 1]和[-1, 1]之间，会加剧梯度消失的现象。
A .梯度消失会导致模型训练困难，对参数的优化步长过小，收效甚微，模型收敛十分缓慢
B.梯度爆炸会导致模型训练困难，对参数的优化步长过大，难以收敛
D. 在训练模型时，我们应该采取适当的措施防止梯度消失和梯度爆炸的现象

6. 一个在冬季部署的物品推荐系统在夏季的物品推荐列表中出现了圣诞礼物，我们可以推断该系统没有考虑到：

答案：协变量偏移
答案解释：可以理解为在夏季的物品推荐系统与冬季相比，时间或者说季节发生了变化，导致了夏季推荐圣诞礼物的不合理的现象，这个现象是由于协变量时间发生了变化造成的。
B标签偏移;
C概念偏移;
D没有问题.

7. 下列关于模型训练实战步骤排序正确的是：

获取数据集–数据预处理–模型设计–模型验证和模型调整（调参）–模型预测以及提交.

8. 关于协变量偏移、标签偏移、概念偏移的描述中错误的是：

答案&