1. 过拟合表现：
- 模型对训练集表现很好，对测试集拟合不好
- Loss（训练）小，Loss（测试）大
2. 过拟合解决方式：
- 增加数据量，数据增强
- 提前终止
- 正则化：
-
J
(
w
)
=
M
S
E
t
r
a
i
n
+
λ
w
⊤
w
J(w)=MSE_{train} + \lambda w^{\top} w
J(w)=MSEtrain+λw⊤w
λ \lambda λ越大，越偏向小的权重 - dropout（随机失活）
-
J
(
w
)
=
M
S
E
t
r
a
i
n
+
λ
w
⊤
w
J(w)=MSE_{train} + \lambda w^{\top} w
J(w)=MSEtrain+λw⊤w
3. 欠拟合表现：
- 模型对数据的拟合度不高
- Loss（train）和Loss（test）均高
4. 欠拟合解决方式：
此时盲加数据是无用的
- 增加模型复杂度
- 添加其他特征项
- 减少正则化的程度
1101
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
