Coursera Andrew Ng ML 课后错题集

目录

Regularization

---

Regularization

正确答案B：Adding a new feature to the model always results in equal or better performance on the training set

“大道至简”：正则化的作用是在于限制模型中参数，让模型的参数不会太大，从而减少模型过拟合的可行性；A、D：引入太多容易正则化，模型可能对训练集会对训练集拟合不足，由此在新的examples上也不会表现太好；C：增加特征容易对训练集过度训练，从而在训练集表现好，但在新数据中表现差，所以应该是容易过拟合，而不是防止过拟合。

正确答案D：Using too large a value of λ can cause your hypothesis to underfit the data.

λ is the tuning parameter that decides how much we want to penalize the flexibility of our model. λ是正则化参数，控制θ参数的起伏从而控制模型的复杂度。λ越大，惩罚力度越大，越偏好简单的模型，于是θ越小，从而减少对应特征学习的程度。因此λ越大越容易欠拟合，选D排除A。

B: 正则化后的logistic回归和线性回归都是凸的，因此梯度下降仍然会收敛到全局最小值。

C：直接就是概念混淆胡乱解释了，正则化项让θ参数减小，而不是让输出值减小。