机器学习炼丹必看——找对方向

引言

本文旨在帮助找到改善机器学习模型的方向。
机器学习的模型算法固然重要，但参数更加是影响模型准确性的重要因素。有些人可能没有完全理解怎样运用这些算法。因此总是把时间浪费在毫无意义的尝试上。
以此在设计机器学习的系统时，选择一条最合适、最正确的道路去尝试，可以节约很多时间，不会像乱飞的苍蝇一样。

改进算法

我们以线性回归为例：
$$mi{n}_{\theta }\frac{1}{2m}\sum _{i=1}^m(h_{\theta }(x^{(i)})-y^{(i)}{)}^2+\lambda \sum _{j=1}^n{\theta }_j^2$$

当我们运用训练好了的模型来预测未知数据的时候发现有较大的误差，我们下一步可以做什么？

• 获得更多的训练样本？通常是有效的，但代价较大
• 尝试更少的特征？
• 尝试增加特征？
• 尝试增加多项式&#x