机器学习基石-09-1-Linear Regression Problem

第八章的总结

第九章开始学习linear regression线性回归。

linear regression的learning过程和之前的算法过程相似，就是在target function有一点不同，线性回归的f是一个会输出实数的函数。

线性回归的hypothesis和感知机的h(x)是相似的，但是没有sign()函数。

线性回归的输出空间就是整个实数。

illustration of linear regression

线性回归的目标：small residuals，也就是离差或者叫余数。

VC bound继续延伸到线性回归也是“work”的，所以只需要证明Ein(w)很小就可以得到Eout(w)也很小。

线性回归选择的error measure是squared error，离差平方和。

FUN TIME

哪一个因素对y“信用额度”的影响是正向的，很明显是monthly income，因为月收入越高就会给更高的信用额度。