写在前面:写这个学习笔记原因有三点,一是最近在系统的学习大佬李航的《统计学习方法》,做笔记以巩固自己的学习;二、网上有很多类似的学习笔记,有的写不全,半途而废。有的则写的太过繁杂。我尽力将这本书的学习笔记写完,也希望它是满满的纯干货。三是跟我另一套学习笔记【吴恩达机器学习课程笔记+代码实现】一样,算法理论只是工具,跟重要的是如何使用这些工具,我这会展示具体的代码实现。
例1.1 最小二乘法实现多项式函数拟合问题和正则化
训练数据集 T = ( x i , y i ) ( i = 1 , 2 , 3... , m ) T =(x_i, y_i)(i=1, 2, 3...,m) T=(xi,yi)(i=1,2,3...,m)
n次的多项式: H ( x ) = w 0 + w 1 x + w 2 x 2 + . . . w n x n H(x)=w_0+w_1x+w_2x^2+...w_nx^n H(x)=w0+w1x+w2x2+...wnxn
w ( w 0 , w 1 , w 2