M次多项式拟合问题实际就是一个最小二乘法的问题,作者在《统计学习方法》中并没有给出具体的推导公式,下文给出具体的推导公式。
设M次多项式为
fM(xI,w)=w0+w1xi+w2x2i+⋯+wMxMi=∑j=0Mwjxj=XTiw f M ( x I , w ) = w 0 + w 1 x i + w 2 x i 2 + ⋯ + w M x i M = ∑ j = 0 M w j x j = X i T w
其中 w=(w0,w1,⋯,wM) w = ( w 0 , w 1 , ⋯ , w M ) ,Xi为矩阵
X=⎡⎣⎢⎢⎢1⋮1x1xnx21x2n⋯⋯xM1⋮xMn