回归----多项式拟合正弦曲线

回归----多项式拟合正弦曲线

做了什么？

使用多项式拟合一个周期内、加入噪声的正弦曲线。

具体过程如下：

• 数据生成：

在正弦函数sin(x)一个周期中均匀产生N个数据点，并在y轴上加入标准高斯分布的噪声，即

yⁱ= sin(xⁱ)+e，

e服从N(0,1),i<=N && i>=1, (xⁱ, yⁱ)表示第i个数据

• 假设空间：

  这里使用多项式：

  h(x,w) = w₀+w₁*x+w₂*x²+…

  即h(x) = w^T*X，w为多项式系数（M维列向量），X的形式如下，

  X= [ 1 x x² x³ … ]^T

• 优化目标：

  首先求解不加正则项的多项式，接着再求加入正则项的；

  我们想要使多项式尽可能的经过数据点，必须有某种指标去衡量多项式的好坏，这里使用每个数据点相对拟合多项式的偏差的平方和来衡量，当然希望这个损失越小越好。如果多项式的阶数越大，则损失会越小ÿ