最小二乘法总结

概念

最小二乘法多项式曲线拟合，根据给定的m个点,并不要求这条曲线精确地经过这些点，而是曲线y=f(x)的近似曲线y= φ(x)。

原理

给定数据点pi(xi,yi)，其中i=1,2,…,m。求近似曲线y= φ(x)。并且使得近似曲线与y=f(x)的偏差最小。近似曲线在点pi处的偏差δi= f(xi)-y，i=1,2,...,m。

线性拟合：y = ax +b

 

对a，b分别求偏导数

 

 

整理得到

 

解出系数ａ，ｂ

 

 

 

 

 

多项式：

 

1. 设拟合多项式为：

          

2. 各点到这条曲线的距离之和，即偏差平方和如下：

          

3. 为了求得符合条件的a值，对等式右边求ai偏导数，因而我们得到了： 

         

 

                        .......

      

4. 将等式左边进行一下化简，然后应该可以得到下面的等式：

          

       

                    .......

       

 

5. 把这些等式表示成矩阵的形式，就可以得到下面的矩阵：

          

6. 将这个范德蒙得矩阵化简后可得到:

          

7. 也就是说X*A=Y，那么A = (X'*X)-1*X'*Y，便得到了系数矩阵A，同时，我们也就得到了拟合曲线。

线性拟合代码

bool Plot::lineFit(const m_point &points, double &a, double &b)
{
     int size = points.x.size(); //获取数据长度
     if(size < 2)
     {
         a = 0;
         b = 0;
         return false;
     }

    double Dx = 0, Dy = 0, Dxx = 0, Dxy = 0, Dyy = 0;

    for (int i = 0; i < size; i++)
    {
        Dx += points.x[i];
        Dy += points.y[i];
        Dxx += points.x[i] * points.x[i];
        Dxy += points.x[i] * points.y[i];
        Dyy += points.y[i] * points.y[i];
    }

    a = (Dxy * size - Dx * Dy) / (Dxx * size - Dx * Dx);
    b = (Dxx * Dy - Dx * Dxy) / (Dxx * size - Dx * Dx);

     return true;
}

多项式拟合代码：

参考网站： http://blog.csdn.net/jairuschan/article/details/7517773/