matlab最小二乘法_不一样的最小二乘法

最小二乘法是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据，并使得这些求得的数据与实际数据之间误差的平方和为最小。

---

通常情况下最小二乘法是这样的:

给定一组数,假设是二维数据.

,并且 xy是相关的.假设xy满足方程,

但是这个方程我们是不知道具体什么样的.我们找到一个近似函数

对于每一个点

有

,

是残差,这里姑且叫误差吧.那么总的误差平方和为

我们的目的是是误差平方和最小. 注意在这里我们已经假设x是准确的,误差来自y.这就是通常的最小二乘法误差函数.

三种误差定义

% 语法:

这个时候对误差函数关于参数求偏导数,令其等于0得到我们拟合的参数. 为了方便我们假设xy满足线性关系.

那么误差为:

---

第二种误差是假设y是准确的,x是有误差的.任然假设xy是线性的

得到

那么误差为

---

第三种是xy都有误差,那么误差就应该是点到直线的距离:

有了三种误差函数就可以得到需要的参数.下面我们通过具体代码来实现.

% 语法:

sol 

第二种方法

% 语法:

sol 

第三种方法

% 语法:

sol 

最后三张方法总结在一起

% 语法: