上一篇文章使用最小二乘法来拟合直线,有一个重要的缺点就是仅考虑了因变量
存在误差的情况,但是很多情况下,原始点的横纵坐标都会有误差存在。
本文使用正交回归的方法,解决了最小二乘的两个缺点:
- 同时考虑了横纵坐标的误差;
2. 使用点法式直线方程,能够表示二维平面上所有的点。
正交回归
正交方法能够同时考虑自变量
和因变量
的误差。正交回归将横纵坐标残差的平方和作为目标函数,来求得最优解。直观地理解,正交回归就是找到一条直线,使得点到直线的距离之和最小。
所以如果拟合点的横纵坐标都包含误差的情况下,使用正交回归能够得到更准确的结果。
目标函数
定义横坐标
的真值为
,估计值为
,则横坐标的误差和残差定义如下:
要综合考虑横纵坐标的误差,得出的目标函数应该有如下形式:
因为要求目标函数的最小值,所以点
应该是直线上到点
距离最短的点,也就是第