最小二乘法简述及推导,转自:点击打开链接
经常做物理实验的同学应该会有这样的体会,我们经常需要将实验收集得来的数据标注在一个坐标平面之上,形成一系列离散的点,然后用一条平滑的曲线近似地将这些点连在一起,借此推测实验变量之间的函数关系,对实验结果进行理论分析。这种方法能够帮助实验人员用数学语言描述物理现象,广受欢迎,专业上的说法,称为“曲线拟合”。
“曲线拟合”的结果当然可以五花八门,比如碰到下面这个图象
让你说出实验变量x与y之间的函数关系,十有八九你会一脸懵圈:这是个什么鬼?你在玩贪吃蛇吗?
但若是实验数据呈现出下面这个形态的分布,你应该就会爽快地不假思索地答出:这是一条直线!
没错,考虑到可能的实验误差,认定上述变量之间的函数关系满足一个直线方程是一件非常靠谱的事情,问题是如何把这条直线给找出来?
对数学而言,“平面直线千千万,这条不好你再换”之类的“随手画”是丝毫没有说服力的,你必须建立恰当的模型,并且明确相应的判断标准。
模型我们已经有了——直线:,判断标准也很容易达成共识:实验采集到的数据与真实值之间的差距尽可能的小。接下来的任务,就是要将直线拟合的过程转化为一个数学问题的求解。
在数学上,“实验采集到的数据与真实值之间的差距尽可能的小”是通过求解下面这个极值问题来实现的。假设实验采集到组数据,我们要求方程系数的选取使得函数
的取值尽可能的小(最好是0)。
如何做到呢?看起来有些麻烦,老师没教过啊……要是变元的个数只有一个就好了,因为我们知道一元函数若在点处可微,那么它在处取极值的必要条件是