最小二乘法又名最小平方法,是一种用于估计和拟合的计算方法。我结合加权平均估计的思想做个简单介绍。
假设有两个测量量x1,x2。我们希望得到一个估计量x=t*x1+(1-t)*x2使其最接近实际x0值,理论上t取0到1之间的任何数都可以,我们怎样能够从所有可能性中得到一个最好的t呢?
从中学数学知识我们可以知道,一个数的平方只可能是正数或者0,那么我们可不可以认为,当几个平方相加得到的数字最小的时候,系统达到了一种最好的状态。用上面的例子来说,就是得到了最好的t。
具体来说,我们希望(x-x1)^2+(x-x2)^2最小,在这种情况下,可以认为x是x1和x2得到的一个最优估计