最小二乘法原理-线性回归

最小二乘法公式是一个数学的公式，在数学上称为曲线拟合，此处所讲最小二乘法，专指线性回归方程，最小二乘法公式为a=y(平均)-b*x（平均）。

有一组数据（1，6），（3，5），（5，7），（6，12），要找出一条与这几个点最为匹配的直线 ： y = A + Bx
有如下方程：
6 = A + B
5 = A + 3B
7 = A + 5B
12 = A + 6B

L(A,B)=[6-(A + B)]^2 + [5-(A + 3B)]^2 + [7-(A + 5B)]^2 +[12-(A + 6B)]^2使得L的值最小：这里L是关于A,B的函数；那么我们可以利用对A，B求偏导，进而求出A，B的值使得Lmin

$\frac{d}{(dA)}[L(A,B)]=8A+30B-60$

$\frac{d}{(dB)}[L(A,B)]=15A+71B-128$

B = 1.050847457627119
A = 3.559322033898304
y = 3.55 + 1.05x:也就是说这条直线是最佳的。求得最适合数学模型，然后可以更加准确预测数据。