最小二乘法

## Least squares 最小二乘法
import numpy as np
import scipy as sp
import matplotlib.pyplot as plt
from scipy.optimize import leastsq

'''
给出样本数据
'''
X = np.array([6.19,2.51,7.29,7.01,5.7,2.66,3.98,2.5,9.1,4.2])
Y = np.array([5.25,2.83,6.41,6.71,5.1,4.23,5.05,1.98,10.5,6.3])

## 假设需要拟合的函数类型
def func(p,x):
    k,b=p
    return k*x+b

## 偏差函数
def error(p,x,y):
    return (func(p,x)-y)*(func(p,x)-y)

'''
    主要部分：附带部分说明
    1.leastsq函数的返回值tuple，第一个元素是求解结果，（第二个值）：Value of the cost function at the solution
    2.实例：Para=>(array([ 0.61349535,  1.79409255]), 3)
    3.返回值元组中第一个值的数量跟需要求解的参数的数量一致
'''
#k,b的初始值，可以任意设定,经过几次试验，发现p0的值会影响cost的值：Para[1]
p0=[1,20]

#把error函数中除了p0以外的参数打包到args中(使用要求)
Para=leastsq(error,p0,args=(X,Y))

#读取结果
k,b=Para[0]
print("k=",k,"b=",b)
print("cost："+str(Para[1]))
print("求解的拟合直线为:")
print("y="+str(round(k,2))+"x+"+str(round(b,2)))

#画样本点
plt.figure(figsize=(8,6)) ##指定图像比例： 8：6
plt.scatter(X,Y,color="green",label="samples line",linewidth=2) 

#画拟合直线
x = np.linspace(0,12,100) ##在0-15直接画100个连续点
y = k*x+b ##函数式
plt.plot(x,y,color="red",label="fitting line",linewidth=2) 
plt.legend(loc='lower right') #绘制图例
plt.show()