Python算法总结（五）线性回归（附手写python实现代码）

一、算法类型

有监督的回归算法

二、评估指标

残差平⽅和：

平均残差：

预测数据与标签均值之间差值的平⽅和：

实际值和均值之间的差值的平⽅和：

R方：

三、手写Python线性回归算法

1.简单线性回归
（1）损失函数公式

（2）参数w求解公式

（3）手写python算法

# 计算回归系数
def Standard_Regress(dataset):
    xmat=np.mat(dataset.iloc[:,:-1].values)
    ymat=np.mat(dataset.iloc[:,-1].values).T
    xtx=xmat.T*xmat
    if np.linalg.det(xtx)==0:
        print('矩阵为奇异矩阵，无法求逆')
        return
    ws=xtx.I*(xmat.T*ymat)  #关键的一步，ws的求解公式
    return ws

（4）实战（调用函数）