python线性回归基本使用

1. 线性回归API
   sklearn.linear_model.LinearRegression()
   LinearRegression.coef_：回归系数
   事例代码：

   #导入模块
   from sklearn.linear_model import LinearRegression
   #构造数据集
   x = [[80, 86],
   [82, 80],
   [85, 78],
   [90, 90],
   [86, 82],
   [82, 90],
   [78, 80],
   [92, 94]]
   y = [84.2, 80.6, 80.1, 90, 83.2, 87.6, 79.4, 93.4]
   #机器学习-- 模型训练
   # 实例化API
   estimator = LinearRegression()
   # 使用fit方法进行训练
   estimator.fit(x,y)
   estimator.coef_
   estimator.predict([[100, 80]])
   

2.线性回归的损失和优化

• 损失函数
  总损失定义为：
  
  yi为第i个训练样本的真实值
  h(xi)为第i个训练样本特征值组合预测函数
  又称最小二乘法
  如何去减少这个损失，使我们预测的更加准确些？既然存在了这个损失，我们一直说机器学习有自动学习的功能，在线性回归这里更是能够体现。这里可以通过一些优化方法去优化（其实是数学当中的求导功能）回归的总损失！！！

• 优化算法
  正规方程：