机器学习008_多元线性回归

1、引导

这一节，讨论一种新的线性回归的算法。这是一种更有效的形式，适用于多变量或者多特征量。

• 之前学习的线性回归：只有一个变量x，用y来预测该变量：
  

• 现在我们将学习多特征量的线性回归：
  

• 对比之前的一个特特征量的假设函数和多特征量的假设函数：
  

2、多元线性回归定义

由上面单一特征量的线性回归推出多特征量的线性回归即多元线性回归：

上图是多元线性回归的定义和假设函数，即用多特征量或者多个变量来预测Y值。

3、多元线性回归的参数

接下来我们要确定多元线性回归的假设函数的参数（亦为向量），了解如何使用梯度下降法来处理该假设函数。

• 下图是多元线性回归的假设函数，将参数和变量都理解成一个n+1维的向量，写出该假设函数对应的代价函数J，并使用梯度下降来确定参数，即找到使得代价函数J最小的参数。
  
  要写出该梯度下降，先研究该导数项（就是上图中的绿框）：
  
  当n=1（表示有两个变量，下表从0开始计数）和>=1时，分别对应上图的左右。当n=1时，有两个变量（默认第一个变量=1），有两个参数，（实际上是单元线性回归）。