1. 目的
上一节,我们讨论了单变量的线性回归,但事实上多变量特征值更为常见,比如房价不仅取决于面积,还取决于地段、房型、楼层等因素影响,所以笔者将在上一节的基础上进行扩展,讨论如何进行多维度的线性回归。
2. 数学推导
2.1 引入
增添更多特征后,我们引入一系列新的注释:
n 代表特征的数量
x(i) 代表第 i个训练实例,是特征矩阵中的第𝑗行,是一个 向量(vector)。
例如:第二行特征值可以表示为:
代表特征矩阵中第 𝑗 行的第 𝑘 个特征,也就是第 i 个训练实例的第 j 个特征。
2.2 假设函数
我们用假设函数来进行拟合,这里为了计算方便,笔者采用只两个特征变量,但代码已经适合任意多变量线性拟合,只需要更换下数据和少量代码改动,假设函数如下:
3.3 多变量梯度下降
代价函数为:
其中
对代价函数
3. 代码实现
4. 小结