机器学习-线性回归(2)
多元线性回归
当数据的特征有多个时这时可以使用多元线性回归进行预测
多元线性回归的一般形式
H(x1,x2…xn) = w1*x1 + w2 x2 + … + wnxn + w0
设置x的最后一列横为1,将其向量化后:
损失函数:
最小化损失函数,求偏导:(此处有错误,应该为2/m)
i = (0,1,2…n) n 为数据的特征数量
连续迭代梯度下降:
i = (0,1,2,…,n)
正规方程:
忽略2/m令偏导等于0
可以解得:
扩展:
现实生活中的数据分布很少是线性的,因此我们可以在线性回归的假设函数做扩展增加n次项,根据泰勒展开,当n趋向于∞时,函数可以拟合出任意一条曲线。