回归特征选取_一文读懂线性回归、逻辑回归

一、线性回归

1.概念

对于一组特征，使用线性方程来进行拟合，对结果进行预测，公式如下：

2.代价函数

线性回归选取的损失函数是均方误差，均方误差表示所有样本到该预测函数的欧式距离最小，代价函数如下：

对每一个θ进行求导，便可以求取θ的值：

更新：