一. 多元线性回归简介
1.在回归分析中,如果有两个或两个以上的自变量,就称为多元回归。事实上,一种现象常常是与多个因素相联系的,由多个自变量的最优组合共同来预测或估计因变量,比只用一个自变量进行预测或估计更有效,更符合实际。因此多元线性回归比一元线性回归的实用意义更大。
2.多元线性回归算法步骤:
- 解析数据集,分割特征和label
- 定义损失函数
- 定义梯度下降函数
- 根据特征数量初始化构建权重W和bias-B
- 训练,得到训练的权值W和偏差B
3.核心公式:
二. Python 代码手写实现
-
解析数据集,分割特征和label
这里是一个商业广告分析的小数据集,有三个特征,总共200个样本用来训练。 -
定义损失函数
这里用来计算训练过程中的损失值,用的是均方差损失函数。 -
定义梯度下降函数