写在前面
Linear Regression:是回归问题的基础
线性回归的目的:线性回归要做的是就是找到一个数学公式能相对较完美地把所有自变量组合(加减乘除)起来,得到的结果和目标接近
实现的大体步骤
实现步骤:
1.构造数据集
2.读取数据集
3.构建模型
建立网络
建立损失函数
建立优化器
4.训练
初始化参数
前向传播
后向传播
梯度清零
参数优化
1.构造数据集
特征的维度:2 特征的数量:1000 预设模型w的值: [1.5,2.6] 预测模型b的值: -3.6 那么上述过程就等价于如下公式
y = 1.5 x 1 + 2.6 x 2 − 3.6 y=1.5 x_{1}+2.6 x_{2}-3.6 y=1.5x1+2.6x2−3.6
为了让训练时尽可能避免过拟合,为结果加上一个均值为0,方差为0.01的白噪声e,即最终模型可写为
y = 1.5 x 1 + 2.6 x 2 − 3.6 + ϵ y=1.5 x_{1}+2.6 x_{2}-3.6+\epsilon y=