1.回归
回归的目的就是找到一个function,我们通过输入,得到一个标量输出。
模型步骤:
1.模型假设,选择架构
2.模型评估,判断模型的优劣(损失函数)
3模型优化,如何筛选出最优的模型(梯度下降)
1.1.模型假设
一般来说,单个特征一元线性模型,多个特征是多个线性模型
1.2 模型评估-损失函数
在单个特征的情况下,
在二维图像中表示出来w,b,如图:
1.3 最佳模型-梯度下降
在第一步和第二步完成之后,我们要找到一个令结果最小的f,即使要找到此情况下最小的w,b
在此过程中,其实还会有更多的问题,就是当梯度为0,趋于0,或者当前就是局部最优,
w,b的偏微分的计算方法:
2.验证模型好坏
输入x-data,得到其输出y'
真实的输出为y-data
用训练集和测试集的平均误差验证好坏
3.过拟合和欠拟合
在训练集上拟合较好但是在验证集上误差较大
4.步骤优化
4.1 2个input的四个线性模型合并到一个线性模型
4.2 如果希望模型表现更好,加入更多的参数,更多的输入
4.3加入正则化
5.回归演示