一、回归定义与应用例子
1.回归定义
Regression 就是找到一个函数 function,通过输入特征 x,输出一个数值 Scalar。
2.回归应用例子
1.股市预测
输入:过去10年股票的变动、新闻咨询、公司并购咨询等
输出:预测股市明天的平均值
2.自动驾驶
输入:无人车上的各个sensor的数据,例如路况、测出的车距等
输出:方向盘的角度
3.商品推荐
输入:商品A的特性,商品B的特性
输出:购买商品B的可能性
4.Pokemon精灵攻击力预测:
输入:进化前的CP值、物种、血量、重量、高度
输出:进化后的CP值
二、模型步骤
Step1:模型假设,选择模型框架(线性模型)
Step2:模型评估,如何判断众多模型的好坏(损失函数)
Step3:模型优化,如何筛选最优的模型(梯度下降)
三、验证训练模型的好坏
使用训练集和测试集的平均误差来验证模型的好坏
四、更强大复杂的模型
1元N次线性模型
五、过拟合问题
在训练集上面表现更为优秀的模型(通常是更复杂的模型),在测试集上效果反而变差了。
这就是模型在训练集上过拟合的问题。
六、步骤优化
Step1优化:2个input的四个线性模型是合并到一个线性模型中
Step2优化:如果希望模型更强大表现更好(更多参数,更多input)
Step3优化:加入正则化