机器学习笔记---线性回归

1、输入x得出y，求销售量与广告投放量之间的关系。
线性回归就是x和y是线性关系
y=权重乘以x + bias(这不是跟感知器一样)
2、根据这条线预测，那么哪条线最好呢？
预测残差：真实值与预测值的差（用损失函数度量这个差）
最佳直线就是差异最小的

3、损失函数

• 残差平方和L2损失—对噪声敏感（最小二乘回归）
• 绝对值L1损失—0处不可导
• Huber损失—综合两个优点，这个预测残差的绝对值小于某值，用平方，否则用绝对值
• 过拟合：与训练数据拟合的好，但与测试数据不好
• 欠拟合：模型太简单，两种数据都拟合的不好
• n阶多项式：阶数就是最大次幂的数