线性回归 - 简介

线性回归是机器学习中最基础的模型, 也是理解所有深度学习模型的基础

- 线性回归是对n维输入的加权 (weight), 外加偏差 (bias)
- 使用平方损失来衡量预测值和真实值的差异
- 线性回归有显示解 (有显示解的model比较简单)
- 线性回归可以看做是单层神经网络 (最简单的神经网络)
- 线性回归是唯一一个有最优解的model (其他都没有)

[以房价为例]

1. 假设#rooms, #toilet, area是影响价格的关键因素
2. 假设成交价的关键因素的加权和y = w_1*x_1 + w_2*x_2 + w_3*x_3 + b

衡量预测结果

真实值为y, 估计值是ŷ, 其平方损失是 

训练数据

根据数据来学习参数 (即weight和bias)

- 对于model在每一个数据上的损失, 取其平均, 方可得损失函数