Machine Learning week 4 总结

Multivariate Linear Regression

问题可以由函数表示

函数，本质上就是两集合的一种映射关系，从输入值，得到输出值。同时函数，也是现实世界的一种抽象表示，就如原因对应结果，事件A对应事件B。通常我们只要给一个问题建立起比较好的数学模型，就能很方便的通过计算机来解决这个问题，比如通过一个某地房屋面积与房价关系的数学模型，计算出该地某一房屋的价格。又或者通过模型，根据某一就诊者体内肿瘤的大小，判断其是良性还是恶性。

今天先来看看回归，就像线性回归，其实就是通过样本去拟合出一个最符合样本分布的函数，借此来泛化的根据新的输入值去预测输出值。

根据泰勒公式可知，在一定条件下，各种函数，可以泰勒展开为多项式表示，因此这也代表了我们可以直接用多项式去作为假设函数。

Gradient Descent for Multiple Variables

计算出假设函数这个多项式的参数，得出假设函数

拟合最符合样本分布的多项式函数，其实就是函数最优化的一个过程，比如通过最小二乘法（根据样本计算的函数值于真实值之差的平方和最小），使得costFunction（损失函数）最小即可。说到最优化，也就是求极致，首先损失函数需要有最小值，这就得保证函数是凸函数（什么是凸函数还不完全清楚），在此基础上，根