机器学习笔记：线性规划，梯度下降

主要内容来自stanford Andrew Ng视频课程的总结。讲的很好，还有对应的习题，课程可以在下面网站搜索到。

https://www.coursera.org/

机器学习的目的是在训练数据的基础上得出一个模型，该模型对于给定的输入x，给出相应的输出y。用公式表示就是：y = h(x)。注意x表示一维向量，x={x1,x2,x3...}。这里的xi也就是特征（feature），h就是模型。

若输出y是连续值，则是回归预测问题。若y是离散值，则是分类问题。如果给定的训练数据是(输入-输出)对的形式，也就是明确指出某个输入x，其对应的输出是何值，这种输入有监督学习。若训练数据中只包含x，没有输出y，则是无监督学习。

线性回归：

输入和输出是一次对应关系。直观的说：二维空