机器学习笔记(1)---监督学习之梯度下降

前言

本机器学习笔记是跟着原斯坦福大学吴恩达老师cs229课程学习后做的课后笔记。每次课程都会涉及到很多数学知识，我在记录课程核心内容的同时，会把数学基础知识在其它博文中单独记下，并在《机器学习笔记》系列博文中用到时给出链接。
笔记都是按照本人的理解去写的，给出的数学基础知识也只是本人薄弱的地方，并不适合所有人。如有问题欢迎给我留言。
数学公式使用Letex编辑，原文博客http://blog.csdn.net/rosetta

笔记主要内容

本课程主要涉及四方面内容：监督学习、学习理论、无监督学习和强化学习，所以笔记主要也是记录这四块内容，当然还有相关的数学知识。

• 监督学习（supervised learning）
  回归问题 （regression problem）连续的
  分类问题（classification problem） 离散的
  无限维空间的问题，使用支持向量机（support vector）算法，可以把数据映射到无限维空间中。
• 学习理论
  如何保证学习算法是有效的？训练数据集要达到多少才可以？
• 无监督学习（unsupervised learning）
  给定一组数据，能发现这些数据的特点，能把相同特点的归类。也就是聚类（clustering）问题。
  聚类可以做图像识别，可以使用一张照片建议3D场景，可以从杂吵声中提取出感兴趣的人的声音。
• 强化学习（Reinforcemnet Learning）
  回报函数，
  视频中举了个使用强化学习算法控制小型直升机的例子。做的好就奖励它，做的不好就惩罚它，但是如何去定义一个好的形为和坏的形为？
  还可以用在网页爬取方面。

最后再提出一个关键问题，如何使用机器学习一个工具就解决实际问题？我想这也是我为什么选择去学机器学习的原因之一。

基本概念

一个关于房价的例子，目前是使用现有的数据来预测房子的价格，首先约定一些数学符号及其表示的含义。
如下是房子面积和房价的关系。

在坐标平面画出相应的点的：

使用$x^{(i)}$表示输入，其中$i$表示第几个样本，使用$y^ {(i)}$表示输出。$\lbrace{(x^{(i)},y^{(i)}),i=1,2,\dots,m}\rbrace$表示训练集。或者使用$\mathcal{X}$表示输入数据空间，$\mathcal{Y}$表示输出数据空间，本次例子中$\mathcal{X}=\mathcal{Y}=\mathbb{R}$。
给定训练集，学习函数$h:\mathcal{X}\mapsto\mathcal{Y}$，$h(x)$为$y$的预测函数,其处理过程如下图显示：

线性回归

在本次课程中线性回归主要讲两种方法：梯度下降和正规方程。本篇笔记主要写梯度下降法，正规方程见下次笔记。

梯度下降法

在刚才房子的例子上增加一个屋子数量的特征。

此时$x$变成了二维的向量，$x_1^{(i)}$表示面积，$x_2^{(i)}$表示屋子数量，$i$表示第$i$条房子的数据.
为了完成监督学习（supervised learning），需要决定预测函数$h$，可以给定一个关于$x$的线性函数：

$$h_θ (x)=θ_0+θ_1 x_1+θ_2 x_2 \tag 1$$
其中 $θ_i$称为参数，或者权重，它用于确认从 $X$映射到 $Y$的参数，得到合适的参数 $θ$是学习算法的任务。当不会发生混淆的时候可以把 $h_θ (x)$中的 $θ$去掉，简写成 $h(x)$。为了简化符号，可令 $x_0=1$，这样公式就变成: $$h(x)=\sum_{i=0}^m{\theta_i}x_i=θ^T x \tag 2$$

那么$θ$如何确定呢？一种可行的方法是选择一组$θ$和训练数据$X$一起算出 hθ