零基础开始学深度学习（1）

  吴恩达大神推出了深度学习的课程，深度学习的大名早有耳闻，既然有这么优秀的学习资源了，决定耐心的跟随大神领略深度学习的魅力，零基础开始登山，给自己加油^-^

  让我们从实际一个例子说起：

  在这个例子里，关于（房屋大小，房屋价格）有一些样本点落在这个坐标系里，不难由线性回归拟合出一条直线，让这些样本点很好的落在直线周围，且知道房屋价格永远不可能为小于0，所以直线的左下角趋于0。

这样的直线名称为ReLU（Rectified Linear Unit）线性修正单元。

 

  这样我们就可以提炼出一个最简单的神经网络了

 

  我们把房屋大小当做输入，房屋价格当做输出，而中间的神经元（neuron）则完成以下的功能：

• 取房屋大小的值
• 完成函数运算
• 输出房屋价格的值

 

  这是一个单神经网络，更大的神经网络是把这些单神经网络堆叠起来的，如下面例子：

 

  这里选取多个特征作为输入，按照分层的思想来看，也叫输入层（input layer）。

  输入层输入后，经过神经元运算，神经元这一层叫做隐藏层（hidden layer），即这些神经元运算过程中生成的值是我们观测不到的。

  最后输出结果，这一层叫做输出层（output layer）。