吴恩达机器学习笔记（5.神经网络）

1，模型表示

        在人体的大脑中，每一个神经元都可以被认为是一个处理单元，有很多额树突（输入），并且有一个轴突（输出）， 神经网络是大量神经元相互连接并通过电脉冲来交流的一个网络。

神经网络模型建立在很多神经元之上，每一个神经元又是一个个学习模型。这些神经元采纳一些特征作为输入，并且根据本身的模型提供一个输 出。下图是一个以逻辑回归模型作为自身学习模型的神经元示例，在神经网络中，参数又可 被成为权重。

表示的是输入变量，输入变量乘以参数（权重）作为输出数据传递给下一层神经元，继续处理，得出一个数传递给激活函数。 

神经网络模型是许多逻辑单元按照不同层级组织起来的网络，每一层的输出变量都是下 一层的输入变量。下图为一个 3 层的神经网络，第一层成为输入层（Input Layer），最后一 层称为输出层（Output Layer），中间一层成为隐藏层（Hidden Layers）。我们为每一层都增 加一个偏差单位（bias unit）：

2，神经网络的直观理解

从本质上讲，神经网络能够通过学习得出其自身的一系列特征。在普通的逻辑回归中， 我们被限制为使用数据中的原始特征?1, ?2, . . . , ??，我们虽然可以使用一些二项式项来组合 这些特征，但是我们仍然受到这些原始特征的限制。在神经网络中，原始特征只是输入层， 在我们上面三层的神经网络例子中，第三层也就是输出层做出的预测利用的是第二层的特 征，而非输入层中的原始特征，我们可以认为第二层中的特征是神经网络通过学习后自己得 出的一系列用于预测输出变量的新特征。

3，多项分类

当有多项需要预测的话，比如说我们需要预测四类的话那么我么可以这样：