设计和实现一个神经网络

注:本文是学习吴恩达机器学习的学习笔记。

1. 选择神经网络架构

输入层的节点数决定输入特征向量的维度，输出层的节点数取决于分类的数目，默认情况下有一层隐藏层，但是隐藏层是越多越好而且隐藏层的节点数目应该一致。

2. 然后按照下面步骤实现神经网络的cost函数和偏导数

3. 再利用梯度checking，确认back propagation算出的偏导数是正确的，当确认正确后再disable 梯度checking

最后应用梯度下降或者高阶优化算法找到最有参数theta。