机器学习（二）：神经网络

在现实中，分类的对象往往非常复杂，有上千个特征，这会使得逻辑回归的分类进行十分缓慢。且当逻辑回归进行多分类时，需要分类多次才可以完成。因此提出了新的算法，神经网络。

0x01 神经网络概念

神经网络即模仿大脑的学习模式提出的一种算法，通过模拟大脑的神经元，将分类问题分步进行，由简单到复杂的进行。以下是神经网络的模型。

                              

其中，x1到x3分别为不同的特征值，中间的a1到a3为中间层，即对于x1到x3的进一步过滤，最后输出h（x）。

下面以计算 x1 XNOR x2为例介绍神经网络的工作过程。

 

0x02 神经网络举例

e.g.  x1 XNOR x2 结构图如下所示

要计算x1 XNOR x2， 需要先计算x1 and x2，以及 (not x1)AND(not x2)， 然后将结果采用或运算即可。

图中红色的部分是对x1 x2进行与运算，线上的数字称为权重，也就是线性回归中的theta参数。其计算过程如下