银行客户流失预警模型（四） | 神经网络的应用

什么是神经网络？

神经网络也是机器学习的一种模型，是一种模仿动物神经网络行为特征，进行分布式并行信息处理的算法数学模型。。这种网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的。

简单理解就是它试图模仿人类大脑信息在神经元上的传递，以及信息处理的方式。

一个计算模型要被称为神经网络，需要大量的彼此连接的节点（也叫做神经元）。神经元具备以下特点：
（1）每个神经元通过某个特定的输出函数（激励函数）来处理来自其他神经元加权处理的输入值
（2）神经元之间的信息传递用加权值定义，算法会不断自我学习，调整这个加权方式

一般来说，神经网络的架构可以分为三类：

前馈神经网络

这是实际应用中最常见的神经网络类型。第一层是输入，最后一层是输出。如果有多个隐藏层，我们称之为“深度”神经网络。他们计算出一系列改变样本相似性的变换。各层神经元的活动是前一层活动的非线性函数。

循环网络

循环网络在他们的连接图中定向了循环，这意味着你可以按照箭头回到你开始的地方。他们可以有复杂的动态，使其很难训练。他们更具有生物真实性。

循环网络的目的是用来处理序列数据。在传统的神经网络模型中，是从输入层到隐含层再到输出层，层与层之间是全连接的，每层之间的节点是无连接的。但是这种普通的神经网络对于很多问题却无能无力。例如，你要预测句子的下一个单词是什么，一般需要用到前面的单词，因为一个句子中前后单词并不是独立的。

循环神经网路，即一个序列当前的输出与前面的输出也有关。具体的表现形式为网络会对前面的信息进行记忆并应用于当前输出的计算中，即隐藏层之间的节点不再无连接而是有连接的，并且隐藏层的输入不仅包括输入层的输出还包括上一时刻隐藏层的输出。

对称连接网络

对称连接网络有点像循环网络，但是单元之间的连接是对称的（它们在两个方向上权重相同）。比起循环网络，对称连接网络更容易分析。这个网络中有更多的限制，因为它们遵守能量函数定律。没有隐藏单元的对称连接网络被称为“Hopfield 网络”。有隐藏单元的对称连接的网络被称为玻尔兹曼机。

什么是感知机？

感知机是一个人工神经元，其工作原理如下: 感知机的输入是几个二进制，
x1,x2,…x1,x2,…，输出是一位单独的二进制：

本例中的感知机有三个输入x1,x2,x3。通常，它可以有更多或者更少的输入，感知机引入了权重（weight）：w1,w2,…w1,w2,…，等实数来表示各个输入对于本神经元输出的重要程度。神经元的输出是0还是1，由加权和∑jwjxj是否小于或者大于某一个阈值决定。这就是感知机的工作方式。