初探人工神经网络（10）——Hopfield神经网络

1.简介
Hopfield神经网络是一种递归神经网络，由约翰·霍普菲尔德在1982年发明。Hopfield网络是一种结合存储系统和二元系统的神经网络。它保证了向局部极小的收敛，但收敛到错误的局部极小值，而非全局极小的情况也可能发生。Hopfield网络也提供了模拟人类记忆的模型。
离散Hopfield网络是一个单层网络，有n个神经元节点，每个神经元的输出均接到其它神经元的输入。各节点没有自反馈。每个节点都可处于一种可能的状态（1或－1），即当该神经元所受的刺激超过其阀值时，神经元就处于一种状态（比如1），否则神经元就始终处于另一状态（比如 －1）。 整个网络有两种工作方式：即异步方式和同步方式。
ps：（1）递归神经网络是具有树状阶层结构且网络节点按其连接顺序对输入信息进行递归的人工神经网络，是深度学习算法之一
（2）程序调用自身的编程技巧称为递归
2.结构
Hopfield网络的单元是二元的，即这些单元只能接受两个不同的值，并且值取决于输入的大小是否达到阈值。Hopfield网络通常接受值为-1或1，也可以是0或者1。输入是由sigmoid函数处理得到的。 sigmoid函数定义为：

用于将输入化简为两个极值。
每一对Hopfiled网络的单元i和j间都有一对以一定权重的连接。因此，Hopfiled网络可被描述为一个完整的无向图G=<V,f>，其中V是人工神经