Hopfield神经网络

       单层感知器、线性神经网络、BP神经网络都属于前向神经网络，各层神经元节点接受前一层输入的数据，经过处理输出到下一层，数据正向流动，没有反馈连接。前向线性神经网络的输出仅由当前的输入和网络的权值决定，而本次分享的反馈神经网络Hopfield的输出除了与当前输入和网络权值有关以外，还与网络之前的输入有关。

       1982年，美国加州理工学院的J.Hopfield教授提出了一种单层反馈神经网络，称为Hopfield网络，该网络具有比前向神经网络更强的计算能力，突出优点是具有很强的联想记忆和优化技术功能。Hopfield网络分为离散型和连续型两种网络模型，分别为DHNN和CHNN

1、DHNN的网络结构

       图9-1是四个神经元的Hopfield网络，每一个神经元的输出都会输入到其他的神经元，b为偏置项；w为权重，具有对称性，例如W12=W21；x即使输入值，也是输出值，一般是二值的，不同的书写法不一样，有的认为是-1和1，有的认为是0和1；仔细理解一下，发现图9-1和图9-2的形式是等价的。

2、网络的状态

3、网络的工作方式

4、网络的稳定性

5、吸引子与能量函数

5.1、吸引子的定义与定理 

5.2、吸引子的性质

6、DHNN网络的演变以及权值设计

6.1、DHNN网络的演变

       图（a）表示神经元的值以及神经元对应的权值，图（b）表示网络之间的演变。

6.2、网络的权值设计

 

其实满足（6.10）-（6.15）的解有无穷多个。

7、关于DHNN信息存储容量

总之：

8、其他

       另外CHNN可以解决TSP问题，有兴趣的读者可以参考《人工神经网络理论、设计及应用_第2版》书籍。