Hopfield神经网络

Hopfield神经网络

特点：

特点：

（1）是一个简单的单层全连接神经网络；

（2）每个神经元和其他神经元是全连接的关系；

（3）在更新网络权重时，有异步工作方式：每次只更新一个神经元的权重，其他权重保持不变；和同步工作方式：所有神经元同时调整状态；

（4）Loss function是什么？（能量函数），能量函数的定义来自于 李亚诺夫函数，用来刻画整个网络的能量状态，而且是个单调函数，这也是为什么Hopfield网络容易陷入到局部极小值的原因。

缺点：

（1）容易陷入局部最小值，得不到全局最优解；

参考资料：

https://towardsdatascience.com/hopfield-networks-are-useless-heres-why-you-should-learn-them-f0930ebeadcd