本文是《人工神经网络原理》读书笔记第五部分，深入探讨了离散型和连续型Hopfield神经网络的结构、运行规则、能量函数和应用实例。离散型网络适用于联想记忆，而连续型网络则用于优化计算。网络的能量函数在状态变化过程中起关键作用，确保系统稳定。
全部笔记的汇总贴：《人工神经网络原理》-读书笔记汇总
Hopfield神经网络丢弃了“层次”概念，创造出无层次的全互联型神经网络。
引入了“能量函数”的概念，阐明了神经网络与动力学之间的关系，使得神经网络的运行稳定性判断有了可靠而简便的依据。
两种形式
- 离散型
- 连续型
连续型Hopfield神经网络与电子电路存在明显对应关系，便于用集成电路实现。
一、离散型Hopfield神经网络
离散型Hopfield神经网络结构
有反馈的单层全互联结构
n n n个神经元之间相互双向连接，神经元 i i i与神经元 j j j之间的连接权 w i j w_{ij} wij与神经元 j j j与神经元 i i i之间的连接权 w j i w_{ji} wji具有相同的值，即 w i j = w j i w_{ij}=w_{ji} wij=wji
每个神经元到自身的连接权值为0，即 w i i = 0 w_{ii}=0 wii=0
每个神经元接受所有神经元反馈的信息，受到所有神经元输出的控制，以保证Hopfield神经网络在没有外部输入时能进入稳定状态。
离散型Hopfield神经网络处理单元模式
x j x_j xj表示神经元 j j j的输出（也称神经元的状态）
w i j w_{ij} wij表示神经元 i i i与神经元 j j j之间的连接权值
θ j \theta_j θj表示神经元 j j j的阈值
神经元 j j j的净输入 s j s_j sj为 s j = ∑ i = 1 n x i w i j − θ j s_j=\sum_{i=1}^nx_iw_{ij}-\theta_j sj=∑i=1nxiwij−θj
神经元 j j j的输出 x j x_j xj为 x j = f ( s j ) = s g n ( s j ) = { 1 s j > 0 − 1 s j ≤ 0 x_j=f(s_j)=sgn(s_j)=\left\{ \begin{array}{l} 1\;\;\;\;s_j>0 \\ \\-1\;s_j\le0 \end{array} \right. xj=f(sj)=sgn(sj)=⎩⎨⎧1sj>0−1sj≤0
离散型Hopfield神经网络状态及运行规则
离散型Hopfield神经网络的能量函数
离散型Hopfield网络的能量函数为 E = − 1 2 ∑ i = 1 n ∑ j = 1 n w i j x i x j + ∑ i = 1 n θ i x i E=-\frac12\sum_{i=1}^n\sum_{j=1}^nw_{ij}x_ix_j+\sum_{i=1}^n\theta_ix_i E=−2
最低0.47元/天 解锁文章
扫一扫
805
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
