《人工神经网络原理》读书笔记(五)-Hopfield神经网络

本文是《人工神经网络原理》读书笔记第五部分,深入探讨了离散型和连续型Hopfield神经网络的结构、运行规则、能量函数和应用实例。离散型网络适用于联想记忆,而连续型网络则用于优化计算。网络的能量函数在状态变化过程中起关键作用,确保系统稳定。
摘要由CSDN通过智能技术生成

全部笔记的汇总贴:《人工神经网络原理》-读书笔记汇总

Hopfield神经网络丢弃了“层次”概念,创造出无层次的全互联型神经网络。

引入了“能量函数”的概念,阐明了神经网络与动力学之间的关系,使得神经网络的运行稳定性判断有了可靠而简便的依据。

两种形式

  • 离散型
  • 连续型
    连续型Hopfield神经网络与电子电路存在明显对应关系,便于用集成电路实现。

一、离散型Hopfield神经网络

离散型Hopfield神经网络结构

有反馈的单层全互联结构

n n n个神经元之间相互双向连接,神经元 i i i与神经元 j j j之间的连接权 w i j w_{ij} wij与神经元 j j j与神经元 i i i之间的连接权 w j i w_{ji} wji具有相同的值,即 w i j = w j i w_{ij}=w_{ji} wij=wji

每个神经元到自身的连接权值为0,即 w i i = 0 w_{ii}=0 wii=0

每个神经元接受所有神经元反馈的信息,受到所有神经元输出的控制,以保证Hopfield神经网络在没有外部输入时能进入稳定状态。
在这里插入图片描述

离散型Hopfield神经网络处理单元模式

x j x_j xj表示神经元 j j j的输出(也称神经元的状态)

w i j w_{ij} wij表示神经元 i i i与神经元 j j j之间的连接权值

θ j \theta_j θj表示神经元 j j j的阈值

神经元 j j j的净输入 s j s_j sj s j = ∑ i = 1 n x i w i j − θ j s_j=\sum_{i=1}^nx_iw_{ij}-\theta_j sj=i=1nxiwijθj

神经元 j j j的输出 x j x_j xj x j = f ( s j ) = s g n ( s j ) = { 1          s j > 0 − 1    s j ≤ 0 x_j=f(s_j)=sgn(s_j)=\left\{ \begin{array}{l} 1\;\;\;\;s_j>0 \\ \\-1\;s_j\le0 \end{array} \right. xj=f(sj)=sgn(sj)=1sj>01sj0

在这里插入图片描述

离散型Hopfield神经网络状态及运行规则

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

离散型Hopfield神经网络的能量函数

离散型Hopfield网络的能量函数为 E = − 1 2 ∑ i = 1 n ∑ j = 1 n w i j x i x j + ∑ i = 1 n θ i x i E=-\frac12\sum_{i=1}^n\sum_{j=1}^nw_{ij}x_ix_j+\sum_{i=1}^n\theta_ix_i E=2

  • 2
    点赞
  • 13
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值