本章涉及知识点
1、生物神经元的结构
2、Hopfield神经网络结构
3、神经动力学
4、CHNN的网络结构
5、一般性CHNN模型的状态方程推导
6、一般性CHNN模型的能量方程定义
7、CHNN模型下TSP的置换矩阵设计
8、CHNN模型下TSP的能量方程定义
9、CHNN模型下TSP的能量方程和状态方程的优化
10、CHNN模型下TSP输入状态和输出状态的更新方法
11、Hopfield求解TSP问题的步骤
12、python编程实现Hopfield
13、结果分析
一、生物神经元的结构
生物神经元
人类的大脑,有着大约860亿个神经元,而神经元,是构成神经网络系统结构和功能的基本单位,其主要构成成分包括树突、胞体、轴突和细胞膜等
神经元的主要功能是接受外界或不同神经元的信号刺激,产生兴奋或者抑制的神经冲动,并通过突触传递到下一个神经元进行信息交互
我们需要知道以下几个生物神经元的名词概念(1)树突:从胞体发出的一个至多个突起,呈放射状,用来接受外界的刺激
(2)轴突:每个神经元有且只有一个轴突,用来向外界输出神经冲动
(3)突触:将一个神经元的神经冲动,传递到另一个神经元的相互接触的结构
从上述的概念可以看出:一个生物神经元可以接受多组输入,产生单组输出,且输入输出呈非线性关系
我们通过对神经元和神经网络进行数学建模,用计算机来尽量模拟生物神经网络的学习和思考过程,这样的网络叫做人工神经网络(ANN),ANN按照信息流可以分为前馈式和后馈式
这章研究的Hopfield神经网络就属于反馈式神经网络
二、Hopfield神经网络结构
Hopfield神经网络有如下特点(1)每个神经元既是输入也是输出,构成单层全连接递归网络
(2)网络的突触权值不同于其他的神经网络是通过有监督或无监督反复学习来获得,而是在搭建网络时就按照一定的规则计算出来,且网络的权值在整个网络迭代过程中不再改变
(3)网络的状态是随时间的变化而变化的,每个神经元在t时刻的输出状态和自己t-1时刻有关
(4)引入能量函数的概念,用来判断网络迭代的稳定性,即网络的收敛,就是指能量函数达到极小值
(5)网络的解,即是网络运行到稳定时,各个神经元的状态集合
反馈式神经网络的结构图
Hopfield神经网络也是递归神经网络(RNN)的前身,Hopfield模型分为:离散型(DHNN):适用于处理联想记忆问题
连续性(CHNN):适用于处理组合优化问题
三、神经动力学
神经动力学的定义:将神经网络看做是一种非线性动力学系统,系统的状态集合随时间的变化而变化
令系统的输出状态变量集合为
状态变量集合
其中t是连续时间变量,则系