一 混沌神经元的构造
(1)一种混沌神经元的构造方法如下:
x i ( t + 1 ) = f [ ∑ j = 1 M v ij ∑ d = 0 t k e d A j ( t − d ) + ∑ j = 1 N wij ∑ d = 0 t k f d x j ( t − d ) − α ∑ d = 0 t k r d g { x i ( t − d ) } − Θ i ] x_{i}\left( t + 1 \right) = f\left\lbrack \sum_{j = 1}^{M}v_{\text{ij}}\sum_{d = 0}^{t}{k_{e}^{d}A_{j}(t - d)} + \sum_{j = 1}^{N}\text{wij}\sum_{d = 0}^{t}{k_{f}^{d}x_{j}(t - d)} - \alpha\sum_{d = 0}^{t}{k_{r}^{d}g\left\{ x_{i}\left( t - d \right) \right\}} - \Theta_{i} \right\rbrack xi(t+1)=f[j=1∑Mvijd=0∑tkedAj(t−d)+j=1∑Nwijd=0∑tkfdxj(t−d)−αd=0∑tkrdg{xi(t−d)}−Θi]
对于式中的第一部分:
∑ j = 1 M v ij ∑ d = 0 t k e d A j ( t − d ) \sum_{j = 1}^{M}v_{\text{ij}}\sum_{d = 0}^{t}{k_{e}^{d}A_{j}(t - d)} j=1∑Mvijd=0∑tkedAj(t−d)该项表示外部输入对当前混沌神经元的影响。
M表示外部输入的个数;
v ij v_{\text{ij}} vij表示第j个外部输入到第i个混沌神经元的连接权值;
t表示离散时间点;
$k_{e}^{d}$表示外部输入的衰变参数;
A j ( t − d ) A_{j}(t - d) Aj(t−d)表示在离散t-d时刻,第j个外部输入的强度。
于是,外部输入对当前混沌神经元的影响包括了每一个外部输入在每一个离散时刻t时的强度。
对于式中的第二项:
∑ j = 1 N wij ∑ d = 0 t k f d x j ( t − d ) \sum_{j = 1}^{N}\text{wij}\sum_{d = 0}^{t}{k_{f}^{d}x_{j}(t - d)} j=1∑Nwijd=0∑tkfdxj(t−d)
该项表示混沌神经元之间的影响。
N表示混沌神经元的个数;
w i j w_{ij} wij表示当前混沌神经元与第j个混沌神经元之间的连接权重;
t表示离散时间点;
k f d k_{f}^{d} kfd表示其他混沌神经元输入的衰变参数;
x j ( t − d ) x_{j}(t - d) xj(t−d)表示在离散t-d时刻,混沌神经元 x j x_{j} xj对当前神经元的影响强度。
于是该项主要描述当前混沌神经元与其他所有神经元之间的联系,其中包括了其他每一个混沌神经元在每一个离散时刻对当前神经元的影响。
此外, g g g表示不应性函数, α α α、 k r d k_{r}^{d} krd和 Θ i \Theta_{i} Θi分别表示不应性强度参数、不应性衰减参数和阈值。
综上,一个混沌神经元的输出与①每一个外部输入在每一个离散时刻的状态,②其他每一个混沌神经元在每一个时刻的状态,以及③该混沌神经元在每一个离散时刻的状态(主要为不应性情况)和④预设的阈值有关。
上述公式可以简化为:
x i ( t + 1 ) = f { ξ i ( t + 1 ) + η i ( t + 1 ) + ζ i ( t + 1 ) } x_{i}\left( t + 1 \right) = f\left\{ \xi_{i}\left( t + 1 \right) + \eta_{i}\left( t + 1 \right) + \zeta_{i}(t + 1) \right\} xi(t+1)=f{ξi(t+1)+ηi(t+1)+ζi(t+1)}
其中:
ξ i ( t + 1 ) = ( ∑ j = 1 M v ij ∑ d = 0 t k e d A j ( t − d ) ) = ∑ j = 1 M v ij A j ( t ) + k e ξ i ( t ) \xi_{i}\left( t + 1 \right) = \left( \sum_{j = 1}^{M}v_{\text{ij}}\sum_{d = 0}^{t}{k_{e}^{d}A_{j}(t - d)} \right) = \sum_{j = 1}^{M}v_{\text{ij}}A_{j}\left( t \right) + k_{e}\xi_{i}\left( t \right) ξi(t+1)=(j=1∑Mvijd=0∑tkedAj(t−d))=j=1∑MvijAj(t)+keξi(t)
η i ( t + 1 ) = ( ∑ j = 1 N wij ∑ d = 0 t k f d x j ( t − d ) ) = ∑ j = 1 N w ij x j ( t ) + k f η i ( t ) \eta_{i}\left( t + 1 \right) = \left( \sum_{j = 1}^{N}\text{wij}\sum_{d = 0}^{t}{k_{f}^{d}x_{j}(t - d)} \right) = \sum_{j = 1}^{N}w_{\text{ij}}x_{j}\left( t \right) + k_{f}\eta_{i}\left( t \right) ηi(t+1)=(j=1∑Nwijd=0∑tkfdxj(t−d))=j=1∑Nwijxj(t)+kfηi(t)
ζ i ( t + 1 ) = ( − α ∑ d = 0 t k r d g { x i ( t − d ) } − Θ i ) = − α g { x i ( t ) } + k r ζ i ( t ) − θ i \zeta_{i}\left( t + 1 \right) = \left( - \alpha\sum_{d = 0}^{t}{k_{r}^{d}g\left\{ x_{i}\left( t - d \right) \right\}} - \Theta_{i} \right) = - \alpha g\left\{ x_{i}\left( t \right) \right\} + k_{r}\zeta_{i}\left( t \right) - \theta_{i} ζi(t+1)=(−αd=0∑tkrdg{xi(t−d)}−Θi)=−αg{xi(t)}+krζi(t)−θi
θ i ≡ Θ i ( 1 − k r ) \theta_{i} \equiv \Theta_{i}(1 - k_{r}) θi≡Θi(1−kr)
分别记为外部输入、其他神经元输入和自身不应性的内部状态。
(2)构建一个简单的自动联想神经网络(实例)
首先假设对神经网络的外部刺激是暂时不变,于是可以使用只有两个内部状态的简化方程:
x i ( t + 1 ) = f { η i ( t + 1 ) + ζ i ( t + 1 ) } x_{i}\left( t + 1 \right) = f\left\{ \eta_{i}\left( t + 1 \right) + \zeta_{i}(t + 1) \right\} xi(t+1)=f{ηi(t+1)+ζi(t+1)}
η i ( t + 1 ) = k f η i ( t ) + ∑ j = 1 N w ij x j ( t ) \eta_{i}\left( t + 1 \right) = k_{f}\eta_{i}\left( t \right) + \sum_{j = 1}^{N}w_{\text{ij}}x_{j}\left( t \right) ηi(t+1)=kfηi(t)+j=1∑Nwijxj(t)
ζ i ( t + 1 ) = k r ζ i ( t ) − α x i ( t ) + a i \zeta_{i}\left( t + 1 \right) = k_{r}\zeta_{i}\left( t \right) - \alpha x_{i}\left( t \right) + a_{i} ζi(t+1)=krζi(t)−αxi(t)+ai
其中使用 a i a_{i} ai来表示外部输入和阈值的和,暂时约定为不变的常数。
二 参考文献
Aihara K, Adachi M. Associative Dynamics in a Chaotic Neural Network[J]. Neural Netw, 1997, 10(1):83-98.