复数有限时间收敛ZNN(PC-CVZNN指数全局收敛(global convergence and super-exponential convergence)证明

最新推荐文章于 2023-12-10 08:15:31 发布

Bokman

最新推荐文章于 2023-12-10 08:15:31 发布

阅读量558

点赞数

分类专栏：数值算法文章标签：神经网络算法

本文链接：https://blog.csdn.net/bokman/article/details/120967297

版权

数值算法专栏收录该内容

16 篇文章 4 订阅

订阅专栏

1. 关于PC-CVZNN的全局收敛性证明

复数有限时间收敛ZNN模型定义：

$\dot E(t) = -\mu(t)\Psi(E(t))$

其中参数 $\mu(t)$ 如下：

$\mu(t)=\left\{ \begin{array}{ll} p \text{exp}(t),~~~~~~~~~0<p\leq1,\\ p^t+2pt+p,~~~p>1. \end{array} \right.$

假设 $R(t)$ 和 $M(t)$ 分别为 $E(t)$ 的实部和虚部，即 $E(t)=R(t)+iM(t)$ 。则根据PC-CVZNN模型的定义有如下关系：

$\dot R(t)=-\mu(t)\Psi(R(t))$

$\dot M(t)=-\mu(t)\Psi(M(t))$

定义李雅普诺夫函数

$L(t)=||E(t)||^2_{\text{F}}/2=\text{Tr}(E^\text{H}(t)E(t))/2$

对以上李雅普诺夫函数求导可得：

$\dot L(t)=\frac{1}{2}\text{Tr}(\dot E^\text{H}(t)E(t)+E^\text{H}(t)\dot E(t))$

$=-\frac{1}{2}\mu(t)\text{Tr}((\Psi(R(t))-i\Psi(M(t)))^\text{H}\times(R(t)+iM(t))+(R(t)-iM(t))^\text{H}(\Psi(R(t))+i\Psi(M(t))))$

$=-\mu(t)\text{Tr}(R^\text{H}(t)\Psi(R(t))+M^\text{H}(t)\Psi(M(t)))$

由于激活函数 $\Psi(\cdot)$ 是单调递增奇的，因此有：

$\text{Tr}(R^\text{H}(t)\Psi(R(t))+M^\text{H}(t)\Psi(M(t)))\ge 0$

所以有 $L(t)>0$ 且 $\dot L(t)\leq 0$ ，所以根据李雅普诺夫稳定性理论，误差函数 $E(t)$ 全局收敛到0.

2. 关于PC-CVZNN的指数收敛速度

当激活函数 $\Psi(\cdot)$ 为线性激活函数时，有：

$\dot L(t)=-\mu(t)\text{Tr}(R^\text{H}(t)R(t)+M^\text{H}(t)M(t))$

$=-\mu(t)||E(t)||^2_\text{F}=-2\mu(t)L(t).$

考虑到一阶微分方程 $\dot y(t)+P(x)y=Q(x)$ 的通解为：

$y=e^{-\int P\text{d}x}[\int e^{\int P\text{d}x}Q(t)\text{d}x+C]$

因此，根据时变参数 $\mu(t)$ 的定义，并将一阶微分方程的通解应用于等式：

$\dot L(t)=-2\mu(t)L(t)$

可以得到：

$L(t)=\text{exp}(-2\times\int^t_0\mu(\delta)\text{d}\delta)\times C=C\text{exp}(-2(p\text{exp}(t)-p))$

由于 $L(t)$ 在 $t=0$ 时的状态是已知的，因此不妨令 $C=L(0)$ ，所以有：

$L(t)=L(0)\text{exp}(-2(p\text{exp}(t)-p)), ~~~ 0<p<1$

同理可得：

$L(t)=L(0)\text{exp}(-2(p^t/\text{ln}p+pt^2+pt-1/\text{ln}p))), ~~~p>1$

花开两朵各表一枝，以 $0<p<1$ 中的情况为例：

$L(t)=L(0)\text{exp}(-2(p\text{exp}(t)-p)), ~~~ 0<p<1$

$\frac{1}{2}||E(t)||^2_\text{F}=\frac{1}{2}||E(0)||^2_\text{F}\times\text{exp}(-2(p\text{exp}(t)-p))$

等式两边同时开平方可得：

$||E(t)||_\text{F}=||E(0)||_\text{F}\times\text{exp}(-(p\text{exp}(t)-p))$

令 $||E(0)||_{\text{F}}=H$ ，则有：

$||E(t)||_{\text{F}}=H\text{exp}(-(p\text{exp}(t)-p))$

同理可得当 $p>1$ 时的情况：

$||E(t)||_{\text{F}}=H\text{exp}(-(p^t/\text{ln}p+pt^2+pt-1/\text{ln}p))$

因此，综上所述，PC-CVZNN模型是全局指数收敛的

补充关于矩阵的F范数有

$||A||_F=\sqrt{tr(A^TA)}=\sqrt{\sum^m_{i=1}\sum^n_{j=1}a^2_{ij}}$

参考文献：

L. Xiao, J. Tao, J. Dai, Y. Wang, L. Jia and Y. He, "A Parameter-Changing and Complex-Valued Zeroing Neural-Network for Finding Solution of Time-Varying Complex Linear Matrix Equations in Finite Time," in IEEE Transactions on Industrial Informatics, vol. 17, no. 10, pp. 6634-6643, Oct. 2021.

Bokman

关注

0
点赞
踩
3

收藏

觉得还不错? 一键收藏
0
评论
复数有限时间收敛ZNN(PC-CVZNN指数全局收敛(global convergence and super-exponential convergence)证明

1. 关于PC-CVZNN的全局收敛性证明复数有限时间收敛ZNN模型定义：其中参数如下：假设和分别为的实部和虚部，即。则根据PC-CVZNN模型的定义有如下关系：定义李雅普诺夫函数对以上李雅普诺夫函数求导可得：由于激活函数是单调递增奇的，因此有：所以有且，所以根据李雅普诺夫稳定性理论，误差函数全局收敛到0.2. 关于PC-CVZNN的指数收敛速度当激活函数为线性激活函数时，有：考虑到...
复制链接

扫一扫