论文笔记|Complex ZNN and GNN Models for Time-Varying Complex Quadratic Programming Subject to Equality Constraints
文章目录
前言
本文定义两个不同的复值误差ZNN函数,提出并研究了两个复值ZNN模型来求解复值线性等式约束下的时变复域QP问题
一、主要贡献
论文工作:
(1)本文首次研究了线性等式约束下的时变复域二次规划问题的解。
(2)提出了两个复值ZNN函数构造两个不同的复ZNN模型来求解复值线性等式约束下的时变复域二次规划问题。
(3)发展了传统的GNN模型并将其应用于时变复域二次规划并还总结了复杂ZNN模型和GNN模型的区别和联系,通过相应的计算仿真结果进一步证明了复杂ZNN模型相对于复杂GNN模型的优越性。
二、主要公式
给出以下时变复域带等式约束二次规划问题基本公式:
其中,z(t)是n维时变复值变量,Q(t)为埃尔米特矩阵、系数向量q(t)、系数满秩矩阵A(t)、平滑时变系数向量b(t),本文定义两个不同的复值ZNN函数,得到两个复ZNN模型,用于求解这样一个时变复域QP问题,并在实时t中找到时变的最优解z(t)。为了保证解的唯一性,也为了清楚起见,我们将讨论限制在埃尔米特矩阵Q(t) 是对于任意刻t∈0,tf] ⊂ [0,∞)。
引理:设 f 是一个时变复向量z(t)的实值函数, g 是两个时变复向量变量的实值函数,由于 f(z(t)) =g(z(t), z¯(t))那么∂g/∂ z(t) = 0或∂g/∂z(t = 0这两个条件中的任何一个是必要的,并且足以确定在任何时刻t∈0,tf] ⊂ [0,∞)的捕获点。如果f是凸函数,这样的捕获点就是f在相应时刻t ∈ [0,tf] ⊂ [0,∞)的极值点,它构成了时变理论最优解z∫(t)
根据引理1,我们通过引入时变复拉格朗日乘数向量来构造以下实值成本函数:
L(z(t),z(t))在时刻t具有捕获点一个充要条件是∂L(z(t,z(t))/∂ z(t) = 0或∂L(z(t,z(t))/∂z(t) = 0。因此,我们可以获得:
进一步转化为求解以下线性方程组:
令
上述方程可以进一步写成:
对于正定矩阵Q(t)和任意时刻t ∈ [0,tf] ⊂ [0,∞]的全行秩矩阵A(t),P(t)在任意时刻t ∈ [0,tf] ⊂ [0,∞)是非奇异的,以上方程的时变理论解为:
三、CZNN模型
A.CZNN-1
为了求解时变复域二次规划问题,CZNN-1的误差函数定义如下:
使上式指数收敛到零:
其中γ表示用于缩放CZNN-1模型的收敛速度的正常数
通过对CZNN-1的误差函数求导移项可得:
定理1:考虑时变复数二次规划问题)和相应的时变复数线性矩阵向量方程。从任意初始状态x(0)开始,CZNN-1模型的状态向量x(t)全局收敛于的时变理论解x∫(t),其中前n个元素构成时变复二次规划问题的时变理论最优解。此外,复ZNN-1模型具有速率为γ的指数收敛性能。(证明略)
B.CZNN-2
定理2:复变矩阵求逆P-1(t)的时间导数可表示为˙P−1(t) =dP−1(t)/dt = −P−1(t)˙P(t)P−1(t) (证明略)
有了上述理论结果,我们可以定义CZNN-2:
根据之前的定义,有:
其可以以隐式动力系统的形式进一步描述:
定理3:考虑时变复数二次规划问题和相应的时变复数线性矩阵向量方程,从任意随机生成的初始状态x(0开始,CZNN-2模型的状态向量x(t)全局收敛于的理论解x∑(t),其中x∑(t)的前n个元素构成时变复域二次规划问题的时变理论最优解。此外,CZNN-2模型具有速率为γ的指数收敛性能。(证明略)
四、CGNN模型
与大多数基于梯度的数值算法和神经动力学方案类似,CGNN模型本质上是为解决静态复值问题而设计的。
A.CGNN-1
对应于CZNN-1,我们可以定义第一个标量值能量函数:
上述能量函数的梯度可以得到如下:
基于负梯度信息的典型连续时间学习规则得到以下动态方程:
其中x(t)从初始状态x(0)开始表示状态向量;参数γ > 0的定义与之前相同。
B.CGNN-2
对应于CZNN-2,我们可以定义第二个标量值能量函数:
同样,我们可以得到它的梯度信息:
根据上述典型的连续时间学习规则,我们可以获得CGNN-2模型的以下动态方程:
这可以进一步写成:
其中x(t)从初始状态x(0)开始,其表示状态向量;参数γ > 0的定义与之前相同。
C.ZNN与GNN的比较与探讨
由不同张函数和能量函数导出的复杂ZNN模型和GNN模型的比较:
(1)CZNN模型的设计是基于复值张函数的消去。相反,复杂GNN模型的设计是基于标量值能量函数的消除。
(2)CZNN模型采用指数设计公式(即ZNN设计公式求解时变复域二次规划问题。因此,它们具有指数收敛性能。相比之下,复杂GNN模型本质上采用负梯度下降规则来处理仅具有静态、恒定系数的复杂QP问题。
(3)CZNN模型在实时求解过程中,利用了时变系数(即q(t)、Q(t)、A(t)和b(t))的时间导数信息。这就是为什么CZNN模型的状态向量能够精确地收敛到时变复QP的时变理论最优解的一个原因。相比之下,CGNN模型没有利用这种重要的时间导数信息,因此不足以有效地解决时变复域二次规划问题。
(4)由于充分利用了时间导数信息,CZNN模型属于预测方法,因此更有效。相比之下,在传统的跟踪方法中,CGNN模型以被动的方式适应时变系数的变化,因而不能精确地收敛到时变复域二次规划问题的时变理论解。
五、总结
本文通过发展复值张函数的概念,提出并研究了两种不同的复模型来求解复域上的时变复问题。分析并给出了这类复杂ZNN模型的指数收敛性能。此外,两个相应的复杂GNN模型已被开发和利用,以解决时变复杂QP问题进行比较。