2020-12-13

论文笔记|Zhang neural network for online solution of time-varying convex quadratic program subject to time-varying linear-equality constraints

具有时变线性等式约束的时变凸二次规划的在线解的张神经网络

---

前言

论文开发并分析了一种递归神经网络(称为Zhang神经网络，ZNN)，用于在线求解具有时变线性等式约束的时变凸二次规划问题，ZNN模型充分利用了时变系数的时间导数信息，从理论上证明了所得到的ZNN模型对所研究的时变凸二次规划的理论最优解具有全局指数收敛性。

一、主要贡献

提出：通过使用一种新的递归神经网络模型，对具有时变线性等式约束的时变二次规划的在线求解。

论文工作：
(1)论文研究的是具有时变约束的时变二次规划的在线解，而不是传统的具有静态约束的静态二次规划的在线解。

(2)为求解时变二次型规划，论文设计了基于向量值不定误差函数的隐含动态ZNN模型，而不是通常在GNN(或hopfield型网络)中使用的标量非负能量函数。

(3)提出了求解带时变系数的二次规划的ZNN模型的一般框架，保证了该规划对其理论时效最优解具有全局收敛性。通过使用线性激活函数和power-sigmoid激活函数，ZNN模型可以分别具有全局指数收敛性和优于理论时变最优解的收敛性。

二、主要公式

1.受时变线性等式约束A(t)x(t) = b(t)的时变凸二次规划问题：
其中向量x(t)∈Rn, t∈[0，+∞)是未知的，Hessian矩阵P(t)∈Rn×n，系数向量q(t)∈Rn，系数矩阵A(t)∈Rm×n(满行秩)，系数向量b(t)∈Rm均平滑时变,为保证解的唯一性，该时变二次规划在整个中都应该是严格凸的，且P(t)∈Rn * n在任何时刻都是正定的，t∈[0，+∞)。

基于等约束优化问题的初步结果，有其相关的拉格朗日量：

λ(t) ∈ Rm表示拉格朗日乘子向量
代码如下（示例）：

我们可以认识到或知道，对时变二次规划(1)的求解可以通过对下式在任意时刻t∈[0，+∞)进行归零：

上述方程可以进一步表示为：

其中：

此外，为了更好的理解和比较，我们知道，时变理论解可以写成：

为了说明问题的意义，同时为了更好的视觉效果和可读性，我们可以以下具体的时变二次规划为例：


图中显示了在不同三维快照时间瞬间(即t = 0.00, 2.15, 5.80和6.35),在水平轴对应x1 (t)∈R和x2 (t)∈F R图,我们可以看到由于目标函数曲面和线性约束平面的“移动”效应，最优解也随着时间t“移动”。