admm算法_机器学习与控制：ADMM的ODE模型与基于Lyapunov的收敛分析

前言

机器学习与控制领域的结合研究最近得到很多研究者的关注，但是文献中的数学推导与讨论往往省略了很多细节与背景知识，本系列的文章主要基于最新文献，尝试复现并详化其中的数学推导与讨论，希望刚刚入门的同学也可以很容易地理解。也欢迎各位同学的批评指正，共同学习！

本文是机器学习与控制系列的第一篇文章，主要深入介绍交替方向乘子法 Alternating Direction Method of Multipliers（ADMM）算法的常微分方程 Ordinary Differential Equation（ODE）模型以及基于Lyapunov函数的收敛分析。优化算法的收敛速度分析往往比较复杂，而且没有统一的数学工具来分析。将优化算法转换为ODE方程，然后结合控制理论中简单的稳定性分析，我们可以很容易地得到算法的收敛速度。本文中我们将使用Lyapunov函数的方法来分析得到的ODE方程的稳定性，进而得出收敛速度。

本文主要分为一下几个部分，第一部分为ADMM背景介绍，简单介绍ADMM优化算法以及ODE建模优化算法的背景；第二部分主要介绍Lyapunov函数的背景知识；第三部分详细推导如何用ODE建模ADMM算法；最后通过Lypunov函数分析ADMM算法的收敛速度。有基础的同学可以跳着阅读。

注：本文基于以下文献：[ADMM and accelerated ADMM as continuous dynamical systems](ADMM and Accelerated ADMM as Continuous Dynamical Systems).

---

ADMM算法

假设我们考虑如下的优化问题：

其中：

-

和

均可导且为凸函数

- 矩阵

列满秩

-

-

ADMM的迭代更新如下：

其中

为惩罚参数，

是约束条件

的第

个拉格朗日乘数估计。

---

Lyapunov函数

Lyapunov函数为控制理论中很重要的用来分析系统平衡点稳定性的工具。简单来说，我们针对某个系统构建Lyapunov函数

（一个正定函数），然后对这个函数求导，如果

，那么我们可以说系统为Lyapunov稳定。这里如果我们将 Lyapunov函数看作是系统的能量函数，对能量函数求导并且其导数一直为负，则说明系统的能量是递减的，也就说明系统是稳定的。

我们考虑以下的一阶ODE系统模型：

首先定义系统的平衡点为

，

满足

。我们分析系统的稳定性，即是针对系统的平衡点来分析，所以 Lyapunov函数也往往定义在包含

的一个开放集。下面的定理总结了如何应用 Lyapunov 函数来分析

的稳定性。

定理: 假设

为系统的平衡点，定义包含

的一个开放集

, 以及函数

，则我们有以下结论：如果

满足：

2.

3.

那么

稳定并且

称为 Lyapunov 函数。如果进一步我们有

， 那么

为渐进稳定并且

为严格 Lyapunov 函数。

---

ADMM算法的ODE模型

我们将通过上式

推导出ADMM的ODE模型，基于我们对函数

和

的假设 (i.e.

和

为凸函数)，我们可以得出优化问题 (1a) 和 (1b) 为强凸问题 (strongly convex)。所以每一步的迭代 (

,

,

) 都是唯一的。通过 (1a) 和 (1b) 的最优条件 (即目标函数求导等于0)，我们可以得到 (

,

,

) 满足下面的代数方程：

将 (2b) 左乘

, 并与 (2a) 相加，可以得到：

假设

并且

,

,

。

下面我们研究向量

的第

项：由于

, 且

， 我们有：

，其中

。这里我们应用中值定理得到

。所以，当

无限趋近于0时，我们有：

向量中的每一项都满足上式，所以 (3) 式中的第三项

可以直接表示成

，如果我们取

。对于 (3) 式中的前两项，我们有：

所以，对 (3) 式求极限 (

)，我们可以得到：

下面我们考虑式 (2c) 的第

项：

对上式求极限 (

)，我们可以得到：

上式对向量中的每一项都满足，可得

并且

。注意到我们有

，我们有

。所以式 (4) 可以表示为：

基于假设，矩阵

为列满秩矩阵 (

可逆)，我们有：

基于Lypunov函数的算法稳定性与收敛分析

本节我们将讨论通过选择合适的Lyapunov函数，我们可以证明ADMM算法的稳定性以及得到ADMM算法的收敛速度。上节中我们得到了ADMM算法的ODE形式：

下面的定理给出了ADMM算法稳定性的结果：

定理: 假设

为目标函数

的一个独立的局部最小点，(即存在集合

使得

，

)，我们有：

所以

为ADMM算法ODE形式 (5) 的渐进稳定平衡点。

证明: 由于

为

的一个最小点，由最优条件，我们可以得到

，即

为式 (5) 的一个平衡点。下面我们定义 Lyapunov 函数来证明

为渐进稳定。考虑下面的 Lyapunov 函数：

我们可以得到此函数满足对 Lyapunov 函数条件

和

：

对

求导，我们得到：

因为我们假设

为目标函数

的一个独立的局部最小点，所以如果

，我们有

, 由式 (5) 以及对矩阵

满秩的假设，我们可以得到

。 所以

也满足 Lyapunov 函数的第三个条件

:

从而我们证明了

为ADMM算法ODE形式 (5) 的渐进稳定平衡点。 口

通过对动态系统 (5) 构造不同的 Lyapunov 函数，我们还可以研究 ADMM 算法的收敛速度，即目标函数需要多久可以收敛到最优值。比如，如果我们考虑下面的 Lyapunov 函数：

很容易我们可以得到此函数满足对 Lyapunov 函数条件

和

：

对

求导，我们得到：

上式中，我们有：

，由于

是凸函数，根据凸函数的定义，我们有：

。所以我们有：

所以

，我们有

，根据

的定义，可以得到：

所以，当我们假设目标函数为凸函数时，通过对 ADMM 算法的ODE形式构造合适的 Lyapunov 函数得到目标函数的收敛速度为

，这与 ADMM 算法的收敛速度

一致。

在 França, Robinson 和 Vidal 2018年的 ADMM 文章中，还对加速 ADMM (Accelerated ADMM) 进行了ODE建模，并通过构造 Lyapunov 函数了分析了该算法的稳定性和收敛速度。感兴趣的同学可以看看原始论文。

通过结合控制理论中已经发展很成熟理论 (Lyapunov 函数) 来研究优化算法的收敛性质最近收到越来越多人的关注，一方面是因为成熟的控制理论一定程度上简化了传统繁琐的证明过程。另一方面，通过对系统的深入分析，我们可以得到一系列优化算法的变种。由理论指导实践，我相信这将会是以后的一个重要的研究方向。

---

参考文献

[1]: França, G., Robinson, D.P. and Vidal, R., 2018. ADMM and accelerated ADMM as continuous dynamical systems. arXiv preprint arXiv:1805.06579.