定义:Alternating Direction Method of Multipliers(ADMM)算法并不是一个很新的算法,他只是整合许多不少经典优化思路,然后结合现代统计学习所遇到的问题,提出了一个比较一般的比较好实施的分布式计算框架。在了解ADMM之前,需要了解它的前身,对偶上升法(Dual Ascent)和增强拉格朗日乘子法(Augmented Lagrangians and the Method of Multipliers)。
可以参考如下资料:
【1】Distributed Optimization and Statistical Learning via the Alternating Direction Method of Multipliers(第7页到第15页)
【2】分布式计算、统计学习与ADMM算法