weixin_46768538的博客

原创 一文详解从拉格朗日乘子法、KKT条件、对偶上升法到罚函数与增广Lagrangian乘子法再到ADMM算法（交替方向乘子法）

最近看了ADMM算法，发现这个算法需要用到许多不少前备知识，在搜索补齐这些知识的过程中感觉网上的资料与总结在零散的同时又不够清晰，在此本文对这一块的内容进行汇总，同时表达自己的一些理解。拉格朗日乘子法本段内容参考了拉格朗日(Lagrange)乘子法超简说明。先从物理意义上介绍拉格朗日乘子法。原问题我们要解决带有等式约束的最优化问题。为方便书写，以二维函数为例：maxf(x,y),s.t.g(x,y)=0用下图表示这个问题。 f(x,y)参数x,y在二维平面内，存...