TPAMI 2025 | 具有更低函数查询复杂度的非凸零阶随机ADMM方法（一）

论文信息

题目：Nonconvex Zeroth-Order Stochastic ADMM Methods with Lower Function Query Complexity

具有更低函数查询复杂度的非凸零阶随机ADMM方法

作者：Feihu Huang, Shangqian Gao, Jian Pei, Heng Huang

论文创新点

1. 提出了一类更快的零阶随机ADMM方法（ZO-SPIDER-ADMM），显著降低了函数查询复杂度。
2. 证明了ZO-SPIDER-ADMM方法在非凸有限和问题中的收敛性，并提高了收敛速度。
3. 扩展到在线设置，提出ZOO-ADMM+方法，进一步降低了在线问题的函数查询复杂度。

摘要

零阶（也称为无导数）方法是一类有效的优化方法，用于解决复杂的机器学习问题，其中目标函数的梯度不可用或计算代价过高。尽管最近已经开发了许多零阶方法，