一、这篇文章主要讲了什么？
这篇文章讨论了带有附加结构的非光滑凸优化函数的机器学习问题，例如依赖于问题参数子集的函数。作者提出了一种算法，该算法使用梯度预测复杂性几乎是问题的总有效维数的线性，将凸优化函数最小化到一定精度。该算法显着改进了先前存在的切平面方法来解决该问题。作者提议了切平面和内点方法的新颖组合，以在算法的每次迭代中选择适当的函数项。文章的主要结果是定理1.2，它提供了一种算法，该算法可证明使用O(m log(m/ε))子梯度预测查询来解决问题，其中m是问题的总有效维数。文章还介绍了算法对可分解子模函数最小化问题的应用，并改进了该问题的最佳评估预测复杂性。文章最后讨论了算法的限制，例如无法查询所需的正确函数项，以取得进展。
二、什么是割平面法和内点法？
割平面法（Cutting-plane method，CPM）核心思想在于通过维护一个初始时包含可行域的凸集 E ( 0 ) E(0) E(0)，并通过 f f f 的次梯度的信息逐渐缩小集合 E ( k ) E(k) E(k)，直到找到在可行域内的最小点。具体而言，在每次迭代时，找到 E ( k ) E(k) E(k) 中的一个点 x ( k ) x(k) x(k)，当且仅当梯度的信息表达 x ( k ) x(k) x(k) 不是一个最小点时，找到集合 H ( k ) = y ∣ h ⋅ ( y − x ( k ) ) ≤ 0 H(k)={y|h\cdot(y-x(k))\leq 0} H(k)=y∣h⋅(y−x(
最低0.47元/天 解锁文章
扫一扫
5972
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
