超级会员免费看
该文介绍了一种新的稀疏正则化算法，通过平滑优化方法解决机器学习中的稀疏强制回归问题。与迭代加权最小二乘法（IRLS）相比，该方法只需解决线性系统且对应于平滑函数的最小化，适用于各种正则化任务，如Lasso、组Lasso和跟踪范数。理论分析证明了函数无伪极小值，确保了优化过程的全局收敛性。数值实验显示该方法在处理小正则化强度和硬约束时表现出色，且与最新求解器相比具有优势。
Smooth Bilevel Programming for Sparse Regularization 稀疏正则化的平滑二层规划
英国巴斯大学，数学科学系
2021.6.4
原文链接：https://arxiv.org/pdf/2106.01429.pdf
https://arxiv.org/pdf/2106.01429.pdf
摘要：迭代加权最小二乘(IRLS)是机器学习中解决稀疏强制回归问题的一种流行方法。最先进的方法是更有效的，但通常依赖于特定的协调剪枝方案。在这项工作中, 展示了一个非常简单的irl再参量化,再加上一个上下两层的分辨率(而不是一个交流计划)能够实现最高性能广泛的稀疏(如套索,集团套索和跟踪规范合法化),正则化强度(包括硬约束),以及设计矩阵(从相关设计到微分算子)。与IRLS类似，我们的方法只涉及线性系统分辨率，但与之形成鲜明对比的是
订阅专栏 解锁全文
193
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
