次模优化
文章平均质量分 73
submodular optimization
Seung-Yim Yau
业精于勤,荒于嬉;行成于思,毁于随。
展开
-
学习次模函数-第2章 定义
次模函数可以由几个等价的性质来定义,我们现在就来介绍。加法测度是集合函数的第一个例子,其中基数是最简单的例子。众所周知的基数性质是,对于任意两个集合,则,这推广到所有的加法测度。当且仅当,前面的等式对于的所有子集一个集合函数是次模的当且仅当,对于所有的子集,我们有:。注意,如果一个函数是次模的,并且使得(我们总是假设),则对于任意两个不相交的集合,则,即: 次模性意味着次可加性(但反之则不成立)。如前所述,次模函数的最简单的例子是基数(例如,是。原创 2024-03-24 14:51:21 · 329 阅读 · 0 评论 -
学习次模函数-第1章 引言
在这本专著中,次模函数的理论以一种独立的方式呈现,所有结果都是从机器学习中常见的凸分析的第一原理证明的,而不是依赖于组合优化和传统的理论计算机科学概念,如拟阵或流(见,例如, [72]有关这些方法的参考书)。此外,我们提出的算法是基于传统的凸优化算法,如单纯形法线性规划,二次规划的有效集方法,椭球方法,切割平面,和条件梯度。,在计算机科学和应用数学的许多领域中有应用,例如机器学习[125,157,117,124],计算机视觉[31,96],运筹学[98,182],电气网络[162]或经济学[203]。原创 2024-03-24 11:30:39 · 363 阅读 · 0 评论 -
学习次模函数-第〇章 摘要
通过列出次模函数的许多示例,我们回顾了机器学习的各种应用,例如聚类,实验设计,传感器放置,图形模型结构学习或子集选择,以及可以派生的一系列结构化稀疏诱导范式并用于次模函数。在这本专著中,我们从凸分析的角度提出了次模函数的理论,提出了某些多面体,组合优化和凸优化问题之间的紧密联系。这允许推导出用于近似和精确的次模函数最小化的新的有效算法,具有理论保证和良好的实际性能。(2)次模函数的Lovász扩展为监督和无监督学习提供了一组有用的正则化函数。特别地,我们展示了次模函数最小化如何等效于解决各种凸优化问题。原创 2018-12-08 21:34:53 · 2707 阅读 · 1 评论 -
阅读笔记(arXiv2022)Submodularity In Machine Learning and Artificial Intelligence
在本文中,我们提供了次模性和超模性及其属性的简要回顾。我们提供了大量次模性定义;许多示例次模函数及其推广的完整描述;离散约束的示例;基本算法的讨论,包括最大化、最小化和其他操作;对连续次模扩展的简要概述;以及一些历史应用。然后我们转向次模性在机器学习和人工智能中的用途,包括总结,我们提供了在自然语言处理中的抽取式和抽象式总结、数据蒸馏和凝聚、数据子集和特征选择之间的差异和共性的完整说明。原创 2024-03-20 19:49:13 · 897 阅读 · 0 评论