Learning Semidefinite Regularizers

前言

正则化技术由于能有效地解决因不适而带来的困难，在数据分析和科学计算中被广泛应用。这些方法最常见的表现形式是在求解逆问题的优化方法中，将惩罚函数加到目标上。惩罚函数的目的是在解决方案中引入一个期望的结构，并且这些函数是基于先前的特定领域专门知识而指定的。例如，正则化有助于提高图像分析、统计模型选择和地球科学中反问题解的光滑性、稀疏性、低能量和大熵，本文研究了可学习的正则化问题。在无法直接获得精确领域知识的设置中，操作功能来自数据。利用我们的框架得到的正则化器被指定为凸函数，可以通过半定规划有效地计算出来，因此可以应用于求解反问题的可拓凸优化方法中。
我们首先强调正则化器的几何方面，使它们能够有效地促进期望的结构。特别地，我们集中在凸正则化器群，这些正则化器有助于将稀疏性不等式的一般形式归纳为反问题。稀疏数据描述为在高维数据中指定低维结构提供了一种强大的形式，它们在一系列问题域中具有突出的特点。例如，自然图像具有很好的小波系数逼近性，金融时间序列可能具有低复杂度因子模型的特征，少量的遗传标记可能构成疾病的特征。具体地说，假设A是基本积木或原子的集合（可能是无限的）。然后，y可以使用原子进行稀疏表示，可以表示为：
(3)
A是标准基向量的集合，然后用这些原子简洁地描述物体，这些物体是由少数非零坐标构成的矢量。相同的，如果A是一个秩为1的矩阵的集合，然后相应的稀疏表示为低秩矩阵。基于原子集合A的稀疏描述的一个重要优点是，利用原子集合的规范