前言
正则化技术由于能有效地解决因不适而带来的困难,在数据分析和科学计算中被广泛应用。这些方法最常见的表现形式是在求解逆问题的优化方法中,将惩罚函数加到目标上。惩罚函数的目的是在解决方案中引入一个期望的结构,并且这些函数是基于先前的特定领域专门知识而指定的。例如,正则化有助于提高图像分析、统计模型选择和地球科学中反问题解的光滑性、稀疏性、低能量和大熵,本文研究了可学习的正则化问题。在无法直接获得精确领域知识的设置中,操作功能来自数据。利用我们的框架得到的正则化器被指定为凸函数,可以通过半定规划有效地计算出来,因此可以应用于求解反问题的可拓凸优化方法中。
我们首先强调正则化器的几何方面,使它们能够有效地促进期望的结构。特别地,我们集中在凸正则化器群,这些正则化器有助于将稀疏性不等式的一般形式归纳为反问题。稀疏数据描述为在高维数据中指定低维结构提供了一种强大的形式,它们在一系列问题域中具有突出的特点。例如,自然图像具有很好的小波系数逼近性,金融时间序列可能具有低复杂度因子模型的特征,少量的遗传标记可能构成疾病的特征。具体地说,假设A是基本积木或原子的集合(可能是无限的)。然后,y可以使用原子进行稀疏表示,可以表示为:
(3)
A是标准基向量的集合,然后用这些原子简洁地描述物体,这些物体是由少数非零坐标构成的矢量。相同的,如果A是一个秩为1的矩阵的集合,然后相应的稀疏表示为低秩矩阵。基于原子集合A的稀疏描述的一个重要优点是,利用原子集合的规范