正则逼近(拟合)问题:
或
正则化逼近问题最小化范数和范数
的加权和,其中
测量残差的大小,
测量
的大小。 正则化存在多种解释:考虑先验知识
不会太大(最大后验估计)、考虑
的误差(鲁棒估计)。
推广的正则逼近(拟合)问题:
如果代表差分或二阶差分算子,
测量了
的光滑度。
两种常见的正则形式是范数正则(也称为Tikhonov正则)和
范数正则(寻找稀疏解)。
一个特殊的正则逼近(拟合)问题是信号重建/降噪。信号重建/降噪的目的是从时间采样的含噪观测信号中估计原始信号
。我们假设原始信号是缓慢变化的
,而噪声信号是快速时变的,
其中测量了
的光滑度,
越小,平滑度越高。两种常见的
形式是
(二阶平滑)和
(Total variation, TV),
表示一阶差分算子。