欠定线性方程组Ax=b的稀疏解

经典的线性代数的一个核心成就是处理线性方程组的求解问题,然而直到最近该问题才有了更深入的研究和探索,并且得到了一系列更令人振奋的结果。今天主要关心一下欠定线性方程组Ax=b稀疏解的一些相关话题。

针对欠定线性方程组的问题不外乎如下几个:

    是否存在稀疏解,该稀疏解是否唯一,能否判断一个解是否是该问题的唯一稀疏解,如何有效地获得这个稀疏解,等等

可以用两个名次来概括上述这些问题:(P0)问题的唯一解(定义为,唯一性)和(P1)问题的唯一解(定义为,等价性)。

   针对上述两个命题,已经发展了很多有价值的结果,例如:

(1)借助A的spark的唯一性命题和借助A的mutual coherence的唯一性命题;

(2)MP和BP算法,以及它们与唯一性和等价命题之间的关系,即Trop定理和Donoho定理

(3)一些更有效的优化方法,例如,iteratively reweighed least squares, Lars, homotopy,等等。这些方法均需要小心处理thresholding的问题

(4)Candes-Tao-Romberg定理和Tropp等人的结果;

(5)phase transition问题。

然而有许多问题需要解决,公开的问题如下:

(1)如果A具有一定的structure,能否利用该structure获得更strong的解唯一性和等价性命题;

例如,联合正交矩阵形成的A能否能够允许更多的解支撑,该A能否开发更有效的求解策略;

      A结构是否拥有多尺度分解特性,该特性能否充分利用。

(2)贪婪算法和凸优化算法是解决该问题的两种主要策略,然而这些算法对于上述A结构能否拥有相同的performance.

  已有的求解随机矩阵等结构的A的贪婪算法的计算性能对于该类A已经missing,为什么?

  目前为止已经报道了针对该类A结构的凸优化算法性能,然而对于贪婪算法的研究还没有报道。

(3)更大的需求是开发快速的凸优化方法,研究贪婪算法和凸优化方法共性,开发它们的优势并且开发新的更有效的算法是目前研究的焦点

,也是今后研究的重点。或许,iterated shrinkage method,lasso和LARS算法能够给我们提供更多的启发。

(4)针对特性的A开发更strong的测不准原理应该是一个研究方向,因为mutual coherence是一个最坏的界。

(5)目前的唯一性和等价性命题都是针对所有的b而言的,能否得到与b有关的更strong的唯一性和等价性命题是一个研究内容。

http://blog.sciencenet.cn/blog-497160-388939.html

  • 0
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
欠定方程组是指方程数量少于未知数数量的线性方程组,这类方程组通常有无限多或者无。在求这类方程组时,一个常见的目标是找到一个稀疏,即向量中非零元素尽可能少的。这在信号处理、图像处理等领域非常有用。 求欠定方程组的一个常用方法是使用最小二乘法结合L1范数(即最小化的绝对值之和),这种方法称为基追踪(Basis Pursuit)或Lasso回归。在不使用机器学习库的情况下,可以使用如SciPy这样的科学计算库来实现。 以下是一个简单的Python代码示例,使用SciPy库中的`scipy.sparse.linalg`模块来求欠定方程组的稀疏: ```python import numpy as np from scipy import sparse from scipy.sparse.linalg import lsqr # 定义一个稀疏矩阵A A = sparse.csr_matrix([[1, 0, 0, 0], [0, 1, 0, 0], [0, 0, 1, 0], [0, 0, 0, 1], [0, 0, 0, 0]]) # 定义一个向量b,例如A欠定,所以b的维度小于A的列数 b = np.array([1, 2, 3, 4]) # 使用lsqr方法求稀疏 # x是方程组Ax = b的稀疏向量 x, istop, itn, r1norm, r2norm, anorm, acond, arnorm, xnorm = lsqr(A, b, damp=0.0, show=0, calc_var=False) print("稀疏向量x:") print(x) ``` 在上述代码中,我们首先导入必要的模块,并定义了一个稀疏矩阵`A`和一个向量`b`。然后使用`lsqr`函数求欠定方程组,`lsqr`是一个求线性最小二乘问题的迭代方法。这里不使用任何机器学习库,只使用了SciPy中的线性代数函数。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值