压缩感知应用实例（1）——不完备测量数据的稀疏向量恢复（经典线性规划求解方法）

最新推荐文章于 2024-04-20 09:58:52 发布

damlaoqi

最新推荐文章于 2024-04-20 09:58:52 发布

阅读量2.2k

点赞数 1

本文链接：https://blog.csdn.net/damlaoqi/article/details/86693993

版权

在本例中，原始稀疏向量 $\mathbf{x}^0 \in \mathbb{R}^N$ 。假设 N=200 ， $\mathbf{x}^0$ 中的非零向量数目为10。

如果不对数据压缩，直接用一个矩阵 $\mathbf{\Phi} \in \mathcal{R}^{N\times N}$ 对数据 $\mathbf{x}^0$ 进行变换，得到全观测数据：

$\mathbf{f}=\mathbf{\Phi} \mathbf{x}^0$ (1)

这里， $\mathbf{\Phi}$ 为线性变换矩阵，本文中假设其为离散傅里叶（DCT）变换矩阵，原始稀疏向量 $\mathbf{x}^0$ 和对其进行DCT变换之后和全观测数据如下图所示：

在压缩感知中，我们希望通过对 $\mathbf{x}^0$ 的线性变换减少观测数据的数目。例如，令矩阵 $\mathbf{A}\in\mathbb{R}^{M\times N}$ ，使得 $M\ll N$ ，并假设矩阵 $\mathbf{A}$ 是由矩阵 $\mathbf{\Phi}$ 随机选择行元素所生成。利用矩阵 $\mathbf{A}$ 对原始稀疏数据 $\mathbf{x}^0$ 进行线性变换之后得到压缩之后的观测数据：

$\mathbf{b}=\mathbf{A} \mathbf{x}^0$ (2)

不失一般性，我们假设 M=80 ，即我们观测到40%的数据。这些数据如下图所示。

其中，为了便于对比，把 $\mathbf{A}\mathbf{x}^0$ 的数据进行了重新排序，使得其数据与 $\mathbf{\Phi} \mathbf{x}^0$ 的数据位置对位。例如，矩阵 $\mathbf{A}$ 的第行数据 $\mathbf{A}(m,:)$ 在矩阵 $\mathbf{\Phi}$ 中的位置为第行，则 $\mathbf{A}(m,:)\mathbf{x}^0 \to \mathbf{b}'(j)$ 。这样，我们得到一个与全观测数据 $\mathbf{f}$ 对位的压缩数据 $\mathbf{b}' \in \mathbb{R}^{N\times N}$ 。

实时上，如果不进行排序对位，M=80个数据取决于随机产生的A中的行向量，如下图（第2个子图）所示

如果给定压缩之后的观测数据 $\mathbf{b}}$ ，如何恢复原始数据 $\mathbf{x}^0$ 呢？

为了恢复 $\mathbf{x}^0$ ，我们构建如下的稀疏恢复优化问题：

$\begin{align*} \min_{ \mathbf{x}} &\quad \Vert \mathbf{x} \Vert_0 \\ s.t.: & \quad \mathbf{Ax}=\mathbf{b} \end{align*}$ (3)

然而，上述 $\ell_0$ 优化问题是非凸优化问题，其求解为NP-hard，难以直接求解。为了求解，我们将它转化为 $\ell_1$ 优化问题：

$\begin{align*} \min_{ \mathbf{x}} &\quad \Vert \mathbf{x} \Vert_1 \\ s.t.: & \quad \mathbf{Ax}=\mathbf{b} \end{align*}$ (4)

该问题为凸优化问题，因而可以有效求解。求解方法有多种，我们采用最经典的算法，即将其转化为线性规划求解。具体而言，可以将 $\ell_1$ 范数转化为如下等效表示方式：

$\Vert \mathbf{x} \Vert_1 = \min_{\mathbf{x}_1,\mathbf{x}_2} \{ \mathbf{1}^T (\mathbf{x}_1+\mathbf{x}_2): \mathbf{x}_1-\mathbf{x}_2=\mathbf{x}, \mathbf{x}_1\geq\mathbf{0}, \mathbf{x}_2\geq\mathbf{0} \}$ (5)

这样，问题（4）可以转化为：

$\begin{align*} \min_{\mathbf{x}_1,\mathbf{x}_2} &\quad \mathbf{1}^T (\mathbf{x}_1+\mathbf{x}_2) \\ s.t.: & \quad\mathbf{A}( \mathbf{x}_1-\mathbf{x}_2)=\mathbf{b}\\ &\quad \mathbf{x}_1\geq\mathbf{0}\\ &\quad\mathbf{x}_2\geq\mathbf{0} \end{align*}$ (6)

问题（6）是线性规划，可以很容易求解得到最优解 $(\mathbf{x}_1^*,\mathbf{x}_2^*)$ 。则问题（4）的最优解为：

$\mathbf{x}^*=\mathbf{x}_1^*-\mathbf{x}_2^*$ (7).

应用上述算法，得到如下图所示的恢复结果。

如果改变M的数值，恢复效果如何呢？下面我们改变M的数值，可以看到，当M<40时，无法精确恢复原始信号。

Summary：利用压缩感知，可以大幅度减少采样数据点，从而实现稀疏数据量的压缩。当然，这种压缩不是任意小，而是要有最小观测数据量的保证。最后，给出一张本次实例的全家福。

damlaoqi

关注

1
点赞
踩
5

收藏

觉得还不错? 一键收藏
1
评论
压缩感知应用实例（1）——不完备测量数据的稀疏向量恢复（经典线性规划求解方法）

在本例中，原始稀疏向量。假设，中的非零向量数目为10。如果不对数据压缩，直接用一个矩阵对数据进行变换，得到全观测数据： (1)这里，为线性变换矩阵，本文中假设其为离散傅里叶（DCT）变换矩阵，原始稀疏向量和对其进行DCT变换之后和全观测数据如下图所示：在压缩感知中，我们希望通过对的线性变换减少观测数据的数目。例如，令矩阵，使得，并假设矩阵是由矩阵随机选择行元素所生成。利用...
复制链接

扫一扫