转：压缩传感中的问题与解答

转自：http://liya2829.blog.163.com/blog/static/54995595201171511311658/

从我写《压缩传感引论》到如今，两年的时间过去了，国内在压缩传感领域的研究已全面展开，取得了不错的进展。我也陆续收到了很多年轻学生们的提问，发现其中许多问题被反复提及。因此，我决定写篇短文，来谈谈我个人的看法。由于我不在这个领域工作，并不知道目前的前沿与方向。所以有些观点，可能不够准确，还请大家批评指正。更为重要的是，我希望大家花更多的时间去学习数学和物理知识，这样才可能做出有影响力的好的科研工作，才可能解决更为复杂的工程问题。 1、 Coherence怎么理解？ 这个单词是基本的物理概念。如果两束单频率的光，有固定的相位差，就称为Coherence。一束光是正弦函数，相位是0度，另一束光也是正弦函数，相位也是0度。两者显然Coherence。如果一束光是正弦函数，相位是0度，另一束光也是正弦函数，但相位是90度，那么结果怎么样？也Coherence。因此，正交绝对不是incoherence。很多学生会混淆这个概念。最后，如果一束光是正弦函数，相位是0度，另一束光也是正弦函数，但相位是随机的。这样的话，就是incoherence。Incoherence的结果会让两者beat的结果变得稠密，即没有很多0的存在。为什么很多0的向量不能作为测量呢？假设一个稀疏信号，就在第一个位置不为0，其余所有位置全是0。如果测量向量含有太多0，你很有可能得到的结果就是0。所以这种投影或测量向量无法捕捉稀疏信号的信息。这个定理就是著名的UUP。 2、 到底有几种常用的测量方式？ 三种。第一种，就是产生一个随机矩阵，高斯或者伯努利分布，然后乘以一个图像或者信号。这里，有两个问题。内存很大，怎么办？很简单，如果是0，1矩阵，你可以用byte型存储。比如，11，实际上就是00001011。另外一个，这种测量是可以硬件实现的。著名的就是单象素相机，它用digital mirror实现不同空间0,1分布，然后反射图像，经过lens，得到1个测量，即1个数。为什么得到1个数，因为只用了1个lens。lens是一种可以foucs光的设备，经过它的所有射线拥有相同的光程，汇聚到一个点，且光程取得最短的时间。这就是物理上的Fermat原理。为什么效果不好，因为没有完美棱镜。这个汇聚的焦点不是太理想。最后，改变mirror的pattern，就可以得到不同的测量向量。这里，我们可以把图像看成一个向量，把每一次digital mirror的pattern的改变看作生成了一个测量向量。很多次的改变就形成了一个测量矩阵。还有一种硬件，即可以交换极性的积分器，来实现对信号的采样。本质上就是形成1，-1伯努利分布的测量矩阵。 第二种，在Fourier变换域采样。为什么这样？因为MRI。原子核有Spin，在静磁场下，做拉莫进动，像陀螺一样。然后加一个交流的磁场，其频率等于原子的跃迁频率，就会形成强烈的共振，产生信号。这个交流的磁场可以靠coil来控制，形成梯度场，也就是相位为exp(-i*c*(G*x+B_0)*t)的形式。这里c是常数，B_0是静磁场，x是空间坐标，G是梯度的变化大小，t是时间。而最终的信号是目标的Spin分布沿着x轴与上述的相位因子积分的结果，也就是关于x的Fourier变换，其中谱域变量k=c*G*t。所以每个离散时间t_n，控制k空间的采样位置。还记得，从中心发散出来的射线吗，这就是在k空间采样的结果。怎么控制角度间隔，调整Gx，Gy的比例（2-D情况）。怎么控制沿着一个方向的采样点数，显然是采样间隔t_n和持续时间t。我们总结下怎么做数值实验。拿出一张图像，做FFT变换，然后做fftshift，让低频分量位于中心，最后按照采样Pattern在k空间取一些点。为什么中心取样密，因为低频反映了信号的基本信息。不是说CS是随机采样的吗？MRI实际上是一个有点自适应随机的例子。还有一个问题，如果在k空间的采样点不在整数点上呢？这是很有可能的，毕竟Gx，Gy，t这些选择没那么理想。那就用非均匀FFT吧。这是很有用的技术，也用于Curvelet变换。大家去学习吧，如果有兴趣的话。 第三种，线积分。即拉当变换(Radon)，广泛用于断层扫描。我们沿着某个角度，把图像作积分，得到一条曲线。然后改变不同角度，就可以得到不同的测量了。为什么呢？这种测量的思路到底来自什么？又一次，物理。考虑射线物理，就是高频物理，当频率很高的时候电磁波可以看成射线。把平行的射线沿着某个角度入射到一个物体上。由于物体对射线的衰减，最后我们用胶片得到的射线强度，和原来不一样。这个强度显然取决于目标材料衰减系数的积分。我们改变射线的传播方向，得到不同的测量，最后就可以重构目标的衰减系数分布。不同的衰减系数分布，实际上是材料的属性不同。对医学的应用，我们可以靠此发现肿瘤，这也就是断层扫描的原理。 3、 有几种常用的算法？ 第一种，匹配追踪，MP，OMP。我写过帖子《压缩传感引论》，不说了。第二种，基于梯度的方法，最小化目标函数，一共四种形式，我在The Physics of Compressive Sensing and the Gradient-Based Recovery Algorithms 给出了。这种梯度法对图像更好点，特别是MRI应用。这里难点有二。一怎么求目标函数的梯度，特别是1范数的梯度。首先，请大家学习变分法，这个很有用。其次，1范数的梯度需要做些特殊处理，比如简单的平滑近似或者函数近似。最后，能不求1范数的梯度吗？可以，你只要求2范数的梯度，但每次迭代的时候做1范数球的收缩（Iterative Shrinkage），这就是小波理论中我们熟悉的软阈值方法。这样你每一步就保证了信号或者图像的稀疏，因为做软阈值的时候，你把不重要的分量置为0了。顺便给出一个TV的变分结果，也就是梯度类似的概念。 4、 什么是最重要的？ CS最重要的应用就是减小测量。当测量的代价很大的时候，耗时间、耗资源、危害人的健康(MRI)等等，我们就需要CS了。还有你的问题必须是线性的。我不看好CS对逆散射的应用，因为这个问题是非线性的。由于神奇的Green’s function，会把一切变得复杂。 5、 我们到底缺少什么？ 在CS及很多领域的研究中，我发现中国学生最缺乏的几种品质。首先，不写程序，下载别人的程序或者用toolbox。当我们开始沦落为商业软件或者他人程序的奴隶时，我看不出我们拿什么和别人竞争。其次，不自己思考。自我思考，才能顿悟，才能学的扎实和深刻。再次，数学物理基础不好。很多人问我CS速成的方法，我很难回答他们，因为基础很重要。你不懂信号处理和Fourier变换，就开始学习了wavelet，wavelet没搞懂，就开始学习CS。你可以发表Trans用别人的软件包，但你的工作一定不会有impact。最后，缺乏老师的指导和自我创新精神。这点不用说了，因为国内导师比较忙，所以不得不自学。此外，喜欢follow别人的工作，而自己不敢迈出创新和颠覆的一步。 大家看了“非诚勿扰”中的那个来自哈弗的男嘉宾了吗？他的为人民服务的思想让我有所感悟。中国的科研是靠每一个研究生、博士生、教授的努力，好的科研风气的形成，科研水平的提高，每个人都应该做出自己的贡献。我们不应该输在科研和教育上，如果我们想成为一个强大的国家。 沙威 香港大学 Email: wsha@eee.hku.hk 2011年3月27日