[CS发现的小故事]Depressive Sensing or Compressive Sensing ？

[理解]Depressive Sensing or Compressive Sensing ？  

2010-08-09 13:59:53|  分类： 理解|举报|字号 订阅

       

  下载LOFTER 我的照片书  |

做完饭后，接着聊。
尽可能写的通俗一些。

1. 起因
compressive sensing（CS） 又称 compressived sensing ，compressived sample
大意是在采集信号的时候（模拟到数字），同时完成对信号压缩之意。
中文的翻译成“压缩传感”，意思变得至少不太好理解了。

本文不负责任的传2个八卦，大家一笑了之。
（1）CS大约是2000年左右的一篇博士论文中，已经出现了雏形。后来被陶哲轩，C牛（Emmanuel Candes）和D（Donoho）牛，完善理论。这几位顶尖高手联手挖出了信号处理领域、机器学习领域，近10年最大的学术大坑。
2004年左右，大牛们聊天，觉得要起一个简单的名字，因为理论本身是“通过对信号的高度不完备线性测量的高精确的重建”，如果这样名字不响，不能起到理论推广作用。所以就成了现在的名字"compressive sensing"。
（2）陶哲轩，是这个世界上最聪明的人，他怎么会关注到CS呢？有个八卦，是偶然的机会，随手搞定的。陶哲轩是这个世界上搞调和分析的顶尖高手之一（当然他别的方面也很厉害）。话说一天，”一个年轻应用数学家正在研究这个问题，取得了很大进展，但是有些关键的步骤所牵涉到的数学过于艰深，于是他被这些困难暂时卡住了。某一日这个数学家去幼儿园接孩子，正好遇上了也在接孩子的陶哲轩，两人攀谈的过程中他提到了自己手头的困难，于是陶哲轩也开始想这个问题，然后把剩下的困难部分解决了……“原文出处，科学松鼠会。这个 介绍陶哲轩的文章。

2. 现状

研究压缩感知已经是最近信号处理、统计、机器学习的大热方向。
这篇文章不想介绍什么是压缩感知，原因有2：（1）介绍未必有别人介绍的好；（2）时间有限。
那么，研究压缩感知的内容有几块呢？
（1）压缩感知理论，比如测量矩阵，重建性能分析，测量数据量化影响，。。。。。。；
（2）优化算法，本质上是重建算法优化，比如线性规划（LP）、贝叶斯优化等等；
（3）实际的应用，压缩？后处理？分类？等等

3. depressive sensing or compressive sensing?

我主要关注于实际应用。事实上，我也没有任何本事可以关注前面2个方向，呵呵
那么事实上是什么样的？很多人，都发出感慨，compressive sensing的实际用于信号采集效果其实并不是很好。
就从我的实验而言，对于图像压缩甚至会差的很，远远低于传统的压缩方式。
那就不难有学者发出感叹，实际上compressive sensing 就是depressive sensing了。

我的理解是什么呢？有2点牢牢记住的
（1）compressive sensing实际上是对信号采集的颠覆性的理论，打破了乃奎斯特采样（也称香农采样）。
        实际上，大部分信号是稀疏的，没有必要用乃奎斯特采样，进行时间离散化。
        注意两点：（1）乃奎斯特采样对信号没有稀疏性的假设；
                         （2）CS对信号有稀疏性假设，既K稀疏；
       那么，信号采集过程也就是说从A2D，变成了A2I。
      但是在实际应用角度，2者结合会有很大的收益。（个人观点）
（2）compressive sensing本事是最大后验（MAP）解码，这点比传统的方式要更为”先进“，也更为”危险“。
   

用一个小故事结束这篇吧
当初法拉第最初发现电磁感应的重要原理时，做了一个报告。
有个妇女做完等他做完报告之后，问法拉第："这个又有什么用处呢！" 
法拉弟回答说："刚生下来的婴儿有什么用呢？" 　　
想想看，现在我们周围不是全部都是电磁相关的东西吗？电磁作用在改变成我们的生活。

The true sign of intelligence is not knowledge but imagination.
                                                                          --------Albert Einstein