采样、过采样和压缩感知

链接：https://www.zhihu.com/question/20475750/answer/15249347，http://tiejunlab.com/viewthread.php?action=printable&tid=577


    采样定理是采样过程所遵循的规律（又称取样定理、抽样定理），说明采样频率与信号频谱之间的关系， 1928年由美国电信工程师H.奈奎斯特首先提出来的，因此称为奈奎斯特采样定理。1948年信息论的创始人C.E.香农对这一定理加以明确说明并正式作为定理引用，因此在许多文献中又称为香农采样定理。通常信号或图像的采样须满足Shannon提出的Nyquist规则：采样率不小于最高频率的两倍(该采样率称作Nyquist采样率)。
    按照信号处理方面的知识（奈奎斯特定理），为了提取一个截止上限频率为 f 的信号，则必须用一个至少为 2f 的抽样信号才能实现。当然，用数学上的「调制」定义就能证明这一点。 但是该定理在使用时存在一个问题——即奈奎斯特定理的前提是截止上限频率为 f ，如果在 f 之上还有频率成分存在，则这一高频成分会干扰到对低频信号的采样结果——即频率混叠效应。
    打个比方：在录音过程中，声音信号被离散采样时，若采样率为 48000Hz ，则奈奎斯特定理意味着对该信号采样后，可以正确得到频率上限为 24000Hz 的声音信号——但前提是原始被离散采样前的声音信号在 24000Hz 以上的声音成分为 0。如果是将麦克风采集到的原始连续电平直接连接到采样电路，就会造成 24000Hz 以上的噪声成分对离散采样结果造成干扰，使转换结果产生误差。故为了减小这一误差，需要在转换之前，对原始连续信号做一次低通滤波，滤除该信号中的高频成分，但是在滤波过程中，又会对原始信号中 24000Hz 附近的声音音质造成劣化。 如何彻底解决这一问题？最简单的办法，可以通过提高采样率。如果将采样率定为 96000Hz，则相应的可以正确还原出 48000Hz 以下的信号。这时，24000Hz 以内的信号采样精度就会高得多。此外，目标频率内的信噪比可以得到相应的提升。采样率每提高一倍，则信噪比可提升 3dB。此时，我们希望得到的是24000Hz 以内的信号，却去拿 96000Hz 的信号来采样，远远高出了其奈奎斯特频率——48000Hz 。故这一方法叫做「过采样」。
    压缩感知（Compressive Sensing(CS)，或称Compressed Sensing、Compressed Sampling）是2006－2007年由Donoho(美国科学院院士)，Candes (Ridgelet, Curvelet创始人)，Tao(2006年菲尔兹奖获得者)等人提出的一种新的数据获取理论。该理论指出：对可压缩信号即便以远低于Nyquist采样标准采样，仍然能够精确地恢复出原始信号，因而被美国评为2007年度十大科技进展。在CS理论框架下，能够在数据获取时大幅度突破Nyquist采样定律的制约，给存储、传输和处理各种自然信号带来极大便利。CS的两个核心内容是稀疏性(sparsity)和不相关性(incoherence)：前者由信号本身决定，后者由感知系统和信号共同确定(或者单方面认为是由感知系统决定).