正交基与非正交基在信号表达上的区别

先看对于两者的一个通俗解释:
正交基与普通基之间的差别是很大的，首先要理解基是什么意思，其实基就像是坐标系，正交基就是指正交的坐标系，普通基就是非正交的坐标系，我们大家都非常熟悉笛卡尔坐标系，大家就理所当然的认为坐标系就应该是正交的，其实坐标系其实质是坐标系所在的空间中的点与坐标系上的坐标能够建立一个一一映射就可以了，因此只要线性无关即可，因此我们如果画一个坐标系根本不必要求那些坐标轴之间是垂直的，坐标轴之间是垂直的，这只是一种很特殊的情况，而不垂直的才是一般的情况，垂直的坐标系能够给我的一些计算带来一些方便而已，但是垂直的坐标系能够做的事情，其他的坐标系也同样能够做到。

从信息论的角度来说，正交基可以用最少的数据来表示最大的信息量，而非正交基则会存在一定的“可压缩性”

之前是想要用一组正交基，这样能表示组成空间的全部向量，现在，尤其是稀疏的概念提出来以后，冗余基越来越热火，就好比10维空间里，我们找到13组基，从这些不一定正交的基中，选取最能表达信号的成分，而我们最期待看到的就是里面恰恰有很少的基（1个或者2，3 个）通过简单的线性组合就能表示信号。这样比起使用10个正交基来表示要简单（稀疏）。

更通俗一点的讲，我们想表示一个拥有三个频率的信号，用傅里叶变换，能找到三个频率用三角基来表示，那如果我们有一个库，里面正好有其中两个频率的基和另一个频率的基，那我们只需要存储两个对应基的系数即可，所以虽然库要做的很大很全，但在信号表示的时候却能用更稀疏的系数表达信息。

和现在的云服务器有点类似。脑洞有点歪了。。。