线性代数之——基变换矩阵

1. 恒等变换

现在让我们来找到这个特殊无聊的变换 $T(\mathbf{v})=\mathbf{v}$ 对应的矩阵。这个恒等变换什么都没有做，对应的矩阵是恒等矩阵，如果输出的基和输入的基一样的话。

如果 $T({\mathbf{v}}_j)={\mathbf{v}}_j={\mathbf{w}}_j$，那么变换矩阵就是 $I$。

但是，如果基底不一样的话，那么 $T({\mathbf{v}}_1)={\mathbf{v}}_1$ 将会是 $\mathbf{w}$ 的组合 $m_{11}{\mathbf{w}}_1+\cdots +m_{n1}{\mathbf{w}}_n$，组合系数也就是矩阵 $M$ 的第一列。

变换前后基改变了但向量本身并没有变，当输入和输出的基不一样的时候，变换矩阵就不是恒等矩阵了。

2. 小波变换=改变到小波基底

小波具有不同的长度并且位于不同的地方，第一个基向量其实不是小波，它是一个非常有用的常向量。下面是一个小波的例子：

这些向量是正交的，非常好。可以看到，${\mathbf{w}}_3$ 定位于前一半，而 ${\mathbf{w}}_4$ 定位于后一半。小波变换旨在找到一组系数 $c_1,c_2,c_3,c_4$ 来用小波基向量表示输入信号 $v=(v_1,v_2,v_3,v_4)$。

系数 $c_1$ 代表均值，而系数 $c_3$ 和 $c_4$ 分别告诉我们前一半和后一半的详细信息。为什么我们要改变基向量呢？可以认为 $v_1,v_2,v_3,v_4$ 是信号的强度，当然 4 是非常小的一个数字，实际上可能有 $n=10,000$。我们想要压缩这个信号，只保留最大 5% 的系数，这样就能做到 20:1 的压缩比。

如果我们保留标准基下系数的 5%，我们就会丢失掉信号的 95%。但是，如果我们选择一组更好的基底，5% 的基向量就能恢复到和原始信号非常接近。在图像处理和音频编码领域，你根本看不出听不出区别来，我们根本不需要其它的 95%。

在线性代数里，一切都是完美的，我们省略压缩的步骤。输出 $\hat{\mathbf{v}}$ 和输入 $\mathbf{v}$ 一模一样，变换得到 $c=W^{-1}\mathbf{v}$，重建过程则将我们带回到原点 $\mathbf{v}=Wc$。在真正的信号处理领域，没有什么是完美的但一切都很快，无损失的变换和只丢失不必要信息的压缩过程是成功的关键，我们有 $\hat{\mathbf{v}}=W\hat{c}$。

3. 傅里叶变换=改变到傅里叶基底

一个电气工程师对一个信号做的第一件事就是求它的傅里叶变换。针对有限的向量，我们要讨论的是离散傅里叶变换。离散傅里叶变换涉及到复数，但如果我们选择 $n=4$，矩阵非常小并且仅有的复数是 $i$ 和 $i^3=-i$。

第一列仍然是常向量，代表信号均值或者直流分量。是一个频率为零的波，第三列则以最高的频率改变。傅里叶变换将信号分解成等间隔频率的波。傅里叶矩阵绝对是数学、科学和工程学领域最重要的复数矩阵，快速傅里叶变化通过加速傅里叶变化的过程，彻底改变了工业界。漂亮的是傅里叶矩阵和其逆矩阵非常像，改变一下符号即可。

4. 一点备忘

假设第一组基为 ${\mathbf{v}}_1,\cdots ,{\mathbf{v}}_n$，第二组基为 ${\mathbf{w}}_1,\cdots ,{\mathbf{w}}_n$，由 $V\to W$ 的基变换矩阵为 $M$，那么我们有：

$$V=WM$$

一个向量 $\mathbf{s}$ 在 $V$ 和 $W$ 下的坐标分别为 $\mathbf{x}$ 和 $\mathbf{y}$，那么我们有：

$$\mathbf{s}=V\mathbf{x}=W\mathbf{y}\to M\mathbf{x}=\mathbf{y}$$

获取更多精彩，请关注「seniusen」!