数学中的各种矩阵大总结

1、单位矩阵（Identity Matrix）

如果A矩阵可逆，其逆矩阵为A^-1，那么AA^-1 = I，这里 I 就是单位矩阵。形式上，单位矩阵 I 是一个n×n的方阵，其主对角线上的元素都是1，其余位置的元素都为0。因此，单位矩阵也可以记为： I_n = diag(1, 1, ..., 1)。

2、上三角矩阵/下三角矩阵

在线性代数中，三角矩阵是方形矩阵的一种，如下图所示，该矩阵的下三角（不包括主对角线）的元素均为常数0，则称其为一个上三角矩阵。

与上三角矩阵相反，如果一个矩阵的主对角线上方均为常数0，则称该矩阵为下三角矩阵，例如：

3、Toeplitz 矩阵

Toeplitz矩阵又叫做常对角矩阵（diagonal-constant matrix），指矩阵中每条自左上至右下的斜线上之元素都为同一常数的矩阵。例如下面就是一个Toeplitz矩阵的例子：

任意n×n的Toeplitz矩阵具有如下形式：

最常见的Toeplitz矩阵是对称Toeplitz矩阵，这种矩阵仅由第一行元素就可以完全确定。

4、Hermitian 矩阵

对于一个复矩阵A，其共轭转置记为A*。如果A = A*，则称为Hermitian矩阵。例如，

显然，如果一个实矩阵是对称的，那么它也是一个Hermitian矩阵。

此外，如果一个复Toeplitz矩阵中之元素满足复共轭对称关系，则称其为Hermitian Toeplitz矩阵。

5、循环矩阵（Circulant Matrix）

循环矩阵是Toeplitz矩阵的一种特殊形式，如下所示，当给定矩阵的第一行时，矩阵的后一行都是由前一行向右循环移位得到的。

6、酉矩阵（Unitary Matrix）与正交矩阵

A ∈ M_n×n(C), A*A = AA* = I, then A is unitary; A ∈ M_n×n(R), A^TA = AA^T = I, then A is orthogonal。

7、Hessian 矩阵

形如下面样子的矩阵，具体请参考《Hessian矩阵与多元函数极值》。

8、Vandermonde 矩阵

9、Fourier矩阵

10、拉普拉斯矩阵（Laplacian matrix）

拉普拉斯矩阵是图论中用到的一种重要矩阵，给定一个有n个顶点的图 G=(V,E)，其拉普拉斯矩阵被定义为 L = D-A，其中为图的度矩阵，为图的邻接矩阵。例如，给定一个简单的图，如下（例子来自wiki百科）：

把此“图”转换为邻接矩阵的形式，记为A：

把W的每一列元素加起来得到N个数，然后把它们放在对角线上（其它地方都是零），组成一个N×N的对角矩阵，记为度矩阵D，如下图所示。其实度矩阵（对角线元素）表示的就是原图中每个点的度数，即由该点发出的边之数量。

根据拉普拉斯矩阵的定义L = D-A，可得拉普拉斯矩阵L 为：

显然，拉普拉斯矩阵都是对称的。此外，另外一种更为常用的拉普拉斯矩阵形式是正则化的拉普拉斯矩阵（Symmetric normalized Laplacian），定义为：

该矩阵中的元素由下面的式子给出：

附录、循环矩阵的对角化

前面Part 5中介绍的循环矩阵有一个很特殊的性质，即它可以被Fourier矩阵对角化，即有：

* 8-9 来自《矩阵分析与应用》（张贤达 著）

* 补充循环矩阵对角化的一个英文资料 （Iterative Methods for Toeplitz Systems, Michael K. Ng, Oxford University Press）

（本文完）