机器学习之线性代数基础一 矩阵乘法、秩、特征值、特征向量的几何意义

  写篇文章把自己对矩阵的理解记录一下，有不对的地方欢迎指正。为简单、直观、可视化起见，我们只以简单的二维和三维空间为例。高维空间也是同样的道理，只是不能可视化，只能通过数学公式来证明。

1. 矩阵乘法

  矩阵乘法来源于线性方程组的求解，为了方便起见，从二维说起。
  通常，我们在提到坐标第一反应就是直角坐标系中的横纵坐标轴所对应的单位向量，向量$x$表示成如下形式会更明显，
$$\left[\begin{array}{c}{x}_1\\ x_2\end{array}\right]=x_1\left[\begin{array}{c}1\\ 0\end{array}\right]+x_2\left[\begin{array}{c}0\\ 1\end{array}\right]$$   那么矩阵与向量相乘会发生什么呢，下面是一个简单二维方阵与一个二维向量相乘，
$$Ax=\left[\begin{array}{cc}{a}_1& b_1\\ a_2& b_2\end{array}\right]\left[\begin{array}{c}{x}_1\\ x_2\end{array}\right]\text{\hspace{1em}(1)}$$ 对式（1）进行简单的变换，可以写成另外一种形式，
(2) A x = x 1 [ a 1 a 2 ] + x 2 [ b 1 b 2 ] Ax=x_1\left[ \begin{matrix} a_1 \\ a_2 \end{matrix}