机器学习基础——矩阵

标量、向量、矩阵和张量

标量：一个单独的数

向量：一列数/一个坐标

矩阵：一个二维数组

张量：坐标超过二维的数组

转置：矩阵以对角线为轴的镜像

矩阵和向量相乘

矩阵乘积：C=AB，其中，A: m * n; B: n * p; C: m * p

​ $C_{i,j} = \sum_{k}A_{i,k}B_{k,j}$

点积： $x^{T}y$

矩阵乘积性质：

​ A(B + C) = AB + AC

​ A(BC) = (AB)C

​ $x^{T}y$ = $y^{T}x$

​ (AB)$^{T}$ = B$^{T}$A$^{T}$

单位矩阵和逆矩阵

单位矩阵：任意向量和单位矩阵相乘，都不会改变，记为 I$_{n}$x = x

​ 所有沿主对角线的元素都是1，其它元素都是0

矩阵逆：满足 A$^{-1}$A = I$_{n}$ (矩阵$\boldsymbol{A}$为方阵)

线性相关和生成子空间

如果逆矩阵A$^{-1}$存在，那么线性方程组A$x$ = $b$ 肯定对于第一个向量$b$ 恰好存在一个解

范数

$L^{P}$范数定义：