花书深度学习——线性代数与矩阵

矩阵乘积
矩阵 A 的形状是 m × n，矩阵 B 的形状是 n × p，那么矩阵C的形状是m× p
C = AB
简言之：Cij=Ai × Bj Ai表示A的第i行行向量， Bj表示B的第j列列向量
矩阵乘积性质
分配律： A(B + C) = AB + AC
结合律：A(BC) = (AB)C
Hadamard 乘积
矩阵A和B的对应元素相乘A ⊙ B
单位矩阵
单位矩阵是一个n×n的矩阵，其满足：任意向量/矩阵和单位矩阵相乘都是其本身。
结构也简单：主对角线为1，其他位置的值都为0。
矩阵的逆
满足：A-1A=I，不是所有的矩阵都有逆矩阵，只有非奇异矩阵才有逆矩阵。
线性相关
对Ax=b方程，b取不同的向量，可能无解，有唯一解或无穷解，但不会出现有限个解的情况，因为如果
向量m和n是方程的解，那么z = αm + (1 − α)n 都是方程的解。
Ax=b对空间内每个b都有解的必要条件是矩阵A的列数>=行数（n ≥ m）
不是充分条件的原因是，矩阵A中的列向量间可能会存在<