线性代数复习
1 矩阵和向量
- 向量可以看作特殊的的矩阵,n行1列
2 加法和标量乘法
- 只有纬度相同的矩阵才能进行矩阵加法运算,计算结果为对应位置元素的和
- 标量乘法是指矩阵乘以一个实数
3 矩阵向量乘法
- 下面的例子中,矩阵是 3 × 2 3 \times 2 3×2,向量是 1 × 1 1 \times 1 1×1,需要矩阵的列数和向量的行数相同才能进行乘法运算,结果中第 i i i个元素应该为矩阵中第 i i i行的每个元素分别乘上向量的每个元素的结果之和
[ l 1 3 4 0 2 1 ] 3 × 2 × [ 1 5 ] 2 × 1 = [ 1 × 1 + 3 × 5 4 × 1 + 0 × 5 2 × 1 + 1 × 5 ] = [ 16 4 7 ] 3 × 1 \underset{3\times 2}{\left[ \begin{matrix}{l} 1& 3\\ 4& 0\\ 2& 1\\ \end{matrix} \right]}\times \underset{2\times 1}{\left[ \begin{array}{c} 1\\ 5\\ \end{array} \right]}=\left[ \begin{array}{c} 1\times 1+3\times 5\\ 4\times 1+0\times 5\\ 2\times 1+1\times 5\\ \end{array} \right] =\underset{3\times 1}{\left[ \begin{array}{c} 16\\ 4\\ 7\\ \end{array} \right]} 3×2⎣⎡l142301⎦⎤×2×1[15]=⎣⎡1×1+3×54×1+0×52×1+1×5⎦⎤=3×1⎣⎡1647⎦⎤
- 在之前提到的预测房屋售价的例子中,如果需要一次计算较多的房屋售价,可以采用矩阵向量乘法代替循环求解,例如假设
h
(
x
)
=
−
40
+
0.5
x
h(x) = -40 + 0.5x
h(x)=−40+0.5x,需要计算下面四个面积的房屋的售价
- 2104,1416,1534,852
就可以构造这样两个矩阵(向量是特殊的矩阵),进行乘法运算,结果就可以一次性得到所有的预测值,这里运算不仅写代码时更简洁,而且效率更高
[ l 1 2104 1 1416 1 1534 1 852 ] × [ − 40 0.5 ] = [ 1 × ( − 40 ) + 2104 × 0.5 1 × ( − 40 ) + 1416 × 0.5 1 × ( − 40 ) + 1534 × 0.5 1 × ( − 40 ) + 852 × 0.5 ] \left[ \begin{matrix}{l} 1& 2104\\ 1& 1416\\ 1& 1534\\ 1& 852\\ \end{matrix} \right] \times \left[ \begin{array}{c} -40\\ 0.5\\ \end{array} \right] =\left[ \begin{array}{c} 1\times \left( -40 \right) +2104\times 0.5\\ 1\times \left( -40 \right) +1416\times 0.5\\ 1\times \left( -40 \right) +1534\times 0.5\\ 1\times \left( -40 \right) +852\times 0.5\\ \end{array} \right] ⎣⎢⎢⎡l1111210414161534852⎦⎥⎥⎤×[−400.5]=⎣⎢⎢⎡1×(−40)+2104×0.51×(−40)+1416×0.51×(−40)+1534×0.51×(−40)+852×0.5⎦⎥⎥⎤
- 2104,1416,1534,852
4 矩阵乘法
- 矩阵乘法可以看成是一个矩阵与几个不向量的乘法,一个 m × n m \times n m×n的矩阵和一个 n × p n \times p n×p的矩阵相乘所得的结果应该是一个 m × p m \times p m×p的矩阵,在矩阵向量相乘中, p = 1 p =1 p=1。
- 上一节提到的预测房屋售价的例子中,如果同时有不止一个假设函数,则可以采用矩阵乘法,一次得到多个房屋在多个假设函数中的结果,如下图所示
[外链图片转存失败(img-CIAPFRFN-1563951277720)(.\images\2.png)]
5 矩阵乘法的特征
- 矩阵乘法不满足交换律,即 A × B ≠ B × A A \times B \neq B \times A A×B̸=B×A
- 矩阵乘法满足结合律,即 ( A × B ) × C = A × ( B × C ) (A \times B) \times C = A \times (B \times C) (A×B)×C=A×(B×C)
- 单位矩阵,对角线上的元素都是1 的矩阵,任何矩阵乘以单位矩阵结果不变,即
A
×
I
=
I
×
A
=
A
A \times I = I \times A = A
A×I=I×A=A。
- 注意:若 A A A m × n m \times n m×n的矩阵的话 第一个 I I I是 n × n n \times n n×n,第二个 I I I是 m × m m \times m m×m的,所以通常写单位矩阵 I I I的时候,它的纬度已经暗含在了上下文中
- 注意: A × I = I × A = A A \times I = I \times A = A A×I=I×A=A并不影响矩阵乘法不满足交换律,这是特例
6 矩阵的逆和矩阵的转置
6.1 矩阵的逆 inverse
- m × m m \times m m×m的矩阵,也就是方阵(square matrix),才可能有逆矩阵。
- 没有逆矩阵的矩阵成为奇异矩阵(singular matirx)或退化矩阵(degenerate matirx)
- 矩阵
A
A
A的逆矩阵记做
A
−
1
A^{-1}
A−1,并满足:
- $AA^{-1} = A^{-1}A = I $
6.2 矩阵的转置 transpose
- 矩阵转置可以认为是矩阵 A A A的第 i i i行的元素,成为了矩阵 A T A^{T} AT的第 j j j列
- 如果矩阵
A
A
A是一个
m
×
n
{m \times n}
m×n的矩阵,且
B
=
A
T
B=A^{T}
B=AT,则:
- B B B是一个 n × m n \times m n×m的矩阵,且 B i j = A j i B_{ij} = A_{ji} Bij=Aji