第二章 Linear Algebra
文章目录
1.向量概念
满足以下两个条件的对象称为向量:
(1)能被相加,结果生成相同类型的对象。
(2)可乘以一个标量,结果生成相同类型的对象。
2.向量的几种形式
(1)几何向量
如:两个几何向量相加得到一个新的几何向量,一个几何向量乘一个常数,仍得到一个几何向量。
(2)多项式
相比几何向量更为抽象。
(3)音频
音频信号使用一串数字表示。
(4)Rn中元素
更为重要,可方便计算机编程中数组操作。
2.1 线性方程组(Systems of Linear Equations)
1.线性方程组一般形式
a11x1+ ······ +a1nxn=b1
···
am1x1+ ······ +amnxn=bm
2.线性方程组紧凑形式
[ a 11 ⋯ a 1 n ⋮ ⋱ ⋮ a m 1 ⋯ a m n ] [ x 1 ⋮ x n ] = [ b 1 ⋮ b m ] \left[ \begin{matrix} a_{11} & \cdots & a_{1n} \\ \vdots & \ddots & \vdots \\ a_{m1} & \cdots & a_{mn} \\ \end{matrix} \right] \left[ \begin{matrix} x_1 \\ \vdots \\ x_n \\ \end{matrix} \right]= \left[ \begin{matrix} b_1 \\ \vdots \\ b_m \\ \end{matrix} \right] ⎣⎢⎡a11⋮am1⋯⋱⋯a1n⋮amn⎦⎥⎤⎣⎢⎡x1⋮xn⎦⎥⎤=⎣⎢⎡b1⋮bm⎦⎥⎤
2.2 矩阵(Matrices)
1.矩阵定义
m , n ∈ N m,n\in \mathbb{N} m,n∈N ,矩阵中元素为 a i j a_{ij} aij,i=1,…,m,j=1,…,n。按m行n列排列即得到矩阵A。
A = [ a 11 a 12 ⋯ a 1 n a 21 a 22 ⋯ a 2 n ⋮ ⋮ ⋱ ⋮ a m 1 a m 2 ⋯ a m n ] , a i j ∈ R A=\left[ \begin{matrix} a_{11} &a_{12} & \cdots & a_{1n} \\ a_{21} &a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} &a_{m2} & \cdots & a_{mn} \\ \end{matrix} \right], a_{ij}\in \mathbb{R} A=⎣⎢⎢⎢⎡a11a21⋮am1a12a22⋮am2⋯⋯⋱⋯a1na2n⋮amn⎦⎥⎥⎥⎤,aij∈R
2.矩阵等价转换
矩阵A ∈ \in ∈R m × n ^{m\times n} m×n可被等价表示为向量 a ∈ \in ∈ R m n \mathbb{R}^{mn} Rmn.如:
[ a 11 a 12 a 21 a 22 ] ⟶ [ a 11 a 21 a 31 a 41 ] \left[ \begin{matrix} a_{11} &a_{12} \\ a_{21} &a_{22} \\ \end{matrix} \right] \longrightarrow \left[ \begin{matrix} a_{11} \\ a_{21} \\ a_{31} \\ a_{41} \\ \end{matrix} \right] [a11a21a12a22]⟶⎣⎢⎢⎡a11a21a31a41⎦⎥⎥⎤
2.2.1 矩阵间加法和乘法(Matrix Addition and Multiplication)
1.矩阵间加法
矩阵A ∈ \in ∈R m × n ^{m\times n} m×n,B ∈ \in ∈ R m × n \mathbb{R}^{m\times n} Rm×n,则
A + B : = [ a 11 + b 11 ⋯ a 1 n + b 1 n ⋮ ⋱ ⋮ a 1 m + b 1 m ⋯ a m n + b m n ] ∈ R m × n A+B:=\left[ \begin{matrix} a_{11}+b_{11} & \cdots & a_{1n}+b_{1n} \\ \vdots & \ddots & \vdots \\ a_{1m}+b_{1m} & \cdots & a_{mn}+b_{mn} \\ \end{matrix} \right] \in \mathbb{R}^{m\times n} A+B:=⎣⎢⎡a11+b11⋮a1m+b1m⋯⋱⋯a1n+b1n⋮amn+bmn⎦⎥⎤∈Rm×n
**注:**相加的两个矩阵是维度相同的。
2.矩阵间乘法
矩阵A ∈ \in ∈R m × n ^{m\times n} m×n,B ∈ \in ∈ R n × k \mathbb{R}^{n\times k} Rn×k,则 C=AB ∈ R m × k \in \mathbb{R}^{m\times k} ∈Rm×k。其中 c i j c_{ij} cij是矩阵C中元素。
c i j c_{ij} cij= ∑ l = 1 n a i l b l j \displaystyle\sum^{n}_{l=1}{a_{il} b_{lj}} l=1∑nailblj i=1,…,m, j=1,…k
**注:**矩阵相乘必须左边矩阵的列和右边矩阵的行是相匹配的。
如,矩阵A ∈ \in ∈ R m × n \mathbb{R}^{m\times n} Rm×n,B ∈ \in ∈ R n × k \mathbb{R}^{n\times k} Rn×k,A的列和B的行是相同的,因此AB是正确的,但是BA是不正确的。
3. Hadamard 乘积
用于编程语言中数组相乘。
矩阵A ∈ \in ∈ R m × n \mathbb{R}^{m\times n} Rm×n,B ∈ \in ∈ R n × k \mathbb{R}^{n\times k} Rn×k,C=AB ∈ R m × k \in \mathbb{R}^{m\times k} ∈Rm×k
c i j c_{ij} cij= a i j a_{ij} aij b i j b_{ij} bij i=1,…,m, j=1,…n
4.单位矩阵
定义:在R n × n ^{n\times n} n×n中,对角线元素为1,其余元素为0的矩阵称为单位矩阵 I n _n n。
I n = [ 1 0 ⋯ 0 0 1 ⋯ 0 ⋮ ⋮ ⋱ ⋮ 0 0 ⋯ 1 ] ∈ R n × n I_n=\left[ \begin{matrix} 1 &0 & \cdots & 0 \\ 0 &1 & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 &0 & \cdots & 1 \\ \end{matrix} \right] \in R^{n\times n} In=⎣⎢⎢⎢⎡10⋮001⋮0⋯⋯⋱⋯00⋮1⎦⎥⎥⎥⎤∈Rn×n
**注:**单位矩阵为方阵,即行和列相同的矩阵。
5.矩阵间加法、乘法,以及单位矩阵的性质
(1)结合律
∀ \forall ∀A ∈ \in ∈ R m × n \mathbb{R}^{m\times n} Rm×n,B ∈ \in ∈ R n × p \mathbb{R}^{n\times p} Rn×p ,C ∈ \in ∈ R p × q \mathbb{R}^{p\times q} Rp×q : (AB)C=A(BC)
(2)分配率
∀ \forall ∀ A,B ∈ R m × n \in \mathbb{R}^{m\times n} ∈Rm×n,C,D ∈ R n × p \in \mathbb{R}^{n\times p} ∈Rn×p : (A+B)C=AC+BA
A(C+D)=AC+AD
(3)与单位矩阵相乘
∀ \forall ∀A ∈ \in ∈ R m × n \mathbb{R}^{m\times n} Rm×n : I m _m