矩阵分析与应用1-矩阵代数基础

lijil168

已于 2024-07-13 12:47:37 修改

阅读量585

点赞数 3

分类专栏：数学文章标签：矩阵数学建模线性代数

于 2024-07-06 23:05:03 首次发布

本文链接：https://blog.csdn.net/lijil168/article/details/140237082

版权

数学专栏收录该内容

120 篇文章 19 订阅

订阅专栏

矩阵分析与应用1-矩阵代数基础

1 矩阵的基本运算
2 矩阵的初等变换
3 向量空间、线性映射与Hilbert空间
4 内积与范数
5 随机向量
6 矩阵的性能指标
7 逆矩阵与伪逆矩阵
8 Moore-Penrose逆矩阵
9 矩阵的直和与Hadamard积
10 Kronecker积与Khatri-Rao积
11 向量化与矩阵化
12 稀疏表示与压缩感知

1 矩阵的基本运算

物理问题的数学化，数学结果的物理化：从物理问题的数学建模出发，引出矩阵问题，对得到的矩阵分析结果尽可能给予物理解释，赋予物理含义。即物理问题->数学抽象->数学演算->形象解释。
向量是矩阵的特例，标量是向量的特例，所以，满足矩阵运算的法则必然满足数量的运算。
对矩阵的函数运算，可以化为幂级数的运算形式，其幂级数的运算形式和标量函数的幂级数的运算形式完全一样。
在这里插入图片描述

2 矩阵的初等变换

矩阵的初等行变换：行互换；行乘数；行乘数叠加
行等价矩阵：A经初等行变换得到B
等价关系的性质：
(i)　反身性　A~A;
(ii)　对称性　若A~B;则 B~A;
(iii) 传递性　若A~B, B~C, 则A~C;
经初等行变换将矩阵化为行阶梯型矩阵、最简型矩阵和标准形矩阵：：
在这里插入图片描述
行初等变换得到B1、B2

B1是行阶梯形矩阵，其特点是：阶梯线下方的数全为0；每个台阶只有一行，台阶数即是非零的行数，阶梯线的竖线(每段竖线的均为一行)后面的第一个元素为非零元，也就是非零行的首非零元，称为该行的首项元素，首项元素为1则称为改行的首1元素。
B2是行最简型矩阵，其特点是：非零行的首非零元为1，且这些非零元所在的列的其它元素都为0。
对行最简形矩阵再施以初等列变换，得标准型矩阵：
在这里插入图片描述

3 向量空间、线性映射与Hilbert空间

数学对象的定义建立在其算法的定义的基础之上，算法的定义应保证逻辑完备、没有矛盾。

3.1 集合的基本概念

在这里插入图片描述

X x Y={(x,y)| x属于X，y属于Y}
（x,y）为有序对，X x Y为有序对的集合----X和Y的笛卡尔积

3.2 向量空间

在这里插入图片描述

定理2 Rⁿ的子集合W是Rⁿ的子空间，当且仅当以下三个条件满足:

(1)每当向量x, y属于W，则a +y 也属于W,即满足加法的闭合性:

(2)每当向量x属于W，且 a为标量时，则ax属于W，即满足与标量乘积的闭合性。

(3)零向量0是W的元素。

3.3 线性映射

在这里插入图片描述
定理线性空间与线性映射的关系

3.4 内积空间、赋范空间与Hilbert空间

3.4.1 内积与内积向量空间的定义

若对所有x,y,z∈ V和α、β ∈K，映射函数<,>:V x V →K满足以下三条公理：
（1）共轭对称性 <x,y>=<y,x>_*
（2）第一变元的线性性 <α x+β y,z >=α< x,z >+β< y,z >
(3)非负性 <x,x> ≥0，并且<x,x> =0 <=> x=0 (严格正性）
则称<x,y>为向量 x与y的内积，V为内积向量空间。
两个向量的内积可以度量他们之间的夹角 cos θ =<x,y>/ ( √<x,x> √<y,y> )
如前所述，数学对象的定义建立在其算法的定义的基础之上，向量空间具有向量的加法、标量与向量的乘法；内积向量空间更进一步，还具有两个向量的乘法（内积），可以度量两个向量之间的夹角；如果还能够增加关于向量的长度、距离和邻域等测度的话，那么向量空间无疑将更加实用和完美，而向量的范数能够担负这一重任。
？？？显然，数学研究的核心是算法的研究，失去了算法，数学研究就失去了方向和意义。

3.4.2 范数与赋范向量空间的定义

3.4.2.1 范数的定义

范数，Norm,是具有“长度“概念的函数，由实或复域映射到实域。在线性代数、泛函分析及相关的数学领域，范数是一个函数，满足非负性，齐次性，三角不等式的关系就称作范数。在这里插入图片描述
？？上式1为非负性，上式2的c可以为实数或者复数

3.4.2.2 赋范向量空间的定义

满足范数运算的向量空间称为赋范向量空间。

3.4.3 欧几里得（Euclidean）空间的定义

满足欧几里得范数（L2范数）运算的赋范向量空间。

3.4.4巴拿赫(Banach)空间的定义

完备的赋范向量空间称为巴拿赫空间，即任何Cauchy序列在这个空间中都收敛到该空间中的一个元素。
柯西序列（cauchy sequence）的定义：
在这里插入图片描述

上文引用CSDN 五道口纳什的博文《柯西序列与完备空间》

3.4.5希尔伯特(Hilbert)空间的定义

相对于范数完备（即柯西系列的范数收敛于空间元素的范数）的赋值向量空间。
希尔伯特空间是巴拿赫空间，但巴拿赫空间不一定是希尔伯特空间，因为当柯西系列的范数收敛到空间元素的范数时，柯西系列必收敛于空间的元素，反之不然。

4 内积与范数

4.1 向量的内积与范数

4.1.1 向量的内积

<x,y>=x^Hy

4.1.2 函数的内积

<x(t),y(t)>=∫_a^b x^*(t)y(t)dt

4.1.3 向量范数

常用的向量范数如下：
L0范数（也称0范数）||v||₀=非零元素的个数
L0范数不满足范数公理中的齐次性，它只是一种虚拟的范数，因为||cv||₀=||v||₀≠|c| ||v||₀
在这里插入图片描述
L2范数常称欧几里得范数，是应用最为广泛的向量范数定义，一般未注明范数均为L2范数。

4.1.4 函数向量的内积与范数

<x(t),y(t)>=∫_a^b x^H(t)y(t)dt
||x(t)||=( ∫_a^b x^H(t)x(t)dt )^1/2

4.1.5 随机向量的内积与范数

<x(ξ ),y(ξ )>=E{x^H(ξ )y(ξ )}
随机向量范数的平方定义为：
||x(ξ )||²=E{x^H(ξ )x(ξ )}
与常数向量和函数向量的情况不同，mx1随机向量x(ξ )和nx1随机向量y(ξ )称为正交，若x(ξ )的任意元素与y(ξ )的任意元素正交，这意味着，两个向量的互相关矩阵为零矩阵，即E{x(ξ )y^H(ξ )}=O_mxn【外积的数学期望为O矩阵】

4.1.6 正交的含义总结

1、数学定义：对常数向量和函数向量，向量正交意味着它们的内积=0；对随机向量，向量正交意味着它们的外积的数学期望等于0矩阵。
2、几何解释：若两个向量正交，则它们之间的夹角为90^o,而且一个向量到另一个向量的投影为0。
3、物理意义：当两个向量正交时，一个向量将不含另一个向量的任何成分，即这两个向量之间不存在任何相互作用或干扰。