第二章:
目标:学习向量范数、矩阵范数、算子范数的概念、性质与计算
一、向量范数
向量范数
判定条件:正定性、齐次性、三角不等式(两边之和大于第三边)
性 质:0范数为0;三角不等式(两边之差小于第三边)
Holder范数,也即P范数(P>=1)。P范数包括向量1范数、向量2范数、向量无穷范数
Holder不等式:
不同范数的等价性(夹逼定理)。Vn(P)上的任意两个向量范数均等价。
向量范数推广到连续,向量范数的收敛性。
二、矩阵范数
矩阵范数判定条件:正定性、齐次性、三角不等式(两边之和大于第三边),则称映射为p(m*n)上的矩阵范数。
矩阵1范数、矩阵2范数(F范数)、矩阵无穷范数公式。
不同范数满足公式则互相容,同一种范数满足公式则自相容。
证明矩阵1范数、矩阵2范数(F范数),G范数,a范数是相容的,通过柯西不等式,放大法(因子放大提取,乘积放大提取,整列放大提取等),围绕着目标不等式进行放大。
证明矩阵无穷不是自相容的。
矩阵2范数(F范数)的重要性质:
1)酉不变性 2)2范数与迹tr(A^h*A)的关系 3)矩阵2范数与列向量的求和关系
三、算子范数
通过该公式证明矩阵1范数、矩阵2范数(F范数)分别与向量1范数、向量2范数相容。
算子范数定义公式:
该定理本质上是通过向量范数推出矩阵范数,因此定理的证明是利用向量范数的判决条件来证明的。
性质:算子范数本质上是矩阵范数,只不过是最小的(自相容)矩阵范数。算子范数之间是自相容的。
对于给定的(自相容)矩阵范数,通过上述公式,找出对应的向量范数。通过矩阵范数来表征向量范数,因此,证明该向量范数的存在仍通过矩阵范数的判决来证。
和算子范数定义证明刚好相反。
性质:矩阵A的特征值小于相容的矩阵范数。(在特征值估计时经常用到)。
计算:
1)算子1范数公式,被称为极大列和范数。
2)算子无穷范数公式,被称为极大行和范数。
二者证明采用夹逼法则。
3)算子2范数(谱范数)
矩阵最大特征值的绝对值是矩阵A的谱半径。算子2范数是r(A^h*A)的开根号。
A的正奇异值是(A^h*A)的特征值的模。
性质:
1. 矩阵A的H、T、共轭的算子2范数都相同(因为A*A^h和A^h*A特征值相同)
2. 算子2范数与谱半径的关系
3. 算子2范数的酉不变性。
4. 算子2范数的约束极值问题、和其它2范数的关系,如下图。