MATLAB norm函数

norm函数可计算几种不同类型的矩阵范数,根据p的不同可得到不同的范数。范数，是指设X是数域K上线性空间，称║˙║为X上的范数(norm)。

从一个线性空间到另一个线性空间的线性映射，可以用一个矩阵来表达，矩阵被看线性作映射，线性映射的性质可以通过研究矩阵的性质来获得，比如矩阵的秩反映了线性映射值域空间的维数，可逆矩阵反映了线性映射的可逆，而矩阵的范数又反映了线性映射的哪些方面的性质呢？矩阵范数反映了线性映射把一个向量映射为另一个向量，向量的“长度”缩放的比例。

范数是把一个事物映射到非负实数，且满足非负性、齐次性、三角不等式，符合以上定义的都可以称之为范数，所以，范数的具体形式有很多种（由内积定义可以导出范数，范数还也可以有其他定义，或其他方式导出），要理解矩阵的算子范数，首先要理解向量范数的内涵。矩阵的算子范数，是由向量范数导出的，由形式可以知：

由矩阵算子范数的定义形式可知，矩阵A把向量x映射成向量Ax，取其在向量x范数为1所构成的闭集下的向量Ax范数最大值作为矩阵A的范数，即矩阵对向量缩放的比例的上界，矩阵的算子范数是相容的。由几何意义可知，矩阵的算子范数必然大于等于矩阵谱半径（最大特征值的绝对值），矩阵算子范数对应一个取到向量Ax范数最大时的向量x方向，谱半径对应最大特征值下的特征向量的方向。而矩阵的奇异值分解SVD，分解成左右各一个酉阵，和拟对角矩阵，可以理解为对向量先作旋转、再缩放、最后再旋转，奇异值，就是缩放的比例，最大奇异值就是谱半径的推广，所以，矩阵算子范数大于等于矩阵的最大奇异值，酉阵在此算子范数的意义下，范数大于等于1。此外，不同的矩阵范数是等价的。

范数理论是矩阵分析的基础，度量向量之间的距离、求极限等都会用到范数，范数还在机器学习、模式识别领域有着广泛的应用。

范数百科：

范数：

矩阵范数是一个专业术语，用于一般来讲矩阵范数除了正定性，齐次性和三角不等式之外，还规定其必须满足相容性：║XY║≤║X║║Y║。所以矩阵范数通常也称为相容范数。

如果║·║α是相容范数，且任何满足║·║β≤║·║α的范数║·║β都不是相容范数，那么║·║α称为极小范数。对于n阶实方阵(或复方阵)全体上的任何一个范数║·║，总存在唯一的实数k>0，使得k║·║是极小范数。注：如果不考虑相容性，那么矩阵范数和向量范数就没有区别，因为mxn矩阵全体和mn维向量空间同构。引入相容性主要是为了保持矩阵作为线性算子的特征，这一点和算子范数的相容性一致，并且可以得到Mincowski定理以外的信息。诱导范数：

把矩阵看作线性算子，那么可以由向量范数诱导出矩阵范数║A║ = max{║Ax║:║x║=1}= max{║Ax║/║x║: x≠0} ，它自动满足对向量范数的相容性║Ax║ ≤ ║A║║x║，并且可以由此证明║AB║ ≤ ║A║║B║。注：1.上述定义中可以用max代替sup是因为有限维空间的单位闭球是紧的(有限开覆盖定理)，从而上面的连续函数可以取到最值。2.显然，单位矩阵的算子范数为1。常用的三种p-范数诱导出的矩阵范数是1-范数：║A║1 = max{ ∑|ai1|, ∑|ai2| ,…… ,∑|ain| } (列和范数，A每一列元素绝对值之和的最大值)(其中∑|ai1|第一列元素绝对值的和∑|ai1|=|a11|+|a21|+...+|an1|,其余类似)；2-范数：║A║2 = A的最大奇异值 = ( max{ λi(A^H*A) } ) ^{1/2} (谱范数,即A'A特征值λi中最大者λ1的平方根，其中A^H为A的转置共轭矩阵)；∞-范数：║A║∞ = max{ ∑|a1j|, ∑|a2j| ,..., ∑|amj| } (行和范数，A每一行元素绝对值之和的最大值)(其中为∑|a1j| 第一行元素绝对值的和，其余类似)；其它的p-范数则没有很简单的表达式。对于p-范数而言，可以证明║A║p=║A^H║q，其中p和q是共轭指标。简单的情形可以直接验证：║A║1=║A^H║∞，║A║2=║A^H║2，一般情形则需要利用║A║p=max{y^H*A*x：║x║p=║y║q=1}。

非诱导范数：

有些矩阵范数不可以由向量范数来诱导，比如常用的Frobenius范数(也叫Euclid范数，简称F-范数或者E-范数)：║A║F= ( ∑∑ aij^2 )^1/2 (A全部元素平方和的平方根)。容易验证F-范数是相容的，但当min{m,n}>1时F-范数不能由向量范数诱导(||E11+E22||F=2>1)。可以证明任一种矩阵范数总有与之相容的向量范数。例如定义║x║=║X║，其中X=&#91;x,x,…,x&#93;是由x作为列的矩阵。由于向量的F-范数就是2-范数，所以F-范数和向量的2-范数相容。另外还有以下结论：║AB║F <= ║A║F ║B║2 以及 ║AB║F <= ║A║2 ║B║F矩阵的谱半径和范数的关系定义：A是n阶方阵，λi是其特征值，i=1,2,…,n。则称特征值的绝对值的最大值为A的谱半径，记为ρ(A)。注意要将谱半径与谱范数(2-范数)区别开来，谱范数是指A的最大奇异值，即A^H*A最大特征值的算术平方根。谱半径是矩阵的函数，但不是矩阵范数。谱半径和范数的关系是以下几个结论：定理1：谱半径不大于矩阵范数，即ρ(A)≤║A║。因为任一特征对λ,x,Ax=λx，可得Ax=λx。两边取范数并利用相容性即得结果。定理2：对于任何方阵A以及任意正数e，存在一种矩阵范数使得║A║<ρ(A)+e。定理3(Gelfand定理)：ρ(A)=lim_{k->∞} ║A^k║^{1/k}。利用上述性质可以推出以下两个常用的推论：推论1：矩阵序列 I,A,A^2,…A^k,… 收敛于零的充要条件是ρ(A)<1。推论2：级数 I+A+A^2+... 收敛到(I-A)^{-1}的充要条件是ρ(A)<1。