范数 norm（未完待续）

对于一个 $n$ 维向量，其范数$||x||$ 满足：

1. $||x||\ge 0$, iff $x=0$ 时， $||x||=0$ （非负性）
2. $||x+y||\le ||x||+||y||$（三角不等式）
3. $||\alpha x||=|\alpha |||x||$（齐次性）

下面是向量 $p$ 范数的定义：

$||x|{|}_p=({\sum }_{i=1}^n|x_i{|}^p{)}^{1/p}$，其中 $1\le p<\infty$

常用向量范数：

1. $||x|{|}_1=|x_1|+|x_2|+\dots |x_n|$
2. $||x|{|}_2=\sqrt{|x_1{|}^2+|x_2{|}^2+\dots |x_n{|}^2}$
3. $||x|{|}_{\infty }=\underset{i}{\max }|x_i|$

三者之间有如下关系
$$\begin{array}{c}\begin{array}{rl}& ||x|{|}_1\ge ||x|{|}_2\ge ||x|{|}_{\infty }\\ & \Vert x{\Vert }_2\le \Vert x{\Vert }_1\le \sqrt{n}\Vert x{\Vert }_2\\ & \Vert x{\Vert }_{\infty }⩽\Vert x{\Vert }_2⩽\sqrt{n}\Vert x{\Vert }_{\infty }\\ & \Vert x{\Vert }_{\infty }⩽\Vert x{\Vert }_1⩽n\Vert x{\Vert }_{\infty }\end{array}\end{array}$$

证明：分别对三种范数平方易得。

注：对任意两种范数（$p,q$），存在$c_1>0,c_2>0$, 使得下式成立：
$c_1\Vert \cdot {\Vert }_p\le \Vert \cdot {\Vert }_q\le c_2\Vert \cdot {\Vert }_p$
称为范数的相容性.

矩阵 $A\in R^{m\times n}$ 的 $p$ 范数（由向量诱导的算子范数）：

$||A|{|}_p=\underset{x\ne 0}{\sup }\frac{||Ax|{|}_p}{||x|{|}_p}=\underset{||x|{|}_p=1}{\max }||Ax|{|}_p$

常用矩阵范数：

1. $||A|{|}_1=\underset{j}{\max }\sum _{i=1}^m|a_{ij}|$，(最大列和)
2. $||A|{|}_2=\sqrt{{\lambda }_{\max }(A^{T}A)}=\sqrt{{\lambda }_{\max }(A{A}^T)}$ ( $A$ 的最大奇异值，当 $A$ 为对称正定矩阵时就等于 $A$ 的最大特征值)
3. $||A|{|}_{\infty }=\underset{i}{\max }\sum _{j=1}^m|a_{ij}|$，(最大行和)

性质：$||AB|{|}_p\le ||A|{|}_p||B|{|}_p$

注：向量也是特殊的矩阵，所以当矩阵退化为 $n$ 维向量时，向量范数和矩阵范数等价

问：如果按照矩阵的算子范数，行向量和列向量的范数相同吗？

谱半径（A的最大特征值的模）不大于A的任意范数
由$Ax=\lambda x$两边取范数得

补充《控制论中的矩阵计算》——徐树方 相关知识