凸优化中的数学基础知识（范数篇一）内积，欧式范数

#凸优化中的数学基础知识（范数篇一）
##内积，Euclid范数和夹角
定义在$n$维实向量集合$R^n$上的标准内积，对任意的$x,y\in R^n$
$$<x,y>=x^{T}y=\sum _1^n{x}_i{y}_i$$,
下面我们都将采用$x^{T}y$代替$<x,y>$.向量的Euclid范数，或者${\ell }_2$范数，定义为
$$\Vert x{\Vert }_2=(x^{T}x{)}^{1/2}=(x_1^2+...+x_n^2{)}^{1/2}$$
对于任意的$x,y\in R^n$,Cauchy-Schwartz不等式，是$|x^{T}y|\le \Vert x\Vert \Vert y\Vert$,两个非零向量$x,y\in R^n$之间（无符号）的夹角定义为
$$\angle (x,y)=arccos(\frac{x^{T}y}{\Vert x\Vert \Vert y\Vert })$$,
其中我们先取$arccos(u)\in [0,\pi ]$.$如果x^{T}y=0,我们称x和y正交$.
当$y=0$时，结论显然成立，当$y$不等于0时，对于$\forall \lambda \in \mathbb{R}$可知$$0\le ⟨x-\lambda y,x-\lambda y⟩$$$$=⟨x-\lambda y,x⟩-\lambda ⟨x-\lambda y,y⟩$$$$=⟨x,x⟩-\lambda ⟨x,y⟩-\lambda (⟨x,y⟩-⟨\lambda y,y⟩)$$$$=\Vert x{\Vert }^2-\lambda ⟨x,y⟩-\lambda (⟨x,y⟩-\lambda \Vert y{\Vert }^2)$$$$令\lambda =⟨x,y⟩\Vert y{\Vert }^{-2}$$,则后面括号内的一项为0，不等式化为：
$$0\le \Vert x{\Vert }^2-⟨x,y{⟩}^2\Vert y{\Vert }^{-2}$$
因此有$|⟨x,y⟩|\le \Vert x\Vert \Vert y\Vert$,这是实空间的推导，很容易推广到复空间，只需要在推导时取部分项取共轭。
定义在$m\times n$实矩阵集合$R^{m\times n}$上的标准内积为，对于$\forall X,Y\in R^{m\times n},$ $$⟨x,y⟩=tr(X^{T}Y)=\sum _{i=1}^n\sum _{j=1}^n{X}_{ij}{Y}_{ij}.$$ $此处tr表示矩阵的迹，即对角元素之和。我们用符号tr(X^{t}Y)代替⟨x,y⟩.两个矩阵的向量实际上就是将矩阵的元素按一定的顺序排列后所生成的R^{mn}中相应向量的内积。$
矩阵$X\in R^{m\times n}的Frobenius范数定义为$ $$\Vert X{\Vert }_F=(tr(X^{T}X{)}^{1/2}=(\sum _{i=1}^m\sum _{j=1}^n{X}_{ij}^2{)}^{1/2}$$ $Frobenius范数实际上就是将矩阵的稀疏按一定顺序排列后所生成的相应向量的Euclid范数$
下一节我们会介绍范数，距离以及单位球。