UA MATH567 高维统计III 随机矩阵6 亚高斯矩阵的范数

在前五讲的理论基础上，我们现在开始正式讨论随机矩阵。假设$A$是一个$m\times n$的随机矩阵，它的元素$A_{ij}$是互相独立的零均值的亚高斯随机变量，关于它的范数有下面的结论

随机矩阵的范数 $K={\max }_{i,j}{\Vert A_{ij}\Vert }_{{\psi }_2}$, $\forall t>0$
$$P(\Vert A\Vert \lesssim K(\sqrt{m}+\sqrt{n}+t))\ge 1-2e^{-t^2}$$

这个结果说明矩阵$A$的范数的尾部概率也具有亚高斯性。如果$A$是$n\times n$的对称阵，则
$$P(\Vert A\Vert \lesssim K(\sqrt{n}+t))\ge 1-4e^{-t^2}$$

证明

第一步，我们先考虑一下算子范数，
$$\begin{gathered} \Vert A\Vert =\underset{x\in S^{n-1} \\ y\in S^{m-1}}{\max }⟨Ax,y⟩ \end{gathered}$$

存在$x\in S^{n-1},y\in S^{m-1}$使得$\Vert A\Vert =⟨Ax,y⟩$，假设$\mathcal{N}$是$S^{n-1}$的一个$ϵ$-net（根据第四讲的讨论，我们总是可以用一个球框住这样的集网，因此不失一般性，我们可以构造cardinality满足$|\mathcal{N}|<9^n,|\mathcal{M}|<9^m$的集网），$\mathcal{M}$是 S m