范数
定义:是一个描述线性空间的度量,可以理解为二维空间的长度。
如||x1-x2||表示向量x1,x2之间的距离。
*Frobenius范数:机器学习常用范数。 即:矩阵所有元素先取平方和,再开平方。
特征分解
特征值:满足公式: ,其中 λ 为特征值,x为A的对应于λ的特征向量。
特征分解:公式: ,其中,P是A所有特征向量展开组成的矩阵。
原理:AP=P×diag(...λi...),展开可得。
正交分解
正交矩阵:,即: