特征值、特征根、秩、计算行列式、线性相关性、矩阵的相似、你可以想到有几种方法证明一个矩阵满秩、奇异值分解、线性相关与线性无关、什么叫矩阵的迹、正定是什么意思、什么是线性方程组有解/无解/有唯一解的条件、正交矩阵、MATLAB解线性方程组的原理、矩阵的微分、矩阵的幂运算、矩阵的导数
一. 行列式,秩,迹 ,正定矩阵
1、行列式
将矩阵映射为一个标量,矩阵每列代表一个边(平面),行列式表示多维空间各平面围成的体积。
2、秩
线性无关列的极大数目。本质:空间维度。
矩阵的秩就是矩阵中不等于0的子式的最高阶数。
行阶梯型矩阵的秩等于其非零行的行数。
(1)与向量组的关系:
矩阵的秩等于它列向量组的秩,也等于它行向量组的秩。
向量组的秩定义为向量组的极大线性无关组所含向量的个数。
(2)与向量空间的关系(几何意义):
任何矩阵的行空间的维数等于矩阵的列空间的维数等于矩阵的秩。
(3)与线性方程组解的关系:
设A是m×n矩阵,若R(A)=r<n,则齐次线性方程组Ax=0有基础解系,且每个基础解系都含n-r个解向量。
(4)与线性变换的关系:
所谓一个线性变换的秩,无非就是变换后,还能保持非零体积的几何形状的最大维度。
3、迹
矩阵主对角线。
4、正定矩阵
特征值都大于0的矩阵
5、半正定矩阵
特征值大于等于0的矩阵
二、线性相关与线性无关
1、向量组的线性组合
image.png
2、向量组的线性相关性
image.png
3、线性相关、无关与线性表示的关系
image.png
4、线性相关的几何意义
image.png
三、 向量范数,矩阵范数
1、向量范数
向量范数1.png
向量范数2.png
2、矩阵范数
矩阵范数
四、行空间,列空间,它们关系?
image.png
五、 线性方程组有解/无解/唯一解的条件?
1、无解:系数矩阵秩 < 增广矩阵的秩
2、唯一解:系数矩阵秩 = 增广矩阵的秩 = 列数 n
3、无穷解:系数矩阵秩 = 增广矩阵的秩 < 列数 n
六、线性方程组解的结构
1、齐次线性方程组解的结构
image.png
2、非齐次线性方程组
image.png
3、一些结论
(1)若(A|b)经初等行变换,变换为(B|d),则线性方程组Ax=b与Bx=d同解
(2)Ax=0有非零解⟺ R(A)<n,n为未知量的个数⟺ A的列向量组线性相关
(3)Ax=b有解⟺ R(A)=R(A˜). ⟺ b可由A的列向量组线性表示
(4)若R(A)=R(A˜)=r,则当r=n时,Ax=b有唯一解;当r<n时,Ax=b有无穷多个解
七、标准正交基,施密特变换
1、标准正交基
两量正交的向量,且长度为单位1
2、正交矩阵
矩阵的转置和矩阵的乘积=单位阵,那么这个矩阵就是正交矩阵,他的列向量组一定是标准正交向量组
3、施密特变换
求标准正交基的方法。把一个线性无关向量组改造成一个与其等价的正交向量组。
image.png
八、二次型与标准型
1、二次型定义
image.png
2、标准型定义
仅含平方项的二次型称为标准形式的二次型,简称标准型。
image.png
3、二次型的矩阵表示
image.png
4、二次型的秩
矩阵A的秩称为二次型f(x)的秩,二次型的矩阵一定是对称矩阵。
5、合同矩阵
image.png
6、化二次型为标准型
(1)正交变换法(最常用)
性质:正交变换保持向量的内积、范数、夹角不变。
image.png
image.png
(2)配方法
image.png
(3)初等变换法
image.png
九、相似矩阵
1、常规相似矩阵
image.png
2、实对称矩阵的相似矩阵
image.png
十、 Jordan标准型
image.png
十一、Pseudo Inverse伪逆矩阵
伪逆.jpg
十二、Normal Equation正规方程
1、介绍
一种优化方法,求导数的一种方法。【X * θ = Y 推导(左乘转置矩阵变成方阵之后求逆)】
image.png
image.png
image.png
image.png
2、梯度下降与正规方程的对比
image.png
image.png
3、矩阵不可逆时,如何求解θ矩阵
不可逆时有以下两种情况:
image.png
针对1:因为线性相关的向量(有一个是多余的),只需删除一个就好;
针对2:因为太多特征导致,所以需要删除一些特征,或者使用正则化的方法(regularization)
十三、SVD 奇异值分解
如何一个矩阵为方阵,我们可通过它的特征值和特征向量来表示这个矩阵:
image.png
SVD也是对矩阵进行分解,但是和特征分解不同,SVD并不要求要分解的矩阵为方阵。假设我们的矩阵A是一个m×n的矩阵,那么我们定义矩阵A的SVD为:
image.png
举个例子:对物体进行受力分析,各个方向上力合成最后的力。特征值分解就好比是对最终的力分解成各个方向上的力,特征向量表示力的方向,特征值表示各方向力的大小。
特征值分解针对方针,SVD可以对非方阵进行分解。
十四、参考