矩阵论
文章平均质量分 95
本专栏旨在梳理西工大《矩阵论》部分章节重要内容。
SL_World
中国科学院大学计算机应用技术专业在读研究生
展开
-
机器学习常用矩阵求导方法
本文主要对在机器学习中常用矩阵求导方法做以总结,以实用为主。同时感谢大佬@刘建平Pinard的博文,浅显易懂,更加全面的资料请见底部参考文献。一、标量向量矩阵求导case向量可以看做一组标量的排列集合,因此向量的求导可视为对向量中的标量逐个求导,这是向量求导的主要思路。而矩阵的求导方式在此基础上继续衍生。此处,用xxx表示标量,x\textbf{x}x表示向量,XXX表示矩阵。根据标量、...原创 2020-02-11 00:24:08 · 1320 阅读 · 0 评论 -
【矩阵论】广义逆矩阵与线性方程组求解思维导图
前言:为什么需要广义逆矩阵?我们在书中所学的逆矩阵A−1A^{-1}A−1必须是非奇异矩阵才行,但现实生活中有大量矩阵不一定是方阵,而就算是方阵也可能是奇异的(detA=0)(\det A=0)(detA=0)。因此,为了解决更宽泛的矩阵问题,我们需要将逆矩阵的概念推广到奇异矩阵中,使得奇异矩阵也具有逆矩阵的主要性质,并且在非奇异的时候可以还原到通常的逆矩阵中。文章目录前言:为什么需要广义逆矩阵?一、广义逆矩阵的概念与性质二、广义逆矩阵与线性方程组的求解参考文献一、广义逆矩阵的概念与性质二、广义原创 2020-06-07 14:28:31 · 2472 阅读 · 0 评论 -
【矩阵论】对称矩阵特征值的性质与直积
前言在许多实际问题中,所产生的矩阵往往都是对称矩阵,比如我们耳熟能详的实对称矩阵也是重要的研究对象。以下就从实对称矩阵的角度出发,利用特征值的极小极大原理,从普通特征值问题Ax=λxAx=\lambda xAx=λx衍生到广义特征值问题Ax=λBxAx=\lambda BxAx=λBx逐步讨论其特征值的性质。【广义特征值问题】设A=(aij)∈Rn×nA=(a_{ij})\in \mathbb{R}^{n\timesn}A=(aij)∈Rn×n是nnn阶实对称矩阵,B=(bij)∈Rn×nB=(b原创 2020-06-06 16:45:23 · 6610 阅读 · 0 评论 -
【矩阵论】广义特征值问题
前言:什么是广义特征值问题?【广义特征值问题】设A=(aij)∈Rn×nA=(a_{ij})\in \mathbb{R}^{n\timesn}A=(aij)∈Rn×n是nnn阶实对称矩阵,B=(bij)∈Rn×nB=(b_{ij})\in \mathbb{R}^{n\timesn}B=(bij)∈Rn×n是nnn阶实对称正定矩阵,使下式 Ax=λBx \mathbf{Ax=\lambda Bx} Ax=λBx 有非零解向量x∈Rnx\in\mathbb{R}^{n}x∈Rn,则称λ\lambd原创 2020-06-05 13:47:31 · 17191 阅读 · 0 评论 -
【矩阵论】特征值的估计(上下界和盖尔圆)
前言:为什么不直接求特征值而是去估计特征值?当我们遇到的不是书本上的3阶或4阶矩阵,而是高阶矩阵时(如图像中的256×256),我们再使用特征方程det(λI−A)=0\det(\lambda I -A)=0det(λI−A)=0来求特征值就非常困难。我们难以求解也没有必要逐一计算每一个精确的特征值。因此,在实际工程计算上,面对高阶矩阵,我们常常通过计算特征值的范围来估计特征值,这个范围越小,所估计的特征值就越精确。以下,本文就特征值估计常用方法做以梳理,完整定理证明请参考西工大的《矩阵论》[1]。思原创 2020-06-04 22:38:43 · 10643 阅读 · 3 评论