矩阵运算
三更灯火五更鸡
这个作者很懒,什么都没留下…
展开
-
Jacobi方法求实对称矩阵的特征值和特征向量
%本函数采用Jacobi方法计算实对称矩阵的所有特征值和对应特征向量%返回值D为特征值对角阵,V为对应特征向量构成的正交方阵%即有V'*A*V=D,V'*V=I%采用查找绝对值最大的非对角元素方法function [D,V]=Jaco(A) tic; %检验输入是否合法 b=size(A); if b(1)~=b(2) %行列不等转载 2016-09-09 00:06:59 · 4553 阅读 · 0 评论 -
矩阵求导公式
今天推导公式,发现居然有对矩阵的求导,狂汗--完全不会。不过还好网上有人总结了。吼吼,赶紧搬过来收藏备份。基本公式:Y = A * X --> DY/DX = A'Y = X * A --> DY/DX = AY = A' * X * B --> DY/DX = A * B'Y = A' * X' * B --> DY/DX = B * A'1. 矩阵Y对标量x转载 2016-07-04 00:08:16 · 3935 阅读 · 0 评论 -
线性代数学习笔记(七)
逆矩阵:A-1=CT/det A证明分两步:对角线元素是由行列式公式所得,故为det A非对角线元素可以看做是求一个两行相同的矩阵的行列式,例如:(7)中右侧(2,1)这个元素,可以看做将A的第二行copy覆盖第一行得到新A,再求新A的行列式的值。由于有两行元素相同,因此其行列式只能为0与高斯消元法相比,公式法的优缺点:缺点:计算量大,不适合计算机运算优点:可以较为转载 2016-09-13 09:07:43 · 501 阅读 · 0 评论 -
矩阵、向量求导法则
复杂矩阵问题求导方法:可以从小到大,从scalar到vector再到matrix。 x is a column vector, A is a matrixd(A∗x)/dx=Ad(A∗x)/dx=A d(xT∗A)/dxT=Ad(xT∗A)/dxT=A d(xT∗A)/dx=ATd(xT∗A)/dx=AT转载 2016-09-13 09:08:31 · 395 阅读 · 0 评论 -
线性代数学习笔记(六)
行列式只有正方形的矩阵有行列式!行列式的应用概括来有三:用一种完全不如高斯消元法的办法(叫做Cramer's Rules),来解线性方程组(而且还只能用在n*n矩阵上- -!)有向面积或体积的概念在一般的欧几里得空间中的推广(好像很神奇)求特征值(这个很有用)行列式的性质性质1,2,3是basic properties,用这三条性质可以计算任意一个矩阵的行列式|A|转载 2016-09-13 09:09:22 · 840 阅读 · 0 评论 -
线性代数学习笔记(五)
最小二乘法当Ax=b没有解时,左右同时乘以AT,解ATAx^=ATbATAx^=ATb得到原式的近似解x^x^。乘上AT源自投影矩阵求x的变形:AT(b-Ax)=0,目的是为了得到p=Ax^p=Ax^,使p足够接近原式中的b,ATAx^=ATbATAx^=ATb这个式子本身似乎没什么几何意义。通过偏导数可以证明x^x^最小化了sum of squares of the erro转载 2016-09-13 09:10:07 · 706 阅读 · 0 评论 -
线性代数学习笔记(四)
四个子空间的正交性矩阵A的四个子空间是:row space, column space, nullspace and left nullspace,其中:row space and nullspace are orthogonal complementscolumn space and left nullspace are also orthogonal complements转载 2016-09-13 09:10:50 · 6427 阅读 · 0 评论 -
线性代数学习笔记(三)
A的列空间:column space设Ax=b,以column picture视角看,每一个x,都是A的列的一种线性组合,每种组合均构成一个b。取遍x 得到的所有的b 构成了A的column spaceA的零空间:nullspace设Ax=0,所有的解x 构成的空间,就是A的nullspace. 如果A可逆,那么A的nullspace只包含零向量;否则A的nulls转载 2016-09-13 09:11:38 · 11862 阅读 · 0 评论 -
线性代数学习笔记(二)
高斯消元法 解 线性方程对于Ax=b:12345for i := 1 to n-1: for j := i+1 to n: if a(i,j)==0: substitute row j with some row below转载 2016-09-13 09:12:21 · 721 阅读 · 0 评论 -
线性代数学习笔记(八)
特征值 与 特征向量只有正方形矩阵才有特征值与特征向量!某个矩阵的特征值与特征向量!(脱离矩阵的特征值与特征向量无意义)Ax=b,这个过程可以看做一个输入为向量x,输出为向量b的函数。对于一些特殊的输入x,有b=λx(λ可正,可负,可为0,可为复数),这些特殊的x就是A的特征向量,对应的λ就是A的特征值。如何解 特征值 与 特征向量 ?解(A-λI)x=0,x不能为转载 2016-09-13 01:45:46 · 1314 阅读 · 0 评论 -
线性代数学习笔记(九)
说在前面:这一章真的比较复杂,前前后后花了一天才理清楚,对应的视频是第23节,貌似网易公开课这集的评论普遍也是比较难。微分方程一阶微分方程一句话总结:我已经给出公式u(t)=C1eλ1tx1+C2eλ2tx2u(t)=C1eλ1tx1+C2eλ2tx2 ,你们往里面带特征值λ和特征向量x就行了!这章用线代方法找微分方程(组)du/dt=Audu/dt=Au 的“通解转载 2016-09-13 01:45:06 · 644 阅读 · 0 评论 -
矩阵的特征值和特征向量的雅克比算法C/C++实现
矩阵的特征值和特征向量是线性代数以及矩阵论中非常重要的一个概念。在遥感领域也是经常用到,比如多光谱以及高光谱图像的主成分分析要求解波段间协方差矩阵或者相关系数矩阵的特征值和特征向量。根据普通线性代数中的概念,特征值和特征向量可以用传统的方法求得,但是实际项目中一般都是用数值分析的方法来计算,这里介绍一下雅可比迭代法求解特征值和特征向量。雅克比方法用于求实对称阵的全部特征值、特征向量转载 2016-09-09 00:10:42 · 5935 阅读 · 0 评论 -
Jacobi迭代法 Gauss-Seidel迭代法
按照算法(Jacobi迭代法)编写Matlab程序(Jacobi.m)function [x, k, index]=Jacobi(A, b, ep, it_max)% 求解线性方程组的Jacobi迭代法,其中% A --- 方程组的系数矩阵% b --- 方程组的右端项% ep --- 精度要求。省缺为1e-5% it_max ---转载 2016-09-09 00:17:34 · 2352 阅读 · 1 评论 -
强大的矩阵奇异值分解(SVD)及其应用
版权声明: 本文由LeftNotEasy发布于http://leftnoteasy.cnblogs.com, 本文可以被全部的转载或者部分使用,但请注明出处,如果有问题,请联系wheeleast@gmail.com前言: 上一次写了关于PCA与LDA的文章,PCA的实现一般有两种,一种是用特征值分解去实现的,一种是用奇异值分解去实现的。在上篇文章中便是基于特征值转载 2016-09-09 00:19:15 · 398 阅读 · 0 评论 -
线性代数学习笔记(十四)
相似矩阵定义特征值的一个重要应用是,他能将A进行对角化,得到:Λ=S−1ASΛ=S−1AS(假如存在S逆的话)。如果我们将S替换为一般的矩阵M(存在逆矩阵),得到:B=M−1AMB=M−1AM,我们说B与A相似(当然A与B也相似,相似是相互的)。当然,A与Λ是相似的。相似矩阵的特征值相同为什么要讨论相似矩阵?因为我们要带出一个重要结论:相似矩阵的特征值相同(但特征向转载 2016-09-13 01:40:43 · 2034 阅读 · 0 评论 -
线性代数学习笔记(十三)
根据Strang的意思,正定矩阵将以下四者联系在一起,完成了大一统。主元pivots,行列式determinants,特征值eigenvalues,不稳定性instability正定矩阵(Positive Definite Matrices)两个条件构成正定矩阵:对称矩阵特征值都大于0PS. 对称矩阵+特征值都小于0=负定矩阵,对称矩阵+特征值大于等于0=半转载 2016-09-13 01:41:45 · 756 阅读 · 0 评论 -
线性代数学习笔记(十二)
即使是实数矩阵,其特征值也可能为复数。所以我们也需要考虑矩阵元素为复数的情况。复数以下各小节可概括为一句话:将复数向量/矩阵转置时,记得同时对其取共轭!向量的模长平方假如向量z=[z1 z2 ... zn]T, 每个分量都可能是复数,那么∥z∥2∥z∥2 就不再是zTz,而是z¯Tzz¯Tz。“共轭再转置”有个简化标记:z¯T=zHz¯T=zH,H表示Her转载 2016-09-13 01:42:35 · 854 阅读 · 0 评论 -
线性代数学习笔记(十一)
这一节讨论实数领域的对称矩阵(一般情况下,实对称矩阵简称对称矩阵)。Strang说:It is no exaggeration to say that these are the most important matrices the world will ever see-in the theory of linear algebra and also in the applications转载 2016-09-13 01:43:24 · 527 阅读 · 0 评论 -
线性代数学习笔记(十)
这一节讲两个相互独立的知识点,一个是马尔科夫矩阵,在概率分布上很有用处;一个是傅里叶级数的表示,将线代从有限维度拓展到函数空间中。何为steady statesteady state是指(当参数或者幂次)趋于无穷时,方程趋于某个稳定的解。注意,在nxn方阵A有n个独立的特征向量的前提下:微分方程的通解是u(t)=eAtu(0)=SeΛtS-1u(0),变化的只有eΛt,所以转载 2016-09-13 01:44:21 · 785 阅读 · 0 评论 -
线性代数学习笔记(一)
矩阵乘向量 的 两种几何解释row picture以3X3矩阵为例,可理解为:矩阵A的每一行与向量相乘,分别得到一个平面(如:a11x1+a12x2+a13x3=b1a11x1+a12x2+a13x3=b1),方程的解是三个平面的交点。Ax=⎡⎣⎢a11a21a31a12a22a32a13a23a33⎤⎦⎥⎡⎣⎢x1x2x3⎤⎦⎥=⎡⎣⎢a11x1+a12x2+a13x3a转载 2016-09-13 09:13:06 · 1897 阅读 · 0 评论