线性代数
nineheaded_bird
这个作者很懒,什么都没留下…
展开
-
【线性代数】线性方程组的求解
上一篇文章讲述了Ax=0的解和矩阵A的零空间,这里我们讨论Ax=b的解以及矩阵A的列空间。Ax=0是肯定有解的,因为总存在x为全零向量,使得方程组成立。而Ax=b是不一定有解的,我们需要高斯消元来确定。我们还是利用上一篇讲述了Ax=0的解的矩阵A来举例说明:我们可以得到上述方程组的增广矩阵(等式右侧不是全零向量,消元时值会改变,所以需要用增广矩阵)如下:然后我们进行原创 2014-11-08 15:16:22 · 41103 阅读 · 1 评论 -
【线性代数】最小二乘与投影矩阵
前一篇文章《正交投影》中我们讲述了正交投影,现在我们来从正交投影的角度来看看我们熟悉的最小二乘法。我记得最早知道最小二乘法是在大一上高数课的时候,我们首先回顾一下什么是最小二乘法。1、最小二乘法 最近机器学习比较火,机器学习中的许多算法都是对信息进行分类,比如说支持向量机就是根据已知信息来分类,神经网络可以找到输入输出的关系(当然,不能给出具体的数学表达式),这两种算法都能找原创 2014-12-05 12:31:22 · 9035 阅读 · 0 评论 -
【线性代数】正交向量与正交子空间
在前面文章《矩阵的四个基本子空间》中提到: 一个秩为r,m*n的矩阵A中,其行空间和列空间的维数为r,零空间和左零空间的维数分别为n-r,m-r,并且有行空间与零空间正交,列空间与左零空间正交。 “掌握上面的这个结论就掌握了线性代数的半壁江山!”,MIT教授如是说。那么什么是正交子空间呢?我们首先从我们熟悉的正交向量说起。1、正交向量 我们都知...原创 2014-11-16 11:51:14 · 17111 阅读 · 2 评论 -
【线性代数】正交投影
我们在初中就应该学过投影,那么什么是投影呢?形象点说,就是将你需要投影的东西上的每一点向你要投影的平面作垂线,垂线与平面的交点的集合就是你的投影。注意这里我们的投影是向量的投影,几何的投影(并不一定是垂直投影的)可见度娘百科。同样的,我们从简单的二维投影来开始讨论。 1、二维投影上图表示的是,向量b在向量a上的投影。显然有如下表达式:其中,P为投影矩阵,由P的表原创 2014-11-16 18:07:28 · 43169 阅读 · 12 评论 -
【线性代数】图与网络
前面的关于线性代数的文章都是从数学的角度来讲解的,本文将换个角度来讲解问题。导师时常告诉我,凡事都要想想它的物理或实际意义,需要透过现象看本质,这样就能更加深刻的理解,这样就可以看看线性代数有什么实际的用途。 假设有如下电路网络:原创 2014-11-13 15:56:03 · 3483 阅读 · 0 评论 -
【线性代数】矩阵的乘法与求逆
一、矩阵乘法的五种表示方法 1、一般形式2、矩阵与列向量相乘3、矩阵与行向量相乘4、矩阵分块相乘二、矩阵的逆对于方阵,左逆=右逆原矩阵乘以其逆矩阵得到单位矩阵 判断是否可逆的几种方法:1、行列式为02、单原创 2014-09-17 10:51:05 · 16787 阅读 · 0 评论 -
【线性代数】向量空间
1、对称矩阵 假设有一矩阵A,其中Aij=Aji,则称这个矩阵为对称矩阵。对称矩阵有如下性质:也就是说:1、一个对称矩阵的转置和其逆是相等的;2、一个对称矩阵可以由一个矩阵和其转置矩阵相乘得到。2、向量空间 向量空间即空间中向量的四则运算得到的向量人在空间中。 1、二维情况下,其子空间有原创 2014-10-04 19:54:38 · 3168 阅读 · 1 评论 -
【线性代数】方程组的几何解释
一、二维情况1、给出如下的二元一次方程组:原创 2014-09-10 20:27:05 · 5357 阅读 · 0 评论 -
【线性代数】矩阵消元-高斯消元法
一、高斯消元法 能使用消元法的情况:每次消元过程中,对角线元素始终不能为0,即矩阵可逆 我们一般利用高斯消元法进行矩阵的消元。下面我们通过举例说明:如果按照我们初中所学的解法,一般是先用第三个方程将z用y表示,然后代入到第二个方程就可以用x来表示y和z,最后代入第一个方程就可以求得x,y,z。这个算法的核心就是消元!下面我们看看矩阵形式的消原创 2014-09-12 15:33:00 · 26863 阅读 · 0 评论 -
【线性代数】矩阵的零空间
矩阵A的零空间就Ax=0的解的集合。零空间的求法:对矩阵A进行消元求得主变量和自由变量;给自由变量赋值得到特解;对特解进行线性组合得到零空间。假设矩阵如下:对矩阵A进行高斯消元得到上三角矩阵U,继续化简得到最简矩阵R:由于方程Ax=0的右侧是零向量,所以只对矩阵A进行消元不会影响解,因此不需要增广矩阵,所以有:从上面的高斯消元的结果可以看出,矩阵原创 2014-10-13 09:07:08 · 50695 阅读 · 6 评论 -
【线性代数】矩阵的四个基本子空间
矩阵的四个基本子空间1、零空间 矩阵A的零空间就Ax=0的解的集合。假设矩阵的秩为r,矩阵为m*n的矩阵,则零空间的维数为n-r。因为秩为r,则自由变量的个数为n-r,有几个自由变量,零空间就可以表示层几个特解的线性组合,也即是零空间的维数为自由变量的个数。2、列空间 矩阵A的列空间就是矩阵A中各列的线性组合。假设矩阵的秩为r,矩阵为m*原创 2014-11-10 11:11:24 · 26207 阅读 · 4 评论 -
【线性代数】线性相关性、基和维数
一、线性相关性 什么情况下,向量X1,X2,……,Xn是线性无关的? 答:当向量X1,X2,……,Xn的线性组合(线性组合时系数不能全为0)不为零向量时,它们是线性无关的。即方程原创 2014-11-09 14:29:25 · 5400 阅读 · 0 评论 -
【线性代数】标准正交矩阵与Gram-Schmidt正交化
1、标准正交矩阵 假设矩阵Q有列向量q1,q2,...,qn表示,且其列向量满足下式:则若Q为方阵,由上面的式子则有我们举例说明上述概念:2、标准正交矩阵的好处 上面我们介绍了标准正交矩阵,那么标准正交矩阵的用处在哪?下面以两方面来说明标准正交矩阵的用处: 求解Ax=b 在前面文章《正交原创 2014-12-06 15:04:01 · 36037 阅读 · 2 评论