我是8位的

　　原文 |https://mp.weixin.qq.com/s/PRQQvSfmipxPBeF80aEQ1A　　一个矩阵有逆矩阵的前提是该矩阵是一个满秩的方阵。然而很多时候遇到的都是长方矩阵，长方矩阵是否有类似的逆矩阵呢？　　先把4个基本子空间的图贴上，A是m×n的矩阵，其中r是矩阵的秩：两侧逆（2-sided inverse）　　我们通常说的逆矩阵都是针对满秩方阵而言，此...

　　原文 |https://mp.weixin.qq.com/s/TXbcQoXw2HGkP3tnvKEpMQ　　基变换的一个重要应用是压缩，图像、视频、音频和其它一些数据都会因为基变换而得到更高效的压缩存储。线性变换可以脱离坐标系，而描述线性变换的矩阵却要依赖于坐标系，因此选择合适的基会更便于计算。图像的知识灰度图像　　由于景物各点的颜色及亮度不同，摄成的黑白照片上或电视...

　　原文：https://mp.weixin.qq.com/s/qCmstZdzCy1WCfBAkEZEoA　　线性变换这个词在线性代数中经常被提及，每个线性变换的背后都有一个矩阵。矩阵的概念比较直观，相比之下，线性变换就显得抽象了。线性变换　　抛开矩阵，我们从变换的角度讨论投影。通过T变换，使平面内的一个向量投影到一条直线上：　　T就像一个函数：给定一个输入向量，经过T的变换...

　　原文 |https://mp.weixin.qq.com/s/HrN8vno4obF_ey0ifCEvQw　　奇异值分解（Singular value decomposition）简称SVD，是将矩阵分解为特征值和特征向量的另一种方法。奇异值分解可以将一个比较复杂的矩阵用更小更简单的几个子矩阵相乘来表示，这些小矩阵描述的都是矩阵的重要的特性。奇异值分解在图形降噪、推荐系统中都有很重要的应...

　　原文 |https://mp.weixin.qq.com/s/TDj3aCEHjaKHATZ7uviQMA长方矩阵与正定矩阵　　我们之前一直在讨论方阵，但大量的实际问题应用到了长方矩阵，比如在最小二乘中用到了ATA。　　如果A是一个m×n的长方矩阵，那么ATA是一个对称矩阵，当然也是方阵，我们感兴趣的是ATA的正定性。对于ATA来说，我们对它的特征向量和行列式一无所知，需要...

　　原文链接 |https://mp.weixin.qq.com/s/wX6wmVSqJUTgbmk8Z1r2_w判断正定矩阵　　给出一个矩阵：　　有4个途径可以判定该矩阵是否是正定矩阵（注意这个矩阵的4个元素中有2个b，这是因为正定矩阵是对称矩阵，如果A的次对角线的元素不相等，A就不是对称的，也就没有必要进一步判定是否是正定的）：所有特征值大于0，λ1>0，λ2&gt...

　　原文 |https://mp.weixin.qq.com/s/YzPoPnRb-gEm_EiV9et0TA　　实矩阵也可能碰到复特征值，因此无可避免地在矩阵运算中碰到复数。　　矩阵当然也有可能包含复数，最重要的复矩阵是傅立叶矩阵，它用于傅立叶变换。一种特殊的傅立叶变换是快速傅立叶变换（fast Fourier transform），简称FFT，在计算机中很常用，特别是涉及到大数...

原文 |https://mp.weixin.qq.com/s/zdQttJfuubyztiVplScbwA对称矩阵　　对称矩阵是最重要的矩阵之一，对于对称矩阵来说，A=AT。矩阵的特殊性也表现在特征值和特征向量上，比如马尔可夫矩阵的有一个值为1的特征值，对称矩阵的特征值又有哪些特性呢？　　本文的相关知识：　　　　正交向量和正交矩阵（线性代数20——格拉姆-施密特正...

　　法国数学家傅里叶发现，任何周期函数都可以用正弦函数和余弦函数构成的无穷级数来表示（选择正弦函数与余弦函数作为基函数是因为它们是正交的），后世称傅里叶级数为一种特殊的三角级数。构建傅立叶级数的基础　　如果有一组n维空间的标准正交基向量q1,q2,…,qn，则n维空间内的任意向量v都可以用这组基的线性组合表示：　　正交基向量：q1,q2,…,qn中的向量两两垂直（更多内容参考 线性...

AT的特征值　　矩阵A的特征值和AT的特征值是一样的。　　求解特征值的方法是det(A-λI) = 0，根据行列式的性质，矩阵的行列式等于矩阵转置的行列式，因此：　　因此λ也是AT的特征值。马尔可夫矩阵　　矩阵A有2个特点：A中的所有元素都是非负的；A中的每一列之和都等于1。形如A的矩阵称为马尔可夫矩阵。马尔可夫矩阵主要应用在概率领域。将一个马尔可夫矩阵进行方幂运算仍然...

　　原文：https://mp.weixin.qq.com/s/COpYKxQDMhqJRuMK2raMKQ　　微分方程指含有未知函数及其导数的关系式，解微分方程就是找出未知函数。未知函数是一元函数的，叫常微分方程；未知函数是多元函数的，叫做偏微分方程。常微分方程有时也简称方程。微分方程是一门复杂的学科，对于常微分方程来说，可以使用特征值和特征向量的知识求解。　　　相关前置知识：...

特征值矩阵　　假设A有n个线性无关的特征向量x1,x2……xn，这些特征向量按列组成矩阵S，S称为特征向量矩阵。来看一下A乘以S会得到什么：　　最终得到了S和一个以特征值为对角线的对角矩阵的乘积，这个对角矩阵就是特征值矩阵，用Λ表示：　　没有人关心线性相关的特征向量，上式有意义的前提是S由n个线性无关的特征向量组成，这意味着S可逆，等式两侧可以同时左乘S-1：　　AS=...

特征向量　　函数通常作用在数字上，比如函数f作用在x上，结果得到了f(x)。在线性代数中，我们将x扩展到多维，对于Ax来说，矩阵A的作用就像一个函数，输入一个向量x，通过A的作用，得到向量Ax。对多数向量x而言，经过Ax的转换后将得到不同方向的向量，但总有一些特殊的向量，它的方向和Ax方向相同，即Ax平行于x，这些特殊的向量就是特征向量。　　平行的向量用方程来表示比较简单：　　　　...

伴随矩阵　　对于2×2矩阵来说，它的逆矩阵公式： 　　对于更高阶矩阵，我们也希望使用类似的公式。从2×2的逆矩阵公式可以看出，它的逆矩阵由两部分组成，其一是行列式的倒数，这意味着矩阵可逆的前提是行列式不为0，问题是另一部分是什么？　　仔细观察，发现它和代数余子式有一定的关系，对于A来说：　　a的代数余子式：　　b的代数余子式：　　c的代数余子式：　　d的代数余子式：...

行列式　　如果有两个向量<a1, a2>和<b1, b2>，那么这两个向量组成的行列式是：　　看起来只是表示一个简单的计算，仅仅计算了一个数值，但是别忘了，行列式是由向量组成的，它一定会表示向量间的某种关系。　　在《线性代数笔记4——向量3（叉积）》中我们看到，二阶行列式表示了二维平面中以两个向量为临边的平行四边形的面积；三阶行列式表示在三维空间中以三个向量...

标准正交矩阵标准正交向量　　有一堆向量，q1,q2……qn，它们两两正交，这意味着这些向量满足：　　一个向量没法和自己正交，在i = j时，让qiTqi = 1，这相当于qi模长等于1：　　向量的转置乘以自身等于1，意味着这个向量是单位向量，所以我们称这堆向量q1,q2……qn是标准正交向量。标准正交矩阵　　现在把这些标准正交向量放入矩阵中：　　QTQ最终得...

一维空间的投影矩阵　　先来看一维空间内向量的投影：　　向量p是b在a上的投影，也称为b在a上的分量，可以用b乘以a方向的单位向量来计算，现在，我们打算尝试用更“贴近”线性代数的方式表达。　　因为p趴在a上，所以p实际上是a的一个子空间，可以将它看作a放缩x倍，因此向量p可以用p = xa来表示，只要找出x就可以了。因为a⊥e，所以二者的点积为0：　　我们希望化简这个式子从而...

正交向量　　正交是垂直的令一种说法，两个向量正交意味着两个向量的夹角是90°。　　这可以用直角三角形的三边解释：　　当x和y正交时，二者的点积是0，反过来也一样。这个结论在n维空间也适用，当Rn空间内的两个向量x和向量y正交时：　　如果x是零向量，xTy还是0，也意味着零向量和任意向量正交。正交子空间　　正交性还可以推广到子空间，如果说一个子空间V和另一个子空间W...

　图（Graph）是离散数学中的一种常见数据结构，由节点和边组成，如果边有方向，就是有向图。下图是一个有4个节点5条边的有向图： 　　这个图（Graph）可以表示电网、网络或建筑物通道的数学模型。关联矩阵　　可以通过一个矩阵来解析有向图，这个矩阵称为关联矩阵（Incidence Matrix）。4个节点5条边的图用一个5×4的矩阵表示，用正负表示边的方向，矩阵的一行相当于图的一...

矩阵空间　　矩阵空间是对向量空间的扩展，因为矩阵的本质是向量，所以与向量空间类似，也存在矩阵空间。　　在向量空间中，任意两个向量的加法和数乘仍然在该空间内。类似的，所有固定大小的矩阵也组成了矩阵空间，在空间内的任意两个矩阵的加法和数乘也在该空间内。例如，M是所有3×3矩阵构成的空间，空间内的矩阵可以相加，也可以数乘，其结果仍然是3×3矩阵。虽然可以把它们中的两个相乘，但是没人会那么做，因为...

　　前面已经介绍了矩阵的零空间和列空间，它们都属于矩阵的四个基本子空间，基本子空间还包括行空间和左零空间。　　召唤一个矩阵：　　为了找出零空间和列空间，先进行套路运算——转换为行最简阶梯矩阵：　　　　只有一个主元，也就是仅有一个向量都是独立向量，列空间是：　　这同时也意味着矩阵A的秩是1。矩阵的秩、列空间的基的向量数、独立向量数、主元数，这些都是一个意思，只是用于不...

 　　关于最简行阶梯矩阵和矩阵秩，可参考《线性代数笔记7——再看行列式与矩阵》 　　召唤一个方程Ax = b： 　　3个方程4个变量，方程组有无数解，现在要关注的是b1b2b3之间满足什么条件时方程组有解，它的解是什么？　　在这个例子中可以马上看出，b1+b2 = b3，一般的方法是消元法化简：　　化简到这一步就可以确定主元是x1和x3。通过最后一行可知，b3 – b2...

零空间　　先看定义。A是m×n矩阵，x是列向量，如果存在向量集合N，满足： 　　则称N是A的零空间。零空间的意义　　从定义看出，零空间是方程Ax = 0的所有解的集合： 　　A的零空间关心的是方程方程Ax = 0的解，准确地说是解所张成的空间，方程等于零向量也是零空间中“零”的含义。因为x∈Rn，零空间关心的又是x的解，所以x张成的空间也在Rn中，那么它是否是Rn的子空...

 　向量空间又称线性空间，是线性代数的中心内容和基本概念之一。在解析几何里引入向量概念后，使许多问题的处理变得更为简洁和清晰，在此基础上的进一步抽象化，形成了与域相联系的向量空间概念。线性组合　　线性组合（liner combinations）这个概念曾经被多次提到，如果v1,v2…vn是n维向量，即vi∈Rn，那么t1v1 + t2v2 + … + tnvn就是v1,v2…vn 的线...

在线性代数中， LU分解(LU Decomposition)是矩阵分解的一种，可以将一个矩阵分解为一个单位下三角矩阵和一个上三角矩阵的乘积（有时是它们和一个置换矩阵的乘积）。LU分解主要应用在数值分析中，用来解线性方程、求反矩阵或计算行列式。什么是LU分解　　如果有一个矩阵A，将A表示成下三角矩阵L和上三角矩阵U的乘积，称为A的LU分解。 　　更进一步，我们希望下三角矩阵的对角元素...

消元矩阵　　如果用矩阵表示一个有解的方程组，那么矩阵经过消元后，最终能变成一个上三角矩阵U。用一个三元一次方程组举例：　　A经过一些列变换，最终得到了一个上三角矩阵U： 　　回代到方程组后可以直接求解： 　　如果上面的变换去掉增广矩阵，可以简写为：　　矩阵的初等变换可以用矩阵乘法实现，现在的问题是，我们能否得到一个可以表示整个消元过程的矩阵E，使得E与A相乘能够...

在第一章中介绍了逆矩阵与奇异矩阵，我们可以通过一个行列式公式计算二维矩阵的逆，那么更多维矩阵的逆如何求解呢？逆矩阵与方程组　　或许用行列式求逆矩阵的做法有些公式化，实际上可以将求逆矩阵看成解方程组： 　　由此可以通过解方程组的方式求出逆矩阵。　　如果一个方阵与另一个非零矩阵的乘积是零矩阵，那么该矩阵是奇异矩阵，也是就是没有逆。例如： 　　因为AX = 0，A是奇异矩阵，...

　　前面的文章已经对行列式和矩阵做了简单介绍，在经过向量与平面方程的铺垫后，让我们以新的视角去审视行列式与矩阵。行列式　　如果有两个向量<a1, a2>和<b1, b2>，那么这两个向量组成的行列式是： 　　看起来只是表示一个简单的计算，仅仅计算了一个数值，但是别忘了，行列式是由向量组成的，它一定会表示向量间的某种关系。　　在《线性代数笔记4——向量3（...

线性方程的几何意义二元线性方程　　该方程是一个二元线性方程组，包含两个方程，每个方程是一条直线，两条直线的交点就是该方程有唯一解，这就是二元线性方程的几何意义。平面方程　　空间内不在同一直线上的三点构成一个平面，平面方程可表示为ax + by + cz = d。平面方程也称为三元线性方程。　　方程x + 4y + z = 8，在xyz三个坐标轴上的截距分别是(8,0,0),(0,2,0),(0,0...

线性方程的几何意义二元线性方程　　该方程是一个二元线性方程组，包含两个方程，每个方程是一条直线，两条直线的交点就是该方程有唯一解，这就是二元线性方程的几何意义。平面方程　　空间内不在同一直线上的三点构成一个平面，平面方程可表示为ax + by + cz = d。平面方程也称为三元线性方程。　　方程x + 4y + z = 8，在xyz三个坐标

什么是叉积　　向量的叉积也叫外积、向量积、叉乘或矢量积。两个向量的叉积是这样表示的： 　　在二维空间内，向量A = 1, a2>，B = 1, b2> 　　其几何意义就是以两个向量为边的平行四边形的面积，这在上篇文章中给出了详细说明。　　此外，叉积也适用于两个在三维空间内的向量。在三维空间内，向量A = 1, a2, a3>，B = 1, b2, b

什么是点积　　如果A和B都是n维向量，这样定义点积： 　　点积结果是标量。　　点积的几何意义是A和B的模乘以二者的夹角正余玄：　　在几何意义中，点积同时包含了向量的长度和夹角信息。　　代数表达和几何表达是等价的。用余玄定理解释几何意义 　　余玄定理是这样说的：已知三角形的两边和夹角，可以知道第三边的长度。根据该定理

什么是向量　　在数学中，向量（也称为欧几里得向量、几何向量、矢量），指具有大小（magnitude）和方向的量。它可以形象化地表示为带箭头的线段。箭头所指：代表向量的方向；线段长度：代表向量的大小。与向量对应的只有大小，没有方向的量叫做数量（物理学中称标量）。　　如果用Rn表示n个实数的有序集，Rn中的一个向量就是一个n元有序组，Rn = {(x1, x2,……xn) | xi ∈

　　简单来说，矩阵是充满数字的表格。　　A和B是两个典型的矩阵，A有2行2列，是2×2矩阵；B有2行3列，是2×3矩阵；A中的元素可用小写字母加行列下标表示，如a1,2 = 2, a2,2 = 4矩阵加减法　　两个矩阵相加或相减，需要满足两个矩阵的列数和行数一致。　　加法交换律：A + B = B + A矩阵乘法　　两个矩阵A和B相乘，需要满足A的列数等于B的行数。...