线性代数
introduction to linear algebra
qdmoxf
这个作者很懒,什么都没留下…
展开
-
线性代数MIT 18.06 记录(二十四)马尔可夫矩阵 傅里叶级数
马尔可夫矩阵定义元素全部大于零所有列 和为0列和为零保证了马尔可夫矩阵必有一个特征值为1原创 2020-05-12 09:46:26 · 380 阅读 · 0 评论 -
线性代数MIT 18.06 记录(二十三)微分方程和 exp(At)
解微分方程例子初始值:找特征值:找特征向量:现在找解:从初始值得到 c1和c2稳态是:几种情况负特征值 为负 趋向于0有一个特征值为 0,剩下的都是负数, 稳态特征值为0 趋向无穷矩阵指数肯定收敛不一定收敛...原创 2020-05-05 10:34:23 · 352 阅读 · 0 评论 -
线性代数MIT 18.06 记录(二十二)对角化和A的幂
重点对角化把A的特征向量 放到一起得到 矩阵S。和A相乘:再分解一下:只要A有n个不相关的特征向量,那么下面公式就成立:Λ\LambdaΛ就是一个对角矩阵那么A^2呢?公式还是那么得美妙更一般地:特征值和特征向量给了我们一个很好的理解矩阵幂的方法可对角化条件A is sure to have n eigen values(and be diagonaligab...原创 2020-05-05 09:06:01 · 177 阅读 · 0 评论 -
线性代数MIT 18.06 记录(二十)克拉默法则、逆矩阵、体积
逆矩阵对于2×2矩阵总的公式:C是代数余子式公式,CTC^TCT是伴随矩阵怎么得到这个矩阵目的就是证明这个式子克拉默法则根据刚才的推导这里单独看每个解:因为CTbC^TbCTb就是某个矩阵的行列式啊 第一元素,就是把A的第一列,用b替换了总的来说:评价让我来看看教授对克莱姆法则的评价:哈哈哈哈哈哈哈体积对于三阶情况:三行,对应三个向量,对应箱子的...原创 2020-04-14 13:58:18 · 302 阅读 · 0 评论 -
线性代数MIT 18.06 记录(十九)行列式公式和代数余子式
求解行列式的公式回忆行列式的三个最重要的性质:推导再向前推导一步:对于三阶的情况,也可以这样拆分,推导,得到最后的公式关键点:通用公式(The Big Formula)代数余子式(cofactor)提取第一项,括号里的,就是代数余子式代数余子式,也是一个小的行列式的值符号的取值:三对角行列式(just beautiful)周期为6...原创 2020-04-07 09:51:47 · 448 阅读 · 0 评论 -
线性代数MIT 18.06 记录(十八)行列式及其性质
可逆性的验证可逆:行列式不为零行列式的性质性质一单位矩阵的行列式为1性质二交换行,会使行列式的值 变成其相反数置换矩阵的行列式不是1 就是-1更一般地:性质三对一个行列式的行乘上一个数t,可以把t拿出来:相加:注意:只是每一行的线性性质四如果有两行相等,那么行列式的值为0证明:可以用性质二:交换行,会保持相等,但是行列式值不变,所以行列式值为0性质五从某一行...原创 2020-03-31 19:16:42 · 729 阅读 · 0 评论 -
线性代数MIT 18.06 记录(十七)正交矩阵和Gram-Schmidt正交化
正交基Orthonormal vector既正交(垂直)又标准(为1)为什么用标准正交向量先来看一看 QTQQ^TQQTQ答案是 Identity Matrix只有当 Q是 方阵时,我们才说他是 正交矩阵正交矩阵首先,转置和 逆相同哈达玛矩阵...原创 2020-03-31 08:50:50 · 250 阅读 · 0 评论 -
线性代数MIT 18.06 记录(十六)投影矩阵和最小二乘
投影矩阵特殊情况我们考虑上面这个特殊情况,可以看到,如果b在A的列空间内,那么投影就是自己,如果b垂直于A,那么投影就是零,这都很好证明**注:**A的列空间的线性组合可以表示为AxAxAx,同理,行的线性组合可以表示为 xAxAxA一般情况这里可以看到,P是一个投影矩阵,I-P也是,它是指定平面对角平面的投影矩阵,对称性,平方不变性依旧满足应用问题描述找到最优解首先,定义...原创 2020-03-17 09:57:10 · 396 阅读 · 0 评论 -
所有人都能看懂的正规方程(Normal Equation for Everybody)
目录前言问题重述方法正规方程线性方程组问题所在解决问题一维投影二维投影奇怪的事情写在最后前言几次接触机器学习的第一部分(像我背单词只记得abandoned一样),都会被线性模型中直接求解的这个正规方程(Normal Equation)搞得一头雾水,梯度下降还好理解些,但这个正规方程是真的一点头绪没有,西瓜书的周老师和统计学习方法的李老师都是传统的“抽象大师”,愚笨的我完全看不懂啊,在网上找到的...原创 2020-03-15 20:06:03 · 954 阅读 · 0 评论 -
线性代数MIT 18.06 记录(十四)正交向量与子空间
四个子空间行向量的秩是r,列向量的秩是r,dim(null(A))=rdim(null(A)) = rdim(null(A))=r,dim(null(AT))=m−rdim(null(A^T) )= m - rdim(null(AT))=m−r而且 前两个正交,后两个相交正交意思就是向量夹角90°如果判断?使用点乘如果XT∗y=0X^T*y = 0XT∗y=0,那么就说他们正交...原创 2020-03-03 09:28:48 · 294 阅读 · 0 评论 -
线性代数MIT 18.06 记录(十二)图和网络
图组成:节点、边关联矩阵这里我们发现,行1 + 行2 = 行3 ,所以这三行不是独立的,所以它们形成了一个loop重点一:null spacenull space 的基为:所以A的零空间的维度为1现实意义电势是死的,电势差是活的,只要电势差为0,就静止不动了。也可以用来解释 温度 和 热传导微积分里的常数 c,倒数重点二:A^T y = 0ATy=0A^Ty = ...原创 2020-02-12 23:08:39 · 261 阅读 · 0 评论 -
线性代数MIT 18.06 记录(十一)矩阵空间、秩1矩阵、小世界图
矩阵空间对称矩阵的子空间上三角子空间3×3 矩阵空间的维度 9对称的3×3 矩阵空间的维度 6上三角s∩u的子空间 :对角 维度为3intersection and sum有:dim(s)+dim(u)=dim(s∩u)+dim(s∪u)dim(s) + dim(u) = dim(s ∩u)+ dim(s∪u)dim(s)+dim(u)=dim(s∩u)+dim(s∪u)函数也...原创 2020-02-09 11:02:33 · 187 阅读 · 0 评论 -
线性代数MIT 18.06 记录(九)线性相关性、基、维数
线性相关性向量间线性无关如果不采纳在结果为零向量的组合,那么就是线性无关的像这样的两个向量,明显是线性相关的v2=2v1v_2 = 2v_1v2=2v1vi=0v_i = 0vi=0三个向量如下原因是它代表一个2×32×32×3 的矩阵,它的零空间不为0,所以肯定对Ax=0Ax = 0Ax=0 有解。所以,有线性相关的必要条件:把向量放到矩阵中,如果零空间只有零向...原创 2020-02-04 17:22:37 · 257 阅读 · 0 评论 -
线性代数MIT 18.06 记录(八)可解性和解的结构
解出 Ax = b例子A增广矩阵消元 步骤一步骤二:这时,我们就有:这时候就可以把b的值带进去了什么样的b可以使方程有解两种说法:b是A的线性组合如果对A的线性操作可以得到 0 ,那对b做相应的操作,也应该得到0如何找到这样的解?算法步骤(假设有解)把所有 free 变量为 0,这时候解出$ Ax = b$ 的主元解xpx_pxp找到 零空间 的解xnx...原创 2020-01-31 16:25:19 · 282 阅读 · 0 评论 -
线性代数MIT 18.06 记录(六)列空间和零空间
列空间回顾,在子空间必须满足的条件:保证加和乘的封闭性观察一:任意子向量空间的交集也都是子向量空间列空间举例显然,这个矩阵的三个列向量组成的列向量空间是 R4R^4R4 空间的子向量空间这里我们可以联系到线性方程:是否对每一个b Ax=bAx = bAx=b 都有解呢?或者说,什么样的b 可以让方程有解呢?首先第一个问题的答案是否,在于:3个列向量的线性组合无法充...原创 2020-01-31 12:11:06 · 382 阅读 · 0 评论 -
线性代数MIT 18.06 记录(五)转置、置换、向量空间
转置、置换、向量空间原创 2020-01-31 11:00:12 · 604 阅读 · 0 评论 -
线性代数MIT 18.06 记录(四)A的LU分解
以总的思路审视高斯消元考虑 A = LUexample1这里强调:计算的顺序不可变,但是括号位置可以改变转置矩阵的逆做转置,需要先把顺序放反结论: A的逆的转置 就是 A的转置的逆把A分解为LU这里 L代表 low angular matrix, U代表Upper angular matrix一个三阶的例子但是我们为什么一定要把所有的E放到右面呢?为什么不干脆放到左边呢...原创 2020-01-30 21:05:04 · 149 阅读 · 0 评论 -
线性代数MIT 18.06 记录(三)矩阵的乘法和逆
矩阵的乘法和逆矩阵的乘法求一个矩阵元素example1解矩阵中断第i行,第j列,就是两个相乘矩阵中第一个矩阵第i行,第二个矩阵第j列的点乘结果:C34 即位,A的第三行乘以B的第四列矩阵乘法的要求如果A是m×n,B是n×p,那结果就是 m×p的对矩阵相乘的三种理解理解1我们可以理解结果C的每一列,都是A的所有列的线性组合,而B的每一列,告诉了是用A的所有列的怎样的线性组合...原创 2020-01-30 21:04:44 · 322 阅读 · 0 评论 -
线性代数MIT 18.06 记录(二)矩阵消元
矩阵消元这一节课总的来讲就是讲了,怎么通过矩阵的方法,求出线性方程的解,用到的方法,就是题目所讲的,矩阵消元法[abcdefghijklmnopqrst]\left[ \begin{matrix} a & b & c & d & e\\ f & g & h & i & j \\ k & l &...原创 2020-01-30 21:04:30 · 385 阅读 · 0 评论