此博客停止更新迁移至SnailDove’s Blog,查看本文点击此处
笔记源自:清华大学公开课:线性代数2——第3讲:奇异值分解
提示:如果文中图片看不清文字,请右键单击鼠标,选择在新窗口打开图片,然后放大图片(这边上传之前都是可以看清的,由于网页正文部分大小固定,因此图片被自动缩小以便适配网页),截图部分是课堂ppt老师随手的板书。
目录
前言
对角矩阵是我们最喜欢的一类矩阵,对能够相似于对角阵的矩阵能方便地计算其幂和指数,对不能相似于对角阵的方阵。上节课我们讨论了如何求出其尽可能简单的相似标准形及Jordan标准形以上讨论的都是方阵。那么对m乘n的矩阵我们如何来对它进行对角化呢?
线性代数中最重要的一类矩阵分解即奇异值分解,从而回答以上的问题。对角矩阵是我们最喜欢的一类矩阵,因为给定一个对角阵立即就可以得到它的特征值,行列式,幂和指数函数等等。对角矩阵的运算跟我们熟悉的数的运算有很多相似之处,而一个n阶的矩阵相似于对角阵当且仅当它存在着n个线性无关的特征向量。
特别地,实对称矩阵一定会正交相似于对角阵,也就是说给你一个实对称矩阵,一定存在着正交矩阵 Q Q 把它的列向量记成
到 vn v n ,它能够满足 QTAQ Q T A Q 等于 λ λ , λ λ 是一个对角阵,它的对角元是 A A 的特征值,那么其中
的列向量 vi v i ,它是矩阵 A A 的属于特征值,
的特征向量,也就是满足 Avi A v i 等于 λivi λ i v i 。我们现在有个问题是说,如果对于 m×n m × n 的一个矩阵,我们如何来”对角化”它。那么也就是说在什么意义上,我们能够尽可能地。把 m×n m × n 的一个矩形的阵向对角阵靠拢,今天我们来讨论矩阵的奇异值分解它是线性代数应用中,最重要的一类矩阵分解。
AAT A A T 与 ATA A T A 的特性
AAT A A T 与 ATA A T A 的特征值
AAT A A T 与 ATA A T A 非0特征值集合
ATA A T A 与 AAT A A T 的特征向量
令 ui:=Aviσi∈Rm(1≤i≤r) u i := A v i σ i ∈ R m ( 1 ≤ i ≤ r ) ,则 AATui=A(ATAviσi)=AATAviσi=A