奇异值分解(SVD)原理详解及推导-矩阵相关

SVD原理以及推导
一。关于这篇文章的开始几句话
       看过我之前写过文章的童鞋们会发现我写文章的水平很烂的,所以看官们见谅啊!SVD不仅是一个数学问题,在数学问题上主要涉及矩阵的计算,矩阵已经忘记的童鞋们最好去复习一下相关知识啊。说实话我还没怎么在实际开发中用过SVD,但是SVD以前我不会,原理和推导过程还是有意思的。
       引用一句流行语——没时间解释了,快上车!!!!

二。直接开始
       用SVD可以很容易得到任意矩阵的满秩分解,用满秩分解可以对数据做压缩。可以用SVD来证明对任意M*N的矩阵均存在如下分解:
在这里Rank(A)表示的是矩阵A的秩。看到高手写的文章中说:这个可以应用在数据降维压缩上!在数据相关性特别大的情况下存储X和Y矩阵比存储A矩阵占用空间更小!接下来我们来看看为什么一个矩阵A可以分解为X和Y,如果可以合理的分解,那么用来存储也就是情理之中啦。
1.首先补充下线性代数的知识
   (1)正交矩阵
     正交矩阵是在欧几里得空间里的叫法,在酉空间里叫酉矩阵,一个正交矩阵对应的变换叫正交变换。别问我什么是欧几里得空间!!!!
     欧几里得空间:设V是实数域R上的一个线性空间,在V上定义了一个二元实函数,称为内积,记作(A,B),它具有一下性质:
    (A,B) =(B,A)
    (kA,B)=k(B,A)
    (A+B,T) = (A,T)+(B,T)
   (A,A) >= 0   当且仅当A=0时 (A,A) = 0
这里A,B,T是V中任意向量,k是任意实数,这样的线性空间V是欧几里得空间。
这个变换的特点是不改变向量的尺寸和向量间的夹角,那么它到底是个什么样的变换呢?看下面这张图:

假设二维空间中的一个向量OA,它在标准坐标系(即e1、e2表示的坐标系)中表示为(a,b)'(用'表示转置),如图所示,现在把向量OA用另一组坐标e1'、e2'(在e1'和e2'表示的坐标系)表示为(a',b')',存在矩阵U使得(a',b')'=U(a,b)',则U即为正交矩阵。
这里不必纠结于(')表示的转置。在矩阵概念里,一个矩阵的转置还是矩阵,在这里只是一个示意表明不同量(a和a‘),并没有表示数值的不同或者相同。
设M是对称矩阵, P是正交矩阵, N=P'MP 称为 M的正交变换。
正交变换既是相似变换,也是相合变换。正交变换不改变M的特征值。正交变换既是相似变换,也是相合变换。正交变换不改变M的特征值。
从图中可以看到,正交变换只是将变换向量(OA)用另一组正交基表示,在这个过程中并没有对向量做拉伸,也不改变向量的空间位置。上面的例子只是正交变换的一个方面,即旋转变换,可以把e1'、e2'坐标系看做是e1、e2坐标系经过旋转SITA角度得到,怎么样得到这个神奇的旋转矩阵U呢?如下:
a'和b'实际上是x(就是OA啦)在e1'和e2'轴上的投影大小,所以直接做内积可得。x与e1'内积的结果就是向量 x在e1'上的投影,因为单位向量e1'的模是1啊,就是x的模乘以夹角的余弦,当然方向和e1'相同。
等式的最后面就是x*e1'的变化,结果都是相同的,同样的原因 向量e1'转置的模也是1啊。  然后:
从上面的公式可以得到:
仔细看第一张图,假如e1'和e1的夹角是SITA的话,那么就有:

所以我们可以得到:

正交阵U行(列)向量之间都是单位正交向量。
上面求得的是一个旋转矩阵,它对向量做旋转变换!也许你会有疑问:刚才不是说向量空间位置不变吗?怎么现在又说它被旋转了?对的,这两个并没有冲突,说空间位置不变是绝对的,但是坐标是相对的,加入你站在e1上看OA,随着e1旋转到e1',看OA的位置就会改变。如下图:

如图,如果我选择了e1'、e2'作为新的标准坐标系,那么在新坐标系中OA(原标准坐标系的表示)就变成了OA',这样看来就好像坐标系不动,把OA往顺时针方向旋转了“斯塔”角度,这个操作实现起来很简单:将变换后的向量坐标仍然表示在当前坐标系中。
总结:正交矩阵的行(列)向量都是两两正交的单位向量,正交矩阵对应的变换为正交变换,它有两种表现:旋转和反射。正交矩阵将标准正交基映射为标准正交基(即图中从e1、e2到e1'、e2')。能力有限,我就不说反射了,我还想早点下班回家呢。
2.特征值分解——EVD
在讨论SVD之前先讨论矩阵的特征值分解(EVD),在这里,选择一种特殊的矩——对称阵。对称阵有一个很优美的性质:它总能相似对角化,对称阵不同特征值对应的特征向量两两正交一个矩阵能相似对角化即说明其特征子空间即为其列空间,若不能对角化则其特征子空间为列空间的子空间
列空间一个由矩阵的所有的列进行线性组合而形成的空间
特征子空间:数学上,线性变换的特征向量是一个非退化的向量,其方向在该变换下不变.该向量在此变换下缩放的比例称为其特征值.一个变换通常可以由            其特征值和特征向量完全描述.特征空间是相同特征值的特征向量的集合.
特征子空间就是特征空间的符合某些条件的子空间.
现在假设存在mxm的满秩对称矩阵A,它有m个不同的特征值,设特征值为
则有以下公式:
然后有:

需要注意的是这里U是一个行向量。
所以可得到A的特征值分解(由于对称阵特征向量两两正交,所以U为正交阵,正交阵的逆矩阵等于其转置)
这里假设A有m个不同的特征值,实际上,只要A是对称阵其均有如上分解
矩阵A分解了,相应的,其对应的映射也分解为三个映射。现在假设有x向量,用A将其变换到A的列空间中,那么首先由U'(U的转置)先对x做变换:
U是正交阵U'也是正交阵,所以U'对x的变换是正交变换,它将x用新的坐标系来表示,这个坐标系就是A的所有正交的特征向量构成的坐标系,因为U’对x做了正交变换而且U‘的就是A的特征向量构成的(上文已经写道)。比如将x用A的所有特征向量表示为
上式子中x1,x2.....就是A的特征向量。
则通过第一个变换就可以把x表示为[a1 a2 ... am]':(在A的所有正交的特征向量构成的坐标系中)
紧接着,在新的坐标系表示下,由中间那个对角矩阵对新的向量坐标换,其结果就是将向量往各个轴方向拉伸或压缩:
这里可以看做是x在新的坐标下被表示后,有m维表示x,每个维度都乘以一个数值,要么拉伸要么压缩。
从上图可以看到,如果A不是满秩的话(对角矩阵就没有个m个对角值啦),那么就是说对角阵的对角线上元素存在0,这时候就会导致维度退化,这样就会使映射后的向量落入m维空间的子空间中。上个等式的最后就没有m个了。
最后一个变换就是U对拉伸或压缩后的向量做变换(就是等式的最后),由于U和U'是互为逆矩阵,所以U变换是U'变换的逆变换。
因此,从对称阵(A)的分解对应的映射分解来分析一个矩阵的变换特点是非常直观的。假设对称阵特征值全为1那么显然它就是单位阵(A),如果对称阵的特征值有个别是0其他全是1,那么它就是一个正交投影矩阵,它将m维向量投影到它的列空间中。
根据对称阵A的特征向量,如果A是2*2的,那么就可以在二维平面中找到这样一个矩形,是的这个矩形经过A变换后还是矩形:
如同上面的x经过A变换后,m个维度要么拉伸要么压缩。这个矩形的选择就是让其边都落在A的特征向量方向上,如果选择其他矩形的话变换后的图形就不是矩形了。
3.奇异值分解——SVD
上面的特征值分解的A矩阵是对称阵,根据EVD可以找到一个(超)矩形使得变换后还是(超)矩形,也即A可以将一组正交基映射到另一组正交基!那么现在来分析:对任意M*N的矩阵,能否找到一组正交基使得经过它变换后还是正交基?答案是肯定的,它就是SVD分解的精髓所在。
现在假设存在M*N矩阵A,事实上,A矩阵将n维空间中的向量映射到k(k<=m)维空间中,k=Rank(A)。现在的目标就是:在n维空间中找一组正交基,使得经过A变换后还是正交的。假设已经找到这样一组正交基:
则A矩阵将这组基映射为:
如果它们两两正交,即
根据假设,有以下等式:

所以如果正交基v选择为A'A的特征向量的话,由于A'A是对称阵,v之间两两正交,那么
这样就找到了正交基使其映射后还是正交基了,现在,将映射后的正交基单位化,因为
vi是基向量,模长是1.所以有:
所以取单位向量
由此可得:
当k < i <= m时,对u1,u2,...,uk进行扩展u(k+1),...,um,使得u1,u2,...,um为m维空间中的一组正交基,即
同样的,对v1,v2,...,vk进行扩展v(k+1),...,vn(这n-k个向量存在于A的零空中,即Ax=0的解空间的基),使得v1,v2,...,vn为n维空间中的一组正交基,,正交基内积是0的。可得:

则可以得到:
继而得到:
上面的等式就是奇异值分解。
V和U含有扩展的部分,因为A不是对称矩阵,是m×n的。
现在可以来对A矩阵的映射过程进行分析了:如果在n维空间中找到一个(超)矩形,其边都落在A'A的特征向量的方向上,那么经过A变换后的形状仍然为(超)矩形!
vi为A'A的特征向量,称为A的右奇异向量,ui=Avi实际上为AA'的特征向量,称为A的左奇异向量。下面利用SVD证明文章一开始的满秩分解:
注意这里的满秩是有扩展的,不是满秩的需要扩展的时候可以分解,满秩的当然也可以。
利用矩阵分块乘法展开得:
可以看到第二项为0,有

则A=XY即是A的满秩分解。文章一开始说,矩阵A被分解为X和Y其实是压缩了,存储X和Y相对于存储A来说需要更小的空间,这一点在看A X和Y的维度上分析就可以看出。所以可以做图片压缩处理。
整个SVD的推导过程就是这样。
最后说两句,这篇文章我是理解为主,是一个很好的数学思维。顺便分享以下我学习原文的地址:
http://blog.sina.com.cn/s/blog_3f738ee00102val0.html
展开阅读全文

没有更多推荐了,返回首页