矩阵的特征值和特征向量的雅克比算法C/C++实现

矩阵的特征值和特征向量是线性代数以及矩阵论中非常重要的一个概念。在遥感领域也是经常用到，比如多光谱以及高光谱图像的主成分分析要求解波段间协方差矩阵或者相关系数矩阵的特征值和特征向量。

根据普通线性代数中的概念，特征值和特征向量可以用传统的方法求得，但是实际项目中一般都是用数值分析的方法来计算，这里介绍一下雅可比迭代法求解特征值和特征向量。

雅克比方法用于求实对称阵的全部特征值、特征向量。

对于实对称阵 A，必有正交阵 U，使

U ^TA U = D。

其中 D 是对角阵，其主对角线元 l_i 是 A 的特征值. 正交阵 U 的第 j 列是 A 的属于 l_i 的特征向量。

原理：Jacobi 方法用平面旋转对矩阵 A 做相似变换，化A 为对角阵，进而求出特征值与特征向量。

既然用到了旋转，这里就介绍一下旋转矩阵。

对于 p ≠ q,下面定义的 n 阶矩阵U_pq 是平面旋转矩阵。

容易验证 U_pq是正交阵。对于向量x，U_pq x 相当于把坐标轴Ox_p和 Ox_q 于所在的平面内旋转角度 j .

变换过程: 在保证相似条件下，使主对角线外元素趋于零！

记 n 阶方阵A = [a_ij],  对 A 做下面的变换：

A₁= U_pq^TAU_pq,                         

          A₁ 仍然是实对称阵，因为，U_pq^T =U_pq^-1，知A₁与 A 的特征值相同。

 

前面说了雅可比是一种迭代算法，所以每一步迭代时，需要求出旋转后新的矩阵，那么新的矩阵元素如何求，这里给出具体公式如下：

由上面的一组公式可以看到:

(1)矩阵A₁ 的第p 行、列与第 q 行、列中的元素发生了变化，其它行、列中的元素不变。

(2)p、q分别是前一次的迭代矩阵A的非主对角线上绝对值最大元素的行列号

(3) j是旋转角度，可以由下面的公式计算：

归纳可以得到雅可比迭代法求解矩阵特征值和特征向量的具体步骤如下：

(1) 初始化特征向量为对角阵V，即主对角线的元素都是1.其他元素为0。

(2) 在A的非主对角线元素中，找到绝对值最大元素 a_pq 。

(3) 用式(3.14)计算tan2j，求 cosj, sinj 及矩阵U_{pq .}

(4) 用公式(1)-(4)求A₁；用当前特征向量矩阵V乘以矩阵U_pq得到当前的特征向量V。

(5) 若当前迭代前的矩阵A的非主对角线元素中最大值小于给定的阈值e时，停止计算；否则, 令A = A₁ , 重复执行(2) ~ (5)。 停止计算时，得到特征值l_i≈(A₁) _ij ，i,j= 1,2,…,n.以及特征向量V。

(6) 这一步可选。根据特征值的大小从大到小的顺序重新排列矩阵的特征值和特征向量。

 

到现在为止，每一步的计算过程都十分清楚了，写出代码也就不是难事了，具体代码如下：

[cpp]  view plain  copy

 

1. /** 
2. * @brief 求实对称矩阵的特征值及特征向量的雅克比法  
3. * 利用雅格比(Jacobi)方法求实对称矩阵的全部特征值及特征向量  
4. * @param pMatrix                长度为n*n的数组，存放实对称矩阵 
5. * @param nDim                   矩阵的阶数  
6. * @param pdblVects              长度为n*n的数组，返回特征向量(按列存储)  
7. * @param dbEps                  精度要求  
8. * @param nJt                    整型变量，控制最大迭代次数  
9. * @param pdbEigenValues         特征值数组 
10. * @return  
11. */  
12. bool CPCAAlg::JacbiCor(double * pMatrix,int nDim, double *pdblVects, double *pdbEigenValues, double dbEps,int nJt)  
13. {  
14.     for(int i = 0; i < nDim; i ++)   
15.     {     
16.         pdblVects[i*nDim+i] = 1.0f;   
17.         for(int j = 0; j < nDim; j ++)   
18.         {   
19.             if(i != j)     
20.                 pdblVects[i*nDim+j]=0.0f;   
21.         }   
22.     }   
23.   
24.     int nCount = 0;     //迭代次数  
25.     while(1)  
26.     {  
27.         //在pMatrix的非对角线上找到最大元素  
28.         double dbMax = pMatrix[1];  
29.         int nRow = 0;  
30.         int nCol = 1;  
31.         for (int i = 0; i < nDim; i ++)          //行  
32.         {  
33.             for (int j = 0; j < nDim; j ++)      //列  
34.             {  
35.                 double d = fabs(pMatrix[i*nDim+j]);   
36.   
37.                 if((i!=j) && (d> dbMax))   
38.                 {   
39.                     dbMax = d;     
40.                     nRow = i;     
41.                     nCol = j;   
42.                 }   
43.             }  
44.         }  
45.   
46.         if(dbMax < dbEps)     //精度符合要求   
47.             break;    
48.   
49.         if(nCount > nJt)       //迭代次数超过限制  
50.             break;  
51.   
52.         nCount++;  
53.   
54.         double dbApp = pMatrix[nRow*nDim+nRow];  
55.         double dbApq = pMatrix[nRow*nDim+nCol];  
56.         double dbAqq = pMatrix[nCol*nDim+nCol];  
57.   
58.         //计算旋转角度  
59.         double dbAngle = 0.5*atan2(-2*dbApq,dbAqq-dbApp);  
60.         double dbSinTheta = sin(dbAngle);  
61.         double dbCosTheta = cos(dbAngle);  
62.         double dbSin2Theta = sin(2*dbAngle);  
63.         double dbCos2Theta = cos(2*dbAngle);  
64.   
65.         pMatrix[nRow*nDim+nRow] = dbApp*dbCosTheta*dbCosTheta +   
66.             dbAqq*dbSinTheta*dbSinTheta + 2*dbApq*dbCosTheta*dbSinTheta;  
67.         pMatrix[nCol*nDim+nCol] = dbApp*dbSinTheta*dbSinTheta +   
68.             dbAqq*dbCosTheta*dbCosTheta - 2*dbApq*dbCosTheta*dbSinTheta;  
69.         pMatrix[nRow*nDim+nCol] = 0.5*(dbAqq-dbApp)*dbSin2Theta + dbApq*dbCos2Theta;  
70.         pMatrix[nCol*nDim+nRow] = pMatrix[nRow*nDim+nCol];  
71.   
72.         for(int i = 0; i < nDim; i ++)   
73.         {   
74.             if((i!=nCol) && (i!=nRow))   
75.             {   
76.                 int u = i*nDim + nRow;  //p    
77.                 int w = i*nDim + nCol;  //q  
78.                 dbMax = pMatrix[u];   
79.                 pMatrix[u]= pMatrix[w]*dbSinTheta + dbMax*dbCosTheta;   
80.                 pMatrix[w]= pMatrix[w]*dbCosTheta - dbMax*dbSinTheta;   
81.             }   
82.         }   
83.   
84.         for (int j = 0; j < nDim; j ++)  
85.         {  
86.             if((j!=nCol) && (j!=nRow))   
87.             {   
88.                 int u = nRow*nDim + j;  //p  
89.                 int w = nCol*nDim + j;  //q  
90.                 dbMax = pMatrix[u];   
91.                 pMatrix[u]= pMatrix[w]*dbSinTheta + dbMax*dbCosTheta;   
92.                 pMatrix[w]= pMatrix[w]*dbCosTheta - dbMax*dbSinTheta;   
93.             }   
94.         }  
95.   
96.         //计算特征向量  
97.         for(int i = 0; i < nDim; i ++)   
98.         {   
99.             int u = i*nDim + nRow;      //p     
100.             int w = i*nDim + nCol;      //q  
101.             dbMax = pdblVects[u];   
102.             pdblVects[u] = pdblVects[w]*dbSinTheta + dbMax*dbCosTheta;   
103.             pdblVects[w] = pdblVects[w]*dbCosTheta - dbMax*dbSinTheta;   
104.         }   
105.   
106.     }  
107.   
108.     //对特征值进行排序以及重新排列特征向量,特征值即pMatrix主对角线上的元素  
109.     std::map<double,int> mapEigen;  
110.     for(int i = 0; i < nDim; i ++)   
111.     {     
112.         pdbEigenValues[i] = pMatrix[i*nDim+i];  
113.   
114.         mapEigen.insert(make_pair( pdbEigenValues[i],i ) );  
115.     }   
116.   
117.     double *pdbTmpVec = new double[nDim*nDim];  
118.     std::map<double,int>::reverse_iterator iter = mapEigen.rbegin();  
119.     for (int j = 0; iter != mapEigen.rend(),j < nDim; ++iter,++j)  
120.     {  
121.         for (int i = 0; i < nDim; i ++)  
122.         {  
123.             pdbTmpVec[i*nDim+j] = pdblVects[i*nDim + iter->second];  
124.         }  
125.   
126.         //特征值重新排列  
127.         pdbEigenValues[j] = iter->first;  
128.     }  
129.   
130.     //设定正负号  
131.     for(int i = 0; i < nDim; i ++)   
132.     {  
133.         double dSumVec = 0;  
134.         for(int j = 0; j < nDim; j ++)  
135.             dSumVec += pdbTmpVec[j * nDim + i];  
136.         if(dSumVec<0)  
137.         {  
138.             for(int j = 0;j < nDim; j ++)  
139.                 pdbTmpVec[j * nDim + i] *= -1;  
140.         }  
141.     }  
142.   
143.     memcpy(pdblVects,pdbTmpVec,sizeof(double)*nDim*nDim);  
144.     delete []pdbTmpVec;  
145.   
146.     return 1;  
147. }