压缩感知重构算法之分段弱正交匹配追踪(SWOMP)

题目：压缩感知重构算法之分段弱正交匹配追踪(SWOMP)

        分段弱正交匹配追踪(StagewiseWeak OMP)可以说是StOMP的一种改进算法，它们的唯一不同是选择原子时的门限设置，这可以降低对测量矩阵的要求。我们称这里的原子选择方式为“弱选择”（Weak Selection），详见文献[1]的第3部分“III. STAGEWISE WEAK ELEMENTSELECTION”。以下内容结构安排包括代码都参考了《压缩感知重构算法之分段正交匹配追踪(StOMP)》。

0、符号说明如下：

        压缩观测y=Φx，其中y为观测所得向量M×1，x为原信号N×1（M<<N）。x一般不是稀疏的，但在某个变换域Ψ是稀疏的，即x=Ψθ，其中θ为K稀疏的，即θ只有K个非零项。此时y=ΦΨθ，令A=ΦΨ，则y=Aθ。

        (1) y为观测所得向量，大小为M×1

        (2)x为原信号，大小为N×1

        (3)θ为K稀疏的，是信号在x在某变换域的稀疏表示

        (4) Φ称为观测矩阵、测量矩阵、测量基，大小为M×N

        (5) Ψ称为变换矩阵、变换基、稀疏矩阵、稀疏基、正交基字典矩阵，大小为N×N

        (6)A称为测度矩阵、传感矩阵、CS信息算子，大小为M×N

上式中，一般有K<<M<<N，后面三个矩阵各个文献的叫法不一，以后我将Φ称为测量矩阵、将Ψ称为稀疏矩阵、将A称为传感矩阵。

        注意：这里的稀疏表示模型为x=Ψθ，所以传感矩阵A=ΦΨ；而有些文献中稀疏模型为θ=Ψx，而一般Ψ为Hermite矩阵(实矩阵时称为正交矩阵)，所以Ψ^-1=Ψ^H (实矩阵时为Ψ^-1=Ψ^T)，即x=Ψ^Hθ，所以传感矩阵A=ΦΨ^H，例如沙威的OMP例程中就是如此。

1、SWOMP重构算法流程：

2、分段弱正交匹配追踪(SWOMP)Matlab代码(CS_SWOMP.m)

        代码基本与StOMP.m一致，不同之处只是修改了门限，为了测试α=1时的重构效果，门限比较时由StOMP的大于改为了大于等于。

[plain]  view plain  copy

 

1. function [ theta ] = CS_SWOMP( y,A,S,alpha )  
2. %CS_SWOMP Summary of this function goes here  
3. %Version: 1.0 written by jbb0523 @2015-05-11  
4. %   Detailed explanation goes here  
5. %   y = Phi * x  
6. %   x = Psi * theta  
7. %   y = Phi*Psi * theta  
8. %   令 A = Phi*Psi, 则y=A*theta  
9. %   S is the maximum number of SWOMP iterations to perform  
10. %   alpha is the threshold parameter  
11. %   现在已知y和A，求theta  
12. %   Reference:Thomas Blumensath，Mike E. Davies．Stagewise weak gradient  
13. %   pursuits[J]．IEEE Transactions on Signal Processing，2009，57(11)：4333-4346．  
14.     if nargin < 4  
15.         alpha = 0.5;%alpha范围(0,1),默认值为0.5  
16.     end  
17.     if nargin < 3  
18.         S = 10;%S默认值为10  
19.     end  
20.     [y_rows,y_columns] = size(y);  
21.     if y_rows<y_columns  
22.         y = y';%y should be a column vector  
23.     end  
24.     [M,N] = size(A);%传感矩阵A为M*N矩阵  
25.     theta = zeros(N,1);%用来存储恢复的theta(列向量)  
26.     Pos_theta = [];%用来迭代过程中存储A被选择的列序号  
27.     r_n = y;%初始化残差(residual)为y  
28.     for ss=1:S%最多迭代S次  
29.         product = A'*r_n;%传感矩阵A各列与残差的内积  
30.         sigma = max(abs(product));  
31.         Js = find(abs(product)>=alpha*sigma);%选出大于阈值的列  
32.         Is = union(Pos_theta,Js);%Pos_theta与Js并集  
33.         if length(Pos_theta) == length(Is)  
34.             if ss==1  
35.                 theta_ls = 0;%防止第1次就跳出导致theta_ls无定义  
36.             end  
37.             break;%如果没有新的列被选中则跳出循环  
38.         end  
39.         %At的行数要大于列数，此为最小二乘的基础(列线性无关)  
40.         if length(Is)<=M  
41.             Pos_theta = Is;%更新列序号集合  
42.             At = A(:,Pos_theta);%将A的这几列组成矩阵At  
43.         else%At的列数大于行数，列必为线性相关的,At'*At将不可逆  
44.             if ss==1  
45.                 theta_ls = 0;%防止第1次就跳出导致theta_ls无定义  
46.             end  
47.             break;%跳出for循环  
48.         end  
49.         %y=At*theta，以下求theta的最小二乘解(Least Square)  
50.         theta_ls = (At'*At)^(-1)*At'*y;%最小二乘解  
51.         %At*theta_ls是y在At列空间上的正交投影  
52.         r_n = y - At*theta_ls;%更新残差  
53.         if norm(r_n)<1e-6%Repeat the steps until r=0  
54.             break;%跳出for循环  
55.         end  
56.     end  
57.     theta(Pos_theta)=theta_ls;%恢复出的theta  
58. end  

3、SWOMP单次重构测试代码

        以下测试代码基本与OMP单次重构测试代码一样。代码中“Phi = randn(M,N)/sqrt(M);%测量矩阵为高斯矩阵”并不像StOMP一样要求一定要除以sqrt(M)，这也是SWOMP对StOMP的最大改进之处。

[plain]  view plain  copy

 

1. %压缩感知重构算法测试  
2. clear all;close all;clc;  
3. M = 128;%观测值个数  
4. N = 256;%信号x的长度  
5. K = 30;%信号x的稀疏度  
6. Index_K = randperm(N);  
7. x = zeros(N,1);  
8. x(Index_K(1:K)) = 5*randn(K,1);%x为K稀疏的，且位置是随机的  
9. Psi = eye(N);%x本身是稀疏的，定义稀疏矩阵为单位阵x=Psi*theta  
10. Phi = randn(M,N)/sqrt(M);%测量矩阵为高斯矩阵  
11. A = Phi * Psi;%传感矩阵  
12. y = Phi * x;%得到观测向量y  
13. %% 恢复重构信号x  
14. tic  
15. theta = CS_SWOMP( y,A);  
16. x_r = Psi * theta;% x=Psi * theta  
17. toc  
18. %% 绘图  
19. figure;  
20. plot(x_r,'k.-');%绘出x的恢复信号  
21. hold on;  
22. plot(x,'r');%绘出原信号x  
23. hold off;  
24. legend('Recovery','Original')  
25. fprintf('\n恢复残差：');  
26. norm(x_r-x)%恢复残差  

        运行结果如下：（信号为随机生成，所以每次结果均不一样）

        1）图：

        2）Command  windows

        Elapsedtime is 0.093673 seconds.

        恢复残差：

        ans=

          2.9037e-014

4、门限参数α、测量数M与重构成功概率关系曲线绘制例程代码

        因为文献[1]中对门限参数α给出的是一个取值范围，所以有必要仿真α取不同值时的重构效果。以下的代码是基于StOMP相应的测试代码修改的，基本结构一样，只是α的测试值共10个，而在StOMP中ts的测试值共6个。

[plain]  view plain  copy

 

1. clear all;close all;clc;  
2. %% 参数配置初始化  
3. CNT = 1000;%对于每组(K,M,N)，重复迭代次数  
4. N = 256;%信号x的长度  
5. Psi = eye(N);%x本身是稀疏的，定义稀疏矩阵为单位阵x=Psi*theta  
6. alpha_set = 0.1:0.1:1;  
7. K_set = [4,12,20,28,36];%信号x的稀疏度集合  
8. Percentage = zeros(N,length(K_set),length(alpha_set));%存储恢复成功概率  
9. %% 主循环，遍历每组(alpha,K,M,N)  
10. tic  
11. for tt = 1:length(alpha_set)  
12.     alpha = alpha_set(tt);  
13.     for kk = 1:length(K_set)  
14.         K = K_set(kk);%本次稀疏度  
15.         %M没必要全部遍历，每隔5测试一个就可以了  
16.         M_set=2*K:5:N;  
17.         PercentageK = zeros(1,length(M_set));%存储此稀疏度K下不同M的恢复成功概率  
18.         for mm = 1:length(M_set)  
19.            M = M_set(mm);%本次观测值个数  
20.            fprintf('alpha=%f,K=%d,M=%d\n',alpha,K,M);  
21.            P = 0;  
22.            for cnt = 1:CNT %每个观测值个数均运行CNT次  
23.                 Index_K = randperm(N);  
24.                 x = zeros(N,1);  
25.                 x(Index_K(1:K)) = 5*randn(K,1);%x为K稀疏的，且位置是随机的                  
26.                 Phi = randn(M,N)/sqrt(M);%测量矩阵为高斯矩阵  
27.                 A = Phi * Psi;%传感矩阵  
28.                 y = Phi * x;%得到观测向量y  
29.                 theta = CS_SWOMP(y,A,10,alpha);%恢复重构信号theta  
30.                 x_r = Psi * theta;% x=Psi * theta  
31.                 if norm(x_r-x)<1e-6%如果残差小于1e-6则认为恢复成功  
32.                     P = P + 1;  
33.                 end  
34.            end  
35.            PercentageK(mm) = P/CNT*100;%计算恢复概率  
36.         end  
37.         Percentage(1:length(M_set),kk,tt) = PercentageK;  
38.     end  
39. end  
40. toc  
41. save SWOMPMtoPercentage1000 %运行一次不容易，把变量全部存储下来  
42. %% 绘图  
43. for tt = 1:length(alpha_set)  
44.     S = ['-ks';'-ko';'-kd';'-kv';'-k*'];  
45.     figure;  
46.     for kk = 1:length(K_set)  
47.         K = K_set(kk);  
48.         M_set=2*K:5:N;  
49.         L_Mset = length(M_set);  
50.         plot(M_set,Percentage(1:L_Mset,kk,tt),S(kk,:));%绘出x的恢复信号  
51.         hold on;  
52.     end  
53.     hold off;  
54.     xlim([0 256]);  
55.     legend('K=4','K=12','K=20','K=28','K=36');  
56.     xlabel('Number of measurements(M)');  
57.     ylabel('Percentage recovered');  
58.     title(['Percentage of input signals recovered correctly(N=256,alpha=',...  
59.         num2str(alpha_set(tt)),')(Gaussian)']);  
60. end  
61. for kk = 1:length(K_set)  
62.     K = K_set(kk);  
63.     M_set=2*K:5:N;  
64.     L_Mset = length(M_set);  
65.     S = ['-ks';'-ko';'-kd';'-k*';'-k+';'-kx';'-kv';'-k^';'-k<';'-k>'];  
66.     figure;  
67.     for tt = 1:length(alpha_set)  
68.         plot(M_set,Percentage(1:L_Mset,kk,tt),S(tt,:));%绘出x的恢复信号  
69.         hold on;  
70.     end  
71.     hold off;  
72.     xlim([0 256]);  
73.     legend('alpha=0.1','alpha=0.2','alpha=0.3','alpha=0.4','alpha=0.5',...  
74.         'alpha=0.6','alpha=0.7','alpha=0.8','alpha=0.9','alpha=1.0');  
75.     xlabel('Number of measurements(M)');  
76.     ylabel('Percentage recovered');  
77.     title(['Percentage of input signals recovered correctly(N=256,K=',...  
78.         num2str(K),')(Gaussian)']);      
79. end  

        本程序在联想ThinkPadE430C笔记本（4GBDDR3内存，i5-3210）上运行共耗时8430.877154秒（时间较长，运行时可以干点别的事情了），程序中将所有数据均通过“save SWOMPMtoPercentage1000”存储了下来，以后可以再对数据进行分析，只需“load SWOMPMtoPercentage1000”即可。

        程序运行结束会出现10+5=11幅图，前10幅图分别是α分别为0.1、0.2、0.3、0.4、0.5、0.6、0.7、0.8、0.9和1.0时的测量数M与重构成功概率关系曲线（类似于OMP此部分，这里只是对每一个不同的α画出一幅图），后5幅图是分别将稀疏度K为4、12、20、28、32时将十种α取值的测量数M与重构成功概率关系曲线绘制在一起以比较α对重构结果的影响。

        以下是α分别为0.1、0.2、0.3、0.4、0.5、0.6、0.7、0.8、0.9和 1.0时的测量数M与重构成功概率关系曲线：

        以下是稀疏度K为4、12、20、28、32时将十种α取值的测量数M与重构成功概率关系曲线放在一起的五幅图：

        对比可以看出，总体上讲α=0.5时效果较好，α=0.6在稀疏度较小时比α=0.5还好，但在K=36时不如α=0.5时。因此把α默认取为0.5即可。

5、结语

        对比StOMP中ts=2.4与SWOMP中α=0.5的情况：

[plain]  view plain  copy

 

1. clear all;close all;clc;  
2. load StOMPMtoPercentage1000;  
3. PercentageStOMP = Percentage;  
4. S = ['-ks';'-ko';'-kd';'-kv';'-k*'];  
5. figure;  
6. for kk = 1:length(K_set)  
7.     K = K_set(kk);  
8.     M_set=2*K:5:N;  
9.     L_Mset = length(M_set);  
10.     %ts_set = 2:0.2:3;第3个为2.4  
11.     plot(M_set,Percentage(1:L_Mset,kk,3),S(kk,:));%绘出x的恢复信号  
12.     hold on;  
13. end  
14. load SWOMPMtoPercentage1000;  
15. PercentageSWOMP = Percentage;  
16. S = ['-rs';'-ro';'-rd';'-rv';'-r*'];  
17. for kk = 1:length(K_set)  
18.     K = K_set(kk);  
19.     M_set=2*K:5:N;  
20.     L_Mset = length(M_set);  
21.     %alpha_set = 0.1:0.1:1;第5个为0.5  
22.     plot(M_set,Percentage(1:L_Mset,kk,5),S(kk,:));%绘出x的恢复信号  
23.     hold on;  
24. end  
25. hold off;  
26. xlim([0 256]);  
27. legend('StK=4','StK=12','StK=20','StK=28','StK=36',...  
28.     'SWK=4','SWK=12','SWK=20','SWK=28','SWK=36');  
29. xlabel('Number of measurements(M)');  
30. ylabel('Percentage recovered');  
31. title(['Percentage of input signals recovered correctly(N=256,ts=2.4,\alpha=0.5)(Gaussian)']);  

        运行结果如下：

        注意，本程序需要已运行完StOMP测试程序，保存了数据文件StOMPMtoPercentage1000.mat。从图中可以看出StOMP要略好于SWOMP，但是StOMP的门限设置由残差决定，这对测量矩阵提出了要求，而SWOMP的门限设置则对测量矩阵要求较低。

【参考文献】

[1] ThomasBlumensath，Mike E. Davies．Stagewiseweak gradient pursuits[J]．IEEE Transactions onSignal Processing，2009，57(11)：4333-4346．

[2]杨真真，杨震，孙林慧.信号压缩重构的正交匹配追踪类算法综述[J]. 信号处理，2013，29(4)：486-496.