基于野狗算法的投影寻踪模型 - 附代码

基于野狗算法的投影寻踪模型 - 附代码

摘要：投影寻踪(projection pursuit，PP)是处理和分析高维数据的一类新兴统计方法，其基本思想是将高维数据投影到低维子空间上，并在该子空间上寻找出能够反映原高维数据结构或特征的投影，从而达到研究和分析高维数据的目的 ，在克服“维数祸根”以及解决小样本、超高维等问题中具有明显优势。在实际应用中，投影寻踪模型最佳投影方向 a 的选取对于投影寻踪模型的评估精度及评估结果有着关键性影响。本文利用野狗算法来对最佳投影方向a进行参数寻优。

1.野狗算法

野狗算法原理请参考：https://blog.csdn.net/u011835903/article/details/122368818

2.投影寻踪模型

投影寻踪模型的基本原理是将高维数据通过某种组合投影到低维子空间上，通过极小化投影指标来反映原高维数据结构或特征，并在低维空间上对数据结构进行分析，以达到研究和分析高维数据的
目的，其简要算法过程如下：

步骤 1: 数据预处理。对评估数据集进行归一化处理。

步骤 2: 构造投影指标函数。投影寻踪方法就是将 m 维数据 { x i j ∣ j = 1 , 2 , . . . , m } \{x_{ij}|j=1,2,...,m\} {xij​∣j=1,2,...,m}综合乘以$a=(a_1,a_2,...,a_m)$为投影方向的一维投影值$z_i$:
$$z_i=\sum _{j=1}^m{a}_j{x}_{ij}\text{\hspace{1em}(1)}$$
式中 $x_{ij}$ 为第$i$组第$j$个评估指标值;$a$为单位向量。

步骤 3: 优化投影指标函数。当投影指标函数取得最大值时，所对应的$a $方向为最能反映数据特征的最优投影方向。因此搜寻最优投影方向问题就转化为非线性最优求解问题，其目标函数$Q(a)$及约束条件为:
$$\{\begin{array}{l}maxQ(a)=\sigma D_z\\ s.t.{\sum }_{j=1}^m{a}_j^2=1,a_j\in [0,1]\end{array}\text{\hspace{1em}(2)}$$
其中：
$$\sigma =\sqrt{\sum _{i=1}^n(z_i-z_{avg}{)}^2/(n-1)}\text{\hspace{1em}(3)}$$

$$D_z=\sum _{i=1}^n\sum _{j=1}^n(R-r_{ij})o(R-r_{ij})\text{\hspace{1em}(4)}$$

式中:$\sigma$、$D_z$ 分别为投影值$z_i$的标准差和局部密度; $z_{avg}$为序列$z_i$?的平均值;$R$为局部密度的窗口半径;$r_{ij}$ 为样本之间的距离;$o(\tau )$?为单位阶跃函数，当 $\tau \ge 0$ 时，其值为 1，$\tau ＜0$ 时，其值为 0;$n$ 为评估样本总数。

3.野狗算法结合投影寻踪

从2节中可以知道，参数a为我们要寻优的对象，于是设置野狗的维度为样本组数。适应度函数为投影寻踪目标函数$Q(a)$.
$$fitness=Q(a)\text{\hspace{1em}(5)}$$

4.测试结果

设置一组[0，1]之间的案例数据如下：

%导入数据，每列为指标，每行为样本数据，计算每个样本投影评价值
data =[0.71   0.00   0.37   0.01   0.15   0.00   0.37 
0.14   0.59   0.00   1.08   1.00   0.59   0.97 
0.57   0.43   0.11   0.98   0.01   0.73   0.83 
1.00   0.40   0.69   0.80   0.28   1.00   0.40 
0.73   0.66   1.00   0.00   0.88   0.90   0.53 
0.00   0.74   0.29   0.12   0.75   0.06   0.00 
0.84   0.86   0.86   0.61   0.97   0.64   0.50 
0.11   1.00   0.37   0.08   0.49   0.50   0.73 
0.27   0.09   0.49   0.39   0.94   0.86   0.40 
0.70   0.36   0.49   0.58   0.18   0.45   1.00 ];

野狗参数设置如下：

SearchAgents_no=30; %种群数量
Max_iteration = 2000;%最大迭代次数
dim = size(data,2);
lb = 0.01;%下边界
ub = 1;%上边界
fobj = @(a) fun(data,a);
[Best_score,Best_pos,SSA_curve]=SSA(SearchAgents_no,Max_iteration,lb,ub,dim,fobj); %开始优化

投影寻踪结果如下：

5.参考文献

[1]崔东文.鸡群优化算法-投影寻踪洪旱灾害评估模型[J].水利水电科技进展,2016,36(02):16-23+41.

6.Matlab代码