论文研读_基于决策变量分类的多目标多因素遗传算法，用于多目标多任务优化问题（HMOMFMA）精简版

论文研读_基于决策变量分类的多目标多因素遗传算法，用于多目标多任务优化问题

• 此篇文章为Decision variable classification based multi-objective multifactorial
  memetic algorithm for multi-objective multi-task optimization problem的论文学习笔记，只供学习使用，不作商业用途，侵权删除。并且本人学术功底有限如果有思路不正确的地方欢迎批评指正!

摘要

所提出的变量分类方法将决策变量分类为与收敛性相关的和与多样性相关的决策变量。 只有 源任务 和 目标任务 中相同类型的决策变量才能传递信息，以避免负面传递。 在个体重组过程中，根据决策变量的特性采用不同的进化操作符。此外，所提出的算法将免疫算法作为全局进化操作符和进化梯度搜索算法作为局部搜索操作符融合到多因素框架中，以增强搜索能力。

3. 算法

3.1. HMOMFMA的整体框架

应高效利用不同决策变量的特性来提高信息传递的效率。基于这一思想，在提出的HMOMFMA中，每个任务的决策变量将根据其对种群多样性和收敛性的贡献被分类为与多样性相关的决策变量和与收敛性相关的决策变量。在生成新个体时，将根据决策变量的类型应用不同的进化算子。为了加速收敛并保持多样性，提出的HMOMFMA融合了 免疫算法 [39]，专注于每一代中分布稀疏的非支配解。提出的HMOMFMA还结合了EGS作为局部搜索算子以提高搜索能力。提出的 HMOMFMA 的整体框架在算法1中总结。

• **算法 1. HMOMFMA的整体框架。**The overall framework of HMOMFMA.

首先，与经典的EMT算法不同，HMOMFMA根据 决策变量 对 收敛性 和 多样性 的贡献将其分类为两种类型。这一策略根本上决定了应用于特定决策变量的进化算子，该分类方法的详细描述在3.2节中呈现。

然后初始化种群，并根据 统一决策空间机制 对每个个体进行编码。所有个体将被 均匀地分配 到每个任务中。每个个体将设置相应的技能因子并在其任务中进行评估。之后，将从每个任务中挑选出非支配解以形成表示为 ( $P_N$ ) 的非支配种群。除了确保 收敛性 ，多样性在迭代过程中至关重要，因此应更多地关注种群的稀疏区域。基于这一点，从 ( $P_N$ ) 中选择目标空间分布最稀疏的 ( $N_A $) 个解以形成活跃种群 ( $P_A$ ) 作为克隆种群 ( $P_C$ ) 的父代。个体的 稀疏度 通过最大扩展距离（$MED$）来评估，已被证明是评估解密度的一种有效且有用的方法，其中较大的MED值表示解在目标空间中离其他解更远。MED的具体计算方法在算法2中展示。

所提出的HMOMFEA遵循免疫算法的核心思想，即 克隆选择机制 ，这一机制受到免疫学中抗体细胞大量无性繁殖和有丝分裂的启发[47]。在免疫系统中，后代细胞的基因与亲本细胞的基因相同，这可以增强与抗原的结合[48]。克隆选择机制认为，更好的解决方案应获得更多的克隆资源，其目的是 围绕优秀解决方案产生更多的局部搜索 [49]。克隆资源的分配是根据个体在$P_A$中的MED值进行的，MED值越大，可以获得的克隆资源越多。克隆选择的数学模型如方程(5)所示。

其中运算符 $\otimes$ 表示克隆操作符，参数 $h_i$ 表示在活跃种群 $P_A$ 中每个解 $a_i$ 的克隆数量。接下来，$P_C$ 中的个体将经历重组和局部搜索，以生成后代种群 $P_C^{\prime }$。$P_C$ 中的所有个体将被重组，当达到局部搜索阈值时，$P_C$ 中的 $r$ 个个体将执行局部搜索。

局部搜索采用EGS策略，如第3.4节所述。

重组可以分为任务内重组和任务间信息传递，根据决策变量的类型使用不同的进化算子进行重组，如第3.3节所示。

之后，按照EMT中的垂直文化传播规则，$P_C^{\prime }$ 中的每个个体被分配一个技能因子，并在相应的任务上进行评估。最后，合并当前代的 $P_C^{\prime }$ 和 $P_N$，挑选出所有非支配解，形成下一代的新 $P_N$。

• **算法 2. 最大扩展距离。**The maximum extension distance.

算法2主要是计算解之间的稀疏度

3.2. 决策变量分类方法用于信息传递

提出的决策变量分类方法的具体伪代码如算法3所示。

• **算法3：提出的决策变量分类方法。**The proposed decision variable classification method.

$IC$:与收敛相关的决策变量的索引集合

$NS$:单一决策变量维度的采样点数量

$NF$:归档集S中非支配解的总数，衡量解集多样性和质量

首先，初始化一个用于控制变量分析的模板解。其所有维度被设置为特定任务中相应维度的上下界均值，如第3行所示。$u_i$ 和 $l_i$ 分别代表此任务中第i个决策变量的上界和下界。

接着，基于模板解，生成NS个在第i维度上具有不同值但其他维度保持不变的解，以执行第i维度的控制变量分析，如第8行所示，并将这些解保存到归档集S中。

• 根据非支配解的数量NF，对决策变量进行分类。如果对于某一维度i，NF等于1，这意味着所有变化仅产生一个非支配解，表明这个决策变量与问题的收敛性相关，其索引i被存储在集合IC中。如果NF不等于1，表明这个维度上的变化产生了多个非支配解，表明这个决策变量与问题的多样性相关，其索引i被存储在集合ID中。

3.3. 基于决策变量特性的重组

有效利用不同决策变量的特性可以加速算法的收敛并确保种群的多样性。提出的HMOMFMA对与多样性相关和与 收敛性 相关的决策变量应用不同的重组算子。

对于与多样性相关的决策变量，后代应远离父代。

对于与 收敛性 相关的决策变量，后代应靠近父代并在父代周围进行局部搜索。因此，差分进化算子是多样性决策变量的重组算子。

多样性：DE算子将利用种群中随机选取的两个额外解的信息来优化当前解，生成的后代与父代的相似度较低。

收敛性：对于收敛决策变量，应用SBX算子作为重组算子，生成的后代靠近父代，可以在局部范围内挖掘更有前景的解，同时确保算法的有效收敛。

图2展示了两种算子分别生成的后代的直方图示例，其中父代 ($x_1$) 和 ($x_2$) 的值分别为 0.3 和 0.7 ，DE算子中第三个父代 ($x_3$) 的值从决策空间中随机选取。SBX中的参数 ( $\eta$ ) 设置为20，DE中的参数 (F) 设置为1，两种算子分别进行了100次测试。
如果在后代生成过程中能有效利用其他任务的知识，可以显著提高优化目标任务的效率。这是EMT算法的主要优势和本质特征。因此，在提出的HMOMFMA中，使用遗传映射转移策略[37]将统一决策空间中相距较远的个体映射到靠近目标任务的区域。遗传映射转移策略可以显著提高源任务的信息传递效率并减少负面转移。其数学表达式如公式(6)所示。

在目标任务中，$x_i^{target}$ 代表转移维度，而 $\overline{x_i^{target}}$表示该维度的平均值。在源任务中， ${\mathcal{X}}_j^{source}$ 表示转移维度，$\overline{{\mathcal{X}}_j^{source}}$ 是该维度的平均值，而 $\bar{\epsilon }$ 表示一个微小的实数值。

需要注意的是，目标任务和源任务的转移维度不是一一对应的，而是根据决策变量的特性进行选择。当进行重组时，如果检测到父代的技能因子不一致，将激活遗传映射转移策略来进行信息传递。需要特别注意的一点是，由于与 收敛性 相关的决策变量需要在父代附近进行局部搜索，因此不宜无差别地接收其他任务的所有信息。提出的HMOMFMA继承了MOMFEA中的随机交配概率（rmp）概念。当满足rmp时，可以对与 收敛性 相关的决策变量执行跨任务知识转移。如果父代的技能因子相同，则直接进行重组，而不激活遗传映射转移策略。完成重组后，如果满足突变条件，则多项式突变会改变决策变量。基于决策变量特性的重组方法的伪代码如算法4所示。

• **算法 4. 基于决策变量特性的重组方法。**The recombination method based on the decision vari-
  able characteristic.

2. 多样性相关决策变量处理：
   • 第2-12步处理多样性相关的决策变量。对于父代个体a的每一个维度$i$：
     • 如果$i$属于多样性相关决策变量集合$ID$，则随机选择两个多样性相关的决策变量$b_{div}$和$c_{div}$。
     • 如果b和a的$\tau$值不同，则对$b_{div}$执行遗传映射转移策略。
     • 如果c和a的$\tau$值相同，则对$c_{div}$执行遗传映射转移策略。
     • 最后，使用差分进化策略$DE$生成新的后代个体$o_i$。
3. 收敛相关决策变量处理：
   • 第13-19步处理收敛相关的决策变量。
     • 如果$i$属于收敛相关决策变量集合$IC$，则从b中随机选择一个收敛相关的决策变量$b_{cov}$。
     • 如果b和a的$\tau$值不同，并且随机数小于某个阈值（$rand1<rmp$），则对$b_{cov}$执行遗传映射转移策略；否则对$a_i$执行多项式变异。
     • 使用模拟二进制交叉$SBX$策略在$a_i$和$b_{cov}$之间生成新的后代个体$o_i$。
4. 随机变异操作：
   • 第20-23步是一个额外的随机变异操作。对于每个决策变量$i$，如果随机数$rand2$小于变异概率$p_m$，则对当前生成的后代个体$o_i$执行多项式变异。

3.4. 基于进化梯度搜索的局部搜索

为了有效地在高质量解附近寻找更好的解决方案，即分布稀疏的非支配解，HMOMFMA结合了全局搜索和局部搜索。免疫算法作为全局搜索优化器，而EGS作为局部搜索优化器。

EGS的基本思想是利用进化过程中获得的梯度信息指导种群向最优解移动。在单目标优化问题（SOPs）中，通常使用目标函数值的偏差作为梯度信息。在多目标优化问题（MOPs）中，结合种群致力于接近PF并均匀分布的特性，提出的HMOMFMA应用规范化目标函数值的平均值作为适应度 ($F(x)$) 来评估个体的性能，以在迭代过程中获得梯度信息。HMOMFMA中EGS的具体伪代码如算法5所示。

• **算法 5. 基于进化梯度搜索的局部搜索。**Local search based on evolutionary gradient search.

EGS主要包括两个步骤：通过进化估计梯度方向和使用梯度下降法更新解。为了估计梯度方向，首先生成L个试验解 $r_i$，通过正态分布 $N(0,{\sigma }_t^2)$ 扰动父代，其中 ${\sigma }_t$ 控制变异强度。然后，根据垂直文化传播原则，将技能因子分配给 $r_i$ 并进行评估。梯度计算需要一个单一的适应度指标。这里使用标准化目标值的平均值作为适应度值。之后，根据第8行所示的方法计算梯度。接下来，使用梯度下降法生成后代解 $o$，如第 9 行所示。然后，根据父代个体 $\breve{a}$ 与后代个体 $o$ 之间的支配关系，更新变异步长 ${\sigma }_t$ 。如果后代 $o$ 能够支配父代 $\breve{a}$ ，那么当前的 $\breve{a}$ 将被后代 $o$ 替换，并且 ${\sigma }_t$ 会乘以系数 $\epsilon$ 。否则， ${\sigma }_t$ 将除以系数 $\epsilon$ ，其中系数 $\epsilon$ 通常设置为 1.8 [41]。最后，当局部搜索次数达到 LST 时，局部搜索过程终止，并将最终个体 $\breve{a}$ 输出作为局部搜索的结果。

根据符号O的操作规则，所提出的HMOMFMA的时间复杂度可以简化为 $O(m\times (N_D+N_C{)}^2\times LS\times LST\times r\times L\times N_D)$。然而，考虑到局部搜索使用的次数和概率非常小，在实际使用中，算法的速度不会显著降低。