3.[成果分享]一篇论文被Applied Soft Computing录用

标题	Minimum spanning tree niching-based differential evolution with knowledge-driven update strategy for multimodal optimization problems
作者	Xiangqian Li; Hong Zhao; Jing Liu
机构	Xidian University
邮箱	xiangqianli@stu.xidian.edu.cn, hongzhao@xidian.edu.cn
论文	https://www.sciencedirect.com/science/article/pii/S1568494623006075

摘要

多模态优化问题 (Multimodal optimization problems, MMOPs) 旨在在同时定位多个高精度的最优解。近年来，为了保持种群的多样性，许多小生境策略被用于进化算法以解决MMOPs。然而，大多数多模态算法对于小生境参数（例如小生境的大小/数量）敏感，并且缺乏有效的方法来更新“停滞个体”（陷入局部最优的个体或收敛到相同最优解的个体）。针对上述问题，本文提出了一种基于最小生成树和知识驱动策略的差分进化（TNDE）算法，其中“知识”包括历史进化信息、适应度分布信息和个体分布信息。在TNDE中，我们首先提出了基于最小生成树的生境策略 (minimum spanning tree niche, MSTN) 以自适应地划分种群并动态地调整小生境的数量。此外，我们还提出了基于知识驱动的更新策略 (knowledge-driven update strategy, KDU) 以定位和更新那些停滞的个体。最后，我们提出了改进的差分进化算法，包括基于局部阶段的变异策略 (local stage-based mutation strategy, LSM) 和方向引导的选择策略 (directional guidance selection strategy, DGS) 分别用于加速收敛并提高解的精度。与16种最先进的算法相比，TNDE在求解高维多模态优化问题上具有显著优势。

现有方法存在的问题

• 大多数基于小生境的算法从进化开始时就将种群划分为了多个小生境并且对先验参数敏感。然而，由于种群是随机初始化的，进化早期的个体的分布具有很大的随机性，容易导致种群划分不合理。因此，如何在进化过程中合理地划分种群是第一个挑战。

• 种群在进化后期中存在许多“停滞个体”（陷入局部最优的个体和收敛到同一最优解的个体）。然而，这些停滞个体很难被定位并且它们会消耗大量的适应度评价指标(FEs)。因此，如何定位停滞个体并为其提供新的进化机会是第二个挑战。

• 现有的基于小生境的算法使用相同的进化算子来进化所有小生境，没有考虑不同小生境之间收敛状态的差异。因此，如何区分不同的小生境并采用不同的进化算子来加速收敛是第三个挑战。

创新点

• 提出了一种基于最小生成树的生境策略 (minimum spanning tree niche, MSTN)，根据个体的位置构建最小生成树并通过切割其中的边来自适应地划分种群。因为处于同一最优区域的个体之间的关系比处于不同最优区域的个体之间的关系更密切，构建的树中边的长度可以准确地衡量不同个体之间的关系。因此，在构建的树中，前几条最长的边是连接不同最优区域的边。然后，利用从知识中检测到的最优解的数目可以在不同进化阶段动态调整需要截断的边数。这样，每个独立子树形成一个小生境，有效地解决了第一个问题。

• 提出了一基于种知识驱动的更新策略 (knowledge-driven update strategy, KDU) 来检测和更新停滞个体。根据历史进化信息、适应度分布信息和个体分布信息，可以提取出假定的最优值、正常适应度值的分布范围和个体周围的密度。基于上述结果，可以定位这些停滞的个体。然后，通过高斯扰动将这些个体更新到适应度值较好的个体的邻域就可以提高种群的多样性。这样，FEs分配给更新的个体，而不是停滞的个体，有助于定位更多的最优解，从而解决第二个问题。

• 提出了一种结合局部阶段变异策略 (local stage-based mutation strategy, LSM) 和方向引导的选择策略 (directional guidance selection strategy, DGS) 的改进DE，以加快收敛速度并提高找到解的精度。具体而言，LSM策略使每个小生境能够根据该小生境的进化阶段独立选择更关注种群多样性或收敛性的变异算子。同时，如果将父代个体替换为适应度值较优的子代个体，DGS策略可以利用子代个体与父代个体的差向量进一步优化解。这样既保证了种群的收敛能力，又保证了解的精度，从而解决了最后一个问题。

算法流程

在TNDE中，根据种群中最大适应度值的连续停滞代数（即STmf）的大小，整个种群的进化阶段被分为了探索阶段和开发阶段。

• 当 STmf < ST 时，认为种群处于探索阶段，此时个体向最优区域收敛。

• 当 STmf > ST 时，认为种群处于开发阶段，此时每个最优区域中的个体都向当前最优区域中的最优收敛。

算法的整体流程图如下：

在探索阶段，只有MSTN策略以及改进的DE（包括LSM和DGS策略）能够帮助个体向最优区域收敛。此时，较少数量的小生境可以帮助个体向更优的区域进化。在每个小生境中执行完DE算法后，TNDE开始下一次迭代。当种群的进化阶段转变为开发阶段后，KDU策略开始工作，利用种群中的历史进化知识来检测和更新停滞的个体。此外，从知识中检测到的最优集合A可以指导其他策略更好地进化种群。具体来说，通过检测到的最优个体数量(|A|)，MSTN策略可以动态调整小生境的数量。此外，通过比较每个小生境中的个体与A中的最优个体，所有小生境会被分为两个阶段，并采用不同的变异算子，以关注种群的多样性或收敛性。

MSTN strategy

最佳小生境数量与种群的进化阶段有关。显然，收敛于相同最优的个体之间的距离比收敛于不同最优的个体之间的距离要小，并且通过构造MST可以很好地表示个体之间的关系。为此，提出了一种MSTN策略，该策略包括以下两个步骤:

1. 基于每对个体之间的欧氏距离构建MST;

2. 根据KDU策略中检测到的最优值个数，裁剪前几条最长的边，获得小生境。

这样，小生境的数量与种群的收敛状态有关，在算法1中总结了MSTN策略的详细过程。

KDU strategy

为了给那些停滞的个体提供新的进化机会，提出了一种KDU策略。当最大适应度值的连续停滞代数超过ST时（种群的进化阶段进入探索阶段，此时种群中存在大量停滞个体），KDU策略开始工作，否则可能会导致一些有潜力的个体被错误地更新。具体来说，KDU策略利用种群的历史进化信息来定位停滞个体，并通过高斯扰动将这些个体更新到优秀个体的邻域。其中，知识包括历史进化信息、适应度分布信息和个体分布信息，定义如下。

• 历史进化信息: 最大适应度值的停滞时间，决定了问题假设的最优适应度值;

• 适应度分布信息: 所有个体适应度值的排序结果，决定了正常适应度值的最小值;

• 个体分布信息: 个体之间的距离和假定的最优适应值，它用于定位收敛到相同最优值的个体。

总体而言，KDU策略可分为以下3个步骤:

1. 检测陷入局部最优的个体;

2. 检测收敛到相同最优值的个体;

3. 更新停滞的个体。

完整的KDU策略如下：

Improved DE with LSM and DGS strategies

• LSM Strategy

为给每个小生境选择合适的变异算子，小生境的进化阶段也分为探索和开发阶段。当种群处于探索阶段时（即STmf < ST），所有小生境都被认为处于探索阶段。当种群进入开发阶段时（STmf > ST），只有含有最优解的生态位进入开发阶段。

当小生境处于探索阶段时，利用距离当前个体最近且适应值较好的个体xb指导变异，以保持种群多样性，如果xi是当前小生境内的最优个体，则xi作为xb。在开发阶段，利用优秀个体引导变异以加快收敛速度。因为所有STi大并且适应值差的个体已经被KDU策略更新了，所以用STi大的个体代表优秀个体。完整的LSM策略如下：

• DGS Strategy

虽然CDE中提出的基于拥挤的选择策略可以有效地保持种群多样性，何进一步提高子代的精度一直没有得到有效的解决。因此，本文在基于拥挤的选择策略的基础上提出了DGS策略以加快种群的收敛速度。当一个后代个体ui优于最相似的父代xp时，ui和xp之间的差异向量被认为是一个有利于进化的向量:

然后，ui和u'i中的更优个体取代xp进入下一代。当当前小生境仍处于探索阶段时，利用优秀个体扰动生成新个体

The complete TNDE

基于上述三大策略，完整的 TNDE 算法如下：

实验结果

跟 state-of-the-art 的算法对比

• 跟最先进的多模态优化算法的实验结果对比

表1显示，在20个函数中，TNDE在15个函数上取得了最好的结果，Wilcoxon秩和检验结果表明，TNDE优于所有对比算法。具体来说，对于前10个简单的函数，TNDE在所有函数上都取得了最好的结果。虽然这些最近提出的算法在F1-F6和F10上每次运行都能找到所有最优解并且性能稳定，TNDE也能找到所有最优解。但对比算法在F7-F9上的结果明显低于TNDE。其中，F7、F8和F9具有较多的全局最优值，这可以验证算法保持种群多样性的能力。对于从F11到F15的低维复合函数，TNDE在F11上取得了最好的效果。虽然TNDE在F12上没有取得最好的结果，但SR为0.98。此外，TNDE在F13上可以找到近70%的最优解，在F14上仅差于PMODE，这是一个令人满意的结果。对于F15, TNDE的PR为0.73，与PMODE相近，性能明显优于其他对比算法。总体而言，TNDE在低维复合函数上明显优于大多数对比算法。对于后5个高维函数，TNDE在除F18外的所有函数上都取得了最好的结果。其中，TNDE在F17、F19和F20上具有显著的优势。具体来说，所有算法在F16上的PR值相同，TNDE在F17上的性能明显优于所有对比算法。此外，F19和F20的维数分别为10和20，验证了算法的收敛能力。在所有对比算法中，只有NCD-DE和DEDE-C分别在F19和F20上取得了与TNDE相似的结果。总之，TNDE在高维函数上的性能优于所有对比算法。

该图更加直观的表现出TNDE优于其他对比算法

• 跟最先进的多模态优化算法以及CEC2013冠军算法的实验结果对比图

• 种群中的个体在函数 F7 以及 F8 上的收敛图

消融实验

跟不同的KDU策略的对比实验如下，其中TNDE-t表示仅重新初始化陷入局部最优的个体，TNDE-c表示仅重新初始化收敛到同一最优的个体，TNDE-wu表示无KDU策略的TNDE，实验结果表明KDU策略能显著提高算法的性能。

跟不同变异以及选择策略的TNDE的变体的实验结果对比如下，其中TNDE-r表示采取DE-rand/1变异算子的变体, TNDE-b 表示采用 DE/best/1 变异算子的 TNDE 变体, TNDE-s1 和 TNDE-s2 分别表示仅采取 LSM 策略第一阶段和第二阶段变异算子的变体。此外, TNDE-c 表示采取基于拥挤的选择策略的变体，TNDE-r 表示采取随机选择策略的变体。实验结果表明 TNDE 具有显著优势，验证了所提出的 LSM 和 DGS 策略的有效性。

参数分析

TNDE中有两个参数 (即k和ST)。参数k用于反映找到的最优值周围的密度。如果找到的最优个体周围的密度满足要求，则使用KDU策略更新最近的k个个体。此外，参数ST决定了种群和个体中适应度值最大的个体是否具有进一步进化的潜力。因此，本节k和ST对TNDE性能的影响是值得进一步研究的

• 参数 k 以及 ST 对算法结果的影响图

• 

总结

本文提出了求解MMOPs的TNDE算法，它将种群的进化阶段分为探索阶段和开发阶段，并采用不同的策略对种群进行进化。在TNDE中，提出MSTN策略以自适应划分种群并动态调整小生境数量。此外，提出了KDU策略，利用种群中的知识检测停滞个体，并对这些停滞个体进行高斯扰动更新以提高种群多样性。最后，提出了一种基于LSM和DGS策略的差分进化算法，分别帮助每个小生境选择合适的变异算子和提高解的精度。与14种最先进的多模态算法以及CEC'2013和CEC'2015竞赛的冠军算法相比，TNDE在高维问题和具有许多全局最优解的问题上取得了显著的优势。