A Hybrid Framework for Evolutionary Multi-Objective Optimization AI 阅读

进化多目标优化算法广泛用于解决具有多个冲突目标的最优化问题。然而，基本进化多目标优化算法存在一些不足，例如收敛到帕累托最优前沿的速度较慢，没有有效的终止准则，以及缺乏理论收敛证明。为了克服这些不足，通常会使用包含局部搜索模块的混合进化多目标优化算法。但是，影响混合进化多目标优化算法性能的因素有很多，比如局部搜索中使用的标量化函数类型和局部搜索的频率。在本文中，我们解决了一些这些问题，并提出了一个混合进化多目标优化框架。所提出的混合进化多目标优化框架具有模块化结构，可用于实现混合进化多目标优化算法。考虑了NSGA-II、MOEA/D和MOEA/D-DRA作为进化多目标优化算法的这个框架的一个示例实现被提出。实现了基于梯度的序列二次规划方法作为用于局部搜索的标量化函数的单目标优化方法。因此，在数值实验中只考虑了连续可微函数。数值实验证明了所提出的框架的有用性。

AI 理解论文

Key Points

• 重点罗列：
  
  1. 存在两个主要研究领域解决多目标优化问题：多准则决策制定（MCDM）和基于进化算法的多目标优化（EMO）。
  2. MCDM旨在帮助决策者识别最偏好的解决方案，常将多目标优化问题简化为单目标优化问题。
  3. EMO算法使用个体种群，寻找接近帕累托最优前沿的非支配解，不涉及偏好信息或目标简化。
  4. EMO算法在处理多目标优化问题上具有优势，如能获得非支配解，容易处理复杂问题，灵活处理不同类型的变量、目标函数和约束。
  5. 尽管EMO算法在实际问题中取得了成功，但存在缺乏理论收敛证明、收敛速度慢和缺乏有效停止准则等问题。
  6. 为了解决这些问题，提出了混合EMO算法，将EMO算法和局部搜索结合，也被称为混合多目标进化算法。
  7. 混合EMO算法中，EMO算法作为全局优化器搜索整个搜索空间，局部搜索模块则改进种群个体。
  8. 混合EMO算法已被证明比单独的EMO算法更有效。
  9. 混合EMO算法中使用了不同的局部搜索过程，如帕累托支配方案和目标加权和的优化。
  10. 混合EMO算法面临的问题包括局部搜索使用的标量化函数类型、局部搜索频率、选择局部搜索的个体、缺乏有效的混合EMO算法终止准则以及探索和利用之间的平衡。
  11. 提出了一种基于锯齿型概率函数的局部搜索概率的混合EMO方法。
  12. 使用成就标量化函数（ASF）的混合EMO方法能够处理凸和非凸问题，并生成任意Pareto最优解。
  13. 后续研究提出了一个基于ASF最优值的有效的终止准则，并显著减少了函数评估次数。
  14. 使用的EMO算法是NSGA-II，顺序二次规划（SQP）作为局部搜索算法来解决ASF。
  15. 混合EMO算法在每次局部搜索中使用不同的权重因子在ASF中。
  16. 研究表明，与单独的EMO算法相比，混合EMO算法显著减少了函数评估次数，并产生了多样化的Pareto最优解。
  17. 最近的研究详细研究了局部搜索个体选择的问题，特别是在组合优化问题上。
  18. 提出了一种新的模块化混合EMO框架，以解决影响之前提到的混合EMO算法性能的问题。
  19. 混合EMO框架包括六个具有不同角色的模块（步骤），分别是：使用EMO算法解决多目标优化问题、项目与集群模块为局部搜索选择个体、多样性增强模块增加种群多样性、局部搜索模块改善种群中选定的个体、终止模块停止混合EMO算法。
  20. 该框架是通用的，与问题的类型（连续或组合）无关。使用ASF将多目标优化问题转换为单目标优化问题，并使用SQP作为本地搜索算法。
  21. 需要注意的是，ASF可以为任何类型的多目标优化问题制定，但用于解决单目标问题的本地搜索算法必须根据问题的特性相应地选择。

Related Work

• 这篇论文提到了以下相关工作：
  
  1. 多准则决策制定（MCDM）和基于进化算法的多目标优化（EMO）。
  2. 在MCDM中，目标是支持决策者识别最偏好的解决方案，通常通过简化为单目标优化问题并使用适当的数学编程技术求解。
  3. 基于进化算法的EMO用于找到接近帕累托最优前沿的非支配解，不涉及偏好信息或目标简化。
  4. EMO算法在解决多目标优化问题时具有优势，如获得非支配解、处理具有多个局部、离散和非凸帕累托最优前沿的问题以及灵活处理各种类型的变量、目标函数和约束。
  5. 一些EMO算法（如NSGA-II和SPEA2）存在不足，如缺乏理论上收敛到帕累托最优前沿的证明、收敛速度慢和缺乏有效的停止准则。
  6. 混合EMO算法被提出来解决这些不足，也被称为混合多目标进化算法。
  7. 混合EMO算法中，EMO算法作为一个全局优化器，通过搜索整个搜索空间来找到具有个体种群的最具前景的区域，而局部搜索模块局部改进种群的个体。
  8. 混合EMO算法比单独的EMO算法更有效。
  9. 混合EMO算法中使用了不同的局部搜索过程，如帕累托支配方案和目标加权和的优化。
  10. 混合EMO算法中的性能问题，包括局部搜索使用的标量化函数类型、局部搜索的频率、选择局部搜索的个体、缺乏有效的混合EMO算法终止准则以及维持探索和利用之间的平衡。
  11. 提出了一种基于锯齿型概率函数的局部搜索概率的混合EMO方法。
  12. 混合EMO方法中，局部搜索概率的周期性增加和减少被认为是有用的。
  13. 混合EMO方法在局部搜索中使用成就标量化函数（ASF），能够处理凸和非凸问题，并生成任意Pareto最优解。
  14. 后续研究中将混合EMO方法形式化为算法，并提出了一个基于ASF最优值的有效的终止准则。
  15. 与单独的EMO算法相比，实现了函数评估次数的显著减少。
  16. 使用的EMO算法是NSGA-II，顺序二次规划（SQP）作为局部搜索算法来解决ASF。
  17. 提出了一种混合EMO算法，其中在每次局部搜索中使用不同的权重因子在ASF中。
  18. 研究表明，与单独的EMO算法相比，显著减少了函数评估次数，并且产生了多样化的Pareto最优解。
  19. 最近的研究中详细研究了局部搜索个体选择的问题，特别是在组合优化问题上。
  20. 作者报告了在重组操作之前对种群中的个体进行局部搜索时，性能较好。
  21. 提出的混合EMO框架包括六个具有不同角色的模块（步骤），如EMO算法解决多目标优化问题、项目与集群模块为局部搜索选择个体、本地搜索模块结合本地搜索算法改进种群中选定的个体、多样性增强模块增加种群多样性、终止模块停止混合EMO算法。
  22. 该框架是通用的，与问题的类型（连续或组合）无关。在这里，我们只考虑具有不同iable函数和连续决策变量的多目标优化问题。使用ASF将多目标优化问题转换为单目标优化问题，并使用SQP作为本地搜索算法（因为涉及的函数是可导的）。

Method

• 作者通过以下方法取得结果：
  
  1. 比较多准则决策制定（MCDM）和基于进化算法的多目标优化（EMO）两种方法，指出它们有不同的研究目标。
  2. 描述MCDM方法，即将多目标优化问题简化为单目标优化问题，然后使用适当的数学编程技术求解。
  3. 描述EMO方法，即使用个体种群，尝试找到一组接近帕累托最优前沿的非支配解，不涉及任何偏好信息或目标简化。
  4. 阐述EMO算法在多目标优化问题中的应用优势。
  5. 指出一些EMO算法的不足，如缺乏理论上收敛到帕累托最优前沿的证明等。
  6. 介绍混合EMO算法，即在EMO算法中加入局部搜索，以解决上述不足。
  7. 说明混合EMO算法中局部搜索的不同过程，如帕累托支配方案和目标加权和的优化。
  8. 指出混合EMO算法在文献中被证明比单独的EMO算法更有效。
  9. 分析影响混合EMO算法性能的问题，并提出相应的解决方法。
  10. 提出一种基于锯齿型概率函数的局部搜索概率的混合EMO方法。
  11. 描述混合EMO方法中使用的局部搜索概率的周期性增加和减少。
  12. 使用成就标量化函数（ASF）处理凸和非凸问题，并生成任意Pareto最优解。
  13. 提出一个基于ASF最优值的有效的终止准则。
  14. 对比单独的EMO算法，实现函数评估次数的显著减少。
  15. 在每次局部搜索中使用不同的权重因子在ASF中，以产生多样化的Pareto最优解。
  16. 研究局部搜索个体选择的问题，并提出在重组操作之前对种群中的个体进行局部搜索时性能较好。
  17. 提出一个新的模块化混合EMO框架，以解决影响之前提到的混合EMO算法性能的问题。
  18. 阐述混合EMO框架的六个具有不同角色的模块。
  19. 使用EMO算法解决多目标优化问题。
  20. 使用项目与集群模块为局部搜索选择个体。
  21. 使用不同的局部搜索算法，如Nelder和Mead算法和SQP，以改善种群中选定的个体。
  22. 注意ASF可以为任何类型的多目标优化问题制定，但用于解决单目标问题的本地搜索算法必须根据问题的特性相应地选择。

Result

• 这篇论文探讨了多目标优化问题（MOO），并重点关注了两种主要的研究领域：多准则决策制定（MCDM）和基于进化算法的多目标优化（EMO）。论文概述了这两个领域的差异和优势，并指出EMO算法在解决多目标优化问题时的一些不足。为了解决这些问题，论文提出了一个混合EMO算法的框架，结合了全局的EMO搜索和局部搜索来提高算法性能。
  
  以下是论文中的实验结果的逐条罗列：
  
  1. 存在至少两个专注于解决多目标优化问题的研究领域：MCDM和EMO。
  2. 在MCDM中，目标支持决策者识别最偏好的解决方案，通常通过简化为单目标优化问题来求解。
  3. EMO算法使用个体种群寻找接近帕累托最优前沿的非支配解，通常不涉及偏好信息或目标简化。
  4. EMO算法在解决多目标优化问题时具有优势，如能获得非支配解、处理复杂的帕累托前沿问题以及灵活处理不同类型的变量和约束。
  5. 尽管EMO算法在实际问题中取得了成功，但存在理论上的收敛问题、收敛速度慢和缺乏有效的停止准则等问题。
  6. 混合EMO算法被提出用于解决上述不足，通过结合EMO的全局搜索和局部搜索。
  7. 混合EMO算法在理论上比纯EMO算法更有效。
  8. 混合EMO算法中使用了不同的局部搜索过程，例如帕累托支配方案和目标加权和的优化。
  9. 帕累托支配方案在多于两个目标的问题上无效。
  10. 混合EMO算法使用成就标量化函数（ASF）来处理凸和非凸问题，并生成任意Pareto最优解。
  11. 后续研究提出了基于ASF最优值的有效终止准则，并减少了函数评估次数。
  12. 在实验中使用的EMO算法是NSGA-II，并结合了顺序二次规划（SQP）作为局部搜索算法。
  13. 混合EMO算法减少了函数评估次数，并产生了多样化的Pareto最优解。
  14. 研究还关注了局部搜索个体选择的问题，并建议在进行重组操作之前进行局部搜索。
  15. 提出的模块化混合EMO框架旨在解决影响之前混合EMO算法性能的问题。
  16. 混合EMO框架是抽象的，由不同的功能模块组成，其中包括项目与集群模块用于选择局部搜索的个体，本地搜索模块用于改进个体，多样性增强模块用于增加种群多样性，以及终止模块用于停止算法。
  17. 混合EMO框架与问题类型（连续或组合）无关，并使用ASF和SQP处理多目标优化问题。
  18. ASF适用于任何类型的多目标优化问题，但局部搜索算法必须根据问题的特性选择。

Conclusion

• 这篇论文中的主要结论可以概括如下：
  
  1. 多目标优化问题在研究领域中通常被分为多准则决策制定（MCDM）和基于进化算法的多目标优化（EMO）两大类，它们有各自的研究侧重点。
  
  2. MCDM方法致力于帮助决策者识别最偏好的解决方案，通常将多目标优化问题简化为单目标优化问题来求解。
  
  3. EMO算法利用种群个体搜索帕累托最优前沿，优势在于能获得非支配解，处理多个局部、离散和非凸问题，以及灵活处理各类型变量和约束。
  
  4. 尽管EMO算法在实际问题中广泛应用，但也存在如缺乏理论收敛证明、速度慢和缺少有效停止准则等问题。
  
  5. 混合EMO算法通过结合EMO算法和局部搜索来克服上述问题，已被证明在实践中比纯EMO算法更有效。
  
  6. 混合EMO算法中，帕累托支配方案和目标加权和的优化是常用的局部搜索过程，但帕累托支配方案在多于两个目标时无效。
  
  7. 论文提出了一种基于锯齿型概率函数的局部搜索概率的混合EMO方法，并通过周期性增加和减少局部搜索概率来改进算法。
  
  8. 在混合EMO算法中，局部搜索使用成就标量化函数（ASF），该函数能处理凸和非凸问题，并生成任意Pareto最优解。
  
  9. 研究提出了一种模块化混合EMO框架，包括项目与集群模块、本地搜索模块、多样性增强模块和终止模块，以解决之前提到的混合EMO算法性能问题。
  
  10. 框架中的本地搜索模块用于改善种群中选定的个体，多样性增强模块增加种群多样性，而终止模块用于确定何时停止算法。
  
  11. 文中使用NSGA-II和顺序二次规划（SQP）作为局部搜索算法，以及成就标量化函数（ASF）来处理多目标优化问题。
  
  12. 研究结果表明，相较于单独的EMO算法，提出的混合方法显著减少了函数评估次数，并产生了多样化的Pareto最优解。
  
  这些结论概述了论文中的研究发现和创新点，旨在提高多目标优化问题的求解效率和质量。