论文解读：NSGA-II, EFR, EFR-RR

1. EFR是基于NSGA-II框架提出的集成适应度排序算法。二者之间的差异主要在环境选择上。

   具体来说，在每一代中，NSGA-II对合并种群 $R=PUQ$ 中的每个个体执行非支配排序以产生所有分类排序子集$F=(F_1,F_2,\cdots )$。然后，根据需要计算某个分类排序子集中所有个体的聚集距离，并建立偏序集。接下来从偏序集依次选取个体进入$P_{t+1}$。

   摆渡给出偏序集的定义：它是数学中，特别是序理论中，指配备了部分排序关系的集合。这个理论将排序、顺序或排列这个集合的元素的直觉概念抽象化。这种排序不必然需要是全部的，就是说不必要保证此集合内的所有对象的相互可比较性。部分排序集合定义了部分排拓扑。

   对应Matlab代码实现为：

   %% Select the solutions in the last front based on their crowding distances
   Last     = find(FrontNo==MaxFNo);
   [~,Rank] = sort(CrowdDis(Last),'descend');
   Next(Last(Rank(1:N-sum(Next)))) = true;
   

   也就是说，偏序关系只可能在最后一个分类子集F_Last上被使用到。因为按照非支配关系可知，$F_{Last}$之前的分类子集中的所有个体均被选入了新群体，但只有$F_{Last}$中的一部分个体被选入新群体，此时称$F_{Last}$为临界层分类子集。

2. EFR采用了类似NSGA-II的分层框架。

   首先，初始化父代种群，以及全局排序号$R_g$。 执行以下循环直到算法结束：
   算法根据得到的$R_g$进行选择（binary tournament selection），并执行交叉（SBX）、变异（polynomial mutation）等操作产生子代种群$Q_t$。合并父代和子代种群$R_t=P_t\bigcup Q_t$。

   然后，采用一组更具一般性的适应度函数 ${\mathcal{F}}_1,{\mathcal{F}}_2,\cdots ,{\mathcal{F}}_K$将个体$x$在$m$个目标上的函数值转换为一组适应度值($K$维向量)。其目的是通过整合多个由不同的简单排序器（适应度函数）产生的排序结果来提高排序的可靠性和合理性。

   选择适应度函数时需要考虑这样一个问题： 当计算$x$的适应度 ${\mathcal{F}}_i(x)$时，应该独立于其它解。否则${\mathcal{F}}_i(x)$对种群的更新毫无意义。 因此需要额外手段来分配适应度值。 文章作者采用了三个适应度函数：$L^{p}norm$，$TchebycheffFunction$ 以及 $PBI$。

   进一步地，需要为所有个体分配全局排序号$R_g$。具体来说，这类似于AR和MR过程，即为每个解$x$产生$K$个序号位，由向量$R(x)=((r_1(x),r_2(x),\cdots ,r_K(x)){)}^T$表示。其中，$r_j(x)$表示$x$对应于适应度${\mathcal{F}}_j$的排序号。当全部解$R(x)$计算完成之后，可通过集成排序机制（如，$AR$，$MR$以及作者提出的$LR$）为每个解$x$分配$R_g$。由于一些解可能具有相同的$R_g$。所以，根据$R_g$可以将种群分为不同的子集（层） { F 1 , F 2 , …   } \{F_1, F_2, \dots \} {F1​,F2​,…}（这类似于NSGA-II中前沿的概念）。其中$F_1$为第一层，具有最小的$R_g$值，依次类推。同一子集$F_i$中的所有解个体都具有相同的第$i$个最小$R_g$值。（关于$AR$和$MR$排序算法略）。 在种群更新时，将子集依次合并到新种群中，具体过程如下：
   这里，$Sort(F_i)$采用随机排序。

3. EFR-RR在EFR的基础上，分析了影响解分布的另一个重要因素，距离。
   首先说一说该优化机制的动机。高维空间中（Many-objective），由于等值线的存在，仅仅依靠权重向量难以维持解的多样性。为此，需要借助解到权重向量的垂直距离来维持演化过程中解的多样性，从而获得具有良好分布的帕累托前沿（Pareto front）。该思想具有不同的实现形式，例如，基于标准的MOEA/D和EFR算法，分别提出了MOEA/D-DU和EFR-RR。这里只介绍后者。

   假设解$\text{x}$具有$m$个目标向量$\text{f}(\text{x})=(f_1(\text{x}),f_2(\text{x}),\dots ,f_m(\text{x}))$，直线$L$为穿过参考点${\text{z}}^{\ast }$且以权重向量${\lambda }_j$为方向的直线。定义$\text{x}$到${\lambda }_j$的距离$D_{j,2}(x)$为：
   $$D_{j,2}(\text{x})=\parallel \text{f}(\text{x})-{\text{z}}^{\ast }-D_{j,1}(\text{x})({\lambda }_j/\parallel {\lambda }_j\parallel )\parallel$$
   其中，$D_{j,1}(\text{x})$ 是 ${\text{z}}^{\ast }$ 与交点 $\text{u}$ 之间的距离
   $$D_{j,1}(\text{x})=\parallel (\text{f}(\text{x})-{\text{z}}^{\ast }{)}^T{\lambda }_j\parallel /\parallel {\lambda }_j\parallel$$
   下图是二维空间中解到权重向量垂直距离的示意图：
   
   理想的情况是，由Tchebycheff函数得到最优解之后，也能够同时获得最理想的多样性。但是EFR并非如此。由其产生的最终解通常集中在最优解附近，而不能保证种群的多样性。为了解决这个问题，在EFR-RR在原始EFR算法中使用了排序限制（Ranking Restriction）方案：
   只允许解$\text{x}$在目标空间中相应权重向量接近的适应度函数上排序。换句话说，并非所有权重向量都参与适应度的计算，而是目标空间中那些与当前解相近的权重向量组成的子集，记为$B(\text{x})$。其中包含$N$个权重向量中在垂直距离上与$\text{x}$最接近的$K(K\ll N)$个权重向量的下标，即：参与排序的适应度为${\mathcal{F}}_j$，其中$j\in B(\text{x})$。相应地，EFR-RR算法中解$\text{x}$的全局序号为：$$R_g(\text{x})=\text{min}{r}_j(\text{x}),j\in B(\text{x})$$
   
   参考文献：

4. (NSGA-Ⅱ)-2002-A fast and elitist multiobjective genetic algorithm.

5. (EFR)-2014-Evolutionary Many-Objective Optimization Using Ensemble Fitness Ranking.

6. (EFR-RR)-2016-Balancing convergence and diversity in decomposition-based many-objective optimizers