AT-MFEA--解决异构多任务优化问题

AT-MFEA–解决异构多任务优化问题

title：Affine Transformation-Enhanced Multifactorial Optimization for Heterogeneous Problems

author：Xiaoming Xue , Kai Zhang, Kay Chen Tan, Liang Feng , Jian Wang, Guodong Chen, Xinggang Zhao, Liming Zhang, and Jun Yao.

journal：IEEE TRANSACTIONS ON CYBERNETICS（TCYB）

DOI： https://doi.org/10.1109/TCYB.2020.3036393.

code:https://github.com/intLyc/MTO-Platform/tree/master/MTO/Algorithms/Multi-task/Multi-population/AT-MFEA

1.主要贡献：

1)提出了一种新的秩损失函数，来获取任务间映射。

2）利用渐进式高斯表示模型，推导出了仿射变换的封闭解，以弥合不同任务间的差距。

2.问题提出：

​ 现有的映射方法首先根据适应度值对解进行排序。然后，使用排序的成对解中提取的训练样本来学习任务间映射。然而，这种成对学习存在一个严重的问题，称为混沌匹配。也就是说，我们需要的到的映射关系应该是如下图(b)中所示的情形，而实际上出现最多的是下图(a)所示的情形。因为$f(x)$对于不同的$x$可能存在相同的值，只考虑秩相关性时就会出现映射交叉的情况。

​ 解决混沌匹配的一种简单而有效的方式是，不仅要考虑秩相关性，还要考虑拓扑一致性。

3.AT-MFEA：

1）秩损失函数：
$${\phi }^{\ast }=\underset{\phi \in \Phi }{\min }{\int }_x||R[f^s(x)]-R[f^t(\phi (x))]|{|}^2$$
其中，$\varphi$表示能够将解从源域映射到目标域的转换操作，$\Phi$表示完整的映射空间，$R$表示将原始适应度景观转换为基于秩的景观的秩操作,$f^s(\cdot )$和$f^t(\cdot )$分别表示源任务和目标任务的目标函数。由于上式中存在积分操作，直接求解是不可行的，因此，使用代理模型来替代，则秩损失函数改进如下：
$${\phi }^{\ast }=\underset{\phi \in \Phi }{\min }{\int }_x||R[{\hat{f}}^s(x)]-R[{\hat{f}}^t(\phi (x))]|{|}^2$$
其中，${\hat{f}}_s(\cdot )$和${\hat{f}}_t(\cdot )$分别表示源任务和目标任务的表示模型。

2）渐进式高斯表示模型:
$${\hat{p}}_t^p(x)\sim N(\hat{\mu },{\hat{\sigma }}^2),\hat{\mu }=({\hat{\mu }}_1,{\hat{\mu }}_2,...,{\hat{\mu }}_n),{\hat{\sigma }}^2=({\hat{\sigma }}_1^2,{\hat{\sigma }}_2^2,...,{\hat{\sigma }}_n^2)$$
其中，
$$\begin{gathered} {\hat{\mu }}_j=(1-\alpha )\frac{1}{N}\sum _{k=1}^t{\alpha }^{t-k}\sum _{i=1}^N{x}_{ij}^k \\ {\hat{\sigma }}_j^2=(1-\alpha )\frac{1}{N-1}\sum _{k=1}^t{\alpha }^{t-k}\sum _{i=1}^N(x_{ij}^k-{\mu }_j^k{)}^2. \end{gathered}$$
根据上述表示模型，秩损失函数可以表示如下：
$${\phi }^{\ast }=\underset{\phi \in \Phi }{\min }{\int }_x||R[p^s(x)]-R[p^t(\phi (x))]|{|}^2$$
其中，$p^s(\cdot )$和$p^t(\cdot )$分别表示源任务和目标任务的高斯渐进表示模型。

3）源-目标域的仿射变换：

此处的映射包含线性和非线性映射，本文只考虑线性映射，则仿射变换可以表示如下：
$$\tilde{x}={\phi }_a(x;\theta )=xA+b$$
${\tilde{x}}_{1\times n}$表示目标域的转移解，${\phi }_a(\cdot )$表示仿射变换，$x_{1\times n}$是源域的解，$\theta =[a，b]$表示仿射变换的参数，$A_{n\times n}$是一个收缩转换，和$b_{1\times n}$表示一个平移转换。

解得仿射变换的参数如下：
$$\{\begin{array}{l}A=L_s{L}_t^{-1}\\ b={\mu }_t-{\mu }_{s}A.\end{array}$$
其中，$L_s$和$L_t$分别表示对源和目标逆协方差矩阵的Cholesky分解得到的下三角矩阵，${\mu }_t$和${\mu }_s$分别表示源和目标域的均值。

4）算法实现：

AT-MFEA通过使用如下算法（基于映射的任务间交叉）替换MFEA中的任务间交叉实现的。基于映射的任务间交叉包括四步：

首先，构建表示模型（渐进式高斯表示模型）；其次，学习任务间映射（参数$A_{ij},b_{ij}$和$A_{ji},b_{ji}$）;接着，将解$x_i,x_j$变换为$x_i^{\prime },x_j^{\prime }$；最后，分别对$x_i^{\prime },x_j$和$x_i,x_j^{\prime }$使用交叉算子

4.思考

1）在多任务优化中，异构问题不仅包含最优解距离较远，也包含决策变量维度不一致等。AT-MFEA在前一个问题上可以得到很好的效果，但却未能考虑后者。

2）正如文章中所说的那样，可以考虑使用更复杂的表示模型以及高学习能力的转换。

3）推广到多目标优化也会引入一些新的问题，如秩相关性的问题，单目标可以直接使用目标值排序，而多目标存在多组目标值，，EMEA中提出随机选择一个目标值来进行排序，具体可见EMEA–多任务优化的另一种范式：显式多任务优化-CSDN博客。