TCADE--基于迁移成分分析和差分进化的多目标多任务优化

TCADE–基于迁移成分分析和差分进化的多目标多任务优化

title： Multitasking multiobjective optimization based on transfer component analysis

author： Ziyu Hua, Yulin Li, Hao Sun, Xuemin Ma.

journal： Information Sciences (Ins)

DOI：Multitasking multiobjective optimization based on transfer component analysis - ScienceDirect

code:

1.主要贡献：

​ 1）提出了一种基于迁移成分分析和差分进化的多目标多任务优化算法（TCADE）；

​ 2）设计了一种显示知识迁移策略来促进任务间的正向知识迁移和有效的信息交互；

​ 3）采用了一种基于TCA的降维方法来减少个体分布差异；

2.问题提出：

​ 1）当前对显式迁移的研究较少。隐式迁移迁移一部分知识，而显式迁移则是直接有效地迁移优秀个体。

​ 2）当前研究很少关注知识迁移过程中任务间的相关性，进行不合理地映射和迁移。现有的隐式迁移存在随机性和不合理性，使得有效的信息交换很少发生，进而造成负迁移。

3.TCADE：

​ 本文提出了一种基于降维子空间的MTO算法。它主要关注任务与知识转移效率之间的潜在相关性。我们的动机是通过在任务之间显式地传递优秀个体来促进协同进化，从而增强任务之间的信息交换。

​ TCA是迁移学习中的一种领域适应策略。它提供了一个降维框架来减少降维子空间中域之间的降维距离。它将源域和目标域的公共传输组件映射到一个子空间，这样就可以在保留数据属性的同时显著减少数据分布之间的差异。

3.1 显式知识迁移

显式知识迁移策略的具体流程如下：

​ 1）使用统一决策空间策略 Y ∈ [ 0 , 1 ] D Y , D Y = m a x { D i } . Y\in{[0,1]}^{D_Y},D_Y=max\{D_i\}. Y∈[0,1]DY​,DY​=max{Di​}.来构建任务间知识交互的环境，$D_i,i\in 1,...,K$是任务$i$的决策空间维度。

​ 2）首先，对两个任务进行采样 X { x 1 , x 2 , . . . , x n 1 } X\{x_1,x_2,...,x_{n_1}\} X{x1​,x2​,...,xn1​​}, Y { y 1 , y 2 , . . . , y n 1 } Y\{y_1,y_2,...,y_{n_1}\} Y{y1​,y2​,...,yn1​​}，通过TCA（算法2）获得低秩矩阵$W$.（如果两个任务维度不一致，本文会将多出的维度置为0）

​ 3）其次，对任务1中的个体按拥挤度距离降序排序，前$S$个个体则是优秀个体；

​ 4）接着，将这$S$个个体的$D$维决策空间映射到$d$维子空间中，通过乘以矩阵$W$;

​ 5）然后，将任务2中的所有个体都映射到子空间中，那么任务2中最靠近优秀个体（基于欧氏距离）的$S$个个体就是迁移个体，它们与任务1具有强相关性且能促进任务1的进化。

​ 6）最后，将任务2中$S$个迁移个体迁移至任务1中。

3.2 差分进化算子

​ 使用“DE/best/1”算子：
$$v_i^g=x_{best}^g+F\times (x_{r_1}^g-x_{r_2}^g)$$

$$u_i^{g+1}=\{\begin{array}{l}{v}_i^g,if(rand\le CR)or(j=ran{d}_j)\\ x_i^g,otherwise\end{array}$$

3.3 算法框架

​ 1）初始化种群$P$，并计算每个个体的技能因子${\tau }_i$；

​ 2）如果不需要迁移，通过对父代种群使用SBX和PM产生子代

​ 3）否则，当发生知识迁移时，根据算法3在任务间迁移优秀个体；

​ 3）将优秀个体添加至父代种群中；

​ 4）使用DE算子来产生子代。

​ 5）评估子代，通过非支配排序选择下一代种群。

4.思考

1）TCADE中提出了一种基于TCA的显示知识迁移策略，它在低维子空间中寻找两个任务间距离最近的个体（相似个体）作为优秀个体进行显式迁移；并采用DE算子来增加种群多样新。

2）任务间的相关程度不是提前知道的，而TCADE中迁移个体的数目是人为设置的，所以迁移个体的数目的自适应也是MOMTO研究的一种新思路。

3）仅仅使用拥挤度距离进行排序可能会导致一些优秀个体没有被选择，所以还需要设计其他新的针对多目标优化算法的排序方式。

4）TCADE的计算复杂度相对较高。