MFEA-II–自适应迁移概率的MFEA
title:Multifactorial Evolutionary Algorithm With Online Transfer Parameter Estimation: MFEA-II
author:Kavitesh Kumar Bali , Yew-Soon Ong, Abhishek Gupta , and Puay Siew Tan
journal:IEEE TRANSACTIONS ON EVOLUTIONARY COMPUTATION(TEVC)
DOI: https://doi.org/10.1109/TEVC.2019.2906927
code:https://github.com/intLyc/MTO-Platform/tree/master/MTO/Algorithms/Multi-task/Multi-factorial/MFEA-II
1.主要贡献:
1)从理论上证明了当任务之间存在互补性(或相似性)的条件下,多任务优化比单任务优化能产生更快的收敛特性,并且MFEA的收敛速率与迁移参数(rmp)有很大的相关性;2)提出了MFEA-II来估计rmp。
2.问题提出:
研究表明,多任务优化的性能对潜在的任务间相似程度很敏感,也就是说MFEA的性能与rmp的设置有关,而MFEA中的rmp需要人为设置。
3.理论证明:
该文章的3-4章通过理论证明得出结论:1)当任务之间存在互补性(或相似性)的条件下,多任务优化比单任务优化能产生更快的收敛特性;2)MFEA的收敛速率与迁移参数(rmp)有很大的相关性。
此处不展示详细的证明过程,有需要的话可以参考原文!!!
4.MFEA-II:
1)MFEA-II不再使用MFEA中的标量rmp来控制迁移频率,而是一个
K
×
K
K\times K
K×K的矩阵RMP,表示如下:
R
M
P
=
[
r
m
p
1
,
1
r
m
p
1
,
2
.
.
r
m
p
2
,
1
r
m
p
2
,
2
.
.
.
.
.
.
.
.
.
.
]
RMP=\begin{bmatrix} rmp_{1,1} & rmp_{1,2} & . & .\\ rmp_{2,1} & rmp_{2,2}& . & . \\ . & . & .&. \\. & . & .&.\end{bmatrix}
RMP=
rmp1,1rmp2,1..rmp1,2rmp2,2..........
2)使用概率混合模型
g
c
k
(
x
,
t
)
g^k_c(x,t)
gck(x,t)近似子代种群的真实分布
p
c
k
(
x
,
t
)
p^k_c(x,t)
pck(x,t),表示如下:
g
c
k
(
x
,
t
)
=
[
1
−
0.5
K
∑
k
≠
j
r
m
p
k
,
j
]
⋅
g
k
(
x
,
t
)
+
0.5
K
∑
j
≠
k
r
m
p
k
,
j
×
g
j
(
x
,
t
)
g^k_c(x,t)=\bigg[1-\frac {0.5} K\sum_{k\ne j}rmp_{k,j}\bigg]\cdot g^k(x,t)+\frac {0.5} K\sum_{j\ne k}rmp_{k,j}\times g^j(x,t)
gck(x,t)=[1−K0.5k=j∑rmpk,j]⋅gk(x,t)+K0.5j=k∑rmpk,j×gj(x,t)
3)RMP矩阵的在线学习,通过最大化如下的对数似然函数:
max
R
M
P
∑
k
=
1
K
∑
i
=
1
N
/
2
log
g
c
k
(
x
i
k
,
t
)
\max RMP\sum^K_{k=1}\sum^{N/2}_{i=1}\log g^k_c(x_{ik},t)
maxRMPk=1∑Ki=1∑N/2loggck(xik,t)
此函数可以缩小概率混合模型
g
c
k
(
x
,
t
)
g^k_c(x,t)
gck(x,t)和真实分布
p
k
(
x
,
t
)
p^k(x,t)
pk(x,t)之间的差距。证明略。
4)从下图可以看出,MFEA-II与MFEA的区别就在于:通过概率混合模型来在线学习RMP矩阵(如算法2),再使用RMP矩阵控制任务间的知识迁移频率(如算法3)。
![image-20240301200508553](https://i-blog.csdnimg.cn/blog_migrate/8c3ed61dee9e3d3ba28be59a19c90396.png)
![image-20240301203703419](https://i-blog.csdnimg.cn/blog_migrate/e62c491b0989a584f17f4373ce20e19e.png)
![image-20240301203720687](https://i-blog.csdnimg.cn/blog_migrate/d27b225a231d6fc64c7625c5a6659592.png)
5.思考
1)本文给出了MFEA收敛的理论证明,并得出rmp会影响MFEA的性能。且所提出的MFEA-II可以取得很好的效果。
2)但是,我们通过在MTO-Platform平台上的实验证明,MFEA-II运行会耗费大量的计算资源。因此,一些更快速的自适应迁移概率的策略是有必要的。