【分布估计算法】EDA学习(附带样例代码)

简介

通过一个概率模型描述候选解在空间得分布，采用统计学习手段从群体宏观的角度建立一个描述解分布得概率模型，然后对概率模型随机采样产生新的种群，如此反复进行，实现种群得进化，直到终止条件。（建模-采用-建模-采样-循环至最优）

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-nOoe0Pu0-1657272222349)(0.png)]

也就是两者都是在一定的种群数量下，一个是对个体进行优化，一个是对群体进行优化，以一种带有“全局操控”性的操作模式替换掉遗传算法中对“积木块”具有破坏作用的遗传算子（选择算子、交配算子和变异算子），这就是所描述的分布估计算法。

算法思路

Randomly generated the initial population P(0);
t = 0;
While not met the termination condition do
Begin
　Select a set of promising individuals D(t) form the current population P(t);
　Estimate the probability distribution of the selected set D(t);
　Generate a set of new individuals N(t) according to the estimate;
　Create a new population P(t+1) by replacing some individuals of P(t) by N(t);
　t = t+1;
end

1. 随机产生M个个体作为初始种群；
2. 然后计算M个个体的适应值,如果符合终止条件，算法结束，否则继续进行；
3. 选择最优的N个个体用来更新概率向量p(x), N <= M
4. 由新的概率模型采样M次，得到新一代群体，返回 2

更新过程：

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-eXbqYkPu-1657272222350)(1.jpg)]

实例

采用UMDA来求解一个四维的OneMax问题。在这个例子中，我们用一个简单的概率向量p=(p1，p2，p3，p4)来表示描述种群分布的概率模型，其中pi表示xi取1的概率，(1—pi)则为xi取0的概率。

1. 产生初始种群。为了使初始种群在定义域内符合均匀分布，我们定义初始化概率向量模型p=(0.5,0.5,0.5,0.5)，然后根据p产生规模为10的初始种群，最后根据F(x)=x1+x2+x3+x4，计算出初始种群的适应度,最终的结果如下表所示。

no	x1	x2	x3	x4	f
1	1	1	0	1	3
2	1	0	0	0	1
3	0	1	0	0	1
4	0	1	1	1	3
5	1	1	0	1	3
6	0	1	1	0	2
7	1	0	1	0	2
8	0	0	1	1	2
9	1	0	0	0	1
10	1	0	0	1	2

2. 按照种群的适应度从高到低进行排序。假设Se=5，则从种群中选出适应度较高的5个个体用来更新概率向量模型p。更新概率模型时令pi = ni/Se，这里ni 为在选出的较优个体中xi =1的个体数。最终选出的个体如下表所示，从而得到新的概率模型为p=(3/5,4/5,3/5,3/5) = (0.6,0.8,0.6,0.6)。

no	x1	x2	x3	x4	f
1	1	1	0	1	3
4	0	1	1	1	3
5	1	1	0	1	3
6	0	1	1	0	2
7	1	0	1	0	2

3. 根据更新后的概率模型p产生新的样本，并计算这些新样本的适应度。最终得到新一代的种群如下表所示。

no	x1	x2	x3	x4	f
1	1	1	0	0	2
2	0	1	0	0	1
3	0	1	1	1	3
4	1	1	1	1	4
5	0	1	1	1	3
6	0	0	1	0	1
7	1	1	1	0	3
8	1	1	1	1	4
9	1	1	0	1	3
10	1	1	0	0	2

​ 通过以上三步，分布估计算法完成了第一代的进化过程。接着重复第二步和第三步完成下一代的进化，最终得到的种群平均适应度和概率模型如下表所示。我们可以看出，随着演化的进行，种群的整体质量不断提高，概率向量逐渐逼近全局最优解。

gap	Probability vector	score
1	(0.5, 0.5, 0.5, 0.5)	2.2
2	(0.6, 0.8 0.6, 0.6)	2.6
3	(0.8 1.0, 0.6, 0.8)	2.9
4	(1.0, 1.0, 1.0, 0.8)	3.8
5	(1.0, 1.0, 1.0, 1.0)	4.0

demo代码

import random

N = 10  # 种群数量
Se = 5  # 适应度较好种群选取数量
p = [0.5, 0.5, 0.5, 0.5]  # 初始化概率向量模型
print("初始化概率向量", p)
# 循化直至最优值，也可以改成一定次数后模型变化不大
gap = 1
while sum(p) < 4:
    populations = []  # 种群

    # 生成种群
    for i in range(N):
        temp = []
        for j in p:
            if random.random() < j:
                temp.append(1)
            else:
                temp.append(0)
        temp.append(sum(temp))  # 评价指标
        populations.append(temp)


    populations = sorted(populations, key=lambda x: x[4], reverse=True)  # 排序，种群适应度又高到低
    print("第{}轮种群(适应度排序后)：".format(gap), populations)
    # 适应度计算
    temp_p = [0, 0, 0, 0]
    for i in range(Se):
        for j in range(4):
            temp_p[j] += populations[i][j]

    # 计算新的概率模型
    p = [x / Se for x in temp_p]

    print("第{}轮概率向量更新为:".format(gap), p)
    gap += 1
print("寻优完毕。")

参考链接

一文搞懂什么是分布估计算法