一、多目标优化的基本流程
·初始化N个个体(也就是N个解)
·计算适应值(也就是函数值，多目标也就是有多个函数值\适应值)
·利用旧的个体产生新的个体
--各种策略：遗传算法、粒子群、模拟退火等等，只是这里是遗传算法GA
·通过对比选择得到新一轮的个体
--Rank，非支配排序，得到一层一层的非支配解
--对于同一个Rank内的排序，通过拥挤度来排序，拥挤度越大越好
·循环到你希望它循环的那个次数
二、代码实现
·Individual，定义了一个individual类，表示一个个体，包含了一些基本的属性和方法，用于表示解向量、目标函数、支配关系等
·fast_non_dominated_sort（P），对于种群P进行快速非支配排序
·crowding_distance_assignment(L)，为一层Rank中的个体计算拥挤度距离
·KUP（x），目标函数
"""
多目标进化算法——NSGA-II（python实现）
--解决的是多目标的数学函数，有两个不同的输出结果
"""
from collections import defaultdict
import numpy as np
import random
import matplotlib.pyplot as plt
import math
#note:定义了一个individual类，表示一个个体，包含了一些基本的属性和方法，用于表示解向量、目标函数、支配关系等
class Individual(object):
def __init__(self):
# 初始化一个个体的实例，有下面几个属性：
self.solution = None # 实际赋值中是一个 nparray 类型，方便进行四则运算，用于存储解向量
self.objective = defaultdict() # 属性用于存储目标函数值 在多目标优化问题中
# 通常有多个目标函数需要优化self.objective 就是一个包含多个目标函数值的字典
self.n = 0 # 解p被几个解所支配，是一个数值（左下部分点的个数）
self.rank = 0 # 解所在第几层
self.S = [] # 解p支配哪些解，是一个解集合（右上部分点的内容）
self.distance = 0 # 拥挤度距离
def bound_process(self, bound_min, bound_max):
"""
对解向量 solution 中的每个分量进行定义域判断，超过最大值，将其赋值为最大值；小于最小值，赋值为最小值
:param bound_min: 定义域下限
:param bound_max:定义域上限
:return:
"""
for i, item in enumerate(self.solution):
if item > bound_max:
self.solution[i] = bound_max
elif item < bound_min:
self.solution[i] = bound_min
def calculate_objective(self, objective_fun):
# 这个方法的目的是将解向量转化为目标函数的值 objective_fun 可能是一个返回多个目标函数值的函数。
# 调用 calculate_objective(objective_fun) 计算个体的目标函数值，并将结果存储在 self.objective 中，以便进一步使用。
self.objective = objective_fun(self.solution)
# 重载小于号“<”,支配关系比较
def __lt__(self, other):
# 获取两个个体的目标函数值，分别存储在 v1 和 v2 中
v1 = list(self.objective.values())
v2 = list(other.objective.values())
# 逐个比较对应位置的值
for i in range(len(v1)):
if v1[i] > v2[i]:
return 0 # 但凡有一个位置是 v1大于v2的 直接返回0,如果相等的话比较下一个目标值
return 1
# 如果目标函数是3个及以上呢 --目标函数是几个并没有什么影响
# 如果比较的支配方向不是越小越好呢？ --可以加入一个变量 larger_is_better，用于表示目标函数越大越好的情况。在重载中分类讨论
def main():
# 初始化/参数设置
generations = 500 # 迭代次数
popnum = 100 # 种群大小
eta = 1 # 变异分布参数，该值越大则产生的后代个体逼近父代的概率越大。Deb建议设为 1
# 问题定义
# poplength = 30 # 单个个体解向量的维数
# bound_min = 0 # 定义域
# bound_max = 1
# objective_fun = ZDT1
poplength = 3 # 单个个体解向量的维数
bound_min = -5 # 定义域
bound_max = 5
objective_fun = KUR # 目标函数
# 生成第一代种群
P = [] # 创建一个空列表 P，用于存储个体对象
for i in range(popnum):
# 通过循环生成 popnum 个个体，并将它们添加到列表 P 中。
P.append(Individual())
P[i].solution = np.random.rand(poplength) * (bound_max - bound_min) + bound_min # 随机生成个体可行解
P[i].bound_process(bound_min, bound_max) # 定义域越界处理
P[i].calculate_objective(objective_fun) # 计算目标函数值
# 输入初始父代种群P -> 非支配排序
fast_non_dominated_sort(P)
# 生成子代种群Q
Q = make_new_pop(P, eta, bound_min, bound_max, objective_fun)
P_t = P # 当前这一届的父代种群
Q_t = Q # 当前这一届的子代种群
# note:循环迭代gen_cur次,每次都合并新旧种群-->排序后得到对应数量popnum新的父种群P_n-->通过交叉变异产生新的子代种群Q_n
# -->将新旧种群信息更新到变量中,准备下一次循环的迭代合并-->绘制这一次此时的父种群P_n在图上的位置
for gen_cur in range(generations):
R_t = P_t + Q_t # 将当前父代种群和子代种群合并成一个总种群
F = fast_non_dominated_sort(R_t) # 对合并后的总种群进行快速非支配排序，得到不同层的个体集合。
P_n = [] # 即为P_t+1,表示下一届的父代
i = 1
while len(P_n) + len(F[i]) < popnum: # until the parent population is filled
crowding_distance_assignment(F[i]) # calculate crowding-distance in F_i
P_n = P_n + F[i] # 将第 i 层的个体加入下一代父代种群。
i = i + 1 # 切换到下一层
F[i].sort(key=lambda x: x.distance) # 数量将要达到popnum时,对下一层的个体按照拥挤度距离排序
P_n = P_n + F[i][:popnum - len(P_n)] # 将排序后的个体加入下一代父代种群，以保证种群大小不超过 popnum
Q_n = make_new_pop(P_n, eta, bound_min, bound_max,
objective_fun) # 使用选择、交叉和变异操作创建新的子代种群 Q_n。
# 求得下一届的父代和子代成为当前届的父代和子代，，进入下一次迭代 《=》 t = t + 1
P_t = P_n
Q_t = Q_n
# 绘图
plt.clf()
plt.title('current generation_P_t:' + str(gen_cur + 1)) # 绘制当前循环选出来的父代的图
plot_P(P_t)
plt.pause(0.1)
# plt.title('current generation_Q_t:' + str(gen_cur + 1)) # 绘制当前循环生成的子代的图
# plot_P(Q_t)
# plt.pause(0.1)
plt.show()
return 0
#note 对种群p进行快速非支配排序
def fast_non_dominated_sort(P):
"""
非支配排序
:param P: 种群 P
:return F: F=(F_1, F_2, ...) 将种群 P 分为了不同的层， 返回值类型是dict，键为层号，值为 List 类型，存放着该层的个体
"""
F = defaultdict(list) # F 一个字典,键为非支配层的层号rank,值为一个列表--存储该层的个体
for p in P:
p.S = [] # 支配的集合
p.n = 0 # 被支配的个数
# 对于每个个体 p，遍历种群中的其他个体 q，根据 p 与 q 的支配关系，更新 p 的支配集合 S 和被支配计数器 n。
for q in P:
if p < q: # if p dominate q
p.S.append(q) # Add q to the set of solutions dominated by p
elif q < p:
p.n += 1 # Increment the domination counter of p
# 如果 n 为零，则表示 p 不被任何个体支配，将其分配到第一层 F[1] 中
if p.n == 0:
p.rank = 1
F[1].append(p)
# 接下来，对于每一层 F[i]，更新被当前层个体支配的个体被支配计数器，并将新的非支配个体添加到下一层 F[i+1]。
i = 1
while F[i]:
Q = []
for p in F[i]:
for q in p.S:
q.n = q.n - 1
if q.n == 0:
q.rank = i + 1
Q.append(q)
i = i + 1
F[i] = Q
return F
# todo 真想把 eta, bound_min, bound_max, objective_fun 设为全局变量-->走到哪带到那,一直往下传
# note 输入一个P種群,和四个主函数中的初始化参数,得到子代种群Q
def make_new_pop(P, eta, bound_min, bound_max, objective_fun):
"""
use select,crossover and mutation to create a new population Q
:param P: 父代种群
:param eta: 变异分布参数，该值越大则产生的后代个体逼近父代的概率越大。Deb建议设为 1
:param bound_min: 定义域下限
:param bound_max: 定义域上限
:param objective_fun: 目标函数
:return Q : 子代种群
"""
popnum = len(P)
Q = []
# binary tournament selection 二元锦标赛选择父代
for i in range(int(popnum / 2)): # 让父代种群个数为双数 能避免不必要的麻烦
# 从种群中随机选择两个个体，进行二元锦标赛，选择出一个 parent1
i = random.randint(0, popnum - 1)
j = random.randint(0, popnum - 1)
parent1 = binary_tournament(P[i], P[j])
# 从种群中随机选择两个个体，进行二元锦标赛，选择出一个 parent2
i = random.randint(0, popnum - 1)
j = random.randint(0, popnum - 1)
parent2 = binary_tournament(P[i], P[j])
while (parent1.solution == parent2.solution).all(): # 如果选择到的两个父代完全一样，则重选另一个
# 上面的.all可能导致警告,因为如果 parent1.solution不是数组，而是单个布尔值，就不应该使用 .all() 方法
# 但是我们知道解向量是单个布尔值，所以可以安全地忽略这个警告。
i = random.randint(0, popnum - 1)
j = random.randint(0, popnum - 1)
parent2 = binary_tournament(P[i], P[j])
# parent1 和 parent1 进行交叉，变异 产生 2 个子代
Two_offspring = crossover_mutation(parent1, parent2, eta, bound_min, bound_max, objective_fun)
# 产生的子代进入子代种群
Q.append(Two_offspring[0])
Q.append(Two_offspring[1])
return Q
#note:为一层中的个体计算拥挤度距离
def crowding_distance_assignment(L):
""" 传进来的参数应该是L = F(i)，类型是List,传进来的一层rank的一个list集合"""
l = len(L) # number of solution in F F层共有多少个个体
for i in range(l):
L[i].distance = 0 # initialize distance 初始化所有个体的拥挤度为0
for m in L[0].objective.keys(): # 对每个目标距离进行拥挤度距离计算
L.sort(key=lambda x: x.objective[m]) # sort using each objective value根据当前目标方向值对个体进行排序。
# 将第一个和最后一个个体的拥挤度距离设为无穷大，确保它们总是被选择。
L[0].distance = float('inf')
L[l - 1].distance = float('inf') # so that boundary points are always selected
# 排序是由小到大的，所以最大值和最小值分别是 L[l-1] 和 L[0]
f_max = L[l - 1].objective[m]
f_min = L[0].objective[m]
# 当某一个目标方向上的最大值和最小值相同时，此时会发生除零错，这里采用异常处理机制来解决
try:
for i in range(1, l - 1): # for all other points
L[i].distance = L[i].distance + (L[i + 1].objective[m] - L[i - 1].objective[m]) / (f_max - f_min)
except Exception:
print(str(m) + "目标方向上，最大值为" + str(f_max) + "最小值为" + str(f_min))
# note 二元锦标赛选择函数--选择出输入的两个个体中较优的个体
def binary_tournament(ind1, ind2):
"""
二元锦标赛
:param ind1:个体1号
:param ind2: 个体2号
:return:返回较优的个体
"""
if ind1.rank != ind2.rank: # 如果两个个体有支配关系，即在两个不同的rank中，选择rank小的
return ind1 if ind1.rank < ind2.rank else ind2
elif ind1.distance != ind2.distance: # 如果两个个体rank相同，比较拥挤度距离，选择拥挤读距离大的
# 如果是初代父种群P生成第一子代时,此时的每一个解决方案个体还没有distance的赋值,默认都是0
return ind1 if ind1.distance > ind2.distance else ind2
else: # 如果rank和拥挤度都相同，返回任意一个都可以
return ind1
# note:两个父代个体进行交叉-变异 返回两个子代个体
def crossover_mutation(parent1, parent2, eta, bound_min, bound_max, objective_fun):
"""
交叉方式使用二进制交叉算子（SBX），变异方式采用多项式变异（PM）
:param parent1: 父代1
:param parent2: 父代2
:param eta: 变异分布参数，该值越大则产生的后代个体逼近父代的概率越大。Deb建议设为 1
:param bound_min: 定义域下限
:param bound_max: 定义域上限
:param objective_fun: 目标函数
:return: 2 个子代
"""
poplength = len(parent1.solution) # 获得解向量的维度或者分量个数,表示解向量的维度
offspring1 = Individual()
offspring2 = Individual()
# 创建一个指定长度的一维数组，该数组的元素值是未初始化的，即它们可能包含任意值。这个数组将被用来存储新生成的子代个体的解向量。
# np.empty 仅仅分配了内存空间而不初始化数组元素的值
offspring1.solution = np.empty(poplength)
offspring2.solution = np.empty(poplength)
# 二进制交叉
for i in range(poplength):
rand = random.random() # 生成一个在 [0, 1) 范围内的随机数
# beta的计算采用了 SBX 的公式，其中 eta 是变异分布参数，用于调整交叉的程度。
beta = (rand * 2) ** (1 / (eta + 1)) if rand < 0.5 else (1 / (2 * (1 - rand))) ** (1.0 / (eta + 1))
offspring1.solution[i] = 0.5 * ((1 + beta) * parent1.solution[i] + (1 - beta) * parent2.solution[i])
offspring2.solution[i] = 0.5 * ((1 - beta) * parent1.solution[i] + (1 + beta) * parent2.solution[i])
# 多项式变异
# TODO 变异的时候只变异一个，不要两个都变，不然要么出现早熟现象，要么收敛速度巨慢 why？
# 通过只变异一个个体，可以确保种群中的每个个体都有机会经历一些变化，而不会太快地趋向于某个方向。这有助于维持多样性，促使算法更好地探索搜索空间。
# 另一方面，如果每次都同时变异两个个体，可能导致整个种群在搜索空间中以较大的步伐移动，这可能使得算法更容易陷入局部最优解，而不太容易跳出这些局部最优解。
for i in range(poplength):
mu = random.random() # 生成一个在 [0, 1) 范围内的随机数
# delta 的计算采用了 PM 的公式，其中 eta 是变异分布参数，用于调整变异的程度。
delta = 2 * mu ** (1 / (eta + 1)) if mu < 0.5 else (1 - (2 * (1 - mu)) ** (1 / (eta + 1)))
offspring1.solution[i] = offspring1.solution[i] + delta
# 定义域越界处理
offspring1.bound_process(bound_min, bound_max)
offspring2.bound_process(bound_min, bound_max)
# 计算目标函数值
offspring1.calculate_objective(objective_fun)
offspring2.calculate_objective(objective_fun)
return [offspring1, offspring2]
#note 测试目标函数
def ZDT1(x):
"""
测试函数——ZDT1
:parameter
:param x: 为 m 维向量，表示个体的具体解向量
:return f: 为两个目标方向上的函数值
"""
poplength = len(x)
f = defaultdict(float)
g = 1 + 9 * sum(x[1:poplength]) / (poplength - 1)
f[1] = x[0]
f[2] = g * (1 - pow(x[0] / g, 0.5))
return f
#note 测试目标函数
def ZDT2(x):
poplength = len(x)
f = defaultdict(float)
g = 1 + 9 * sum(x[1:poplength]) / (poplength - 1)
f[1] = x[0]
f[2] = g * (1 - (x[0] / g) ** 2)
return f
#note:目标函数KUR，接受一个解向量x作为输入，计算并且返回一个包含两个目标函数值的字典f。
def KUR(x):
f = defaultdict(float) # 定义这个字典f，存放后续的两个目标函数值
poplength = len(x)
f[1] = 0
f[2] = 0
# 第一个目标函数 f[1] 是一个累加项，涉及解向量中相邻两个变量的平方和的指数衰减。
for i in range(poplength - 1):
f[1] = f[1] + (-10) * math.exp((-0.2) * (x[i] ** 2 + x[i+1] ** 2) ** 0.5)
# 第二个目标函数 f[2] 是一个累加项，包含每个变量的绝对值的指数和一个正弦函数。
for i in range(poplength):
f[2] = f[2] + abs(x[i]) ** 0.8 + 5 * math.sin(x[i] ** 3)
return f
def plot_P(P):
"""
假设目标就俩,给个种群绘图
:param P:
:return:
"""
X = []
Y = []
for ind in P:
X.append(ind.objective[1])
Y.append(ind.objective[2])
plt.xlabel('F1')
plt.ylabel('F2')
plt.scatter(X, Y)
# 程序入口
if __name__ == '__main__':
main()
463
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
