python遗传算法(详解)


  
  

学习代码来源于:遗传算法python(舅子出品)

一.主要思想

遗传算法是根据达尔文的“适者生存,优胜劣汰”的思想来找到最优解的额,其特点是所找到的解是全局最优解,相对于蚁群算法可能出现的局部最优解还是有优势的。

二.主要名词

个体(染色体):一个染色体代表一个具体问题的一个解,一个染色体包含若干基因。

基因:一个基因代表具体问题解的一个决策变量。种群:多个个体(染色体)构成一个种群。即一个问题的多组解构成了解的种群。

我们的目的就是让种群中”优胜劣汰“,最终只剩下一个最优解。接下来介绍最基本遗传算法,只用了选择,交叉,变异三种遗传算子。

三.主要步骤

1)种群初始化。我们需要首先通过随机生成的方式来创造一个种群,一般该种群的数量为100~500,这里我们采用二进制将一个染色体(解)编码为基因型。随后用进制转化,将二进制的基因型转化成十进制的表现型。

2)适应度计算(种群评估)。这里我们直接将目标函数值作为个体的适应度。

3)选择(复制)操作。根据种群中个体的适应度大小,通过轮盘赌等方式将适应度高的个体从当前种群中选择出来。其中轮盘赌即是与适应度成正比的概率来确定各个个体遗传到下一代群体中的数量。

      具体步骤如下:

     (1)首先计算出所有个体的适应度总和Σfi。

     (2)其次计算出每个个体的相对适应度大小fi/Σfi,类似于softmax。

     (3)再产生一个0到1之间的随机数,依据随机数出现在上述哪个概率区域内来确定各个个体被选中的次数。

4)交叉(交配)运算。该步骤是遗传算法中产生新的个体的主要操作过程,它用一定的交配概率阈值(pc,一般是0.4到0.99)来控制是否采取单点交叉,多点交叉等方式生成新的交叉个体。

     具体步骤如下:

     (1)先对群体随机配对。

     (2)再随机设定交叉点的位置。

     (3)再互换配对染色体间的部分基因。 

5)变异运算。该步骤是产生新的个体的另一种操作。一般先随机产生变异点,再根据变异概率阈值(pm,一般是0.0001到0.1)将变异点的原有基因取反。

6)终止判断。如果满足条件(迭代次数,一般是200~500)则终止算法,否则返回step2。

四.代码实现

1.种群初始化     

(1)随机生成若干个数的二进制染色体。


   
   
  1. # -*-coding:utf-8 -*-
  2. #目标求解2*sin(x)+cos(x)最大值
  3. import random
  4. import math
  5. import matplotlib.pyplot as plt
  6. #初始化生成chromosome_length大小的population_size个个体的二进制基因型种群
  7. def species_origin(population_size,chromosome_length):
  8. population=[[]]
  9. #二维列表,包含染色体和基因
  10. for i in range(population_size):
  11. temporary=[]
  12. #染色体暂存器
  13. for j in range(chromosome_length):
  14. temporary.append(random.randint(0,1))
  15. #随机产生一个染色体,由二进制数组成
  16. population.append(temporary)
  17. #将染色体添加到种群中
  18. return population[1:]
  19. # 将种群返回,种群是个二维数组,个体和染色体两维

(2)编码 

将二进制的染色体基因型编码成十进制的表现型。


  
  
  1. #从二进制到十进制
  2. #input:种群,染色体长度
  3. def translation(population,chromosome_length):
  4. temporary=[]
  5. for i in range(len(population)):
  6. total= 0
  7. for j in range(chromosome_length):
  8. total+=population[i][j]*(math.pow( 2,j))
  9. #从第一个基因开始,每位对2求幂,再求和
  10. # 如:0101 转成十进制为:1 * 20 + 0 * 21 + 1 * 22 + 0 * 23 = 1 + 0 + 4 + 0 = 5
  11. temporary.append(total)
  12. #一个染色体编码完成,由一个二进制数编码为一个十进制数
  13. return temporary
  14. # 返回种群中所有个体编码完成后的十进制数

2.适应度计算

个体适应度与其对应的个体表现型x的目标函数值相关联,x越接近于目标函数的最优点,其适应度越大,从而其存活的概率越大。反之适应度越小,存活概率越小。这就引出一个问题关于适应度函数的选择,本例中,函数值总取非负值(删去了。。。),以函数最大值为优化目标,故直接将目标函数作为适应度函数。这里我们直接将目标函数2*sin(x)+cos作为个体适应度。如果,你想优化的是多元函数的话,需要将个体中基因型的每个变量提取出来,分别带入目标函数。比如说:我们想求x1+lnx2的最大值。基因编码为4位编码,其中前两位是x1,后两位是x2。那么我们在求适应度的时候,需要将这两个值分别带入f(x1)=x,f(x2)=lnx。再对f(x1)和f(x2)求和得到此个体的适应度,具体的在此篇中有详解。在本篇中,虽然染色体长度为10,但是实际上只有一个变量。


  
  
  1. # 目标函数相当于环境 对染色体进行筛选,这里是2*sin(x)+cos(x)
  2. def function(population,chromosome_length,max_value):
  3. temporary=[]
  4. function1=[]
  5. temporary=translation(population,chromosome_length)
  6. # 暂存种群中的所有的染色体(十进制)
  7. for i in range(len(temporary)):
  8. x=temporary[i]*max_value/(math.pow( 2,chromosome_length) -1)
  9. #一个基因代表一个决策变量,其算法是先转化成十进制,然后再除以2的基因个数次方减1(固定值)。
  10. function1.append( 2*math.sin(x)+math.cos(x))
  11. #这里将2*sin(x)+cos(x)作为目标函数,也是适应度函数
  12. return function1

关于这里的x的生成方式,据资料说只是一个编码规则。于是,我对其进行了几种实验。

如下,这种是删了max_value的输出结果:


这种少了除号后面的结果:


这种是只保留temporay[i]的结果:


从以上结果我们可以看出,这几种结果对最后的优化结果都没有什么影响。但是对其优化速度和平滑性都有影响。这也正是适应度函数选择的意义,选的好的话就可以加快优化效果。

补充:2018.6.16

由下面的选择操作可知,适应度是选择操作的主要参考依据,适应度函数(Fitness Function)的选取直接影响到遗传算法的收敛速度以及能否找到最优解。因而适应度函数的选择问题在遗传算法中是一项很值得研究的课题。一般情况下,关于适应度与目标函数的选择有以下这两种关系:


也就是说,我们要在每一轮迭代(进化)时,要将所有个体的适应度函数值都要遍历,然后得到最/大小值。此时每一轮的适应度函数都是在变化的。之前,我们程序中的个体适应度函数是不变化的。实际上要得到更准确的结果,除了以上基本变化,还有以下的适应度变化方法:


我们对个体的适应度调整的目的有两个:

一是维持个体之间的合理差距,加速竞争。

二是避免个体之间的差距过大,限制竞争。

此外,还有适应度共享等调节方式,此处不再赘述。来自于,选择和适应度函数

另外,在这段程序中,采用一种巧妙的方式限定了表现型的大小。比如,我们这里限制最大值为30,基因长度为6,则30/(2**6-1)=0.47,我们这里取一个表现型的最大值-2**6=64,则64*0.47=30.47,大致(这个词..有点不好意思说出来)符合我们的限制范围。

3.选择操作

(1).只保留非负值的适应度/函数值(不小于0)


  
  
  1. def fitness(function1):
  2. fitness1=[]
  3. min_fitness=mf= 0
  4. for i in range(len(function1)):
  5. if(function1[i]+mf> 0):
  6. temporary=mf+function1[i]
  7. else:
  8. temporary= 0.0
  9. # 如果适应度小于0,则定为0
  10. fitness1.append(temporary)
  11. #将适应度添加到列表中
  12. return fitness1

(2).首先计算出所有个体的适应度总和Σfi


  
  
  1. #计算适应度和
  2. def sum(fitness1):
  3. total= 0
  4. for i in range(len(fitness1)):
  5. total+=fitness1[i]
  6. return total
  7. #计算适应度斐波纳挈列表,这里是为了求出累积的适应度
  8. def cumsum(fitness1):
  9. for i in range(len(fitness1) -2, -1, -1):
  10. # range(start,stop,[step])
  11. # 倒计数
  12. total= 0
  13. j= 0
  14. while(j<=i):
  15. total+=fitness1[j]
  16. j+= 1
  17. #这里是为了将适应度划分成区间
  18. fitness1[i]=total
  19. fitness1[len(fitness1) -1]= 1

(3).再产生一个0到1之间的随机数,依据随机数出现在上述哪个概率区域内来确定各个个体被选中的次数。


  
  
  1. #3.选择种群中个体适应度最大的个体
  2. def selection(population,fitness1):
  3. new_fitness=[]
  4. #单个公式暂存器
  5. total_fitness=sum(fitness1)
  6. #将所有的适应度求和
  7. for i in range(len(fitness1)):
  8. new_fitness.append(fitness1[i]/total_fitness)
  9. #将所有个体的适应度概率化,类似于softmax
  10. cumsum(new_fitness)
  11. #将所有个体的适应度划分成区间
  12. ms=[]
  13. #存活的种群
  14. population_length=pop_len=len(population)
  15. #求出种群长度
  16. #根据随机数确定哪几个能存活
  17. for i in range(pop_len):
  18. ms.append(random.random())
  19. # 产生种群个数的随机值
  20. ms.sort()
  21. # 存活的种群排序
  22. fitin= 0
  23. newin= 0
  24. new_population=new_pop=population
  25. #轮盘赌方式
  26. while newin<pop_len:
  27. if(ms[newin]<new_fitness[fitin]):
  28. new_pop[newin]=pop[fitin]
  29. newin+= 1
  30. else:
  31. fitin+= 1
  32. population=new_pop

这里需要详细解释一下轮盘赌算法,其实就是典型的几何概率问题.这里根据cumsum函数将个体的适应度[0.1,0.2,0.2,0.4.....]都划分成区间[0.1,0.3,0.5,0.9...],如下图:


然后,random产生的ms[]排序后为[0.08,0.12,0.15,0.4.....],就有如下的程序:


我们可以看出新的种群是如下分布的:


这意味着某个体适应度越大,新的种群中该个体数量越多。

4.交叉


  
  
  1. def crossover(population,pc):
  2. #pc是概率阈值,选择单点交叉还是多点交叉,生成新的交叉个体,这里没用
  3. pop_len=len(population)
  4. for i in range(pop_len -1):
  5. cpoint=random.randint( 0,len(population[ 0]))
  6. #在种群个数内随机生成单点交叉点
  7. temporary1=[]
  8. temporary2=[]
  9. temporary1.extend(pop[i][ 0:cpoint])
  10. temporary1.extend(pop[i+ 1][cpoint:len(population[i])])
  11. #将tmporary1作为暂存器,暂时存放第i个染色体中的前0到cpoint个基因,
  12. #然后再把第i+1个染色体中的后cpoint到第i个染色体中的基因个数,补充到temporary2后面
  13. temporary2.extend(pop[i+ 1][ 0:cpoint])
  14. temporary2.extend(pop[i][cpoint:len(pop[i])])
  15. # 将tmporary2作为暂存器,暂时存放第i+1个染色体中的前0到cpoint个基因,
  16. # 然后再把第i个染色体中的后cpoint到第i个染色体中的基因个数,补充到temporary2后面
  17. pop[i]=temporary1
  18. pop[i+ 1]=temporary2
  19. # 第i个染色体和第i+1个染色体基因重组/交叉完成

5.变异


  
  
  1. #step4:突变
  2. def mutation(population,pm):
  3. # pm是概率阈值
  4. px=len(population)
  5. # 求出种群中所有种群/个体的个数
  6. py=len(population[ 0])
  7. # 染色体/个体中基因的个数
  8. for i in range(px):
  9. if(random.random()<pm):
  10. #如果小于阈值就变异
  11. mpoint=random.randint( 0,py -1)
  12. # 生成0到py-1的随机数
  13. if(population[i][mpoint]== 1):
  14. #将mpoint个基因进行单点随机变异,变为0或者1
  15. population[i][mpoint]= 0
  16. else:
  17. population[i][mpoint]= 1

6.其他


  
  
  1. # 将每一个染色体都转化成十进制 max_value为基因最大值,为了后面画图用
  2. def b2d(b,max_value,chromosome_length):
  3. total= 0
  4. for i in range(len(b)):
  5. total=total+b[i]*math.pow( 2,i)
  6. #从第一位开始,每一位对2求幂,然后求和,得到十进制数?
  7. total=total*max_value/(math.pow( 2,chromosome_length) -1)
  8. return total
  9. #寻找最好的适应度和个体
  10. def best(population,fitness1):
  11. px=len(population)
  12. bestindividual=[]
  13. bestfitness=fitness1[ 0]
  14. for i in range( 1,px):
  15. # 循环找出最大的适应度,适应度最大的也就是最好的个体
  16. if(fitness1[i]>bestfitness):
  17. bestfitness=fitness1[i]
  18. bestindividual=population[i]
  19. return [bestindividual,bestfitness]

7.主程序


  
  
  1. population_size= 500
  2. max_value= 10
  3. # 基因中允许出现的最大值
  4. chromosome_length= 10
  5. pc= 0.6
  6. pm= 0.01
  7. results=[[]]
  8. fitness1=[]
  9. fitmean=[]
  10. population=pop=species_origin(population_size,chromosome_length)
  11. #生成一个初始的种群
  12. for i in range(population_size): #注意这里是迭代500次
  13. function1=function(population,chromosome_length,max_value)
  14. fitness1=fitness(function1)
  15. best_individual,best_fitness=best(population,fitness1)
  16. results.append([best_fitness,b2d(best_individual,max_value,chromosome_length)])
  17. #将最好的个体和最好的适应度保存,并将最好的个体转成十进制
  18. selection(population,fitness1) #选择
  19. crossover(population,pc) #交配
  20. mutation(population,pm) #变异
  21. results=results[ 1:]
  22. results.sort()
  23. X=[]
  24. Y=[]
  25. for i in range( 500): #500轮的结果
  26. X.append(i)
  27. Y.append(results[i][ 0])
  28. plt.plot(X,Y)
  29. plt.show()
8.迭代结果

我们可以看到最后经过500轮的迭代后,其结果已经非常接近2.2了。


9.完整代码


  
  
  1. # -*-coding:utf-8 -*-
  2. #目标求解2*sin(x)+cos(x)最大值
  3. import random
  4. import math
  5. import matplotlib.pyplot as plt
  6. class GA(object):
  7. #初始化种群 生成chromosome_length大小的population_size个个体的种群
  8. def __init__(self,population_size,chromosome_length,max_value,pc,pm):
  9. self.population_size=population_size
  10. self.choromosome_length=chromosome_length
  11. # self.population=[[]]
  12. self.max_value=max_value
  13. self.pc=pc
  14. self.pm=pm
  15. # self.fitness_value=[]
  16. def species_origin(self):
  17. population=[[]]
  18. for i in range(self.population_size):
  19. temporary=[]
  20. #染色体暂存器
  21. for j in range(self.choromosome_length):
  22. temporary.append(random.randint( 0, 1))
  23. #随机产生一个染色体,由二进制数组成
  24. population.append(temporary)
  25. #将染色体添加到种群中
  26. return population[ 1:]
  27. # 将种群返回,种群是个二维数组,个体和染色体两维
  28. #从二进制到十进制
  29. #编码 input:种群,染色体长度 编码过程就是将多元函数转化成一元函数的过程
  30. def translation(self,population):
  31. temporary=[]
  32. for i in range(len(population)):
  33. total= 0
  34. for j in range(self.choromosome_length):
  35. total+=population[i][j]*(math.pow( 2,j))
  36. #从第一个基因开始,每位对2求幂,再求和
  37. # 如:0101 转成十进制为:1 * 20 + 0 * 21 + 1 * 22 + 0 * 23 = 1 + 0 + 4 + 0 = 5
  38. temporary.append(total)
  39. #一个染色体编码完成,由一个二进制数编码为一个十进制数
  40. return temporary
  41. # 返回种群中所有个体编码完成后的十进制数
  42. #from protein to function,according to its functoin value
  43. #a protein realize its function according its structure
  44. # 目标函数相当于环境 对染色体进行筛选,这里是2*sin(x)+math.cos(x)
  45. def function(self,population):
  46. temporary=[]
  47. function1=[]
  48. temporary=self.translation(population)
  49. for i in range(len(temporary)):
  50. x=temporary[i]*self.max_value/(math.pow( 2,self.choromosome_length) -10)
  51. function1.append( 2*math.sin(x)+math.cos(x))
  52. #这里将sin(x)作为目标函数
  53. return function1
  54. #定义适应度
  55. def fitness(self,function1):
  56. fitness_value=[]
  57. num=len(function1)
  58. for i in range(num):
  59. if(function1[i]> 0):
  60. temporary=function1[i]
  61. else:
  62. temporary= 0.0
  63. # 如果适应度小于0,则定为0
  64. fitness_value.append(temporary)
  65. #将适应度添加到列表中
  66. return fitness_value
  67. #计算适应度和
  68. def sum(self,fitness_value):
  69. total= 0
  70. for i in range(len(fitness_value)):
  71. total+=fitness_value[i]
  72. return total
  73. #计算适应度斐伯纳且列表
  74. def cumsum(self,fitness1):
  75. for i in range(len(fitness1) -2, -1, -1):
  76. # range(start,stop,[step])
  77. # 倒计数
  78. total= 0
  79. j= 0
  80. while(j<=i):
  81. total+=fitness1[j]
  82. j+= 1
  83. fitness1[i]=total
  84. fitness1[len(fitness1) -1]= 1
  85. #3.选择种群中个体适应度最大的个体
  86. def selection(self,population,fitness_value):
  87. new_fitness=[]
  88. #单个公式暂存器
  89. total_fitness=self.sum(fitness_value)
  90. #将所有的适应度求和
  91. for i in range(len(fitness_value)):
  92. new_fitness.append(fitness_value[i]/total_fitness)
  93. #将所有个体的适应度正则化
  94. self.cumsum(new_fitness)
  95. #
  96. ms=[]
  97. #存活的种群
  98. population_length=pop_len=len(population)
  99. #求出种群长度
  100. #根据随机数确定哪几个能存活
  101. for i in range(pop_len):
  102. ms.append(random.random())
  103. # 产生种群个数的随机值
  104. # ms.sort()
  105. # 存活的种群排序
  106. fitin= 0
  107. newin= 0
  108. new_population=new_pop=population
  109. #轮盘赌方式
  110. while newin<pop_len:
  111. if(ms[newin]<new_fitness[fitin]):
  112. new_pop[newin]=population[fitin]
  113. newin+= 1
  114. else:
  115. fitin+= 1
  116. population=new_pop
  117. #4.交叉操作
  118. def crossover(self,population):
  119. #pc是概率阈值,选择单点交叉还是多点交叉,生成新的交叉个体,这里没用
  120. pop_len=len(population)
  121. for i in range(pop_len -1):
  122. if(random.random()<self.pc):
  123. cpoint=random.randint( 0,len(population[ 0]))
  124. #在种群个数内随机生成单点交叉点
  125. temporary1=[]
  126. temporary2=[]
  127. temporary1.extend(population[i][ 0:cpoint])
  128. temporary1.extend(population[i+ 1][cpoint:len(population[i])])
  129. #将tmporary1作为暂存器,暂时存放第i个染色体中的前0到cpoint个基因,
  130. #然后再把第i+1个染色体中的后cpoint到第i个染色体中的基因个数,补充到temporary2后面
  131. temporary2.extend(population[i+ 1][ 0:cpoint])
  132. temporary2.extend(population[i][cpoint:len(population[i])])
  133. # 将tmporary2作为暂存器,暂时存放第i+1个染色体中的前0到cpoint个基因,
  134. # 然后再把第i个染色体中的后cpoint到第i个染色体中的基因个数,补充到temporary2后面
  135. population[i]=temporary1
  136. population[i+ 1]=temporary2
  137. # 第i个染色体和第i+1个染色体基因重组/交叉完成
  138. def mutation(self,population):
  139. # pm是概率阈值
  140. px=len(population)
  141. # 求出种群中所有种群/个体的个数
  142. py=len(population[ 0])
  143. # 染色体/个体基因的个数
  144. for i in range(px):
  145. if(random.random()<self.pm):
  146. mpoint=random.randint( 0,py -1)
  147. #
  148. if(population[i][mpoint]== 1):
  149. #将mpoint个基因进行单点随机变异,变为0或者1
  150. population[i][mpoint]= 0
  151. else:
  152. population[i][mpoint]= 1
  153. #transform the binary to decimalism
  154. # 将每一个染色体都转化成十进制 max_value,再筛去过大的值
  155. def b2d(self,best_individual):
  156. total= 0
  157. b=len(best_individual)
  158. for i in range(b):
  159. total=total+best_individual[i]*math.pow( 2,i)
  160. total=total*self.max_value/(math.pow( 2,self.choromosome_length) -1)
  161. return total
  162. #寻找最好的适应度和个体
  163. def best(self,population,fitness_value):
  164. px=len(population)
  165. bestindividual=[]
  166. bestfitness=fitness_value[ 0]
  167. # print(fitness_value)
  168. for i in range( 1,px):
  169. # 循环找出最大的适应度,适应度最大的也就是最好的个体
  170. if(fitness_value[i]>bestfitness):
  171. bestfitness=fitness_value[i]
  172. bestindividual=population[i]
  173. return [bestindividual,bestfitness]
  174. def plot(self, results):
  175. X = []
  176. Y = []
  177. for i in range( 500):
  178. X.append(i)
  179. Y.append(results[i][ 0])
  180. plt.plot(X, Y)
  181. plt.show()
  182. def main(self):
  183. results = [[]]
  184. fitness_value = []
  185. fitmean = []
  186. population = pop = self.species_origin()
  187. for i in range( 500):
  188. function_value = self.function(population)
  189. # print('fit funtion_value:',function_value)
  190. fitness_value = self.fitness(function_value)
  191. # print('fitness_value:',fitness_value)
  192. best_individual, best_fitness = self.best(population,fitness_value)
  193. results.append([best_fitness, self.b2d(best_individual)])
  194. # 将最好的个体和最好的适应度保存,并将最好的个体转成十进制,适应度函数
  195. self.selection(population,fitness_value)
  196. self.crossover(population)
  197. self.mutation(population)
  198. results = results[ 1:]
  199. results.sort()
  200. self.plot(results)
  201. if __name__ == '__main__':
  202. population_size= 400
  203. max_value= 10
  204. chromosome_length= 20
  205. pc= 0.6
  206. pm= 0.01
  207. ga=GA(population_size,chromosome_length,max_value,pc,pm)
  208. ga.main()

.



评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值