运筹学-优化算法

最新推荐文章于 2024-05-29 15:57:52 发布
最新推荐文章于 2024-05-29 15:57:52 发布
阅读量211 收藏
点赞数
分类专栏： 笔记 文章标签： 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_46188169/article/details/134122424
版权

优化算法

启发式算法——遗传算法Genetic Algorithm GA

算法概述

从代表问题可能潜在的解集的一个种群（population）开始，一个种群则经过基因（gene）编码的一定数目的个体（individual)。第一步需要实现从表现型到基因型的映射即编码工作。初代种群产生之后，按照适者生存和优胜劣汰的原理，逐代（generation）演化出越来越好的近似解，在每一代，根据问题域中个体的适应度(fitness)大小，选择个体，并借助于自然遗传学的遗传算子（genetic operators)进行组合交叉和变异，产生出代表新的解集的种群。
后生代种群比前代更加适应于环境，末代种群中的最优个体经过解码（decoding)，可以作为问题近似最优解。

遗传算法有三个基本操作：选择（Selection）、交叉（Crossover）和变异（Mutation）。
• （1）选择（复制）
选择的目的是为了从当前群体中选出优良的个体，使它们有机会作为父代为下一代繁衍子孙。根据各个个体的适应度值，按照一定的规则或方法从第t代群体P(t)中选择出一些优良的个体遗传到下一代群体P(t+1)中。
选择的依据是适应性强的个体为下一代贡献一个或多个后代的概率大。
• （2）交叉
通过交叉操作可以得到新一代个体，新个体组合了父辈个体的特性。将群体P(t)内的各个个体随机搭配成对，对每一个个体，以交叉概率交换它们之间的部分染色体。
• （3）变异
对群体P(t)中的每一个个体，以变异概率改变某一个或多个基因座上的基因值为其他的等位基因。
同生物界中一样，变异发生的概率很低，变异为新个体的产生提供了机会。

遗传算法的基本步骤

1)个体编码
遗传算法的运算对象是表示个体的符号串，所以必须把变量x1\x3编码为一种符号串。
例如用无符号二进制整数表示。x1、x2为0-7之间的整数，所以分别用3位无符号二进制整数来表示。将它们连接在一起组成6位无符号二进制整数形成了个体的基因型，表示一个可行解。
例如基因型X=101110所对应的表现型是x=[5,6]
个体的表现型和基因型X可通过编码和解码程序相互转换。

2)初始群体的产生
遗传算法是对群体进行的进化操作，需要给其准备一些表示初始搜索点的初始群体数据。随机产生N个初始串结构数据，每个串结构数据称为一个个体，N个个体构成了一个群体。GA以这N个串结构数据作为初始点开始进化。
例如：群体规模大小为4，群体由4个个体组成，每个个体可通过随机方法产生。
011101、101011、011100、111001

3)个体适应度计算
遗传算法中以个体适应度大小来评定各个个体的优劣程度，从而决定其遗传机会的大小。不同的问题，适应性函数的定义方式也不同。

4)选择/复制运算
把当前群体中适应度较高的个体按照某种规则或模型遗传到下一代群体中。一般要求适应度高的个体将有更多的机会遗传到下一代。
使用比例选择算子。
遗传算法通过选择过程体现这一思想，进行选择的原则是适应性强的个体为下一代贡献一个或多个后代的概率大。选择体现了达尔文的适者生存原则。

5)交叉运算
交叉操作是遗传算法中产生新个体的主要操作过程（最主要的遗传操作）。以某一概率相互交换某两个个体之间的部分染色体。
使用单点交叉算子。
通过交叉操作可以得到新一代个体，新个体组合了其父辈个体的特性。交叉体现了信息交换的思想。
具体操作过程：

  • 先对群体进行随机配对
  • 其次随机设置交叉点位置
  • 最后在相互交换配对染色体之间的部分基因
个体编号选择结果配对情况交叉点位置交叉结果
101｜11011-21-2:2011001
211｜10011-21-2:2111101
31010｜113-43-4:4101001
41110｜013-43-4:4111011

6)变异运算
变异运算是对个体的某一个活某一些基因座上的基因值按某一较小的概率进行改变，也是产生新个体的一种操作方法。
使用基本位变异算子。
首先在群体中随机选择一个个体，对于选中的个体以一定的概率随机地改变串结构数据中某个串的值。同生物界一样， GA中变异发生的概率很低，通常取值很小。
具体操作过程：

  1. 首先确定各个个体的基因变异位置，数字表示变异点设置在该基因座处
  2. 然后按照某一概率将变异点的原有基因值取反
个体编号交叉结果变异点变异结果子代群体p(1)
10110014011101011101
21111015111111111111
31010012111001111001
41110116111010111010

基本遗传算法的描述

基本遗传算法的运行参数

  1. 群体大小M:一般取为20-100
  2. 交叉概率pc:一般取为0.4-0.99
  3. 变异概率pm:一般取为0.0001-0.1
  4. 终止进化代数T：一般取为100-200

形式化定义

GA=（M,F,s,c,m,pc,pm）
M-群体大小
F-个体适应度评价函数
s-选择操作算子
c-交叉操作算子
m-变异操作算子
pc-交叉概率
pm-变异概率

基本遗传算法的实现

编码与解码

  1. 编码
    假设某一参数的取值范围是[umin,umax]，用长度为l的二进制编码符号串表示该参数，共能产生2^l种不同编码，公式为
    精度δ=
    在这里插入图片描述
    00000000…00000000=0<——umin
    00000000…00000001=1<——umin+ δ
    …
    11111111…11111111=2^l-1<——umax
  2. 解码
    假设某一个个体的编码是x：在这里插入图片描述
    则对应解码公式是
    在这里插入图片描述

个体适应度

要求所有个体适应度必须为正数或零
当优化目标是求函数最大值，并且目标函数总是取正值时，可以直接设定个体适应度F(X)等于相应的目标函数值f(X)
当优化目标是求函数最小值，增加一个负号转化为求目标函数最大值
min F(X)= max（-f(X)）

将目标函数变换为个体适应度F(X)方法——
方法一：对于求目标函数最大值的优化问题
F(X)=f(X)+Cmin if f(X)+Cmin >= 0
F(X)=0 if f(X)+Cmin < 0
Cmin一个适当地相对比较小的数

  • 预先指定的一个较小的数
  • 进化到当前为止最小目标函数值
  • 当前代或最近几代群体中最小目标函数值

方法二：对于求目标函数最小值的优化问题
F(X)=Cmax-f(X) if f(X)< Cmax
F(X)=0 if f(X)> Cmax
Cmax一个适当地相对比较大的数

  • 预先指定的一个较大的数
  • 进化到当前为止最大目标函数值
  • 当前代或最近几代群体中最大目标函数值

比例选择算子

执行比例选择的手段——轮盘选择
轮盘法的基本精神，个体被选中的概率取决于个体的相对适应度【适应度大的个体，刻度长，对应的被选中可能性大】
pi=fi/∑fi
pi-个体被选中的概率
fi-个体的适应度
∑fi-群体的累加适应度

单点交叉算子

  1. 对个体进行两两随机配对
    若群体大小为M，则共有(M/2)对相互配对的个体组
  2. 每一对相互配对的个体，随机设置某一基因座之后的位置交叉点
    若染色体的长度为l，则共有(l-1)个可能的交叉点位置
  3. 对每一对相互配对的个体，依设定的交叉概率pc在其交叉点处相互交换两个个体的部分染色体，从而产生出两个新的个体。
    交叉概率
    pc=Mc/M
    M-群体中个体的数目
    M-群体中被交换个体的数目

基本位变异算子

  1. 对个体每一个基因座，依变异概率pm指定其为变异点
  2. 对每一个指定的变异点，对其基因组取反运算或用其他等位基因值来代替，从而产生出一个新的个体
    变异概率
    pm=B/M*l
    B-每代中变异的基因数目
    M-每代中群体拥有个体的数目
    l-个体重基因传的长度

收敛性的影响

  1. 种群规模对收敛性的影响
  2. 选择操作对收敛性的影响
  3. 交叉概率对收敛性的影响
  4. 变异概率对收敛性的影响

遗传算法工具箱

• MATLAB内嵌遗传算法工具箱: gadst
• Sheffield大学遗传算法工具箱: gatbx
• 北卡罗来纳大学遗传算法工具箱: gaot

matlab函数

•optimtool
•initializega
pop = initializega(populationSize,variableBounds,evalFN,evalOps,options)

参数意义
pop随机生成的初始种群
populationSize种群大小
variableBounds变量边界的矩阵
evalFN适应度函数名称
evalOps适应度函数的参数
options精度及编码形式，1为浮点编码，0为二进制编码

• ga
[x,endPop,bPop,traceInfo] =ga(bounds,evalFN,evalOps,startPop,opts,termFN,termOps,selectFN,
selectOps,xOverFNs,xOverOps,mutFNs,mutOps)

参数意义
bounds变量上下界的矩阵
evalFN适应度函数名称
evalOps适应度函数的参数
startPop初始种群
opts精度、编码形式及显示方式，1为浮点编码，0为二进制编码，默认为[1e-6 1 0]
termFN终止函数的名称
termOps终止函数的参数
selectFN选择函数的名称
selectOps选择函数的参数
xOverFNs交叉函数的名称
xOverOps交叉函数的参数
mutFNs变异函数的名称
mutOps变异函数的参数
x优化计算得到的最优个体
endPop优化终止时的最终种群
bPop最优种群的进化轨迹
traceInfo每代的最优适应度函数值和平均适应度函数值矩阵

案例分析

一元函数优化

%% 适应度函数此处即是目标函数（因为是求最大值）
function [sol, fitnessVal] = fitness(sol, options)

x = sol(1);

fitnessVal = x + 10*sin(5*x)+7*cos(4*x);

end
%% I. 清空环境变量
clear all
clc

%% II. 绘制函数曲线
x = 0:0.01:9;
y =  x + 10*sin(5*x)+7*cos(4*x);

figure
plot(x, y)
xlabel('自变量')
ylabel('因变量')
title('y = x + 10*sin(5*x) + 7*cos(4*x)')


%% III. 初始化种群
initPop = initializega(50,[0 9],'fitness');

%% IV. 遗传算法优化
[x endPop bpop trace] = ga([0 9],'fitness',[],initPop,[1e-6 1 1],'maxGenTerm',25,...                           'normGeomSelect',0.08,'arithXover',2,'nonUnifMutation',[2 25 3]);
%% V. 输出最优解并绘制最优点
x
hold on
plot (endPop(:,1),endPop(:,2),'ro')

%% VI. 绘制迭代进化曲线
figure(2)
plot(trace(:,1),trace(:,3),'b:')
hold on
plot(trace(:,1),trace(:,2),'r-')
xlabel('Generation'); ylabel('Fittness');
legend('Mean Fitness', 'Best Fitness')

BP神经网络初始权值和阈值优化

在这里插入图片描述

%% 适应度函数
function[sol,val]=gabpEval(sol,options)
global S
for i=1:S
x(i)=sol(i);
end;
[W1,B1,W2,B2,val]=gadecod(x);

%%解码函数
function[W1,B1,W2,B2,val]=gadecod(x)
global p
global t
global R
global S2
global S1
% 前R*S1个编码为W1
for i=1:S1
    for k=1:R
        W1(i,k)=x(R*(i-1)+k);
    end
end
% 接着的S1*S2个编码(即第R*S1个后的编码)为W2
for i=1:S2
    for k=1:S1
        W2(i,k)=x(S1*(i-1)+k+R*S1);
    end
end
% 接着的S1个编码(即第R*SI+SI*S2个后的编码)为B1
for i=1:S1
    B1(i,1)=x((R*S1+S1*S2)+i);
end
%接着的S2个编码(即第R*SI+SI*S2+S1个后的编码)为B2
for i=1:S2
    B2(i,1)=x((R*S1+S1*S2+S1)+i);
end
% 计算S1与S2层的输出
A1=tansig(W1*p,B1);
A2=purelin(W2*A1,B2);
% 计算误差平方和
SE=sumsqr(t-A2);
% 遗传算法的适应值
val=1/SE;

%% I. 清除环境变量
clear all
clc

%% II. 声明全局变量
global p     % 训练集输入数据
global t     % 训练集输出数据
global R     % 输入神经元个数
global S2    % 输出神经元个数
global S1    % 隐层神经元个数
global S     % 编码长度
S1 = 10;

%% III. 导入数据
%%
% 1. 训练数据
p = [0.01 0.01 0.00 0.90 0.05 0.00;
     0.00 0.00 0.00 0.40 0.50 0.00;
     0.80 0.00 0.10 0.00 0.00 0.00;
     0.00 0.20 0.10 0.00 0.00 0.10]';
t = [1.00 0.00 0.00 0.00;
     0.00 1.00 0.00 0.00;
     0.00 0.00 1.00 0.00;
     0.00 0.00 0.00 1.00]';
%%
% 2. 测试数据
P_test = [0.05 0    0.9  0.12 0.02 0.02;
          0    0    0.9  0.05 0.05 0.05;
          0.01 0.02 0.45 0.22 0.04 0.06;
          0    0    0.4  0.5  0.1  0;
          0    0.1  0    0    0    0]';

%% IV. BP神经网络
%%
% 1. 网络创建
net = newff(minmax(p),[S1,4],{'tansig','purelin'},'trainlm'); 

%%
% 2. 设置训练参数
net.trainParam.show = 10;
net.trainParam.epochs = 2000;
net.trainParam.goal = 1.0e-3;
net.trainParam.lr = 0.1;

%%
% 3. 网络训练
[net,tr] = train(net,p,t);

%%
% 4. 仿真测试
s_bp = sim(net,P_test)    % BP神经网络的仿真结果

%% V. GA-BP神经网络
R = size(p,1);
S2 = size(t,1);
S = R*S1 + S1*S2 + S1 + S2;
aa = ones(S,1)*[-1,1];

%% VI. 遗传算法优化
%%
% 1. 初始化种群
popu = 50;  % 种群规模
initPpp = initializega(popu,aa,'gabpEval',[],[1e-6 1]);  % 初始化种群

%%
% 2. 迭代优化
gen = 100;  % 遗传代数
% 调用GAOT工具箱，其中目标函数定义为gabpEval
[x,endPop,bPop,trace] = ga(aa,'gabpEval',[],initPpp,[1e-6 1 1],'maxGenTerm',gen,...
                           'normGeomSelect',[0.09],['arithXover'],[2],'nonUnifMutation',[2 gen 3]);
%%
% 3. 绘均方误差变化曲线
figure(1)
plot(trace(:,1),1./trace(:,3),'r-');
hold on
plot(trace(:,1),1./trace(:,2),'b-');
xlabel('Generation');
ylabel('Sum-Squared Error');

%%
% 4. 绘制适应度函数变化
figure(2)
plot(trace(:,1),trace(:,3),'r-');
hold on
plot(trace(:,1),trace(:,2),'b-');
xlabel('Generation');
ylabel('Fittness');

%% VII. 解码最优解并赋值
%%
% 1. 解码最优解
[W1,B1,W2,B2,val] = gadecod(x);

%%
% 2. 赋值给神经网络
net.IW{1,1} = W1;
net.LW{2,1} = W2;
net.b{1} = B1;
net.b{2} = B2;

%% VIII. 利用新的权值和阈值进行训练
net = train(net,p,t);

%% IX. 仿真测试
s_ga = sim(net,P_test)    %遗传优化后的仿真结果

遗传算法的应用

  1. 函数优化
  2. 组合优化
  3. 生产调度问题
  4. 自动控制
  5. 机器人学
  6. 图像处理
  7. 人工生命
  8. 遗传编程
  9. 机器学习
Holidays.
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
顺丰科技2019秋招运筹优化算法工程师笔试客观题合集.docx
07-02
顺丰科技2019秋招运筹优化算法工程师笔试客观题合集
最优化算法+运筹学-Matlab相关算法代码
最新发布
06-30
适合信息与计算科学/数学与应用数学专业，采用matlab编写算法，毕设也会用到
常见的运筹优化类问题及常用的优化算法
qq_38384924的博客
10-22 1万+
之前的研究的是有关多目标优化的方向，期间涉及到二次规划问题最优求解，以及kkt条件相关的知识。在研究启发式方法的同时也涉及到与传统优化方法的比较。因此在这里总结一些运筹向常见的问题， TSP、VRP、设施选址问题、网络优化、物流调度、路径规划问题等的建模，了解各模型的使用场景与运算效率 ...
实用运筹学案例方法及应用邢光军课后习题答案解析
qq_36366369的博客
05-29 284
这样，我可以通过动手练习和观看讲解来加深对知识的理解。其次，我想了解一些有效的学习方法，比如如何归纳总结知识点，如何将理论与实践相结合。最后，我希望能从学长学姐那里获取一些学习经验，了解他们在学习这门课程时的心得体会，以便我少走弯路。大家好，我是一名大学生，最近在学习《实用运筹学：案例、方法及应用》这门课程。因此，我想向大家求助，看看有没有什么好的学习资料、学习方法和学习经验可以分享。总之，我希望通过大家的帮助，能够更好地掌握《实用运筹学：案例、方法及应用》这门课程，为将来的学习和工作打下坚实的基础。
【运筹优化】网络最大流问题及三种求解算法详解 + Python代码实现
知不足而奋进，望远山而前行
02-13 1万+
本文首先对最大流问题进行了介绍，然后分别介绍了三种求解最大流问题的算法Ford-Fulkerson算法、Edmons-Karp算法和 Dinic 算法，并给出了相应的 Python 代码。最后，对这三种算法进行了性能测试与分析。
招募 | 大马鹿物流运筹优化算法工程师
数据派THU
06-07 1236
岗位描述负责公司智能配送算法的开发。基于先进运筹优化理论结合实际场景和一线业务需求，联接信息系统，开发适合本公司的智能分单和路径规划算法。负责智能配送算法的落地并不断迭代...
Floyd求最短路
Axiayouqiaomu的博客
02-03 558
Floyd一、Floyd算法又称为插点法二、代码实现 一、Floyd算法又称为插点法 路径矩阵 通过一个图的权值矩阵求出它的每两点间的最短路径矩阵。 [3] 从图的带权邻接矩阵A=[a(i,j)] n×n开始，递归地进行n次更新，即由矩阵D(0)=A，按一个公式，构造出矩阵D(1)；又用同样地公式由D(1)构造出D(2)；……；最后又用同样的公式由D(n-1)构造出矩阵D(n)。矩阵D(n)的i行j列元素便是i号顶点到j号顶点的最短路径长度，称D(n)为图的距离矩阵，同时还可引入一个后继节点矩阵path来
运筹学 计算机,数学、运筹学、计算机等领域的36个重要算法
weixin_39969568的博客
06-24 607
哈哈哈教你一句话激怒各个专业！！！ 中国大学的现实是：大学层次越低，上课越多，学生读书越少 30省份开学时间一览！仅剩1地未公布开学时间重要算法要学会1. A *搜索算法 图搜索算法，用于查找从给定初始节点到给定目标节点的路径。它采用启发式估计，通过估计通过该节点的最佳路径对每个节点进行排名。它按照此启发式估计的顺序访问节点。因此，A *算法是最佳优先搜索的示例。2. 波束搜索 波束搜索是一种搜索...
MATLAB编程-运筹学-整数规划.zip
01-08
除了基本的`intlinprog`，MATLAB优化工具箱还提供了一些高级功能，例如多目标优化、对偶方法、自定义优化算法等。此外，还可以结合其他工具箱，如Global Optimization Toolbox，用于全局优化，寻找可能的全局最优解...
MATLAB编程-运筹学-单纯形法.zip
01-08
通过学习和理解这个"MATLAB编程-运筹学-单纯形法.zip"中的代码，你可以深入掌握线性规划的基本概念，提升MATLAB编程技能，同时对运筹学的优化算法有更直观的理解。这不仅有助于学术研究，也为实际工作中的决策优化...
tora软件，运筹学优化软件
11-14
使用Tora进行运筹学优化时，用户可以导入数据，定义变量、目标函数和约束条件，然后选择合适的优化算法进行求解。软件会返回最优解，并提供详细的解决方案和分析报告，帮助用户理解结果并做出决策。 总的来说，Tora...
运筹学中的tsp问题，利用蚁群算法，遗传算法等解决
04-24
运筹学中的tsp问题，利用蚁群算法，遗传算法,hopfield神经网络， lingo软件等五种方案解决
floyd.rar_运筹学算法
07-14
《floyd.rar_运筹学算法》压缩包包含的文件是`floyd.m`，这很可能是用MATLAB编写的程序，用于实现Floyd-Warshall算法，这是一种经典的图论算法，广泛应用于解决运筹学中的最短路径问题。下面我们将深入探讨Floyd-...
运筹优化（十四）--离散优化的启发式算法
热门推荐
工作笔记
01-19 3万+
启发式算法（heuristic algorithm)是相对于最优化算法提出的。一个问题的最优算法求得该问题每个实例的最优解。也就是说，在允许运行时长足够长的 情况下，确保得到一个最优方案。但是大量重要的ILP和INLP问题，并不存在多项式时间的解法，因此，启发式算法可以这样定义：一个基于直观或经验构造的算法，在可接受的花费（指计算时间和空间）下给出待解决组合优化问题每一个实例的一个可行解，该可行解...
运筹优化 Operation Optimization
JasonH2021的博客
10-01 3768
简单价绍了运筹优化的基本概念，分类，步骤和pyhon的实现方法等
运筹优化（一）--运筹学概述
工作笔记
01-07 2万+
        运筹学：主要运用数学方法研究各种系统的优化途径及方案，为决策者提供科学决策的依据。最优化方法的主要研究对象是各种有组织系统的管理问题及其生产经营活动。最优化方法的目的在于针对所研究的系统，求得一个合理运用人力、物力和财力的最佳方案，发挥和提高系统的效能及效益，最终达到系统的最优目标。 运筹学的具体内容包括：规划论（包括线性规划、非线性规划、整数规划和动态规划）、库存论、图论、决策...
70篇运筹优化学习笔记分享
m1m2m3mmm的博客
12-05 4965
理论原理 + 编程源码 + 计算案例
【运筹优化】元启发式算法详解：变邻域搜索算法（Variable Neighborhood Search，VNS）+ 案例讲解&代码实现
知不足而奋进，望远山而前行
06-01 5590
可变邻域搜索(VNS)是一种元启发式算法，该算法基于邻域系统变化的思想，在下降阶段寻找局部最优解，在扰动阶段走出相应的谷值。最初设计用于组合优化问题的近似解，它被扩展到处理混合整数规划、非线性规划，以及最近的混合整数非线性规划。此外，VNS已被用作自动化或计算机辅助图论的工具。这导致了该领域超过1500个猜想的发现，并自动证明了其中的一半以上。这与许多不同的数学家对大约400个这样的猜想所做的独立的证明形成了对比。本博客组织如下。
运筹优化问题-离散优化算法
再来一下！
06-30 561
（heuristic algorithm)是相对于最优化算法提出的。一个问题的最优算法求得该问题每个实例的最优解。也就是说，在允许运行时长足够长的 情况下，确保得到一个最优方案。但是大量重要的ILP和INLP问题，并不存在时间的解法，因此，启发式算法可以这样定义：一个基于直观或经验构造的算法，在可接受的花费（指计算时间和空间）下给出待解决组合优化问题每一个实例的一个可行解，该可行解与最优解的偏离程度一般不能被预计。计算机科学的两大基础目标，就是发现可证明其执行效率良好且可得最佳解或次佳解的算法。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值