在实际的工作和生活过程中,优化问题无处不在,比如资源如何分配效益最高,拟合问题,最小最大值问题等等。优化问题一般分为局部最优和全局最优,局部最优,就是在函数值空间的一个有限区域内寻找最小值;而全局最优,是在函数值空间整个区域寻找最小值问题。
函数局部最小点是那种它的函数值小于或等于附近点的点。但是有可能大于较远距离的点。
全局最小点是那种它的函数值小于或等于所有的可行点。
全局优化和局部优化区别示意图
matlab中的提供的传统优化工具箱(Optimization Tool),能实现局部最优,但要得全局最优,则要用全局最优化算法(Global Optimization Tool),主要包括:
GlobalSearch 全局搜索和MultiStart多起点方法产生若干起始点,然后它们用局部求解器去找到起始点吸引盆处的最优点。
ga 遗传算法用一组起始点(称为种群),通过迭代从种群中产生更好的点,只要初始种群覆盖几个盆,GA就能检查几个盆。
simulannealbnd模拟退火完成一个随机搜索,通常,模拟退火算法接受一个点,只要这个点比前面那个好,它也偶而接受一个比较糟的点,目的是转向不同的盆。
patternsearch模式搜索算法在接受一个点之前要看看其附近的一组点。假如附近的某些点属于不同的盆,模式搜索算法本质上时同时搜索若干个盆。
下面我就一些具体例子,来说明各种优化方法:
先看一个求最小值的普通优化问题
%%目标函数
f = @(x) x.*sin(x) + x.*cos(2.*x);
%% 的取值范围
lb = 0;
ub = 10;
%% 寻找最小值和绘图
x0 = [0 1 3 6 8 10];
hf = figure;
for i=1:6
x(i) = fmincon(f,x0(i),[],[],[],[],lb,ub,[],...
optimset('Algorithm','SQP','Disp','none'));
subplot(2,3,i)
ezplot(f,[lb ub]);
hold on
plot(x0(i),f(x0(i