注明:程序中调用的函数jintuifa.m golddiv.m我在之前的笔记中已贴出
最速下降法
%最速下降法求解f = 1/2*x1*x1+9/2*x2*x2的最小值,起始点为x0=[9 1]
%算法根据最优化方法(天津大学出版社)97页算法3.2.1编写
%v1.0 author: liuxi BIT
%format long
syms x1 x2 alpha;
f = 1/2*x1*x1+9/2*x2*x2;%要最小化的函数
df=jacobian(f,[x1 x2]);%函数f的偏导
epsilon=1e-6;%0.000001k=0;
x0=[9 1];%起始点
xk=x0;
gk=subs(df,[x1 x2],xk);%起始点的梯度
gk=double(gk);
while(norm(gk)>epsilon)%迭代终止条件||gk||<=epsilon
pk=-gk;%负梯度方向
f_alpha=subs(f,[x1 x2],xk+alpha*pk);%关于alpha的函数
[left right] = jintuifa(f_alpha,alpha);%进退法求下单峰区间
[best_alpha best_f_alpha]=golddiv(f_alpha,alpha,left,right);%黄金分割法求最优步长
xk=xk+best_alpha*pk;
k=k+1;
gk=subs(df,[x1 x2],xk);
gk=double(gk);
end
best_x=xk;%最优点
best_fx=subs(f,[x1 x2],best_x);%最优值
共轭梯度法
%共轭梯度法求解f = 3/2*x1*x1+1/2*x2*x2-x1*x2-2*x1的最小值,起始点为x0=[0 0]
%算法根据最优化方法(天津大学出版社)111页算法3.4.2编写
%v1.0 author: liuxi BIT
%format long
syms x1 x2 alpha;
f = 3/2*x1*x1+1/2*x2*x2-x1*x2-2*x1;%要最小化的函数
df=jacobian(f,[x1 x2]);%函数f的偏导
epsilon=1e-6;%0.000001
k=1;
x0=[0 0];%起始点
xk=x0;
gk=subs(df,[x1 x2],xk);%起始点的梯度
gk=double(gk);
while(norm(gk)>epsilon)%迭代终止条件||gk||<=epsilon
%=========begin=====这段是与梯度向量法不同的地方=================
if k==1
pk=-gk;%负梯度方向
else
beta=gk*gk'/(gk0*gk0');
pk=-gk+beta*pk0;%pk0代表p(k-1)
end
%========end======这段是与梯度向量法不同的地方=================
f_alpha=subs(f,[x1 x2],xk+alpha*pk);%关于alpha的函数
[left right] = jintuifa(f_alpha,alpha);%进退法求下单峰区间
[best_alpha best_f_alpha]=golddiv(f_alpha,alpha,left,right);%黄金分割法求最优步长
xk=xk+best_alpha*pk;
%=========begin=====这段是与梯度向量法不同的地方=================
gk0=gk;%gk0代表g(k-1)
pk0=pk;%pk0代表p(k-1)
% =========end=====这段是与梯度向量法不同的地方=================
gk=subs(df,[x1 x2],xk);
gk=double(gk);
k=k+1;
end
best_x=xk;%最优点
best_fx=subs(f,[x1 x2],best_x);%最优值