最优化——阻尼牛顿法

使用阻尼牛顿法求解

利用Amijio非精确线搜索
初始点x^0=(0,0)，经条件1e-6或n=2000

代码：

%建立NTtest.m文件
clear all
clc
x0=[0,0]';
fun=@(x)100*(x(1)^2-x(2))^2+(x(1)-1)^2;
gfun=@(x)[400*x(1)*(x(1)^2-x(2))+2*(x(1)-1), -200*(x(1)^2-x(2))]';
Hesse=@(x)[1200*x(1)^2-400*x(2)+2,-400*x(1);-400*x(1),200]';
[x,val,k]=minNT(fun,gfun,Hesse,x0)

建立minNT.m文件
function [x,val,k]=minNT(fun,gfun,Hesse,x0)
%注意传过来的是变量，而不是函数
%功能：用阻尼牛顿法求解无约束问题：min f(x)
%输入：x0是初始点，梯度函数，Hesse阵的函数
%输出：x，val是近似最优点和最优值,k是迭代次数
maxk=2000;%给出最大迭代次数
rho=0.5;sigma=0.4;gama=0.5;
epsilon=1e-6;
k=0;
while (k<maxk)
    gk=feval(gfun,x0);%计算梯度
    Gk=feval(Hesse,x0);%计算Hesse阵
    dk=-Gk\gk;%计算搜索方向
    if(norm(gk)<epsilon) 
        break;
    end
    
   %Armijio线搜索寻找最佳步长alpha
   mk=0;
    while(mk<20)
        if(feval(fun,x0+rho*gama^mk*dk)<=feval(fun,x0)+sigma*rho*gama^mk*gk'*dk)
            alpha=rho*gama^mk;break;
        end
        mk=mk+1;     
    end
    x0=x0+alpha*dk;
    k=k+1;
end
    
x=x0;
val=feval(fun,x);
format short
end

结果：
x =

1.0000
1.0000

val =

2.1283e-15

k =

36

每天进步一点点