matlab manopt学习心得

matlab manopt学习心得

example1

问题描述

求方阵A的最大特征值，即
可令分母值固定为1，即约束x在n-1维球面上

代码实现

先生成一个大小为 1000x1000 且条目呈正态分布的随机对称矩阵“A”。然后它定义了一个黎曼优化问题，其目标函数是二次型 x’Ax 的负函数，其梯度和 Hessian 矩阵是使用矩阵“A”计算的。然后，在使用信赖域算法解决优化问题之前，对梯度和 Hessian 一致性进行数值检查。最后，绘制了算法的收敛性。

   n = 1000;
    A = randn(n);
    A = .5*(A+A');

a加a转置再乘0.5 将A转成对称矩阵

    % Create the problem structure.
    manifold = spherefactory(n);
    problem.M = manifold;

定义结构体数组problem

% Define the problem cost function and its gradient.
problem.cost  = @(x) -x'*(A*x);
problem.egrad = @(x) -2*A*x;
problem.ehess = @(x, xdot) -2*A*xdot;

使用@创建函数句柄（约等于定义函数），输出的 egard为梯度，ehess为hessian矩阵（二阶导矩阵）
注意:此处计算的是欧式梯度，在Manopt中，到流形梯度的转换是在后台通过一个名为egrad2rgrad的函数进行的

% Numerically check gradient and Hessian consistency.
figure;
checkgradient(problem);
figure;
checkhessian(problem);

checkgradient是manopt工具箱内置函数，检验损失函数的梯度（截断泰勒级数）是否与定义的梯度方向相同， 输出如下
使用信任区间算法优化，最后所得的X即为最大特征值所对应的特征向量。

% Solve.
[x, xcost, info] = trustregions(problem);          %#ok<ASGLU>

% Display some statistics.
figure;
semilogy([info.iter], [info.gradnorm], '.-');
xlabel('Iteration #');
ylabel('Gradient norm');
title('Convergence of the trust-regions algorithm on the sphere');

下图表示梯度向量的模是收敛的
待续。。。