matlab cg steihaug,截断共轭梯度法

截断共轭梯度法

考虑信赖域子问题： 其中 是目标函数，$\nabla f(x), \nabla^2 f(x)$ 表示 的梯度与海瑟矩阵。注意，当 时，信赖域子问题就等同于求解牛顿方程。

这里，实现截断共轭梯度法 (Steihaug-Toint Conjugate gradient, ST-CG 方法)来求解上述信赖域子问题。

当约束不存在时(即 )，共轭梯度法通过求解一系列共轭方向可以快速求解对应的无约束二次优化问题。具体地，对于问题 ，给定初始 , , ，共轭梯度法的迭代格式为：

当信赖域约束存在时，共轭梯度法得到的解不能保证落在可行域内。因此，截断共轭梯度法则在共轭梯度法增加两条额外的终止条件，用于处理负曲率 或超过信赖域半径 的情况。

目录

初始化和迭代准备

输入信息：迭代点 ，梯度 grad，海瑟矩阵 hess，信赖域半径 ， 包含算法参数的结构体 opts 。 输出信息：信赖域子问题的解