用matlab实现共轭梯度法求解实例,用MATLAB实现共轭梯度法求解实例

用MATLAB 实现共轭梯度法求解实例

康福 201103710031

一．无约束优化方法

1.1 无约束优化方法的必要性

一般机械优化设计问题，都是在一定的限制条件下追求某一指标为最小，它们都属于约束优化问题。但是为什么要研究无约束优化问题?

(1)有些实际问题，其数学模型本身就是一个无约束优化问题。

(2)通过熟悉它的解法可以为研究约束优化问题打下良好的基础。

(3)约束优化问题的求解可以通过一系列无约束优化方法来达到。所以无约束优

化问题的解法是优化设计方法的基本组成部分，也是优化方法的基础。

(4)对于多维无约束问题来说，古典极值理论中令一阶导数为零，但要求二阶可微，且要判断海赛矩阵为正定才能求得极小点，这种方法有理论意义，但无实用价值。和一维问题一样，若多元函数F(X)不可微，亦无法求解。但古典极值理论是无约束优化方法发展的基础。

1.2共轭梯度法

目前已研究出很多种无约束优化方法，它们的主要不同点在于构造搜索方向上的差别。

(1)间接法——要使用导数，如梯度法、(阻尼)牛顿法、变尺度法、共轭梯度法等。

(2)直接法——不使用导数信息，如坐标轮换法、鲍威尔法单纯形法等。 用直接法寻找极小点时，不必求函数的导数，只要计算目标函数值。这类方法较适用于解决变量个数较少的(n ≤20)问题，一般情况下比间接法效率低。间接法除要计算目标函数值外，还要计算目标函数的梯度，有的还要计算其海赛矩阵。 搜索方向的构成问题乃是无约束优化方法的关键。

共轭梯度法是沿着共轭方向进行搜索，属于共轭方向法中的一种，该方法中每一个共轭向量都是依赖于迭代点处的负梯度而构造出来。共轭梯度法作为一种实用的迭代法，它主要有下面的优点：

(1)算法中，系数矩阵Ａ的作用仅仅是用来由已知向量P 产生向量W=AP ，这不仅可充分利用Ａ的稀疏性，而且对某些提供矩阵Ａ较为困难而由已知向量P 产生向量W=AP 又十分方便的应用问题是很有益的。

(2)不需要预先估计任何参数就可以计算，这一点不像SOR 等；

(3)每次迭代所需的计算，主要是向量之间的运算，便于并行化。

共轭梯度法原理的知识较多，请详见《机械优化设计》第四章的第四、五节。 图1为共轭梯度法的程度框图 1(0,1,2,)

k k k k s k α+=+=x x