前言
本系列涉及线性与非线性规划中的几种规划算法
1.本节介绍共轭梯度方法
2.参考:陈宝林-最优化理论与算法
3.采用python编程实现,已测试,代码可行
一、共轭梯度法
无约束最优化方法的核心问题是选择搜索方向,共轭梯度就是基于共轭方向的一种算法。共轭梯度法的基本思想是把共轭性与最速下降方法相结合,利用已知点处的梯度构造一组共轭方向,并沿这组方向进行搜索,求出目标函数的极小点,具有二次终止性。
关于该方法的详细介绍,参见陈宝林的共轭梯度法这一小节。
二、代码示例
1.代码
代码如下(示例):
#共轭梯度法:FR法,参考书陈宝林
#对于二次凸函数:1/2*xTAx+bTx+c
from sympy import *
import numpy as np
class Gongetidu_Function:
def __init__(self,Xi):
self.Xi = Xi
def dict(self,X):
dict = {
}
for index,item in enumerate(self.Xi):#存储初始值
dict[item] = X[index]
Xk = dict
return Xk
def d_function(self,f):#如何直接求解出矩阵排列的形式
df = []
for i in self.Xi:
df.append(diff(f,i))
df = np.array(df)
print(f'一阶偏导为{df}')
return