非线性规划

非线性规划

1.基本形式和求解模式。
2.掌握凸函数和凸规划的概念及性质。
3.掌握0.618法。
4.无约束优化的最优性质，熟练运用最速下降法和共轭方法。
约束最优化的性质，惩罚函数。

基本形式

$$\min f(x)\\s.t. \quad g_i(x)\leq0\quad i=1,2,...,p\\h_j(x)=0,\quad j=1,2,...,q$$
可行域为
$$X=\begin{cases}\left. x\in\mathbf{R}^n \right |^{ g_i(x)\leq 0,\quad i=1,2,...,p}_{h_j(x)=0,\quad j=1,2,...,q}\end{cases}$$

求解MP的迭代方法

• 称$x^{k+1}=x^k+t_kp^k$为求解MP问题迭代方法的基本迭代格式，称$g^k$为搜索方向,$t_k$第k轮沿搜索方向的步长
• 设$f:\mathbf{R}^n \rightarrow\mathbf{R}^1,\bar{x}\in\mathbf{R}^n,p\in\mathbf{R}^n$,若存在$\delta>0$使得$f(\bar{x}+tp)<f(\bar{x}),\forall t\in(0,\delta)$.则称$p$是该点的下降方向。
• 设$X \subset{R}^n ,\bar{x}\in X,p\in\mathbf{R}^n$,若存在$t>0$使得$f(\bar{x}+tp)<f(\bar{x})$.则称$p$是该点的可行方向。

求解MP问题的一般步骤

• 选取初始点$s^0,k:=0$;
• 构造搜索方向$p^k$
• 根据$p^k$确定步长$t_k$。
• 令$x_{k+1}=x_k+t_kp^k$,若$x^{k+1}$满足停止条件，停止迭代，输出近似值，否则令$k:=k+1$，转至2。

凸函数及其性质

设$S \subset{R}^n$是非空开凸集，$f:S\rightarrow\mathbf{R}^1$可微，则
- $f$是$S$上的凸函数的充要条件是

∇f(x1)T(x2−x1)≤f(x2)−f(x