最优化方法_罚函数法例题

垂杨有暮鸦⊙_⊙

已于 2024-11-21 21:08:21 修改

阅读量1.1k

点赞数 17

分类专栏：高等工程数学文章标签：算法学习笔记

于 2024-11-19 21:37:48 首次发布

本文链接：https://blog.csdn.net/qq_58675332/article/details/143894055

版权

高等工程数学专栏收录该内容

11 篇文章

订阅专栏

本章知识点在《最优化方法_罚函数法》

1 外点罚函数

算法1 外点罚函数法

给定初点 $eq?x%5E%7B%281%29%7D%5Cin%20R%5E%7Bn%7D$ ，初始罚因子 $eq?%5Csigma%20_%7B1%7D$ ,放大系数 $eq?%5Cgamma%20%3E1$ ，允许误差 $eq?%5Cvarepsilon%20%3E0$ ，置k=1。
以 $eq?x%5E%7B%28k%29%7D$ 为初始点，求解无约束问题 $eq?minF%28x%2C%5Csigma%20%29$ 得最优解 $eq?x%5E%7B%28k+1%29%7D$ 。
如果 $eq?%5Csigma%20_%7Bk%7DP%28x%5E%7B%28k+1%29%7D%29%3C%5Cvarepsilon$ ,则停止计算， $eq?x%5E%7B%28k+1%29%7D$ 为约束问题的近似最优解；否则，增大罚因子 $eq?%5Csigma%20_%7Bk+1%7D%3D%5Cgamma%20%5Csigma%20_%7Bk%7D$ ，令k=k+1,转步骤2。

笔记：对于外点罚函数求解问题一般把罚函数构造成

$P(x)=\sum_{i=1}^{m}(h_{i}(x))^{2}+\sum_{j=1}^{l}[max\left \{ 0,-g_{j}(x) \right \}]^{2}$

例题：(用外点罚函数求解)

2 内点罚函数

算法2 内点罚函数

给定初点 $eq?x%5E%7B%281%29%7D%5Cin%20int%5C%3B%20F$ ,初始罚函数因子 $eq?%5Cmu%20_%7B1%7D$ 缩小系数 $eq?%5Cgamma%20%3C1$ ，允许误差 $eq?%5Cvarepsilon%20%3E0$ ，置k=1。
以 $eq?x%5E%7B%28k%29%7D$ 为初始点，求解无约束问题 $eq?min%5C%3B%20%5C%3B%20F%28x%2C%5Cmu%20_%7Bk%7D%29$ 得最优解 $eq?x%5E%7B%28k+1%29%7D$ 。
如果 $eq?%5Cmu%20_%7Bk%7DB%28x%5E%7B%28k+1%29%7D%29%3C%5Cvarepsilon$ ,则停止计算， $eq?x%5E%7B%28k+1%29%7D$ 为约束问题的近似最优解；否则，增大罚因子 $eq?%5Csigma%20_%7Bk+1%7D%3D%5Cgamma%20%5Csigma%20_%7Bk%7D$ ，令k=k+1,转步骤2。

笔记：对于内点罚函数求解问题一般把罚函数构造成

$eq?F%28x%2C%5Cmu%20%29%3Df%28x%29+%5Cmu%20B%28x%29$

倒数障碍函数 $eq?B%28x%29%3D%5Csum_%7Bi%3D1%7D%5E%7Bl%7D%5Cfrac%7B1%7D%7Bg_%7Bi%7D%28x%29%7D$
对数障碍函数 $eq?B%28x%29%3D-%5Csum_%7Bi%3D1%7D%5E%7Bl%7Dlng_%7Bi%7D%28x%29$

例题：(用对数障碍罚函数法求解)

数最优解： $f^{*}=2$

3 广义乘子法

3.1 等式约束问题的广义乘子罚函数法

函数3 等式约束问题的广义乘子罚函数法

给定初点 $eq?x%5E%7B%281%29%7D$ ，初始乘子向量 $eq?v%5E%7B%281%29%7D$ ,初始罚因子 $eq?%5Csigma%20_%7B1%7D$ ，放大系数 $eq?%5Cgamma%20%3C1$ ，允许误差 $eq?%5Cvarepsilon%20%3E0$ ，置k=1。
以 $eq?x%5E%7B%28k%29%7D$ 为初始点，固定 $eq?v%3Dv%5E%7B%28k%29%7D$ 求解无约束问题 $eq?min%5C%3B%20%5Cphi%20%28x%2Cv%2C%5Csigma%20%29$ 得最优解 $eq?x%5E%7B%28k+1%29%7D$ 。
如果 $eq?%5Cleft%20%5C%7C%20h%28x%5E%7B%28k+1%29%7D%29%20%5Cright%20%5C%7C%3C%5Cvarepsilon$ ，则停止计算， $eq?x%5E%7B%28k+1%29%7D$ 为约束问题 $eq?min%20f%28x%29$ 的近似最优解；否则，进行步骤4。
若 $eq?%5Cfrac%7B%5Cleft%20%5C%7C%20h%28x%5E%7B%28k+1%29%7D%29%20%5Cright%20%5C%7C%7D%7B%5Cleft%20%5C%7C%20h%28x%5E%7B%28k%29%7D%29%20%5Cright%20%5C%7C%7D%5Cgeq%20%5Cbeta$ ，令 $eq?%5Csigma%20_%7Bk+1%7D%3D%5Cgamma%20%5Csigma%20_%7Bk%7D$ ，否则转步骤5;否则，进行步骤5。
用 $eq?v_%7Bi%7D%5E%7B%28k+1%29%7D%3Dv_%7Bi%7D%5E%7B%28k%29%7D-%5Csigma%20h_%7Bi%7D%28x%5E%7B%28k%29%7D%29%2Ci%3D1%2C...%2Cm$ 更新乘子，令k=k+1,转步骤2.

笔记：对于广义乘子法求解等式约束问题一般把罚函数构造成

乘子修正公式：

例题：(用广义乘子法求解)

由修正公式及 $x^{(k)}$ 的取值，得

3.2 不等式约束问题的广义乘子罚函数法

算法4 不等式约束问题的广义乘子罚函数法

给定初点 $eq?x%5E%7B%281%29%7D$ ，初始乘子向量 $eq?v%5E%7B%281%29%7D$ ,初始罚因子 $eq?%5Csigma%20_%7B1%7D$ ，放大系数 $eq?%5Cgamma%20%3C1$ ，允许误差 $eq?%5Cvarepsilon%20%3E0$ ，置k=1。
以 $eq?x%5E%7B%28k%29%7D$ 为初始点，固定 $eq?v%3Dv%5E%7B%28k%29%7D$ 求解无约束问题 $eq?min%5C%3B%20%5Cvarphi%20%28x%2Cv%2C%5Csigma%20%29$ 得最优解 $eq?x%5E%7B%28k+1%29%7D$ 。
如果 $eq?%5Cleft%20%5C%7C%20max%5Cleft%20%5C%7B%200%2C-g%28x%5E%7B%28k+1%29%7D%29%20%5Cright%20%5C%7D%5Cright%20%5C%7C%3C%5Cvarepsilon$ ，则停止计算， $eq?x%5E%7B%28k+1%29%7D$ 为约束问题 $eq?min%20f%28x%29$ 的近似最优解；否则，进行步骤4。
若 $eq?%5Cfrac%7B%5Cleft%20%5C%7C%20max%5Cleft%20%5C%7B%200%2C-g%28x%5E%7B%28k+1%29%7D%29%20%5Cright%20%5C%7D%5Cright%20%5C%7C%7D%7B%5Cleft%20%5C%7C%20max%5Cleft%20%5C%7B%200%2C-g%28x%5E%7B%28k%29%7D%29%20%5Cright%20%5C%7D%5Cright%20%5C%7C%7D%5Cgeq%20%5Cbeta$ ，令 $eq?%5Csigma%20_%7Bk+1%7D%3D%5Cgamma%20%5Csigma%20_%7Bk%7D$ ，否则转步骤5;否则，进行步骤5。
用 $eq?v_%7Bi%7D%5E%7B%28k+1%29%7D%3Dmax%280%2Cv_%7Bi%7D%5E%7B%28k%29%7D-%5Csigma%20g_%7Bi%7D%28x%5E%7B%28k%29%7D%29%29%2Ci%3D1%2C...%2Cl$ 更新乘子，令k=k+1,转步骤2.

笔记：对于广义乘子法求解不等式约束问题一般把罚函数构造成乘子修正公式：

例题：(用广义乘子法求解)

由乘子修正公式：

3.3 一般约束问题的广义乘子法

算法5 一般约束问题的广义乘子罚函数法

给定初点 $eq?x%5E%7B%281%29%7D$ ，初始乘子向量 $eq?v%5E%7B%281%29%7D$ ,初始罚因子 $eq?%5Csigma%20_%7B1%7D$ ，放大系数 $eq?%5Cgamma%20%3E%201$ ，常数 $eq?%5Cbeta%20%5Cin%20%280%2C1%29$ 允许误差 $eq?%5Cvarepsilon%20%3E0$ ，置k=1。
以 $eq?x%5E%7B%28k%29%7D$ 为初始点，固定 $eq?v%3Dv%5E%7B%28k%29%7D$ 求解无约束问题 $eq?min%5C%3B%20%5Cvarphi%20%28x%2Cw%2Cv%2C%5Csigma%20%29$ 得最优解 $eq?x%5E%7B%28k+1%29%7D$ 。
如果 $eq?c%28x%5E%7B%28k+1%29%7D%29%3C%5Cvarepsilon$ ，则停止计算， $eq?x%5E%7B%28k+1%29%7D$ 为约束问题 $eq?min%20f%28x%29$ 的近似最优解；否则，进行步骤4。
若 $eq?%5Cfrac%7Bc%28x%5E%7B%28k+1%29%7D%29%7D%7Bc%28x%5E%7B%28k%29%7D%29%7D%5Cgeq%20%5Cbeta$ ，令 $eq?%5Csigma%20_%7Bk+1%7D%3D%5Cgamma%20%5Csigma%20_%7Bk%7D$ ，否则转步骤5;否则，进行步骤5。
用更新乘子,令k=k+1,转步骤2.