约束优化内罚函数c语言程序,约束优化惩罚函数法.pdf

约束优化惩罚函数法

约束优化问题

优化理论

可行域： 第10讲

约束优化约束优化：惩罚函数法惩罚函数法

常用方 法 Constrained Optimization:

特殊问题 一般问题 Penalty Function Method

线性约束问题－可行方向法 逐步二次规划法

对偶问题－次梯度优化 惩罚函数法

内点法(原对偶内点法) －凸规划

第10讲约束优化：惩罚函数法 优化理论 数学与系统科学学院 第10讲约束优化：惩罚函数法 优化理论 数学与系统科学学院

约束优化问题

惩罚函数法－外点罚函数

二次惩罚函数、乘子法、 惩罚函数

其中函数 障碍函数法－内点罚函数

原始对数障碍法原始对数障碍法、、现代内点法现代内点法((原原－对偶路径跟随法对偶路径跟随法))

假定假定 ((算法分析与设计算法分析与设计))：

⊙ (有时C 2 ) ，导数是Lipschitz 连续

注：实践中该假定经常不满足,但没关系！

罚函数法/序列无约束极小化法：

外点罚函数、内点罚函数(障碍罚函数) 、精确罚函数

第10讲约束优化：惩罚函数法 优化理论 数学与系统科学学院 第10讲约束优化：惩罚函数法 优化理论 数学与系统科学学院

二次惩罚函数法 二次惩罚函数法(续)

>0 是惩罚参数

条件数

一定条件下，当 时

病态海森矩阵！

特点：光滑的(一阶可微)，但需要

第10讲约束优化：惩罚函数法 优化理论 数学与系统科学学院 第10讲约束优化：惩罚函数法 优化理论 数学与系统科学学院

1

精确罚函数法SQP中常用***** 精确罚函数法SQP中常用*****

例

一定条件下，

存在 ，当 时，求解 即可

特点：在x =1 处不可微；进行整理，得 特点：不需要 ；是非光滑的！

1

避免了无约束优化问题的病态性！