约束优化算法(2)罚函数法 #notebook

本文来自 矩阵分析与应用，第二版。
约束优化算法的标准处理方式是将其转化为无约束优化算法，有三种常见的转化方式，分别是lagrangian乘子法，罚函数法以及增广lagrangian乘子法（lagrangian乘子法+罚函数法）。
下面分别介绍罚函数法。

罚函数法

罚函数法是一种被广泛采用的约束优化方法，其基本原理是：通过罚函数与/或障碍函数，将约束优化问题变成一反映原目标函数和约束条件的合成函数的无约束极小化。
考虑约束优化问题
$$\begin{array}{rl}\min & f_0(\mathbf{x})\\ s.t.& f_i(\mathbf{x})⩾0,i=1,\cdots ,\mathbf{m};\\ & h_j(\mathbf{x})=0,j=1,\cdots ,q\end{array}\text{\hspace{1em}(8)}$$
式中$\mathbf{x}\in \mathcal{F}\subseteq \mathcal{S}\subseteq {\mathbb{R}}^n$ ,且$\mathcal{F}$表示变元向量$\mathbf{x}$的可行集，$\mathcal{S}$代表整个搜索空间。

将约束优化问题变为无约束优化问题有两种惩罚方式。

第1种方式使用加性罚函数项

$$L(\mathbf{x})=\{\begin{array}{ll}{f}_0(\mathbf{x}),& \mathbf{x}\in \mathcal{F}\\ f_0(\mathbf{x})+p(\mathbf{x}),& \text{其他}\end{array}\text{\hspace{1em}(9)}$$
其中$p(\mathbf{x})$称为罚函数(penalty function)。如果变元$\mathbf{x}$没有违背可行集$\mathcal{F}$的约束，罚函数$p(\mathbf{x})=0$，否则$p(\mathbf{x})>0$

第2种方式使用乘性罚函数项

$$L(\mathbf{x})=\{\begin{array}{ll}{f}_0(\mathbf{x}),& \mathbf{x}\in \mathcal{F}\\ f_0(\mathbf{x})p(\mathbf{x}),& \text{其他}\end{array}\text{\hspace{1em}(10)}$$
其中$p(\mathbf{x})=1$，若$\mathbf{x}$没有脱离可行集$\mathcal{F}$;否则$p(\mathbf{x})>1$

通常多采用加性惩罚方式。
罚函数有时被称为惩罚。罚函数的主要性质是:若$p_1(\mathbf{x})$是对闭集${\mathcal{F}}_1$的惩罚,$p_2(\mathbf{x})$是对闭集${\mathcal{F}}_2$的惩罚，则$p_1(\mathbf{x})+p_2(\mathbf{x})$是对交集${\mathcal{F}}_1\cap {\mathcal{F}}_2$的惩罚。
令
F = { x ∈ R n ∣ f i ( x ) ⩾ 0 , i = 1 , ⋯   , m } \mathcal{F}=\{x\in\mathbb{R}^n|f_i(x)\geqslant0,i=1,\cdots,m\} F={x∈Rn∣fi​(x)⩾0,i=1,⋯,m}
则下列函数是闭集$\mathcal{F}$上的罚函数:

• 二次罚函数
  p ( x ) = ∑ i = 1 m ( max ⁡ { 0 , − f i ( x ) } ) 2 (11) p(\boldsymbol{x})=\sum_{i=1}^m(\max\{0,-f_i(\boldsymbol{x})\})^2 \tag{11} p(x)=i=1∑m​(max{0,−fi​(x)})2(11)
• 非平滑罚函数
  p ( x ) = ∑ i = 1 M max ⁡ { 0 , − f i ( x ) } (12) p(\boldsymbol{x})=\sum_{i=1}^M\max\{0,-f_i(\boldsymbol{x})\} \tag{12} p(x)=i=1∑M​max{0,−fi​(x)}(12)

罚函数将原始约束优化问题变换成无约束优化问题
$$\underset{\mathbf{x}\in \mathcal{S}}{\min }{L}_{\rho }(\mathbf{x})=f_0(\mathbf{x})+\rho \cdot p(\mathbf{x})\text{\hspace{1em}(13)}$$

式中，系数$\rho$为惩罚参数,通过对罚函数$p(\mathbf{x})$的加权，体现惩罚的力度。转换后的优化问题式(13)常称为原约束优化问题的辅助优化问题。
下面分三种情况加以讨论。

1. 等式约束优化的罚函数法

先考虑等式约束优化问题
$$\begin{array}{rl}\min & f_0(\mathbf{x})\\ s.t.& h_j(\mathbf{x})=0,j=1,\cdots ,q\end{array}\text{\hspace{1em}(14)}$$
定义函数
$$p(\mathbf{x})=\sum _{i=1}^q|h_i(\mathbf{x}){|}^2\text{\hspace{1em}(15)}$$
显然，这一函数具有以下性质
$$p(x)\{\begin{array}{ll}=0,& h_i(\mathbf{x})=0,\mathbf{i}=1,\cdots ,q\\ >0,& h_i(\mathbf{x})\ne 0,\mathbf{i}=1,\cdots ,q\end{array}\text{\hspace{1em}(16)}$$
这表明,$p(\mathbf{x})$是等式约束优化问题式(14)的罚函数，因为它对满足等式约束条件的点$\mathbf{x}$无任何影响，而对违反等式约束条件的点予以惩罚。

2. 不等式约束优化的罚函数法

再考虑只有不等式约束的优化问题
$$\begin{array}{rl}\min & f_0(\mathbf{x})\\ s.t.& f_i(\mathbf{x})⩾0,i=1,\cdots ,\mathbf{m};\end{array}\text{\hspace{1em}(17)}$$

不等式约束优化问题式(17)的罚函数分为以下两大类:

- 外罚函数

罚函数取
p ( x ) = ∑ i = 1 m ( max ⁡ { 0 , − f i ( x ) } ) τ (18) p(\boldsymbol{x})=\sum_{i=1}^m(\max\{0,-f_i(\boldsymbol{x})\})^\tau \tag{18} p(x)=i=1∑m​(max{0,−fi​(x)})τ(18)
式中$\tau$常取1或2。这种函数对违背不等式约束的点即可行集外部的所有点进行惩罚，称为外罚函数(exterior penalty function)。

- 内罚函数

罚函数取
$$\begin{gathered} p(x)=\sum _{i=1}^m\frac{1}{f_i(x)} \\ \text{或}p(x)=\sum _{i=1}^m\frac{1}{f_i(x)}\log (f_i(x))\text{\hspace{1em}(19)} \end{gathered}$$
这种罚函数相当于在可行集边界$\text{bnd}(\mathcal{F})$上树立起一道围墙，对于企图从可行集内$\text{int}(\mathcal{F})$穿越到可行集边界$\text{bnd}(\mathcal{F})$的点$\mathbf{x}$进行阻挡，故称为内罚函数(interior penalty function)，也称障碍函数(barrier function)。
一连续函数$\varphi (\mathbf{x})$称为具有非空内集的闭集$\mathcal{F}=\text{int}(\mathcal{F})$上的障碍函数，若
$$\varphi (x)\{\begin{array}{ll}=0,& x\in \mathrm{int}(\mathcal{F})\\ \to \infty ,& x\to \mathrm{bnd}(\mathcal{F})\end{array}\text{\hspace{1em}(20)}$$
障碍函数有时简称为障碍。
与罚函数类似，障碍函数的主要性质是:

• 若${\varphi }_1(\mathbf{x})$是对闭集${\mathcal{F}}_1$的障碍，$${\varphi }_2(\mathbf{x})$$是对闭集${\mathcal{F}}_2$的障碍，则${\varphi }_1(\mathbf{x})+{\varphi }_2(\mathbf{x})$是对${\mathcal{F}}_1\cap {\mathcal{F}}_2$的障碍。

令
F = { x ∈ R n ∣ f i ( x ) ⩾ 0 ; i = 1 , ⋯   , m } s t r i c t ( F ) = { x ∈ R n ∣ f i ( x ) > 0 ; i = 1 , ⋯   , m } \begin{align*} \text{F}& =\{x\in\mathbb{R}^n\mid f_i(x)\geqslant0;i=1,\cdots,m\} \tag{21} \\ \mathbf{strict}(\mathcal{F})& =\{\boldsymbol{x}\in\mathbb{R}^n\mid f_i(\boldsymbol{x})>0;i=1,\cdots,m\} \tag{22} \end{align*} Fstrict(F)​={x∈Rn∣fi​(x)⩾0;i=1,⋯,m}={x∈Rn∣fi​(x)>0;i=1,⋯,m}​(21)(22)​
分别代表不等式约束函数的可行区和严格可行区。
下面是闭集$\mathcal{F}$上的几种典型障碍函数：

• 幂函数障碍函数(power-function barrier function)

$\varphi (\mathbf{x})={\sum }_{i=1}^m\frac{1}{(f_i(\mathbf{x}){)}^p},p⩾1$

• 对数障碍函数(logarithmic barrier function)

$\varphi (\mathbf{x})=\frac{1}{f_i(\mathbf{x})}{\sum }_{i=1}^m\log (f_i(\mathbf{x})),p⩾1$

• 指数障碍函数(exponential barrier function)

$\varphi (\mathbf{x})={\sum }_{i=1}^m\exp \left(\frac{1}{f_i(\mathbf{x})}\right)$

特别地，$p=1$的幂函数障碍函数$\varphi (\mathbf{x})=\frac{1}{f_i(\mathbf{x})}{\sum }_{i=1}^m\log (f_i(\mathbf{x}))$ 称为逆障碍函数，它是Carroll于1961年提出的；而
$$\varphi (\mathbf{x})=\mu \sum _{i=1}^m\frac{1}{\log (f_i(\mathbf{x}))}\text{\hspace{1em}(23)}$$
称为经典Fiacco-McCormick对数障碍函数，是Fiacco于McCormick于1968年在他们著名的开创性著作中提出的。其中，$\mu$为障碍参数。
采用外罚函数和内罚函数的优化方法分别为外罚函数法和内罚函数法，它们之间的比较如下：

• (1)外罚函数法常称罚函数法;内罚函数法习惯称障碍函数法，简称障碍法。罚函数$\frac{1}{f_i(\mathbf{x})}$和$\frac{1}{f_i(\mathbf{x})}\log f_i(\mathbf{x})$分别称为逆障碍函数和对数障碍函数。
• (2)外罚函数法对可行集以外的所有点进行惩罚,求出的解满足全部不等式约束条件$f_i(\mathbf{x})\le 0,i=1,\dots ,m$，是不等式约束优化问题的精确解，因而是一种最优设计方案;而内罚函数法或障碍法阻挡了可行集边界的点，得到的解只满足严格不等式$f_i(\mathbf{x})>0,i=1,\dots ,m$，是原始优化问题的近似解，因而是一种次优设计方案。
• (3)外罚函数法可以用不可行点启动，通常收敛慢;而内罚函数法要求初始点是可行内点，其选择比较困难，但却具有很好的收敛和逼近性能。

在进化计算中，通常采用外罚函数法，因为内罚函数法要求的可行初始点搜索往往是 NP难题。工程设计人员尤其是过程控制人员偏爱使用内罚函数法，因为这种方法可以使设计者观察到“优化过程中在可行集内的设计点所对应的目标函数值的变化情况”而这是外罚函数法无法提供的。

3. 等式和不等式约束优化的混合罚函数法

对于标准形式的不等式约束优化问题式(8)，可行集定义为满足所有不等式和等式约束的点集
F = { x ∣ f i ( x ) ⩽ 0 , i = 1 , ⋯   , m ; h i ( x ) = 0 , i = 1 , ⋯   , q } (24) {\mathcal F}=\{\boldsymbol{x}|f_{i}(\boldsymbol{x})\leqslant0,i=1,\cdots,m;h_{i}(\boldsymbol{x})=0,i=1,\cdots,q\} \tag{24} F={x∣fi​(x)⩽0,i=1,⋯,m;hi​(x)=0,i=1,⋯,q}(24)

既满足严格不等式约束$f_i(\mathbf{x})<0$，又同时满足等式约束$h_i\mathbf{x})=0$的点集
relint ⁡ ( F ) = { x ∣ f i ( x ) < 0 , i = 1 , ⋯   , m ; h i ( x ) = 0 , i = 1 , ⋯   , q } (25) \operatorname{relint}(\mathcal{F})=\{\boldsymbol{x}|f_i(\boldsymbol{x})<0,i=1,\cdots,m;h_i(\boldsymbol{x})=0,i=1,\cdots,q\} \tag{25} relint(F)={x∣fi​(x)<0,i=1,⋯,m;hi​(x)=0,i=1,⋯,q}(25)
称为相对可行内点集(relative feasible interior set)或相对严格可行集(relative strictly feasible set)。相对可行内点集的点称为相对内点法。可行集与相对可行内点集的差集$\mathcal{F}\backslash \mathrm{relint}(\mathcal{F})$称为相对可行集边界(relative boundary of the feasible set)。
综合等式约束优化问题和只有不等式约束优化问题的罚函数法，很容易得到同时有等式和不等式约束的优化问题式(8)的混合罚函数法:

• (1)混合外罚函数法
  min ⁡ x f 0 ( x ) + ρ 1 ∑ i = 1 m ( max ⁡ { 0 , f i ( x ) } ) 2 + ρ 2 ∑ i = 1 q ∣ h i ( x ) ∣ 2 (26) \min_{\boldsymbol{x}}f_{\mathbf{0}}(\boldsymbol{x})+\rho_{1}\sum_{i=1}^{\boldsymbol{m}}\left(\max\{0,f_{i}(\boldsymbol{x})\}\right)^{2}+\rho_{2}\sum_{i=1}^{\boldsymbol{q}}|h_{i}(\boldsymbol{x})|^{2} \tag{26} xmin​f0​(x)+ρ1​i=1∑m​(max{0,fi​(x)})2+ρ2​i=1∑q​∣hi​(x)∣2(26)

• (2)混合内罚函数法

$$\underset{\mathbf{x}}{\min }{f}_0(\mathbf{x})+{\rho }_1\sum _{i=1}^{\mathbf{m}}\frac{1}{-f_i(\mathbf{x})}\log (-f_i(\mathbf{x}))+{\rho }_2\sum _{i=1}^{\mathbf{q}}|h_i(\mathbf{x}){|}^2\text{\hspace{1em}(27)}$$
从以上定义知，混合外罚函数法惩罚的是可行集$\mathcal{F}$以外的点即不可行集里的点，而混合内部罚函数法惩罚的则是相对可行内集以外的点。因此，混合外罚函数法可以用不可行点启动，而混合内罚函数通常则需要用相对内点启动。
在罚函数的严格分类的意义上，上述各种罚函数属"死亡"惩罚(death penalty)，即通过惩罚函数$p(\mathbf{x}=+\infty )$ 完全排除非可行解点$\mathbf{x}\in S\backslash F$(搜索空间S与可行集的差集)。如果可行搜索空间是凸的或者是整个搜索空间的合理部分，这种罚函数法可以工作得很好。然而，对于遗传算法和进化计算,很多问题的可行集和不可行集的边界是未知的,因此很难确定可行集的精确位置。在这些情况下,常采用其他的罚函数:静态惩罚(static penalties)、动态惩罚(dynamic penalties)、退火惩罚(annealing penalties)自适应惩罚(adaptive penalties)和协同进化惩罚(co-evolutionary penalties)。

思维导图

罚函数法
│
├── 定义
│   └── 通过罚函数或障碍函数将约束优化问题转化为无约束极小化问题
│
├── 约束优化问题形式
│   └── min f_0(x) subject to f_i(x) ≥ 0, i=1,...,m; h_j(x) = 0, j=1,...,q
│
├── 罚函数法种类
│   ├── 加性罚函数项
│   │   └── L(x) = f_0(x) + p(x) if x ∉ F, else f_0(x)
│   │
│   └── 乘性罚函数项
│       └── L(x) = f_0(x)p(x) if x ∉ F, else f_0(x)
│
├── 罚函数的选择
│   ├── 二次罚函数
│   ├── 非平滑罚函数
│   └── 转换成无约束优化问题：min L_ρ(x) = f_0(x) + ρ·p(x)
│
├── 罚函数法详细讨论
│   ├── 等式约束优化的罚函数法
│   │   └── p(x) = ∑|h_i(x)|²
│   │
│   ├── 不等式约束优化的罚函数法
│   │   ├── 外罚函数
│   │   └── 内罚函数
│   │
│   └── 等式和不等式约束优化的混合罚函数法
│       ├── 混合外罚函数法
│       └── 混合内罚函数法
│
└── 特点和应用场景
    ├── 外罚函数法 vs 内罚函数法
    └── 罚函数法在进化计算和工程设计中的应用