【非线性优化理论基础】（一）预备知识

目录

一、隐函数定理 

1 经典的隐函数定理

2 强正则性

3 解映射

二、LP对偶理论

1 对偶定理

2 Farkas引理及其变形

 三、变分几何

1 凸集的切法锥

2 凸锥的极锥

3 非凸集合的变分几何

4 非凸集合的法锥

四、系统稳定性

1 集值映射的闭与凸性

2 广义开映射定理

3 集值映射的开性

4 多值函数的闭凸性 

5 开性等价与度量正则性

​6 Taylor展式对应的集值映射

7 Robionson约束规范

---

一、隐函数定理 

隐函数实际上是一个局部概念，一般地，如果在方程F(x,y)=0的曲线上任取一个x，有满足方程的唯一y值存在，那么就说在这个点某个充分小的邻域内，凡是满足方程F(x,y)=0的点，其x和y具有y=f(x)的函数关系。经典隐函数：F(x,y)=0，y=f(x)。

1 经典的隐函数定理

首先，赋范线性空间是指在线性空间E（向量空间）上定义了范数，E就成了赋范线性空间，如果E再具有完备性（没有孔，不缺皮），E就成了Banach空间。如果在E中定义了角度，就有了内积空间，内积空间再满足完备性，E就成了Hilbert空间。

2 强正则性

广义函数是某个函数空间上的连续线性泛函。集值映射就是多值映射。

正则性（regularity）一般用来刻画函数的光滑程度，正则性越高，函数的光滑性越好。Lipschitz连续是比通常连续更强的光滑性条件，连续<Holder连续<Lipschitz连续，符合Lipschitz条件的函数的斜率，必小于一个称为Lipschitz常数的实数。

3 解映射

二、LP对偶理论

 LP（Linear Programming）线性规划问题是常见的优化问题，形式一般如下。

        这里介绍如何通过构造拉格朗日函数求出原问题的对偶问题的方法。

        首先，拉格朗日函数的构造方法是引入新的变量λ（即拉格朗日乘子），把约束条件和原函数结合到一起，形成新的函数，这个新的函数的最值点与原函数相同。举例来说，以下是一个目标函数和约束条件

则其对应的拉格朗日函数就是

如果加上不等式约束后，可行解x还需要满足KKT（Kurash-Kuhn-Tucker）条件。

1 对偶定理

inf（infimum）是下确界，又叫最大下界，一个集合的下确界是指小于等于这个集合的所有其他元素中的最大值。sup（supremum）是上确界，又叫最小上界，大于等于集合的所有其他元素的最小值。

2 Farkas引理及其变形

 三、变分几何

1 凸集的切法锥

2 凸锥的极锥

3 非凸集合的变分几何

4 非凸集合的法锥

四、系统稳定性

1 集值映射的闭与凸性

2 广义开映射定理

3 集值映射的开性

4 多值函数的闭凸性 

5 开性等价与度量正则性

闭凸集值映射的度量正则性： 

约束系统的度量正则性：

 Lipschitz扰动下的度量正则性：

6 Taylor展式对应的集值映射

7 Robionson约束规范