3. 凸函数
3.1 基本性质和例子
3.1.1 定义(凸、凹、严格凸、严格凹)
(1)定义1
若函数-f是(严格)凸的,则函数f是(严格)凹的。
(2)定义2(将高维限制在一维来判断)
3.1.2 拓展值延伸
(1)定义
(2)凸函数的拓展值延伸也是凸函数。(因为满足定义域和式3.1两个条件)
(3)凸集的示性函数
- 定义
- 凸集的示性函数是凸函数
3.1.3 一阶条件(凸、凹、严格凸、严格凹)
(1)凸函数一阶条件定义(定义3):
所以,对于一个凸函数,其一阶Taylor近似是原函数的一个全局下估计。
(2)一阶条件证明:
一维情况:用定义1证明充分性、必要性;
高维情况:用定义2证明充分性、必要性。
3.1.4 二阶条件(凸、凹)
(1)凸函数二阶条件定义(定义4):
注:严格凸、严格凹只满足必要性,即不是等价的。
3.1.5 例子
(1)
- 仿射函数f(x)=Ax+b是凸函数
(2)一维函数(用二阶条件证明比较方便)
(3)n维函数(用定义1证明比较方便)
3.2 保凸运算
3.2.1 非负加权求和
拓展至无限项或积分的情况:
3.2.2 复合仿射映射
3.2.3 逐点最大和逐点上确界(两个函数的极大值函数)
3.2.4 复合(函数的组合)
(1)标量复合
- 一维: k=n=1;dom g =dom h =dom f =R;h,g均为二阶可微
- 高维: k,n>=1;dom g ,dom h ,dom f != R^n;h,g均不二阶可微
(2)矢量复合
3.2.5 最小化
3.2.6 函数的透视
(1)透视函数
(2)函数的透视
3.3 函数的共轭
3.3.1 定义及例子
(1)定义
(2)性质
- f(x)若可微,则f*(y)对应的x必是满足f’(x)=y的一点;
- 不论f(x)为什么函数,f*(y)一定是凸函数;
(3)例子
3.3.2 基本性质
- 共轭的共轭
3.4拟凸函数(Quasi convex function)
(凸集与凸函数的关系——alpha-sublevel set)
3.4.1定义及例子
(1)定义
拟凹函数:
拟线性函数:
(2)性质
凸函数的下水平集是凸集。
(3)例子
所以,拟凸函数可能是凹的,也可能是不连续的。
注:单模态函数(unimodal function) = 拟凸函数
3.4.2基本性质
(1)性质
(2)拟凸函数第二定义
3.4.3可微拟凸函数
(1)一阶条件
证明:
- 一维情况:充分性、必要性
- 高维情况:充分性、必要性
(2)二阶条件
3.4.4保拟凸运算
3.5对数-凹函数(log-concave)和对数-凸函数(log-convex)
3.5.1定义
所以:若f(x)为对数凸,则f(x)一定为凸函数;
若f(x)为凹,则f(x)一定为对数凹。