【First-order Methods】 5 Smoothness and Strong Convexity

目录

1  L-Smooth Functions(L-光滑的定义)

 The Descent Lemma(下降引理重要 类似结合了充分下降性和\sigma强凸)

 Characterizations of L-Smooth Functions(一些重要性质)

 Second-Order Characterization

2  Strong Convexity(强凸的定义   重要性质)

3  Smoothness and Strong Convexity Correspondence(区别和联系)

强凸的定义与L光滑性质的第5条符号相反;强凸的一阶性质第2条与L光滑下降引理符号相反;强凸的一阶性质第3条与L光滑性质第4条相反;

The Conjugate Correspondence Theorem(共轭对应理论:参数的倒数关系重要)

 Smoothness and Differentiability of the Infimal Convolution


这本书前几章都是针对一些基本的概念展开,并且着重的介绍在闭凸及其他情况下产生何种更强的性质。

1  L-Smooth Functions

L-连续?

由可微定义可知,此处D一定是在int(dom f)里的

如何取到最小光滑参数是很值得探讨的

强非扩张性和非扩张性

  •  The Descent Lemma

这个跟我的题目x^{k+1}=argmin

  •  Characterizations of L-Smooth Functions

L光滑函数的一些特性

5.9 说明5.8 中的凸性假设是很重要的,给出了例子验证。

线性逼近定理

  •  Second-Order Characterization

对于二次连续可微函数,可以通过Hession矩阵的范数刻画L光滑性。


2  Strong Convexity

【复习】domain闭,f闭;domain凸,f不一定凸;epi(f)凸,f凸。凸函数的定义不需要强调x、y属于domain。

注意强凸参数\sigma是跟底层范数有关的

强凸的一阶特性


3  Smoothness and Strong Convexity Correspondence

光滑性和强凸性的联系

  • The Conjugate Correspondence Theorem

  •  Smoothness and Differentiability of the Infimal Convolution

 

  • 1
    点赞
  • 23
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值