函数强凸 strong convexity

最新推荐文章于 2023-08-21 17:20:01 发布

再也不说我是谁

最新推荐文章于 2023-08-21 17:20:01 发布

阅读量6.5k

点赞数 3

分类专栏：凸优化理论文章标签：算法线性代数概率论

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/qq_14952615/article/details/122542690

版权

凸优化理论专栏收录该内容

16 篇文章 11 订阅

订阅专栏

接着上一篇文章，我们接着说函数的强凸性。

定义：若函数f(x)满足参数 $\alpha-$ strong convex

则 $f(y) \geq f(x) + \bigtriangledown f(x)(y-x)^{T} +\frac{\alpha}{2}||y-x||^{2}$

通过这个式子我们可以看到，所谓的强凸就是比凸多了最后项非零项，自然就比一般的凸更加严格了，所以强凸是不是也比较容易理解了。

Claim 如果函数f(x)强凸，则函数 $g(x) = f(x) - \frac{\alpha}{2}||x||^{2}$ 为凸函数。

是不是觉得这个claim 与平滑中的 claim很像，的确是的。我们先证明一下这个性质。

Proof : 如果g(x)为凸函数，那么g(x)需要满足凸函数的性质即

$g(y) \geq g(x) + \bigtriangledown g(x)(y-x)^{T} \\ \Rightarrow f(y) - \frac{\alpha}{2}||y||^{2} \geq f(x) - \frac{\alpha}{2}||x||^{2} +(\bigtriangledown f(x)-\alpha x)(y-x) \\ \Rightarrow f(y) \geq f(x) +\bigtriangledown f(x)(y-x) + \frac{\alpha}{2}||y-x||^{2}$

由于f(x)是强凸函数，因此命题得证。

实际上，如果f(x)是强凸函数，我们还可以得到

$\bigtriangledown ^{2}f(x) \succeq \alpha I$

二次导数有下界。平滑是二次导数有上界。

同时，我们可以看出强凸与平滑并不等价。强凸是凸，而平滑则不是。如果 $\alpha < \beta$ ,此时，函数是可能即平滑又强凸的。

再也不说我是谁

关注

3
点赞
踩
13

收藏

觉得还不错? 一键收藏
1
评论
函数强凸 strong convexity

接着上一篇文章，我们接着说函数的强凸性。定义：若函数f(x)满足参数strong convex则通过这个式子我们可以看到，所谓的强凸就是比凸多了最后项非零项，自然就比一般的凸更加严格了，所以强凸是不是也比较容易理解了。Claim 如果函数f(x)强凸，则函数为凸函数。是不是觉得这个claim 与平滑中的 claim很像，的确是的。我们先证明一下这个性质。Proof : 如果g(x)为凸函数，那么g(x)需要满足凸函数的性质即由于f(x)是强凸函数，因此命题得证。.
复制链接

扫一扫

专栏目录

评论 1

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。