分布式优化
BPZS666
这个作者很懒,什么都没留下…
展开
-
导数、梯度、微分、次导数、次微分和次梯度的概念
文章目录导数梯度微分次导数次微分次梯度次微分次导数、次微分和次梯度属于凸优化中的概念。在对三者进行阐述之前,先回顾下导数、微分、和梯度的概念。导数梯度在一元函数中的特例。梯度是一个向量,梯度的本意是一个向量(矢量),表示某一函数在该点处的方向导数沿着该方向取得最大值,即函数在该点处沿着该方向(此梯度的方向)变化最快,变化率最大(为该梯度的模)。计算时候,对每一维的方向求偏导。微分是一...转载 2018-12-05 21:27:09 · 12093 阅读 · 0 评论 -
次梯度法
文章目录次梯度法概念转载博客https://blog.csdn.net/Chaolei3/article/details/81228275次梯度法概念次梯度法(subgradient method)是传统梯度下降方法的拓展,用来处理不可微(non-differentiable )的凸函数。它的优势是比传统方法处理问题范围大,但劣势是算法收敛速度慢。而传统的梯度下降方法只能处理可导函数。...转载 2018-12-05 21:51:21 · 1066 阅读 · 0 评论