![](https://img-blog.csdnimg.cn/20201014180756780.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
优化算法
wsyhawl
这个作者很懒,什么都没留下…
展开
-
梯度下降法
梯度下降法(Gradient Descent):转载自:http://www.cnblogs.com/mayb梯度下降法的优化思想:是用当前位置负梯度方向作为搜索方向,因为该方向为当前位置的最快下降方向,所以也被称为是”最速下降法“。最速下降法越接近目标值,步长越小,前进越慢。梯度下降的缺点: (1)靠近极小值时收敛速度减慢; (2)直线搜索时可转载 2017-10-12 21:05:37 · 502 阅读 · 0 评论 -
牛顿法与拟牛顿法
看了几篇关于牛顿法的相关介绍,感觉非常好,尤其是拟牛顿条件的推导以及DFP等算法的推导过程十分详细明了。这里记录一下,方便之后查阅牛顿法:http://blog.csdn.net/itplus/article/details/21896453拟牛顿条件:http://blog.csdn.net/itplus/article/details/21896619DFP算法:转载 2017-10-12 21:22:34 · 9999 阅读 · 0 评论