最优化
tianbwin2995
这个作者很懒,什么都没留下…
展开
-
爬山算法,模拟退火算法
http://www.cnblogs.com/heaad/archive/2010/12/20/1911614.html一. 爬山算法 ( Hill Climbing ) 介绍模拟退火前,先介绍爬山算法。爬山算法是一种简单的贪心搜索算法,该算法每次从当前解的临近解空间中选择一个最优解作为当前解,直到达到一个局部最优解。 爬山算法实现很简单转载 2016-03-06 10:58:42 · 457 阅读 · 0 评论 -
最优化的几个问题的解法和比较之——无约束的非线性规划
梯度下降法:优点:对初始点的要求很少,从一般的初始点出发,都能收敛到某个局部极小值点。缺点:1.对学习率关系很大,在极小点附近容易产生显著的锯齿现象,收敛十分缓慢。2.对于小扰动是不稳定的,且梯度下降法只是一种局部性质,也就是说从局部看目标函数的值下降得最快,但从总体看可能走了许多弯路(因为每相邻两个方向都是正交的)评价:在实际生活中,通常只用梯度下降法来计算最前面的若干步,对于后面的原创 2016-02-27 20:24:09 · 6163 阅读 · 0 评论