2017年05月_奔跑着的孩子

12月 11月 10月 09月 08月 07月 06月 05月 04月 03月 02月 01月

转载优化算法——牛顿法(Newton Method)

一、牛顿法概述除了前面说的梯度下降法，牛顿法也是机器学习中用的比较多的一种优化算法。牛顿法的基本思想是利用迭代点处的一阶导数(梯度)和二阶导数(Hessen矩阵)对目标函数进行二次函数近似，然后把二次模型的极小点作为新的迭代点，并不断重复这一过程，直至求得满足精度的近似极小值。牛顿法的速度相当快，而且能高度逼近最优值。牛顿法分为基本的牛顿法和全局牛顿法。二、基本牛顿法1、基本牛

2017-05-20 10:40:00 7181

没有系统学过数学优化，但是机器学习中又常用到这些工具和技巧，机器学习中最常见的优化当属凸优化了，这些可以参考Ng的教学资料：http://cs229.stanford.edu/section/cs229-cvxopt.pdf，从中我们可以大致了解到一些凸优化的概念，比如凸集，凸函数，凸优化问题，线性规划，二次规划，二次约束二次规划，半正定规划等，从而对凸优化问题有个初步的认识。以下是几个重要相关概

2017-05-10 21:51:59 454

转载路径规划-人工势场法（Artifical Potential Field）

人工势场法是局部路径规划的一种比较常用的方法。这种方法假设机器人在一种虚拟力场下运动。一、简介如图所示，机器人在一个二维环境下运动，图中指出了机器人，障碍和目标之间的相对位置。这个图比较清晰的说明了人工势场法的作用，物体的初始点在一个较高的“山头”上，要到达的目标点在“山脚”下，这就形成了一种势场，物体在这种势的引导下，避开障碍物，到达目标点。人工势场包括引力

2017-05-05 10:55:20 6126 1