LBFGS优化算法以及线性搜索中zoom步长选择方法

转载请注明:http://blog.csdn.net/zkwdn/article/details/53188105

本文纯粹是为了以后自己回顾起来方便以及和各位牛人交流，如果有错误的地方，麻烦在评论中写出来，方便大家都看到~~Lbfgs的所有的证明和步长的选择对我来讲太过于复杂，每次几乎都要从头看，索性这一次整理齐全。

主要是借鉴并整合(从某种程度上来讲也是抄袭)以下2篇博客

http://blog.csdn.net/itplus/article/details/21897715

http://www.cnblogs.com/vivounicorn/archive/2012/06/25/2561071.html?utm_source=tuicool&utm_medium=referral

以及数值优化那本书的第三章 第一节和第四节。

spark中的Lbfgs