- 博客(3)
- 资源 (5)
- 收藏
- 关注
转载 对Conjugate Gradient 优化的简单理解
文章出处: http://www.cnblogs.com/tornadomeet/p/3265225.html上一篇文章主要介绍了共轭梯度的基本概念和几何理解。这里转载一篇讲述共轭梯度算法的文章。数学优化方法在机器学习算法中至关重要,本篇博客主要来简单介绍下Conjugate Gradient(共轭梯度法,以下简称CG)算法,内容是参考的文献为:An Introduction to t
2013-12-20 15:06:12 2972
原创 浅谈共轭梯度法的原理
共轭梯度法作为优化算法中常见算法,在很多基于梯度优化的机器学习算法中可以见到它的身影,比如在稀疏编码(sparsenet)中。这里结合着清华大学出版社出版的陈宝林的最优化对于共轭梯度的介绍谈谈我的认识。 事情的起源是我最近在思考一个简单的函数:
2013-12-16 11:33:17 15339 2
转载 L1、L2、正则、损失
转载出处:http://www.zhizhihu.com/html/y2013/4414.html微博上看到的,由于之前面试遇到过,答得不好,所以还是碰到就好好看看。@学生古什么是损失,什么是正则;什么是L1,什么是L2。一会儿是L1正则,一会儿是L2损失。http://t.cn/8k5xI8V总结:L1或者L2就是某种范数(线性代数和矩阵的基本概念),既可以用于损失又
2013-12-08 15:15:09 1826
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人