- 博客(5)
- 资源 (22)
- 收藏
- 关注
原创 梯度下降算法步长和收敛条件的设置的一些看法
在上一篇中介绍了梯度下降算法,还是利用了上面的那个x^2+y^2的例子,来求解下,代码如下:function [] = gradient(step, threadhold)%在这里主要是演示对z=x^2+y^2的用梯度下降算法%设置x和y的初始值%x = 100;y = 100;%先计算前两个步骤的值last_step_result = x*x + y*y;x = x - ste
2013-04-26 15:41:33 12806 4
原创 梯度下降算法
早都接触了梯度下降算法,但是总搞得我似懂非懂,这个的确是和梯度有关系,但是我觉得关系没有那么大,只要了解了导数的意义就可以完全搞定这个算法的理解了。网上有很好的资料,我这里拿来也引用下吧。先给个图我们知道当前最小点应该是在B点,假如我现在在A点,知道A点此时的偏导数应该是小于0,也就是A点斜率是小于0的,那么此时应该往A的右边找B才对,也就是A的横坐标+A点导数的相反数。假如我
2013-04-26 14:23:07 2399
原创 对代价函数的理解
至今看到很多paper中优化的时候就会有一个代价函数(Cost Function),之前一直在琢磨这个问题,请教了一些同学。不知道是说的太抽象还是怎么回事就是理解不了,今天通过一个例子明白了这个东东。举个例子吧。简单的,就是一个变量做回归的时候。M个样本,分别是(x1,y1),(x2,y2)。。。。(xM,yM)。我使用的模型是f=kx。那么得到一个方程F = kx1+kx
2013-04-26 10:43:25 1693
原创 low rank representation 低秩表达
去年已经开始在接触低秩表达,最近学习到一些paper,发现对这个还是不是很理解,今天从这里开始记录一下对低秩表达的学习。目前低秩表达主要用在子空间分割上,也就是给定一组数据,这组数据是从某几个子空间上来的,通过低秩表达可以达到对来自这几个子空间的数据进行聚类,可以找到哪些数据时来自具体的哪个子空间。首先子空间分割有很多种方法比如基于概率模型的(由于高斯分布最能代表一个子空间,所以一
2013-04-15 09:22:53 11499 6
原创 范式约束下矩阵的一个求偏导的例子
大家做优化的时候肯定经常遇到矩阵求偏导的情况,但是这个太复杂了,很多课本没有给定义,正好有篇paper涉及到这个,为了搞懂它找了不少资料,现在给一个有特征的求解的过程,求解的式子是对C求偏导的过程 首先原式等价于
2013-04-10 10:08:48 4764
VC++入门-首字母大写自动转换程序
2012-05-06
队列的一个纯C的封装
2010-06-02
spring-framework-2.5.5-with-dependencies
2008-09-12
spring-framework-2.5.5-with-dependencies
2008-09-12
spring-framework-2.5.5-with-dependencies.zip
2008-09-12
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人