- 博客(6)
- 资源 (1)
- 收藏
- 关注
RSS订阅转载 拉格朗日乘子法和KKT条件
深入理解拉格朗日乘子法（Lagrange Multiplier) 和KKT条件在求取有约束条件的优化问题时，拉格朗日乘子法（Lagrange Multiplier) 和KKT条件是非常重要的两个求取方法，对于等式约束的优化问题，可以应用拉格朗日乘子法去求取最优值；如果含有不等式约束，可以应用KKT条件去求取。当然，这两个方法求得的结果只是必要条件，只有当是凸函数的情况下，才能保证是充分必要条件
2015-02-25 14:32:04
601
转载 文本分类中应用核函数举例
原文地址：http://wenku.baidu.com/link?url=WtNOI1ojokVsXT3LiWmCRg6IAyNRm5U_rwq_-Os_C_aDnZBtjtTNMKTANv-RpyP_lXNcIMZnuNjngPeHDrj-BlZ-HKP9-8cZ7IGGJUUnVna
2015-02-12 15:31:02
1017
转载 核函数将低维数据映射到高维空间举例
我来举一个核函数把低维空间映射到高维空间的例子。下面这张图位于第一、二象限内。我们关注红色的门，以及“北京四合院”这几个字下面的紫色的字母。我们把红色的门上的点看成是“+”数据，紫色字母上的点看成是“-”数据，它们的横、纵坐标是两个特征。显然，在这个二维空间内，“+”“-”两类数据不是线性可分的。我们现在考虑核函数^2" style="border:0px none; max-wi
2015-02-12 15:02:39
31201
3
转载 SVD奇异值分解
原文出处：http://www.52ml.net/2570.html今天我们来讲讲奇异值分解和它的一些有意思的应用。奇异值分解是一个非常，非常，非常大的话题，它的英文是 Singular Value Decomposition，一般简称为 SVD。下面先给出它大概的意思：对于任意一个 m×n 的矩阵 M，不妨假设 m>n，它可以被分解为M=UDVT其中
2015-01-26 16:12:46
479
原创 梯度下降法迭代结束的条件
梯度的方向总是函数值越来越大的方向，如果是求极大值，沿着梯度的方向迭代接口；如果是求极小值，沿着梯度相反的方向迭代即可，即梯度下降法。梯度下降法（梯度上升法应该也适用）迭代结束的条件，常用的有两种：一、定义一个合理的阈值，当两次迭代之间的差值小于该阈值时，迭代结束。二、设置一个大概的迭代步数，比如1000或500，梯度下降法最终的迭代肯定会收敛，只要达到相应迭代次数，多了也没关系。因为
2015-01-09 17:01:30
19458
3
转载 梯度下降法理解
梯度下降法是一个一阶最优化算法，通常也称为最速下降法。我之前也没有关注过这类算法。最近，听斯坦福大学的机器学习课程时，碰到了用梯度下降算法求解线性回归问题，于是看了看这类算法的思想。今天只写了一些入门级的知识。我们知道，函数的曲线如下：
2014-01-12 21:53:49
930
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人