2013年08月_大胖5566

11月 08月 07月 06月 05月 03月

转载 how-to-learn-machine-learning

There are a few questions in the forums about what and where to learn Machine Learning(ML). The overview of this course also suggests some information during the last week of lectures. Since a lot o

2013-08-20 14:39:38 1817

原创机器学习经典算法12-SVD及其在推荐中的应用

1.基本介绍就个人看来，其实SVD(singular valur decomposition)和PCA的功能是一样的，可以用来降低维度、去除噪声，经过PCA和SVD处理后的数据可以做各种处理，包括之前的各个分类和回归的经典算法等，可以说SVD和PCA是高级别的预处理（相对于均值归一化、属性范围调整等）。2.SVD简要说明

2013-08-19 21:41:16 13202 6

原创机器学习经典算法11-PCA

1.基本介绍我们人眼最多能看到3维的东西，但是现实生活中有很多大于3维的东西，那么如何对这些数据进行可视化？此外，对多维的数据是否可以压缩以减小存储空间？这都可以用降维的方式达到目的，其中使用广泛的就是PCA(Principle Component Analysis)，PCA可以用来降低算法计算开销、去除噪声、使得结果易于展示和理解等。 PCA可以看成在现有

2013-08-19 20:48:09 3568

原创机器学习经典算法10-Apriori

1.关联分析通过查看哪些商品经常在一起购买，可以帮助商店了解用户的购买行为。这种从大量数据中抽取的知识可用于商品定价、市场促销、存货管理等环节。所谓关联，反映的是一个事物和其他事物之间依赖或关联的知识。从大规模数据集中寻找事物间的隐含关系称为关联分析（association analysis）或者关联规则学习（association rule mining）。

2013-08-19 15:55:53 1988 1

原创机器学习经典算法9-k-means

1.基本介绍 k

2013-08-19 11:02:08 2618

原创机器学习经典算法8-树回归

1.简单介绍线性回归方法可以有效的拟合所有样本点（局部加权线性回归除外）。当数据拥有众多特征并且特征之间关系十分复杂时，构建全局模型的想法一个是困难一个是笨拙。此外，实际中很多问题为非线性的，例如常见到的分段函数，不可能用全局线性模型来进行拟合。树回归将数据集切分成多份易建模的数据，然后利用线性回归进行建模和拟合。这里介绍较为经典的树回归CART(classificatio

2013-08-19 09:18:49 22706 11

原创机器学习经典算法7-线性回归

1.简单介绍分类处理的是离散预测，而对于连续的值类型则可以利用回归进行预测，这里对主要的几个线性回归方法进行初步介绍。这里也有训练集和测试集。2.单变量线性回归的参数求解3.多变量线性回归4.利用矩阵进行参数求解5.局部加权线性回归6.岭回归7.编程实现这里standMaReg实现的是

2013-08-18 09:53:38 18378 4

原创 win7中cmd下带空格路径

由于经常将程序安装在Program files这种目录下，在cd打开或者cmd下运行exe时，往往不行，例如运行该D:/program files/qq.exe，如果在cmd中输入，会报错，无法识别D:\program，这是因为系统没有把program和files连起来，中间的那个空格作祟。为了解决该问题，在命令行中输入“D:/program files/qq.exe”即可，即要

2013-08-10 20:34:27 19968 2

原创机器学习经典算法6-AdaBoost

1.简单介绍 Boosting是由Michael Kearns的一个问题：“若弱学习算法是否可以成为强学习算法（或者弱分类器是否可以成为强分类器）”引发的。假设某个分类算法只比随机猜测的准确度高，那么如何才能得到错误率将近0的分类器呢？该答案由Rob Schapire给出，即采用多个学习或分类算法，吸取多方面的经验。2.Bagging 自举汇聚法（boostr

2013-08-10 19:06:36 4460

原创机器学习经典算法4-logistic回归

一、算法简要我们希望有这么一种函数：接受输入然后预测出类别，这样用于分类。这里，用到了数学中的sigmoid函数，sigmoid函数的具体表达式和函数图象如下：可以较为清楚的看到，当输入的x小于0时，函数值0.5，将分类预测为1。1.1 预测函数的表示 1.2参数的求解二、代码实现函数sigmoid计算相应

2013-08-03 12:47:09 10738 1

原创机器学习经典算法5-支持向量机SVM

SVM是公认的较为不错的一个分类算法，下面将首先从SVM的设计之初理念说起，即利用间隔(gap)将数据分开；然后对如何建立优化的间隔分类器以及利用拉格朗日乘子；此外，为了更好的让SVM在基于高维特征的数据中有较好表现，对核函数kernels也进行了一些介绍和解释。关于间隔符号表示函数间隔和几何间隔拉格朗日算子核函数参数

2013-08-02 15:47:02 2105