- 博客(6)
- 资源 (1)
- 收藏
- 关注
原创 支持向量机(svm)推导过程
该支持向量机(SVM)推导过程主要是参考李航老师《统计学习方法》,结合一些个人的理解,得到最后的结果。其中包括了约束、KKT的理解。
2017-03-25 12:52:06
483
原创 浅谈分类中差异性(距离)
问题一:从实际问题出发现实生活中,我们往往能够找到很多分类的例子。假设某个疾病只跟k个因素有关,那么我们通过获取病人这k个因素的数据和不生病人k个因素的取值,可以建立起一个判别函数。当我们有一个检测样本进来的时候,我们通过k个因素的取值和检测函数就能最终判别出该样本的情况。 问题二:数据属性差异性的刻画比较典型的算法是knn算法,我们通过计算未知数据周围最近的k个数据进行投票,最终
2017-03-13 11:31:18
1137
原创 softmax的简单推导和python实现
首先,我们来看看对于softmax的推导过程: 我们可以对softmax算法进行数学上的推导,在推导的过程我们可以发现其过程类似于之前我们所熟悉的logitic算法,softmax相当于是logitic的一个范化。当我们推导到最后一步的时候,为了在已知输出模型的基础上找到最优的参数sigma,我们需要了解一下似然函数了。似然函数的概念:似然函数就是我们已知输出结果的情况
2017-03-12 22:16:41
4016
2
原创 主成分分析(PCA)算法的简单推导和实例
问题1:为什么要降维? 我们在处理实际问题的时候,进行特征提取过程中,提取的特征维数太多经常会导致特征匹配时过于复杂,消耗计算资源。 问题2:降维的方法有哪些?特征降维一般分为两类:特征提取和特征抽取。特征选择就是简单的从高纬度的特征中选择其中一个子集来作为新的特征。特征抽取是将高纬度的特征经过一些函数映射到低纬度,将其作为新的特征。我们常见的分析方法包括有因子分析和主成分
2017-03-10 13:49:31
22045
2
原创 python环境下Xgboost的安装过程
我们知道xgboost是一款非常有用的算法,但是像Anaconda也并不会帮我们安装上该包,所以需要我们自己进行安装。1、首先,你电脑上需要安装Anaconda,该软件集成了很多我们用得到的工具包,所以很推荐安装。2、下载xgboost-master.zip 地址http://download.csdn.net/detail/weixin_37824397/9776033点击打开链接3
2017-03-10 13:29:25
406
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人