- 博客(17)
- 资源 (2)
- 收藏
- 关注
RSS订阅原创 数据结构与算法
时间复杂度（对数阶）int i=1; int n=100; while(i<n) { i=i*2; cout<<i<<endl; }上述时间复杂度计算式子为设执行x次：x^2函数调用的时间复杂度)void f1(int count){ cout<<count<<endl;}int main(){ int i=1; int n=100; for (;i
2016-06-15 10:14:47
317
原创 凸优化----初步理解
1、什么时候KKT条件可以成为充要条件2、什么时候局部最优解可以成为全局最优解上面两个问题答案显然就是凸优化问题。3、一般的优化问题与凸优化问题的分水岭不在于问题本身是线性还是非线性的，有约束还是无约束的，核心问题在于这个问题是凸还是非凸。如果该问题是凸问题，那么这个问题就已经解决了。凸集的定义本图片出自于七月算法四月机器学习班第四课也就是集合中任意两点的线段都在这个集
2016-05-03 15:41:05
1559
1
原创 Python中数据的存取
1、csv格式数据的存取：import pandas as pdimport numpy as npa=['apple','pear','watch','money']b=[[1,2,3,4,5],[5,7,8,9,0],[1,3,5,7,9],[2,4,6,8,0]]d=dict(zip(a,b))dp=pd.DataFrame(d)pp.to_csv('C:\\Users\
2016-04-23 13:34:52
1257
原创 Python中Matplotlib绘图
Matplotlib绘图是最著名的Python绘图库，主要用于二维绘图，画图质量高，方便快捷的绘图模块；绘图API--pyplot模块集成库---pylab模块(包含Numpy和pyplot中常用的函数)我们可以打开matplotlib的官网点击打开链接点击任意一个图下面均有代码，例如：效果图如下：怎么样很漂亮吧！2、使用matplotlib画折线图
2016-04-22 21:49:02
1797
2
原创 使用Python进行聚类分析
1、我们使用Scipy中的聚类包进行聚类分析，下面是一个小例子：找出谁是学霸，谁不是，也就是聚成两类，下面是实验结果：由结果可以看出大明、小明、大朋、大萌是学霸！详细说明可参见点击打开链接《python玩转大数据》coursera上的课
2016-04-22 16:03:19
20213
原创 Python中的pandas
1、pandas库中最重要的就是变长字典(Series)而Series最重要的功能就是对齐；就是一个索引，一个值的形式，如下所示：Series使用的是pd,自动给列表中的每个值添加索引；也可以自己指定索引如下所示：我用列表形式生成的字典，如下所示：可以用Series改变字典d的形式如下所示：此外，Series还可以采用相加的方式如下所示：
2016-04-21 16:36:25
1670
原创 机器学习中的数学
在机器学习中，有一些特有的表示方式，如下表所示：每一列也称每一维度，因此，按照行来看，一个样本可能有n多维，降维的意思就是筛选特征其中，每一纬都是一个分布，因此训练出的模型可能包含多个分布。2 下面，讲一下期望、方差、协方差、矩的定义及意义；2 .1 期望离散：连续：期望的性质：如果随机变量x和y相互独立：反之则不一
2016-04-18 14:47:12
1119
原创 python画log图
1、用python画出log1.5(x),log(2x),log(3x)import numpy as npimport mathimport matplotlib.pyplot as pltx=np.arange(0.05,3,0.05)y1=[math.log(a,1.5)for a in x]y2=[math.log(a,2)for a in x]y3=[math.log(a
2016-04-16 14:07:37
15121
原创 模型树
模型树是将叶节点设置为分段线性函数，具体代码如下：def loadDataSet(fileName): #general function to parse tab -delimited floats dataMat = [] #assume last column is target value fr = open(fileName
2016-04-13 10:21:41
711
原创 将CART算法用于回归
1、所谓的CART算法是指分类回归树，以下代码是一个回归树的框架：def createTree(dataSet, leafType=regLeaf, errType=regErr, ops=(1,4)):#assume dataSet is NumPy Mat so we can array filtering feat, val = chooseBestSplit(dataSet,
2016-04-12 19:50:14
756
原创 回归小结
与分类一样，回归也是预测目标值的过程。回归与分类的不同点在于，前者是预测连续型变量，而后者是预测离散型变量。在回归方程中，求得特征对应的最佳回归系数的方法是最小化误差平方和法，给定输入矩阵X如果的逆矩阵存在并且可以求得的话，回归法就可以直接使用，数据集上计算的回归方程不一定是最佳的，可以使用预测值yHat和原始值y的相关性来度量回归方程的好坏。当数据的样本数比特征数还少时候，矩阵的逆不能直接计算。
2016-04-12 11:06:56
286
原创 机器学习---回归
1、python中计算回归系数代码如下：def loadDataSet(fileName): #general function to parse tab -delimited floats numFeat = len(open(fileName).readline().split('\t')) - 1 #get number of fields dataMat =
2016-04-11 20:45:03
650
原创 正确率、召回率及ROC曲线
如果将一个正例判断为正例，称为真正例(TP)，类似的，将一个反例判断为反例，称为真反例(TN)，将一个正例判断为反例，称为伪反例(FN)，将一个反例判断为正例，即伪正例(FP)； 1、正确率P是指判断为正确的样本中，实际为正确样本的个数： P=TP/(TP+FP) 2、召回率R是指所有正例样本中预测为正例样本的比例： R=TP/(TP+FN)
2016-04-11 13:12:28
6534
原创 基于AdaBoost的分类(测试算法)
1、 一旦拥有多个弱分类器以及其对应的alpha值，进行测试就变得相对容易。在上节的代码中已经完成了大部分代码，现在要做的就是将弱分类器的结果抽取抽来，应用到某个事例中，每个弱分类器乘以相对应的权重值，加权结果就是最终的结果。2、python代码def adaClassify(datToClass,dataArr,classLabels): classifierArr,aggCl
2016-04-11 10:19:08
850
原创 基于单层决策树的 AdaBoost的训练及测试过程
1、整个实现的伪代码python:对每次迭代：利用buildstump()函数(上一篇提到过)找到最佳的单层决策树；计算alpha(利用该决策树的错误率进行计算)；计算新的每个样本的权重D(使用alpha进行计算，第一次分对的样本，权重减小反之，权重增大)给最佳单侧决策树的预测结果添加alpha权重(弱分类器(这里指最佳的单侧决策树)的错误率越小，赋予该分类器的权重值a
2016-04-11 09:13:44
2392
原创 单层决策树
单层决策树(decision stump)是一种简单的决策树，它仅仅是基于单个特征来做决策，由于这棵树只有一次分裂过程，因此它实际上仅仅是一个树桩。例如对下面一幅图进行分类：这里的数据分别是(1,2.1),(2,1.1),(1.3,1),(1,1),(2,1)这里要将圈和框分开：1、按照横坐标or纵坐标来划分，这里将横坐标视为特征一，纵坐标视为特征二（单决策树只能根据一个特征
2016-04-10 21:00:18
8655
原创 机器学习实战----AdaBoost
AdaBoost是自适应boosting的缩写，所谓的boosting通过集中关注已被已有分类器错分的那些数据来获得新的分类器。利用boosting分类的结果是基于所有分类器的加权求和的结果，因此boosting中的分类器权重并不相等，每个权重代表其对应分类器在上一轮迭代中的成功度。 这里说明一个类似的技术bagging自举汇聚法，即从原始数据集选择S次后，得到S个新数据集的一种技
2016-04-10 20:57:39
656
焊缝跟踪系统的研究
2015-08-27
加密算法类txt
2015-07-26
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人