- 博客(19)
- 资源 (5)
- 收藏
- 关注
原创 【机器学习-西瓜书】六、支持向量机:核技巧;软间隔;惩罚因子C;松弛变量
推荐阅读: 核技巧;惩罚因子C关键词:核技巧;软间隔;惩罚因子C;松弛变量6.3核函数关键词:核函数;核技巧上一节讲到,SVM寻找的是使得间隔最大的那一个超平面作为分类器,这还是一个线性分类器,然而很多情况下是非线性可分的,SVM是如何解决这个问题的呢?SVM是将样本从原始空间映射到一个更高维度的特征空间,使得样本在特征空间中线性可分。例如简单的异或问题在二维空间中线性不可分,但是映射到三维空间就线
2017-08-29 10:31:37 6391 1
原创 【机器学习-西瓜书】六、支持向量机(SVM):最大间隔;对偶问题;KKT条件
推荐阅读:对偶问题,KKT条件关键词:最大间隔;支持向量;对偶问题;KKT条件;SMO算法6.1 间隔与支持向量关键词:最大间隔;支持向量。 支持向量机(Support Vector Machine,SVM)是常见的二分类器,与逻辑回归不同,SVM 寻找的是使得间隔最大的那一个超平面作为分类器。间隔是什么意思?就是两个异类支持向量(Support Vector)到超平面的距离之和。什么是支持向量呢
2017-08-28 11:07:29 1943
原创 【机器学习-西瓜书】四、决策树:信息熵;信息增益;增益率;ID3;C4.5
推荐阅读:纯度;信息熵;信息增益关键词: 纯度;信息熵;信息增益;增益率;ID3;C4.5;基尼指数;预剪枝;后剪枝4.1基本流程关键词:决策树(decision tree)。 决策树是一种分类方法,其优点:计算量小,可解释性强,比较适合处理有缺失属性值的样本以及类别不均衡的数据集。缺点:容易过拟合,数值必须是离散型。 一棵决策树包括:根结点,内部结点和叶结点。整个训练过程就是从根结点出发,经
2017-08-25 11:28:31 4166
原创 【机器学习-西瓜书】三、逻辑回归(LR);线性判别分析(LDA)
推荐阅读: 逻辑回归(LR);线性判别分析(LDA);类别不平衡(class-imbalance)3.3对数几率回归(logistic regression,逻辑回归)关键词:逻辑回归,对数几率回归(logistic regression)这里先说一下逻辑回归,逻辑斯蒂回归,对数几率回归,其实都是说的一个东西,Logistic Regression。 上一小节讲到,线性模型是让f...
2017-08-24 14:49:22 5492
原创 【机器学习-西瓜书】三、线性回归;对数线性回归
墙裂推荐阅读:y的衍生物 关键词:最小二乘法;正则化;对数线性回归; y的衍生物3.1 基本形式假设样本x有d个属性,线性模型(linear model)试图学得一个通过属性的线性组合来进行预测的函数,即f(x)=w1x1+w2x2+⋅⋯+wdxd+bf(x)=w1x1+w2x2+⋅⋯+wdxd+bf(x)=w_{1}x_{1} + w_{2}x_{2}+\cdot \cdo...
2017-08-24 10:38:11 15126
原创 【机器学习-西瓜书】二、偏差-方差分解;泛化误差
2.5偏差与方差关键词:偏差-方差分解;泛化误差 。偏差-方差分解是解释算法泛化性能的一种重要工具。偏差-方差分解试图对学习算法的期望泛化错误率进行拆解。泛化误差可分解为:偏差,方差与噪声之和。偏差度量了学习算法的期望预测与真实结果的偏离程度,即刻画了学习算法本身的拟合能力 。方差度量了同样大小的训练集的变动所导致的学习性能的变化,即刻画了数据扰动所造成的影响。噪声则表达了在当前任务上任何学习算法所
2017-08-23 14:15:53 2282
原创 【机器学习-西瓜书】二、性能度量:召回率;P-R曲线;F1值;ROC;AUC
关键词:准确率(查准率,precision);召回率(查全率,recall);P-R曲线,平衡点(Break-Even Point, BEP);F1值,F值;ROC(Receiver Operating Characteristic,受试者工作特征);AUC(Area Under ROC Curve);非均等代价(unequal cost)2.3性能度量关键词:准确率(查准率,precision);
2017-08-22 16:26:28 4781
原创 【机器学习-西瓜书】二、模型评估:过拟合;自助法;交叉验证法
关键词: 错误率(error rate);精度(accuracy);经验误差(empirical error);泛化误差(generalization error);过拟合(overfitting);留出法(hold-out);交叉验证法(cross validation);自助法(bootstrapping);训练集(train set)、验证集(valid set)、测试集(test set...
2017-08-21 16:19:24 11860 6
原创 【文献阅读】ResNet-Deep Residual Learning for Image Recognition--CVPR--2016
最近准备用Resnet来解决问题,于是重读Resnet的paper 《Deep Residual Learning for Image Recognition》, 这是何恺明在2016-CVPR上发表的一篇paper,在2015年12月已经发布在arXiv上,并且用文中所述的网络在 2015年 的ILSVRC获得分类任务冠军,在2015-COCO detection,segmentation 的冠
2017-08-16 20:48:28 4276
原创 Markdown修改字体颜色
在写blog时,想高亮某些字,但是发现markdown更改字体颜色不像word里那么方便,于是查了一下,要用一下代码进行更改字体颜色,还可以更改字体大小,还有字体格式font 更改语法> 你的内容 font>更改语法有: color=#0099ff 更改字体颜色face="黑体" 更改字体size= 7 更改字体大小font face="黑体">
2017-08-16 10:59:12 40929 7
转载 caffemodel的大小计算
看到一篇将如何计算caffemodel大小的blog,感觉对理解模型大小很有帮助. 原文地址:http://blog.csdn.net/u014696921/article/details/52413561模型参数很大一部分在于全连接层,而全连接层的参数 取决于全连接层的神经元个数 以及 前一层输出的feature maps 的神经元个数,前一层 feature maps的神经元个数非常重
2017-08-16 10:46:44 1177
原创 Python读取word文档(python-docx包)
最近想统计word文档中的一些信息,人工统计的话。。。三天三夜吧 python 不愧是万能语言,发现有一个包叫做 docx,非常好用,具体查看官方文档:https://python-docx.readthedocs.io/en/latest/index.html (v0.8.6)还有一个是 win32com 包,这个包安装步骤如下: http://jingyan.baidu.com/artic
2017-08-15 09:23:44 16588 1
原创 良好编程习惯
良好代码习惯培训课节选(2017年8月14日 晚):推荐的书籍:《Clean Code 》,代码大全一个变量多次赋值随手变量命名重复代码magic number封装
2017-08-14 20:52:44 941
原创 【文献阅读】Self-Normalizing Neural Networks
Self-Normalizing Neural Networks ,长达93页的附录足以成为吸睛的地方(给人感觉很厉害), 此paper提出了新的激活函数,称之为 SELUs ,其具有normalization的功能.给人感觉只是在全连接层有效果,在CNN和RNN中貌似没有提及有效果Abstract:CNN在视觉的多个领域有很好的表现,然而 feed-forward neural networks(
2017-08-11 15:40:33 2630 2
原创 重新认识贝叶斯公式
统计学中,在探讨 不确定性(概率) 这件事时分两派:频率学派和贝叶斯学派。 频率学派认为概率是事件在长时间内发生的频率,是固定的。(比如我们若何得知抛一枚硬币出现正面的概率是0.5,这是通过抛了好多好多次之后,我们统计正面出现频率发现是0.5,那就认为抛一枚硬币出现正面的概率是0.5,注意,这里是必须抛好多好多次之后,我们才能得到概率)贝叶斯学派认为概率是被解释为我们对一件事情发生的相信程度,即对
2017-08-05 19:27:44 1960
原创 【文献阅读】Densely Connected Convolutional Networks-best paper-CVPR-2017
Introduction Related workDenseNets总结Densely Connected Convolutional Networks,CVPR-2017-best paper之一(共两篇,另外一篇是apple关于GAN的paper),早在去年八月 DenseNets的paper就发布在arXiv上了。 就CNN的发展来说,2017注定被D
2017-08-04 16:19:14 7653 7
原创 【文献阅读】Perceptual Generative Adversarial Networks for Small Object Detection –CVPR-2017
Perceptual Generative Adversarial Networks for Small Object Detection 2017CVPR 新鲜出炉的paper,这是针对small object detection的一篇文章,采用PGAN来提升small object detection任务的performance。最近也没做object detection,只是别人推荐了这篇pa
2017-08-03 11:55:42 10257 26
原创 【caffe】Caffe的Python接口-官方教程-01-learning-Lenet-详细说明(含代码)
01-learning-Lenet, 主要讲的是 如何用python写一个Lenet,以及用来对手写体数据进行分类(Mnist)。从此教程可以知道如何用python写prototxt,知道如何单步训练网络,以及采用单步训练的方法来获取每一步训练的loss和accuracy,用来绘制曲线图。其实并没有官方教程一说,只是在caffe/example/下有 00-classification.ipyn
2017-08-01 21:28:41 9266 2
转载 caffe.proto源码分析
一什么是protocol buffer二caffeproto中的几个重要数据类型三caffeproto源码分析caffe源码,看首先看caffe.proto,是明智的选择。好吧,我不是创造者,只是搬运工。原文地址:http://blog.csdn.net/qq_16055159/article/details/45115359 引言要看caffe源码,我认为首先应该看的
2017-08-01 10:38:07 682
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人