- 博客(11)
- 资源 (5)
- 收藏
- 关注
RSS订阅原创 7. Bagging & Random Forest
通过前面集成学习的介绍我们知道，欲得到泛化性能强的集成学习器，集成中个体学习器应尽量相互独立；虽然“独立”在现实任务中无法做到，但可以设法使基学习器尽可能具有较大差异。1. Bagging自助采样（bootstrap sampling）： 给定包含$m$个样本的数据集，我们有放回地取$m$次放入采样集中，得到包含$m$个样本的采样集。这样，初始训练集中大概会有 63.2%的样本出现在采样集中。
2017-03-01 22:29:01
268
原创 4. Neural Network
1. 神经网络首先引入一些便于稍后讨论的新标记：$L$：代表神经网络层数$S_l$：代表第$l$层处理单元的个数$K$：代表多分类中类别种数2. 前向传播（forward propagation）以上图为例：令$\textbf{z}^{(2)} = \Theta^{(1)}\textbf{x}$，则$\textbf{a}^{(2)} = g(\textbf{z}^{(2)})$，计算后
2017-03-01 22:28:58
293
原创 2. Linear Model
1. 基本形式给定由$d$个属性描述的示例 $\textbf{x} =(x_1;x_2;...,x_n)$,其中$x_i$是$x$在第$i$个属性上的取值，线性模型（linear model）试图学习一个通过属性的线性组合来进行预测的函数，即 $f(\textbf{x}) = \theta_0+\theta_1x_1+\theta_2x_2 +...+\theta_nx_n$
2017-03-01 22:28:55
455
原创 深度学习笔记（六）finetune
转自Caffe fine-tuning 微调网络一般来说我们自己需要做的方向，比如在一些特定的领域的识别分类中，我们很难拿到大量的数据。因为像在ImageNet上毕竟是一个千万级的图像数据库，通常我们可能只能拿到几千张或者几万张某一特定领域的图像，比如识别衣服啊、标志啊、生物种类等等。在这种情况下重新训练一个新的网络是比较复杂的，而且参数不好调整，数据量也不够，因此fine-tuning微调就是
2017-03-01 22:28:53
35635
2
原创 3. Decision Tree
1. 算法流程一般的，一颗决策树包含一个根结点、若干内部结点和若干叶结点；叶节点对应于决策结果，其他每个结点则对应于一个属性测试结果；每个结点包含的样本集合根据属性测试的结果被划分到子结点中；根结点包含样本全集。从根结点到每个叶子结点的路径对应了一个判定测试序列。决策树学习的目的是为了产生一颗泛化能力强，即处理未见示例能力强的决策树，其基本流程遵循简单且直观的“分而支之”策略：在决策树算法中
2017-03-01 22:28:50
570
原创 6. Ensemble learning & AdaBoost
1. ensemble learning 集成学习集成学习是通过构建并结合多个学习器来完成学习任务，如下图：集成学习通过将多个学习学习器进行结合，常可以获得比单一学习器更优秀的泛化性能从理论上来说，使用“弱学习器”集成足以获得好的性能，当实践中出于种种考虑，人们往往会使用比较强的学习器。 以下面为例，集成学习的结构通过投票法Voting（少数服从多数）产生：由上面可以看出：个体学习
2017-03-01 22:28:47
728
原创 5. support vector machine
1. 了解SVM1. Logistic regression回顾Logistic regression目的是从特征中学习出一个0/1二分类模型，而这个模型是将特性的线性组合作为自变量，由于自变量的取值范围是负无穷到正无穷。因此，使用logistic function（或称作sigmoid function）将自变量映射到(0,1)上，映射后的值被认为是属于y=1的概率。假设函数 其中$x
2017-03-01 22:28:45
546
原创 深度学习笔记（一）线性分类器（基础知识）
声明，这个系列基本是我自己的一些学习过程，方便我自己后期复习的！1.线性分类器线性分类器主要由两个部分组成：一个是评分函数（score function），它是一个从原始图像到类别分值的映射函数。另一个是损失函数（loss function）也叫代价函数（cost function），它是用来量化预测得到的分类标签的得分与真实标签之间的一致性。该线性分类器可以转化成为一个最优化问题，
2017-03-01 22:28:42
2646
原创 深度学习笔记（四）VGG14
Very Deep Convolutional Networks for Large-Scale Image Recognition1. 主要贡献本文探究了参数总数基本不变的情况下，CNN随着层数的增加，其效果的变化。(thorough evaluation of networks of increasing depth using an architecture with very
2017-03-01 22:28:37
1652
原创 深度学习笔记（二 ）Constitutional Neural Networks
一. 预备知识包括 Linear Regression, Logistic Regression和 Multi-Layer Neural Network。参考 http://ufldl.stanford.edu/tutorial/supervised/MultiLayerNeuralNetworks/或者coursera看Andrew Ng 的机器学习课程。二者只是在某些公式表达上有细微的
2017-03-01 22:28:34
1326
hand_dataset.tar.gz
2020-06-08
AR face datasets(4000)-1
2015-07-27
Face Alignment at 3000
2015-04-15
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人