- 博客(7)
- 资源 (1)
- 收藏
- 关注
RSS订阅转载 特征选择
看到很好的特征选择的文章记录下来转 ：https://www.zhihu.com/question/28641663/answer/110165221https://www.cnblogs.com/stevenlk/p/6543628.html官网：http://scikit-learn.org/stable/modules/feature_selection...
2019-04-22 17:28:45
104
转载 随机森林和GBDT的区别
一，随机森林随机森林是一个用随机方式建立的，包含多个决策树的集成分类器。其输出的类别由各个树投票而定（如果是回归树则取平均）。假设样本总数为n，每个样本的特征数为a，则随机森林的生成过程如下：从原始样本中采用有放回抽样的方法选取n个样本；对n个样本选取a个特征中的随机k个，用建立决策树的方法获得最佳分割点；重复m次，获得m个决策树；对输入样例进行预测时，每个子树都产生一个结果，采用多数...
2019-04-18 22:27:29
794
转载 自然语言处理中的注意力机制
1背景知识Attention机制最早是在视觉图像领域提出来的，应该是在九几年思想就提出来了，但是真正火起来应该算是2014年google mind团队的这篇论文《Recurrent Models of Visual Attention》，他们在RNN模型上使用了attention机制来进行图像分类。随后，Bahdanau等人在论文《Neural Machine Translation by ...
2019-03-11 17:42:38
687
转载 正则化时，L1比L2更容易使参数变得稀疏
假设费用函数 L 与某个参数 x 的关系如图所示：则最优的 x 在绿点处，x 非零。现在施加 L2 regularization，新的费用函数（）如图中蓝线所示：最优的 x 在黄点处，x 的绝对值减小了，但依然非零。而如果施加 L1 regularization，则新的费用函数（）如图中粉线所示：最优的 x 就变成了 0。这里利用的就是绝对值函数的尖峰...
2019-03-07 16:53:10
450
转载 序列标注中常见标签方案
常见标签方案基于上面的标签列表，通过选择该列表的子集，可以得到不同的标签方案。同样的标签列表，不同的使用方法，也可以得到不同的标签方案。常用的较为流行的标签方案有如下几种：IOB1: 标签I用于文本块中的字符，标签O用于文本块之外的字符，标签B用于在该文本块前面接续则一个同类型的文本块情况下的第一个字符。 IOB2: 每个文本块都以标签B开始，除此之外，跟IOB1一样。 IOE1:...
2019-03-02 16:40:06
412
原创 判别模型和生成模型
在监督学习当中，方法可分为生成方法和判别方法，所学到模型分别称为生成模型和判别模型判别模型和生成模型的差别在于:判别方法由数据数据直接学习决策函数F(X)或条件概率分布P(y|x)作为预测的模型。典型的有：K近邻法，感知机，决策树，逻辑斯特回归模型，最大熵模型，支持向量机，提升方法和条件随机场。 生成方法由数据学习联合概率分布P(x,y),然后求出条件概率分布P(y|x)作为预...
2018-09-27 20:19:13
152
machinelearninginaction，机器学习实战数据集
2017-12-20
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人