- 博客(3)
- 收藏
- 关注
RSS订阅原创 集合策略 与 学习器的多样性
西瓜书 8.4/ 8.5 结合策略 假定 集成包涵T个基学习器 ： h1 …hT hi 在 x 上的输出 为 hi(x) 常见的结合策略： 简单平均法 ： 加权平均法： wi 是个体学习器的hi 的权重，且满足： 说明 ： 加权平均法 的权重一般是从 训练数据中学习而得，现实任务中的训练样本通常不充分或存在噪声，这将使得学习出的权重不完全可靠，尤其是对规模比较大的集成来说，要...
2019-03-19 11:38:50
513
原创 SVM+逻辑回归+ 决策树
经典算法 支持向量机 问题一： 在空间上线性可分的两类点，分别向SVM 分类的超平面上做投影，这些点在超平面上的投影仍然是线性可分？ 不是 问题二： 是否存在一组参数使SVM训练误差为0？ 是 问题三： 训练误差为0的SVM分类器一定存在吗？（本题旨在找到一组参数满足训练误差为0，且是SVM 模型的一个解） 是 问题四： 加入松弛变量的SVM的训练误差可以为0 吗？ NO，使用SMO 算法训练的线...
2019-03-09 22:20:12
752
原创 集成学习
集成学习 1 定义 ： 通过构建并结合多个学习器来完成任务，也被称为多分类器系统，基于委员会的学习。很多集成学习理论都是针对弱学习器进行集成足以获得好的性能。 2 分类 ： 同质集成 异质集成 3 随着集成中个体分类器数目T的增大，集成的错误率将指数级下降，最终趋向于0. 4 集成学习方法分为2类： 个体学习器之间存在强依赖关系，必须串行生成的序列化方法，代表为Boosti...
2019-03-08 15:34:04
146
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人