- 博客(3)
- 收藏
- 关注
原创 集合策略 与 学习器的多样性
西瓜书 8.4/ 8.5结合策略假定 集成包涵T个基学习器 : h1 …hThi 在 x 上的输出 为 hi(x)常见的结合策略:简单平均法 :加权平均法:wi 是个体学习器的hi 的权重,且满足:说明 :加权平均法 的权重一般是从 训练数据中学习而得,现实任务中的训练样本通常不充分或存在噪声,这将使得学习出的权重不完全可靠,尤其是对规模比较大的集成来说,要...
2019-03-19 11:38:50
535
原创 SVM+逻辑回归+ 决策树
经典算法支持向量机问题一:在空间上线性可分的两类点,分别向SVM 分类的超平面上做投影,这些点在超平面上的投影仍然是线性可分?不是问题二:是否存在一组参数使SVM训练误差为0?是问题三:训练误差为0的SVM分类器一定存在吗?(本题旨在找到一组参数满足训练误差为0,且是SVM 模型的一个解)是问题四:加入松弛变量的SVM的训练误差可以为0 吗?NO,使用SMO 算法训练的线...
2019-03-09 22:20:12
795
原创 集成学习
集成学习1 定义 : 通过构建并结合多个学习器来完成任务,也被称为多分类器系统,基于委员会的学习。很多集成学习理论都是针对弱学习器进行集成足以获得好的性能。2 分类 : 同质集成异质集成3 随着集成中个体分类器数目T的增大,集成的错误率将指数级下降,最终趋向于0.4 集成学习方法分为2类: 个体学习器之间存在强依赖关系,必须串行生成的序列化方法,代表为Boosti...
2019-03-08 15:34:04
189
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人