- 博客(4)
- 收藏
- 关注
原创 GBDT&GBRT与XGBoost
在看清华学霸版《Python大战机器学习》的过程中,集成学习章节中出现了两个新的名词:**GBDT**&**GBRT**,也许是西瓜书定位于全面,而没有拘泥于细节。后来科普发现,这两个东西和陈天奇大神的XGBoost紧密相连,于是估摸着花时间弄懂这两个东西。
2017-07-31 13:17:44 9905
原创 周志华《Machine Learning》学习笔记(17)--强化学习
上篇主要介绍了概率图模型,首先引出概率图模型的基本概念;接着分别介绍了隐马尔可夫模型、马尔可夫随机场、条件随机场、精确推断方法以及LDA模型:HMM围绕着评估/解码/学习三个问题展开论述;MRF基于团和势函数来定义联合概率分布;CRF引入两种特征函数对状态序列进行打分;变量消去与信念传播在给定联合分布后计算边际分布;LDA话题模型则试图去推断给定文档所蕴含的话题分布。本篇将介绍最后一种学习算法--强化学习。
2017-07-20 19:52:16 29417 12
原创 周志华《Machine Learning》学习笔记(16)--概率图模型
上篇主要介绍了半监督学习,首先从如何利用未标记样本所蕴含的分布信息出发,引入了半监督学习的基本概念,接着分别介绍了常见的半监督学习方法:生成式方法基于对数据分布的假设,使得模型参数估计更加准确;TSVM给未标记样本赋予伪标记,并通过不断调整易出错样本的标记得到最终输出;基于分歧的方法使用多个学习器协同训练;最后半监督聚类则是借助已有的监督信息来辅助聚类的过程。本篇将讨论一种基于图的学习算法--概率图模型。
2017-07-13 19:40:01 10927 2
原创 周志华《Machine Learning》学习笔记(15)--半监督学习
上篇主要介绍了机器学习的理论基础,首先介绍了PAC可学习的基本概念,对于有限假设空间:可分情形时,假设空间都是PAC可学习的;不可分情形时,假设空间都是不可知PAC可学习的。对于无限假设空间,通过VC维来描述其复杂度,若学习算法满足ERM原则,则任何VC维有限的假设空间都是(不可知)PAC可学习的。稳定性则考察的是输入变化时输出的波动。本篇将讨论一种介于监督与非监督学习之间的学习算法--半监督学习。
2017-07-04 22:16:32 23958 1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人