分类模型
文章平均质量分 79
cyoutetsu
这个作者很懒,什么都没留下…
展开
-
逻辑回归原理
逻辑回归之前在线性回归的章节中,我们了解了 线性回归 的原理就是把点落在一条直线上,而在逻辑回归的部分则是希望能够把点落在一条曲线上,这是广义的线性回归,然后我们再用一个阈值来将那些点分开而达到分类的效果。而在 最大熵原理 的指导下,我们知道了那条曲线应该是一个什么样子的。LR和最大熵模型首先,回顾我们之前推导出的最大熵模型为:exp(∑i=1nwifi(x,y))∑y exp(∑i=1nw原创 2017-08-23 16:33:22 · 1082 阅读 · 0 评论 -
SVM
支持向量机支持向量机的学习方法包含由简单到困难的三种分类方法: 线性可分支持向量机 线性不可分支持向量机 非线性支持向量机 线性可分支持向量机假设给定一个特征空间上有训练数据集 T=(x1,y1),(x2,y2),...,(xn,yn)T={(x_1,y_1),(x_2,y_2),...,(x_n,y_n)},其中 y={+1,−1}y=\{+1,-1\},再假设样本数据点是线性可分的。目标是找出一原创 2017-09-07 17:02:36 · 368 阅读 · 0 评论 -
决策树原理
决策树决策树模型决策树是一种基本的分类和回归的方法,在它的基础上,会衍生出随机森林、XGBOOST等包含了模型融合的方法。我们可以从两个视角来观察决策树模型:决策树的构成决策树由结点(node)和边(directed edge)组成,其中结点由两种类型:内部结点(internal node)和叶节点(leaf node)。如果训练数据被分到内部结点,表示它还可以继续往下分;如果被分类到叶结点上,则表原创 2017-08-30 11:11:16 · 458 阅读 · 0 评论 -
ID3决策树的Python代码实现
ID3决策树的Python代码实现原创 2017-08-30 11:12:10 · 601 阅读 · 0 评论