![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
统计学习
Dovy
这个作者很懒,什么都没留下…
展开
-
统计学习(1)
概率 先验概率:根据以前的经验,提前知道的事件概率;如:今天下雨的概率; 后验概率:由果及因,后知后觉,概率时间的结果推测原因起作用的概率;如,今天下雨,求有乌云的概率; 似然概率:由因及果,似然likehood自然的推测,都是知道原因,求原因造成结果发生的概率。如:今天阴天,求下雨的概率。 模型学习 适用条件是什么? 解决什么问题? 对应的统计学习三要素? 统计学习的三要素: 假设空间:包含所有可能的条件概率分布或决策函数。 策略:按照什么样的准则学习或选择最优模型。(损失函数) 求解算法:使用什么样原创 2020-07-01 19:55:58 · 246 阅读 · 0 评论 -
逻辑斯蒂回归与最大熵模型
概述 共同点: 都属于概率模型P(Y|X); 对数线性模型:lnP(Y|X)=wx;在logit里面时关于x的线性函数,在最大熵里是关于x的函数的线性函数。 区别: (1)逻辑斯蒂回:判别模型 (2)最大熵模型:生成模型,y和x都有随机性, 除了P(Y|X),样本中的经验分布: P‾(x)\overline{P}(x)P(x) 逻辑斯蒂回归模型 二维逻辑斯蒂回归模型 lnP(Y=1∣x)1−P(Y=1∣x)=w⋅x(1)ln\frac{P(Y=1|x)}{1-P(Y=1|x)}=w\cdot x原创 2020-06-02 16:37:17 · 398 阅读 · 0 评论