![](https://img-blog.csdnimg.cn/b5c798ea9e0643aab46966df3f6b3e39.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
统计学习方法
文章平均质量分 85
《统计学习方法》读书笔记等
码侯烧酒
这个作者很懒,什么都没留下…
展开
-
第四章-朴素贝叶斯法
极大似然估计用极大似然估计法推出朴素贝叶斯法中的概率估计公式1.在朴素贝叶斯法中,学习意味着估计P(Y=ck)P(Y=c_k)P(Y=ck)和P(X(j)=x(j)∣Y=ck)P(X^{(j)}=x^{(j)}|Y=c_k)P(X(j)=x(j)∣Y=ck)。可以应用极大似然估计法估计相应的概率。先验概率P(Y=ck)P(Y=c_k)P(Y=ck)的极大似然估计是P(Y=ck)=∑i=1NI(yi=ck)N(1)P(Y=c_k)=\frac{\sum_{i=1}^{N}I(y_i=c_k)原创 2021-06-07 20:30:52 · 390 阅读 · 0 评论 -
第三章-k近邻法
利用例题3.2构造的kd树求点x=(3,4.5)Tx=(3,4.5)^\mathrm{T}x=(3,4.5)T的最近邻点。第一步:在kd树中找到包含目标点x的叶节点从根节点(7,2)开始,x=(3,4.5)Tx = (3,4.5)^\mathrm{T}x=(3,4.5)T的x(1)<7x^{(1)}< 7x(1)<7进入左节点(5,4),而x(2)>4x^{(2)} > 4x(2)>4进入右节点(4,7)。目标节点x xx在叶节点(4,7)对应的区域中。第二步.原创 2021-06-08 21:14:30 · 965 阅读 · 0 评论 -
第二章-感知机
Minsky与Papert指出:感知机因为是线性模型,所以不能表示复杂的函数,如异或(XOR),验证感知机为什么不能表示异或。答因为异或逻辑线性不可分,证明如下:训练集中包含4个点,其中正实例点为x1=(1,0)Tx_1=(1,0)^\mathrm{T}x1=(1,0)T,x2=(0,1)Tx_2=(0,1)^\mathrm{T}x2=(0,1)T,负实例点为x3=(1,1)Tx_3=(1,1)^\mathrm{T}x3=(1,1)T,x4=(0,0)Tx_4=(0,0)^\mathrm{T.原创 2021-06-07 00:00:18 · 387 阅读 · 0 评论 -
第一章-统计学习及监督学习概论
题目1:说明伯努利模型的极大似然估计以及贝叶斯估计中的统计学习方法三要素。伯努利模型是定义在取值为0与1的随机变量上的概率分布。假设观测到伯努利模型n次独立的数据生成结果,其中k次的结果为1,这时可以用极大似然估计或贝叶斯估计来估计结果为1的概率。答模型:伯努利模型,即定义在取值为0与1的随机变量上的概率分布。策略:极大似然估计和贝叶斯估计的策略都是对数损失函数,贝叶斯估计使用的是结构风险最小化。算法:极大似然估计所使用的算法是求取经验风险函数的极小值,贝叶斯估计所使用的算法是求取参数的后验分布.原创 2021-06-06 23:53:35 · 177 阅读 · 0 评论