《模式分类》书中2、3、4章脉络梳理(二)

本文详细介绍了《模式分类》第三章的参数估计方法,包括最大似然估计和贝叶斯估计。最大似然估计通过最大化似然函数求解最优参数,而贝叶斯估计结合参数的先验信息,利用贝叶斯公式求解参数的后验概率分布。这两种方法在已知类条件概率密度函数形式但未知参数的情况下,用于估计参数并求解类条件概率密度,为模式分类提供依据。
摘要由CSDN通过智能技术生成

第三章

下面进入对第三章的脉络分析。上一篇博客结尾处提到了书中35页的例题,我认为应该是第三章学完才能解决的问题。即根据现有的一些样本点,确定分界面,这样来一个新的样本点我们才能对其分类。我们知道,分界面其实就是两类后验概率的差(或者对数的差),后验概率可以由先验概率和类条件概率求得,由于先验概率一般给定,所以我们的所有精力都落在了求类条件概率上。

那如何根据样本点去求类条件概率密度呢?第二章后面是直接假设我们已知概率密度函数的形式和参数,但假如我们不知道呢?这就可以分为两类,当我们知道形式而不知道参数时,我们就需要第三章的参数估计方法去估计出参数,进而得到类条件概率密度。当我们连形式都不知道的时候,我们就需要第四章的非参数估计方法,直接估计出类条件概率密度。这里书中介绍了两种参数估计的方法


1.最大似然估计

最大似然参数估计是要最大化似然函数,函数形式如下:


其中是以<

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值