本文介绍了朴素贝叶斯方法，强调其作为生成模型的性质和条件独立性假设。通过高斯朴素贝叶斯模型的示例，展示了如何在Python中运用scikit-learn库进行训练和预测，并指出该方法虽然简单高效，但在某些情况下分类性能可能有限。
朴素贝叶斯
1．朴素贝叶斯法是典型的生成学习方法，实际上学习到生成数据的机制，属于生成模型。生成方法由训练数据学习联合概率分布 P ( X , Y ) P(X,Y) P(X,Y)，然后基于此模型，对给定的输入 x x x,求得后验概率分布 P ( Y ∣ X ) P(Y|X) P(Y∣X) ，以后验概率最大的输出为 y y y。具体来说，利用训练数据学习 P ( X ∣ Y ) P(X|Y) P(X∣Y)和 P ( Y ) P(Y) P(Y)的估计，得到联合概率分布：
P ( X , Y ) ＝ P ( Y ) P ( X ∣ Y ) P(X,Y)＝P(Y)P(X|Y) P(X,Y)＝P(Y)P(X∣Y)
概率估计方法可以是极大似然估计或贝叶斯估计。
2．朴素贝叶斯法的基本假设是条件独立性，
P ( X = x ∣ Y = c k ) = P ( X ( 1 ) = x ( 1 ) , ⋯ , X ( n ) = x ( n ) ∣ Y = c k ) = ∏ j = 1 n P ( X ( j ) = x ( j ) ∣ Y = c k ) \begin{aligned} P(X=x | Y=c_{k} )=P\left(X^{(1)}=x^{(1)}, \cdots, X^{(n)}=x^{(n)} | Y=c_{k}\right) \\ =\prod_{j=1}^{n} P\left(X^{(j)}=x^{(j)} | Y=c_{k}\right) \end{aligned} P(X=x∣Y=ck)=P(X(1)=x(1),⋯,X(n)=x(n)∣
最低0.47元/天 解锁文章
3247
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
