机器学习实战笔记——贝叶斯估计

最新推荐文章于 2023-10-06 19:37:01 发布

VIP文章笑逐燕开

最新推荐文章于 2023-10-06 19:37:01 发布

阅读量2.3k

点赞数

分类专栏：机器学习文章标签：贝叶斯估计机器学习

本文链接：https://blog.csdn.net/vivizhangyan/article/details/80966405

版权

贝叶斯估计的基本思想
（1）定义：从概率论的角度，提出的分类方法。通过统计特征在数据集上取某个特定值得次数，然后除以数据集的实例总数，或者特征取该值得概率。在分类中选择高概率对应的类别。
（2）优点：在数据少的情况下，仍然有效，可以处理多类别问题
（3）缺点：对于输入数据的准备方式敏感，使用的数据类型为标称型数据
条件概率
（1）依赖关系：若A依赖B，则在B已知的情况下，求A发生的概率P（A|B）=P（AB）/P(B)
(2)贝叶斯准则：P(B|A)=P(A|B)P(B)/P(A)
贝叶斯估计的实现文档分类的流程
（1）假设：一个特征或者单词出现的可能性与它和其他单词相邻没有关系（特征之间相互独立）
（2）从文本中构建词向量，将每一篇文档进行词汇表向量转换。
（3）从词向量计算每个类别下的不同词条的不同概率值
（4）测试修改初始化参数
贝叶斯估计的程序编写

'''
Created on Oct 19, 2010

@author: Peter
'''
from numpy import *

def loadDataSet():
    postingList=[['my', 'dog', 'has', 'flea', 'problems', 'help', 'please'],
                 ['maybe', 'not', 'take', 'him', 'to', 'dog', 'park', 'stupid'],
                 ['my', 'dalmation', 'is', 'so', 'cute', 'I', 'love', 'him'],
                 ['stop', 'posting', 'stupid', 'worthless', 'garbage'],
                 ['mr', 'licks', 'ate', 'my', 'steak', 'how', 'to', 'stop', 'him'],
                 ['quit', 'buying', 'worthless', 'dog', 'food', 'stupid']]
    classVec = [0,1,0,