贝叶斯公式=贝叶斯定理
贝叶斯公式到底想说啥
贝叶斯公式就是想用概率数学来表示事件发生依赖关系。
贝叶斯公式长下面这样:
用图形怎么表示贝叶斯公式
P ( X = x ) P(X=x) P(X=x)就是X的面积。
P ( Y = y ) P(Y=y) P(Y=y)就是Y的面积。
P ( X = x ∣ Y = y ) P(X=x|Y=y) P(X=x∣Y=y)是什么? P ( X = x ∣ Y = y ) P(X=x|Y=y) P(X=x∣Y=y)是指Y发生的情况下X发生的概率。用图形表示就是,只看Y的情况下Y里面的X占比多少。这不就是相交部分除以Y的面积么?相交部分计算方式=X的面积*相交部分占X的比率。
再看看前面的公式就完全能理解了。
朴素贝叶斯分类器
任何机器学习都是要套一个数学模型。那朴素贝叶斯分类器套的是什么模型呢?
它是想计算一个概率值。什么概率呢?就是当样本为x时,这个样本来自类A的概率是多少,来自类B的概率是多少。如果来自类A的概率>来自类B的概率。那就分类器输出样本属于类A。
用公式表示就是P(A|x)>P(B|x)=》x属于A .其中P(A|x)表示当样本取值是x时它来自类A的概率,P(B|x)表示当样本取值是x时它来自类B的概率。
这样咋看好像很有道理的样子。那么问题来了,我咋知道样本x属于A和B的概率,要我知道了那还用分嘛?
接下来看,如何计算样本取值为x时属于A的概率P(A|x)、和属于B的概率P(B|x)(下面一段话很重要一定要仔细看,没弄懂不要往后看)
根据贝叶斯公式我们知道 P ( A ∣ x ) = P ( x ∣ A ) ∗ P ( A ) P ( x ) P(A|x)=\frac {P(x|A)*P(A)} {P(x)} P(A∣x)=P(x)P(x∣A)∗P(A)。其中P(A)表类A占比总数据中的比例。P(x)是指样本值等于x的数据占总数据的比例。P(x|A)表示在类A中,有多少个和x一样的数据。这三个概率我们都是知道的。那么或许你会问前面只有一个特征,那两个特征的样本怎么计算概率?答:假设一个样本有两个特征x,y。那么 P ( x , y ) = P ( x ) ∗ P ( y ) , P ( x , y ∣ A ) = P ( x ∣ A ) ∗ P ( y ∣ A ) , P ( A ) 和 只 有 一 个 特 征 时 计 算 方 法 一 样 P(x,y)=P(x)*P(y),P(x,y|A)=P(x|A)*P(y|A), P(A)和只有一个特征时计算方法一样 P(x,y)=P(x)∗P(y),P(x,y∣A)=