贝叶斯算法

1 先验概率
先验概率是指根据以往经验和分析得到的概率.比如说一颗骰子出现4的概率是1/6，或者一个袋子中有4个黑球，6个白球，则摸到白球的概率是60%。
2 后验概率
后验概率其实是一种条件概率。比如
发生堵车的事件为A
发生交通事故的事件为B
现在已知堵车，求是由于交通事故造成的概率即P(A/B)，P(A/B)就是后验概率。
3 贝叶斯算法
贝叶斯算法其实是通过先验概率来求其后验概率即P(yi/x)，其中yi是第i个类别，x是特征。
当我们假设特征之间是独立的，则为朴素贝叶斯算法，P(yi/x) = P(yi)*P(x/yi)/P(X)，其中
P(yi)是类别的先验概率也叫做似然，P(x/yi)是样本x相对于类别yi的条件概率,对于给定的样本P(X)和类别无关，即所有类别的P(x)都是一样的。则我们将求P(yi/x)的问题转化为了求P(yi)和似然P(x/yi),P(x/yi) = P(x1/yi)P(x2/yi)…P(xn/yi) (x1…xn为n个特征）。