4.1 基于贝叶斯决策理论的分类方法
贝叶斯决策理论的核心思想:选择高概率对应的类别
假设用p1(x,y)代表数据点(x,y)属于类别1的概率,p2(x,y)代表数据点(x,y)属于类别2的概率,如果p1(x,y)>p2(x,y),那么类别为1,反之为2.
4.2 条件概率
方法一:
条件概率公式: P ( A ∣ B ) = P ( A B ) P ( B ) P(A|B)=\frac{P(AB)}{P(B)} P(A∣B)=P(B)P(AB)
方法二:
贝叶斯准则: P ( c ∣ x ) = P ( x ∣ c ) P ( c ) P ( x ) P(c|x)=\frac{P(x|c)P(c)}{P(x)} P(c∣x)=P(x)P(x∣c)P(c)
4.3 使用条件概率来分类
贝叶斯决策理论真正需要计算和比较的是p(c1|x,y)和p(c2|x,y),即数据点(x,y)属于类别c1和c2的概率是多少?应用贝叶斯准则得到:
p ( c i ∣ x , y ) = p ( x , y ∣ c i ) p ( c i ) p ( x , y ) p(c_i|x,y)=\frac{p(x,y|c_i)p(c_i)}{p(x,y)} p(ci∣x,y)