贝叶斯分类器解决的是分类问题。
假设模型的输入特征为x,输出结果为y。首先我们需要弄明白几个概念:
- 先验概率:p(y)
- 后验概率:p(y|x)
- 似然函数:p(x|y)
- 证据因子:p(x)
极大似然估计
极大似然估计可以看做是一个训练贝叶斯分类器的方法。
首先我们需要了解贝叶斯公式:
p ( y i ∣ x ) = p ( x ∣ y i ) p ( y i ) ∑ m j = 1 p ( x ∣ y j ) p ( y j ) {p{ \left( {y\mathop{ {} } \nolimits_{ {i} } \left| x\right. } \right) } =\frac{ {p{ \left( {x \left| y\mathop{ {} } \nolimits_{ {i} } \right. } \right) } p{ \left( {y\mathop{ {} } \nolimits_{ {i} } } \right) } } } { { {\mathop{ \sum } \nolimits_{ {m} } ^{ {j=1} } {p{ \left( {x \left| y\mathop{ {} } \nolimits_{ {j} } \right. } \right) } p{ \left( {y\mathop{ {} } \nolimits_{ {j} } } \right) } } } } } } p(yi∣x)=∑mj=1p(x∣yj)p(yj)p(x