贝叶斯分类知识点梳理

1. 生成模型和判别模型
   判别模型：输入x，直接建模P(y|x)来得到c
   生成模型：先对P(y,x)进行建模，然后再由此获得P(y|x)
2. 先验概率、条件概率／似然
   类先验概率：p(y)
   条件概率、似然：p(x|y)
3. 朴素贝叶斯分类
   目标函数：（其实是最小化分类错误率）
   $$y=argmax P(y=C_k) \prod_jP(X^j=x^j|Y=c_k)$$
   损失函数：0-1损失函数
   基本假设：条件独立性（用于分类的特征在类确定的条件下都是条件独立的），解决组合爆炸、样本稀疏等问题
   参数估计方法：极大似然估计和贝叶斯估计
   极大似然估计：
   试图在参数所有可能的取值中，找到一个能使数据出现的可能性最大的值。
   对于离散属性而言
   P