cs229 lecture5 笔记

1. 对比逻辑回归同时观察两个类并寻找将它们分开的方法，生成学习算法每次只观察一个类并建立对应的模型
2. 判别式学习算法：学习P(Y|X)
   生成式学习算法：学习P(X|Y)及P(Y)
3. 生成算法可分为：
   1. 对于连续值：eg肿瘤分类
   2. 对于离散值：eg垃圾邮件分类
4. 高斯判别分布（GDA）
5. 对于高斯判别分布，两个类别使用一个协方差矩阵的原因是，这样的话决策边界将会呈现线性形式
6. 如果想逻辑回归一样做出较弱的假设，那么那么算法对于模型的鲁棒性更强。但同时如果数据集较小时，使用做出更强假设的模型将得到更好的结果
   （处理现实数据时，由于世界性的大数据背景，大部分情况下我们会选择使用逻辑回归。而当我们需要结果准确性更强时一般选择GDA）
7. 在处理垃圾邮件分类问题时，尽管使用逻辑回归可以性能更好的解决问题，但由于朴素贝叶斯算法由于不需要迭代，可以很有效的拟合模型。即使获得新数据，也可以有效的更新此模型