机器学习笔记——第二周朴素贝叶斯和Logistic回归

朴素贝叶斯

优点： 在数据较少的情况下仍然有效，可以处理多类别问题。

缺点： 对于输入数据的准备方式较为敏感。

适用数据类型： 标称型数据。

朴素贝叶斯的一般过程：

(1) 收集数据：可以使用任何方法。本章使用RSS源。

(2) 准备数据：需要数值型或者布尔型数据。

(3) 分析数据：有大量特征时，绘制特征作用不大，此时使用直方图效果更好。

(4) 训练算法：计算不同的独立特征的条件概率。

(5) 测试算法：计算错误率。

(6) 使用算法：一个常见的朴素贝叶斯应用是文档分类。可以在任意的分类场景中使用朴

（素贝叶斯分类器，不一定非要是文本。）

文本分类

以在线社区的留言板为例。为了不影响社区的发展，我们要屏蔽侮辱性的言论，所以要构建一 个快速过滤器，如果某条留言使用了负面或者侮辱性的语言，那么就将该留言标识为内容不当。过 滤这类内容是一个很常见的需求。对此问题建立两个类别：侮辱类和非侮辱类，使用1和0分别表示。

接下来首先给出将文本转换为数字向量的过程，然后介绍如何基于这些向量来计算条件概率， 并在此基础上构建分类器，最后还要介绍一些利用Python实现朴素贝叶斯过程中需要考虑的问题。

代码编写：