《机器学习实战》4.4使用朴素贝叶斯进行文档分类

    这一节中关于概率分布的描述，省略了一些语句，所以有点看不明白，经过反复推敲琢磨分析以后，把这些省略的文字补足，这样就能看懂了。【】中为补充的文字。

　　文中的“需要”的意思是“需要足够的数据样本来得到好的概率分布”

假设词汇表中有1000个单词。要得到好的概率分布，就需要足够的数据样本，假定样本数为N，【这样就可以得到好的概率分布】。前面讲到的约会网站示例中有1000个实例，手写识别示例中每个数字有200个样本，而决策树示例中有24个样本。其中，24个样本有点少【，可能得不到好的概率分布，统计学上至少要达到30】，200个样本好一些，而1000个样本就非常好了。约会网站例子中有三个特征。由统计学知，如果每个特征需要N个样本【来达到好的概率分布】，那么对于10个特征将需要N¹⁰个样本【来达到好的概率分布】【特征a1需要n个，a2需要n个，所以10个特征是n*n*n...*n】，对于包含1000个特征的词汇表将需要N¹⁰⁰⁰个样本【来达到好的概率分布】。可以看到，所需要的样本数会随着特征数目增大而迅速增长。

本文来自http://blog.csdn.net/sabre/article/details/79351639