朴素贝叶斯的核心在于样本的每个特征属性之间是假定不相关的
所有朴素贝叶斯分类器都假定样本每个特征与其他特征都不相关:
例如,如果一种水果其具有红,圆,直径大概3英寸等特征,该水果可以被判定为是苹果。尽管这些特征相互依赖或者有些特征由其他特征决定,然而朴素贝叶斯分类器认为这些属性在判定该水果是否为苹果的概率分布上独立。
对于某些类型的概率模型,在监督式学习集中能获取得非常好的分类效果,在许多实际应用中,朴素贝叶斯模型参数估计使用最大似然估计方法,换而言之,在不用到贝叶斯概率或者任何贝叶斯模型的情况下,朴素贝叶斯模型也能够奏效。
相关向量机:
http://mi.eng.cam.ac.uk/~at315/MVRVM.htm
稀疏贝叶斯和相关向量机:
http://www.miketipping.com/sparsebayes.htm
机器学习期刊:(包含了代码实现)
http://www.jmlr.org/