在机器学习分类算法中,大多数的分类算法,比如决策树,KNN,SVM等,他们都是判别方法,也就是直接学习出特征输出Y和特征X之间的关系,要么是决策函数 Y=f(x) ,要么是条件分布 P(Y|X)。
但是朴素贝叶斯却是生成方法,也就是直接找出特征输出Y和特征X的联合分布P(Y,X),然后用 P(Y|X)= P(Y, X) /P(X)得出。 朴素贝叶斯很直观,计算量也不大,在很多领域有广泛的应用。
相关统计学知识:
条件概率公式:
在机器学习分类算法中,大多数的分类算法,比如决策树,KNN,SVM等,他们都是判别方法,也就是直接学习出特征输出Y和特征X之间的关系,要么是决策函数 Y=f(x) ,要么是条件分布 P(Y|X)。
但是朴素贝叶斯却是生成方法,也就是直接找出特征输出Y和特征X的联合分布P(Y,X),然后用 P(Y|X)= P(Y, X) /P(X)得出。 朴素贝叶斯很直观,计算量也不大,在很多领域有广泛的应用。
条件概率公式: