一文看懂贝叶斯定理及应用（值得收藏）

导读：在机器学习的一些主要任务中，贝叶斯模型是一种经典的简单学习模型。本文介绍贝叶斯模型及贝叶斯定理。

作者：卢誉声

来源：大数据DT（ID：hzdashuju）

分类问题是一种经典的机器学习问题，而贝叶斯只是一种常见模型。比如最朴素的分类模型和最容易理解的模型其实是决策树模型，这种模型比较接近我们的决策思维。

主要思路是根据与我们解决问题相关的多个因素逐一确定下一步的方案，整个决策过程就像一棵自顶向下的树一样，故名决策树。如图2-1所示，这是一个人根据天气、温度、风况和气压几个因素决定是否去钓鱼的决策树。

▲图2-1 决策树示例

图中矩形的节点是决策节点，节点之间连线上的是属性值，而圆形节点是结果节点。

构建完这个树模型之后我们就可以预测这个人是否会出门钓鱼了。预测时，首先我们把数据输入到根节点。其次，根据数据属性值来选择某个特定的分支，每选择一个子节点再根据该节点分支的属性值选择该节点的特定分支，直到递归遍历到叶子节点为止，就可以得到预测结果了。

这个模型比较符合我们解决问题的逻辑思维，易于理解，因此常常会用在专家系统中。另外，这个模型需要存储的参数相对较少，预测耗时短，这也是它的优点。

但是决策树其实远不止这么简单，常用的决策树算法有ID3算法、C4.5算法、CART算法和随机森林等，由于本章重点不是决策树，因此这里就不过多阐述了，有兴趣的读者可以自行查阅相关资料。

现在让我们进入正题：贝叶斯模型。贝叶斯思想的最初提出者如下图所示——18世纪英国数学家托马斯·贝叶斯（Thomas Bayes）。

贝叶斯模型的核心思想是贝叶斯定理，这源于他生前为解决一个“逆概”问题而写的一篇文章，而这篇文章是在他死后才由他的一位朋友发表出来的。</