第1.3章 机器学习与概率论

一、为什么机器学习中使用概率论？

【摘自】PRML读书笔记(1) - 深度理解机器学习之概率论(Probability Theory)

机器学习领域的一个关键概念是不确定性（uncertainty）。然而概率论为不确定性的量化和操纵提供了框架，并形成了机器学习的核心基础之一。当与后面讨论的决策论相结合时，其可以根据一些可获得的信息做出最佳预测，即使这些信息可能并不完整。

机器学习包括监督学习和非监督学习，近几年又出现了半监督学习。
监督学习分为 分类（classification） 和 回归（regression） 这两部分应用。分类和回归的最大区别是分类是离散的，而回归是连续的。
分类又包括二元分类和多元分类。与二元分类有关的是伯努利分布（Bernoulli distribution）；与多元分类有关的是多项分布（Multinomial distribution）。
而与回归有关的是高斯分布（Gaussian distribution）。

从上，回归模型与这些概率分布之间有密切联系。

二、机器学习中概率论相关知识

【摘自】深度学习之数学基础（概率与统计）

三、概率论学习路线

【摘自】机器学习中的概率统计