PRML第二章笔记(对二项分布，多项式分布，高斯分布在机器学习中的认识)

在看PRML的第二章Probability Distributions ，其中介绍了二元变量，多元变量，高斯分布等概率分布，介绍了指数族分布，和非参数的方法进行模型的训练。
都是当时讨论时做的PPT，之间截图。

总体介绍

2.1二元变量

2.1.1从频率的角度构造似然函数进行求解

关于极大似然函数估计的推导过程


共轭先验的简介，背景知识：

2.1.2从贝叶斯的角度构造先验函数，得到后验

2.2 多项式变量

2.2.1 从频率的角度构造似然函数进行求解

将似然函数最大化，用log对数将其变为加法，令导数为零，详细的推导过程。

2.2.2 从贝叶斯的角度出发，构造先验函数，得到后验函数

2.3 高斯分布

关于高斯分布较为重要，下边主要详细介绍了关于高斯分布的边缘概率分布，条件概率分布，最大似然估计（多维的求导过程，关于协方差矩阵的不太清楚，写了一维的推导过程）的详细推导过程，相比于书中的配方法可能更好理解一些

二次型（比较重要的一个概念）的介绍：
当高斯分布为2维时

2.3.1条件高斯分布，边缘高斯分布

2.3.2 高斯分布的贝叶斯定理

2.3.3高斯分布的极大似然

2.3.4顺序估计

2.3.5学生t分布

2.3.6混合高斯模型

参考资源：
b站上的一个视频：白板推导。十分详细的讲解，有助于理解
PRML pdf版