白板推导高斯分布笔记

高斯分布（Gaussian distribution）：又名正态分布（Normal distribution），也称“常态分布”
一维正态分布函数：

卡尔曼滤波（Kalman filtering）：一种利用线性系统状态方程，通过系统输入输出观测数据，对系统状态进行最优估计的算法。
X(k)=A X(k-1)+B U(k)+W(k)

极大似然估计方法（Maximum Likelihood Estimate，MLE）：也称为最大概似估计或最大似然估计。
极大似然估计的目的：利用已知的样本结果，反推最有可能（最大概率）导致这样结果的参数值。

马氏距离(Mahalanobis distance)：表示点与一个分布之间的距离。它是一种有效的计算两个未知样本集的相似度的方法。
对于一个均值为μ，协方差矩阵为Σ的多变量向量，其马氏距离为sqrt( (x-μ)'Σ^(-1)(x-μ) )。Σ为单位矩阵时，马氏距离等于欧氏距离

欧几里得度量（euclidean metric）（也称欧氏距离）：是一个通常采用的距离定义，指在m维空间中两个点之间的真实距离，或者向量的自然长度（即该点到原点的距离）。在二维和三维空间中的欧氏距离就是两点之间的实际距离。两点间“普通”（即直线）距离

无偏估计： 估计量的数学期望等于被估计参数的真实值，则称此此估计量为被估计参数的无偏估计，即E(θˆ)=θ

有偏估计： 数学期望不为θ，即E(θ^)≠θ,则称为θ的有偏估计。

条件概率分布：对于二维随机变量(X，Y)，可以考虑在其中一个随机变量取得(可能的)固定值的条件下，另一随机变量的概率分布，这样得到的X或Y的概率分布叫做条件概率分布，简称条件分布。

边缘概率分布：某一组概率的加和，叫边缘概率。边缘概率的分布情况，就叫边缘分布。边缘分布是多维随机变量中只包含其中部分变量的概率分布。和“边缘”两个字本身没太大关系，因为是求和，在表格中往往将这种值放在margin（表头）的位置。