更多:贝叶斯…
7.2.2 简化case1: 最小欧式距离
Step1: 做个假设
我们发现这个方程其实还是很难的,而且虽然每个类别样本都是服从正态分布,但是正态分布也会因为协方差矩阵不同而千差万别(就像单变量正态分布,如果方差不一样,那么他们之间的胖瘦就不一样)。不仅如此,多变量正态分布还存在属性之间的关系等等。所以,这里为了进一步分析上面的方程,就像朴素贝叶斯一样,我们也可以做一些强的假设。假设条件如下:
我们假设协方差矩阵元素相等,而且是一个对角阵。即特征向量之间是相互独立的,方差相等
因为每个类别的协方差矩阵相等,我们可以忽略决策函数(公式(1))中的第1项和第2项,那么可以得到一个简化的判定函数如下。
上式中的第1个二次项与类别无关,因此完全可以忽略。
经过上述简化过程之后,简化后的决策函数(公式2)可以接着改写为如下的式子。
简化后的决策函数(公式3)过于冗余,我们可以用一些变量来进行替换,做如下几个定义。
由此,我们可以将公式3改写成如下的式子。
哇哦~~~~可以说是非常的爽了。数学讲究的简单就是美~!!!不着急。。。还没完呢,现在我们假设的是类别样本都是标准的、