模式识别总复习

距离度量

• 欧式距离（比较简单）
• 马氏距离（复杂一些，重点要记住这些符号代表什么）
• 明氏距离
• 汉明距离
• 角度相似性函数（余弦相似度）

聚类

• 聚类准则：
  1. 阈值准则：根据规定的距离阈值进行判断。
  2. 函数准则：利用聚类准则函数进行判断。
  3. 聚类准则函数：
• 最大最小距离算法
• 动态聚类算法
  1. K-均值算法（还是有可能考的，后面再整理）
  2. ISODATA算法（迭代自组织分析算法）（不考）

函数判别分类法

• 模式空间与超平面

  • 模式空间：以n维模式向量X的n个分量为坐标变量的欧氏空间。
  • 模式向量：点、有向线段。
  • 线性分类：用d(X)进行分类，相当于用超平面d(X)=0把模式空间分成不同的决策区域。
  • 线性判别函数的一些几何性质（复习PPT19-22页）

• 感知器算法

  • 例题
  • 感知器算法的解不唯一！！！

贝叶斯决策

• 最小错误率贝叶斯决策
• 最小错误率贝叶斯决策的其他等价形式
• 例题
• 最小风险贝叶斯决策
• 

基于K-L变换的多类模式特征提取

• 特征提取的目的：

  1. 对一类模式：维数压缩。
  2. 对多类模式：维数压缩，突出类别的可分性。

• 根据类内散布矩阵确定变换矩阵

• K-L展开式

  • K-L变换有点难啊
  • K-L变换具体方法：
  • 利用自相关矩阵的K-L变换进行特征提取
  • 
  • 使用不同散散布矩阵进行K-L变换
    1. 采用多类类内散布矩阵Sw进行K-L变换
    2. 类间散布矩阵
    3. 采用总体散布矩阵St作K-L变换
    4.