模式识别学习笔记（11）——线性判别函数

线性判别函数

1.1

用于分类的判别函数的参数形式已知，直接从样本来估计判别函数的参数。

优势：不需要有关概率密度函数的确切的参数形式。因此，属于 无参数估计。

利用样本直接设计分类器

1、方法分类：

线性判别函数、支持向量机、fisher线性判别函数

广义线性判别函数、非线性判别函数、核学习机

2、基本思想：

-步一：给定一个判别函数，且已知该函数的参数形式

-步二：采用样本来训练判别函数的参数

-步三：对于新样本，采用判别函数对其进行决策，并按照一些准则来完成分类

学习判别函数的基本技术路线

-假定有n个d维空间中的样本，每个样本的类别标签已知，且一共有c个不同的类别

-假定判别函数的形式已知，寻找一个判别函数

-对于给定的新样本x，判定它属于哪个类别

基于判别函数的分类器

-采用已知类别标签的训练样本进行学习，获得若干个代数界面，这些界面将样本所在的空间分成若干个相互不重叠的区域。每个区域包含属于同一类的样本。

-表示界面的函数称为判别函数

-判别函数是分类器最常用的表述形式

基于判别函数的判别准则

贝叶斯决策中提到的比如：

线性可分（针对训练样本）